در عصر هوش مصنوعی، اعتبار یک محتوا را نمی‌توان تنها از ظاهر طبیعی آن نتیجه گرفت. اعتماد باید بر پایه منبع معتبر، شواهد قابل بررسی و تأیید مستقل شکل بگیرد.
همشهری آنلاین -یکتا فراهانی: تا همین چند سال پیش، یک فایل صوتی یا ویدئویی می‌توانست برای بسیاری از افراد مدرکی قانع‌کننده باشد؛ چیزی که نشان دهد فردی چه گفته یا چه اتفاقی افتاده است. اما هوش مصنوعی این معادله را پیچیده‌تر کرده است. امروز می‌توان صدای افراد را شبیه‌سازی کرد، چهره‌ها را در موقعیت‌هایی قرارداد که هرگز تجربه نکرده‌اند و روایت‌هایی ساخت که در نگاه نخست واقعی به نظر می‌رسند.
وقتی جعل، ابزار انکار حقیقت می‌شود
دکتر اباذر کریمی پنابندانی، کارشناس و پژوهشگر هوش مصنوعی، در بررسی این مسئله بر اهمیت تمایز میان محتوای باورپذیر و محتوای معتبر تأکید می‌کند. دیپ‌فیک یا جعل عمیق به محتوای صوتی و تصویری گفته می‌شود که با کمک هوش مصنوعی ساخته یا دستکاری شده است؛ محتوایی که می‌تواند صدای یک فرد، چهره او یا رفتارهایش را به شکلی متقاعدکننده بازسازی کند.
البته هر محتوای تولیدشده با هوش مصنوعی لزوماً فریبکارانه نیست. این فناوری در دوبله، تولید آثار هنری و آموزش نیز کاربرد دارد. مسئله زمانی جدی می‌شود که محتوای مصنوعی بدون شفاف‌سازی و با هدف فریب، تخریب اعتبار یا سوءاستفاده مالی منتشر شود.
اما یک پیامد کمتر موردتوجه، امکان انکار شواهد واقعی است. هنگامی که مردم می‌دانند تصویر و صدا قابل‌جعل است، ممکن است هر مدرک ناخوشایندی را نیز جعلی بدانند؛ حتی اگر شواهد معتبری از اصالت آن وجود داشته باشد؛ بنابراین، خطر دیپ‌فیک فقط این نیست که دروغ را به‌جای حقیقت بنشاند؛ بلکه می‌تواند تشخیص حقیقت را نیز به موضوعی مناقشه‌برانگیز تبدیل کند.
چرا تشخیص چشمی کافی نیست؟
به گفته کریمی یکی از خطاهای رایج در مواجهه با دیپ‌فیک، اتکا به چند نشانه ظاهری است؛ برای مثال، حرکت غیرطبیعی لب‌ها، پلک‌زدن نامعمول یا ناهماهنگی صدا و تصویر. این نشانه‌ها ممکن است توجه مخاطب را جلب کنند، اما نبود آنها به معنای واقعی‌کردن محتوا نیست. ابزارهای تولید محتوای مصنوعی نیز پیوسته پیشرفت می‌کنند و ابزارهای تشخیص خودکار هم ممکن است خطا کنند.
به همین دلیل، بررسی اصالت محتوا باید فراتر از ظاهر آن باشد. منبع اولیه انتشار، نسخه کامل فایل، زمان و زمینه انتشار و تأیید منابع مستقل، همگی می‌توانند به ارزیابی دقیق‌تر کمک کنند. نتیجه ابزارهای تشخیص هوش مصنوعی نیز نباید به‌تنهایی حکم نهایی تلقی شود.
بیشتر بخوانید:
- هشدار متخصص هوش مصنوعی درباره توجه به مرز بین واقعیت و تصاویر
- به هر صدایی اعتماد نکنید | کلاهبرداران حالا صدای عزیزان‌تان را هم جعل می‌کنند
ضرورت بررسی مجدد
این کارشناس هوش مصنوعی می گوید در زندگی روزمره، یکی از مهم‌ترین اقدامات برای مقابله با جعل، مکث پیش از واکنش است. محتوایی که ترس، خشم یا هیجان زیادی ایجاد می‌کند، به‌ویژه اگر با درخواست فوری پول یا انتشار سریع همراه باشد، به بررسی بیشتری نیاز دارد.
اگر فردی با صدایی آشنا درخواست مالی غیرمعمولی مطرح کرد، بهتر است از راهی مستقل با او تماس بگیریم. در مواجهه با ویدئوهای جنجالی نیز باید به دنبال منبع اصلی و تأییدهای مستقل باشیم. تعداد بازدیدها یا انتشار یک محتوا در چند کانال مختلف، به‌تنهایی صحت آن را ثابت نمی‌کند.
رسانه‌ها نیز مسئولیت مهمی دارند. انتشار سریع یک محتوای تأییدنشده می‌تواند به گسترش اطلاعات نادرست و آسیب به اعتبار افراد منجر شود. مشخص‌کردن منشأ تصاویر، بررسی مستقل و اصلاح شفاف خطاها، بخشی از مسئولیت حرفه‌ای رسانه‌ها در چنین فضایی است.
اعتماد را نباید با ساده‌باوری یا بدبینی اشتباه گرفت
به اعتقاد کریمی، مقابله با دیپ‌فیک به معنای بی‌اعتمادشدن به تمام تصاویر و صداها نیست. همان‌طور که پذیرفتن هر محتوای باورپذیر خطرناک است، ردکردن هر مدرک نیز می‌تواند به تحریف واقعیت کمک کند. راه‌حل، یادگیری روش‌های ارزیابی شواهد و پذیرفتن این نکته است که گاهی برای قضاوت دقیق به اطلاعات بیشتری نیاز داریم.
کد خبر 1076545
-
نگرانی از ضبط مخفیانه تصاویر | چطور بفهمیم کسی در اطرافمان عینک هوشمند به چشم دارد؟
-
آقامیری: قطع اینترنت ناخوشایندترین تصمیم است
-
آنتروپیک هشدار داد | هوش مصنوعی به‌زودی می‌تواند خود را تکثیر کند
-
بحران اعتماد در عصر هوش مصنوعی | هنوز می‌توان به چشم‌ها اعتماد کرد؟
-
تأیید حضور آیت‌الله سیدمجتبی خامنه‌ای در مراسم تدفین رهبر شهید انقلاب + فیلم | ایشان هم پیش از تدفین و هم پس از دفن در مشهد حضور داشتند
-
بیرانوند را حتما باید به استقلال بیاوریم | او ستون تیم ما خواهد شد و قهرمان می‌شویم
-
شاید اصلا من خودم بیرانوند را نخواهم | جایی که من باشم نمی‌گذارم بازیکنی نگاه بالا به پایین به تیم داشته باشد
-
زمان ثبت نام کالابرگ جدید بر اساس کد ملی اعلام شد + جزئیات
-
فوری؛ هشدار شدیداللحن و بی سابقه روسیه؛ سر عقل بیایید
-
اعلام آمار زنان مطلقه و مجرد در کشور | عدم تمایل ۴۰ درصد مطلقه‌ها به ازدواج مجدد
-
موشک قاره‌پیما با قابلیت رسیدن به خاک آمریکا به نمایش درآمد | این موشک عظیم را ببینید
-
فوری؛ هشدار شدیداللحن و بی سابقه روسیه؛ سر عقل بیایید
-
تصاویر نیروی قرارگاه قدس که دیروز به شهادت رسید؛ سپاه بیانیه داد
-
موشک قاره‌پیما با قابلیت رسیدن به خاک آمریکا به نمایش درآمد | این موشک عظیم را ببینید
-
کشتی عظیم با ۲۵۰۰ کانتینر غرق شد+ تصاویر | انفجار کشتی پس از برخورد با مین دریایی
-
فوری؛ فرمانده «افسانه عقیلا» ترور شد+ عکس و جزئیات
-
شاید اصلا من خودم بیرانوند را نخواهم | جایی که من باشم نمی‌گذارم بازیکنی نگاه بالا به پایین به تیم داشته باشد
-
سخنگوی جدید کاخ سفید | تصاویر
-
اعلام آمار زنان مطلقه و مجرد در کشور | عدم تمایل ۴۰ درصد مطلقه‌ها به ازدواج مجدد
-
فوری؛ حمله احتمالی به آمریکا از این مسیر خواهد بود | ترامپ آغاز غارت منابع این منطقه را اعلام کرد
-
هشدار جدی سیدجلال حسینی به بیرانوند و خانواده‌اش در خصوص استقلال
-
هشدار سازمان ملل درباره هوش مصنوعی؛ اتحادیه جهانی مخابرات زنگ خطر را به صدا درآورد
-
به اطلاعات CHATGPT اعتماد نکنید! | ممکن است اشتباه کند
-
وقتی هوش مصنوعی عشق را جعل می‌کند
-
کودکان عصر هوش مصنوعی | نسلی که باید فکرکردن را یاد بگیرد نه فقط پاسخ گرفتن را
-
استفاده از ChatGPT کافی نیست؛ آینده از آن کسانی است که سواد هوش مصنوعی دارند
-
وقتی هوش مصنوعی علیه انسان اعلام جنگ می‌کند