نتایج ترسناک یک پژوهش درباره خاطرات جعلی

پژوهشگران مدعی شدند با استفاده از دیپ‌فیک یا جعل عمیق تولید شده با هوش مصنوعی موفق به ایجاد خاطرات جعلی شده‌اند.

کد خبر: ۱۱۸۵۲۶۶

تاریخ: ۰۶ مرداد ۱۴۰۲ - ۱۲:۴۶

به گزارش تابناک به نقل از خبرآنلاین، دیپ فیک یا جعل عمیق، ترکیبی از کلمه‌های «یادگیری عمیق» و «جعلی»، یک تکنیک برای ترکیب تصویر انسان با استفاده از هوش مصنوعی است.

اکنون، در پژوهشی تازه، دانشمندان مدعی‌ شدند که با موفقیت توانسته‌اند با استفاده از فناوری دیپ‌فیک، «خاطرات جعلی» ایجاد کنند. در این آزمایش، به ۴۳۶ شرکت‌کننده کلیپ‌های جعلی از فیلم‌های ساختگی نشان داده شد.

اینها شامل بازسازی فیلم های محبوبی مانند The Matrix بود. در نسخه دیپ‌فیک، ویل اسمیت به‌عنوان نئو نمایش داده شد. در کلیپ دیگر ویدیوهای جعلی از برد پیت را در فیلم «درخشش» نشان داده شد نقشی که در حقیقت، جک نیکلسون بازی کرده بود.

پس از بررسی کلیپ‌ها از شرکت کنندگان سوالاتی در مورد فیلم ها پرسیده شد و همچنین از شرکت‌کنندگان خواسته شد تا فیلم‌ها را رتبه‌بندی کنند. به شکلی تکان دهنده، بسیاری از شرکت‌کنندگان بازسازی‌های دیپ فیک را به عنوان نسخه های واقعی شناسایی کردند.

در مجموع، دانشمندان در این پژوهش نرخ خیره کننده ۴۹ درصد حافظه کاذب را مشاهده کردند. علاوه بر این، دانشمندان دریافتند که حتی فقط توصیف متنی ساده از رویدادهای ساختگی برای تحریف خاطرات کافی است.

هر چند بر اساس یافته‌های این پژوهش دیپ‌فیک‌ها در تحریف حافظه مؤثرتر از توصیف‌های متنی ساده نبودند اما این مطالعه باعث نگرانی کارشناسان در مورد فناوری دیپ فیک شده است، هر چند، نویسندگان مطالعه معتقدند که تحقیقات بیشتری باید انجام شود.

این پژوهش نشان داد که چقدر راحت حتی بدون ورودی‌های تکنولوژیک چون دیپ‌فیک می‌توان حافظه‌ را تغییر داد و تحریف کرد.

در واقع، پژوهشگران خاطرنشان کردند که بسیاری از مطالعات نشان داده اند که اطلاعات نادرست در اشکال غیر فناورانه مانند روایت های ساده هم در تحریف حافظه بسیار موثر هستند.