ابزاری برای شناسایی ویدئوهای جعلی

گوگل قابلیتی تازه به جمنای اضافه کرده که به کاربران امکان می‌دهد ویدئوهای ساخته‌شده با هوش مصنوعی را تشخیص دهند.

کد خبر: ۱۳۴۶۸۰۳

تاریخ: ۲۸ آذر ۱۴۰۴ - ۲۳:۰۳

به گزارش تابناک به نقل از فارس؛ گوگل گفته است که جمنای اکنون می‌تواند فایل‌های ویدئویی را برای بررسی اینکه آیا با استفاده از ابزارهای هوش مصنوعی گوگل ساخته یا ویرایش شده‌اند، تحلیل کند امکانی که پیش‌تر برای تصاویر ارائه شده بود. کاربران حالا می‌توانند ویدیوهای تا سقف ۱۰۰ مگابایت و ۹۰ ثانیه را در اپ جمنای بارگذاری کرده و از آن بپرسند: «آیا این ویدیو با هوش مصنوعی گوگل ساخته شده؟»

جمنای برای پاسخ به این سؤال، هر دو بخش تصویر و صدا را بررسی می‌کند تا ببیند آیا کدی که به‌صورت اختصاصی توسط گوگل در محتوای هوش مصنوعی جاسازی شده (به نام SynthID) در آن وجود دارد یا نه. اگر چنین کدی یافت شود، اپ به‌جای یک پاسخ سادهٔ بله یا خیر، قسمت‌هایی از ویدیو که شامل این امضای دیجیتال هستند را نیز نشان می‌دهد. کد SynthID بر اساس گفتهٔ گوگل، برای چشم یا گوش انسان قابل‌مشاهده نیست و حتی باید بتواند در برابر ویرایش‌های معمول مقاومت کند هرچند مشخص نیست این واترمارک در برابر حذف یا تغییرهای پیچیده چگونه دوام خواهد آورد. این قابلیت جدید در چارچوب تلاش‌های گسترده‌تر گوگل برای افزایش شفافیت در مواجهه با محتوای هوش مصنوعی معرفی شده است و پیش‌تر مشابه آن برای عکس‌ها در ماه نوامبر راه‌اندازی شد.