اقدام مهم گوگل برای تشخیص اصالت محتوا / آیا عصر محتوای جعلی به پایان می‌رسد؟

به گزارش خبرگزاری علم و فناوری آنا به نقل از پاپیولار ساینس، گوگل قصد دارد محتوای تولیدشده با هوش مصنوعی را نشان‌گذاری کند.

در سال‌های اخیر، محتوا‌های تولیدشده با فناوری جعل عمیق (دیپ فیک) به طور فزاینده‌ای در پلتفرم‌های رسانه‌های اجتماعی محبوب شده‌اند و این روند، نگرانی‌ها را در مورد استفاده از محتوای تولیدشده توسط هوش مصنوعی برای انتشار اطلاعات نادرست و تبلیغات، به‌ویژه در فصل‌های انتخاباتی ایجاد کرده است. جعل عمیق می‌تواند بسیار قانع‌کننده و نزدیک به واقعیت باشد و اغلب، تشخیص فیلم‌ها یا تصاویر واقعی از جعلی را برای افراد دشوار می‌کند.

برای کمک به حل این مشکل، گوگل به «ائتلاف برای حفظ منشأ و اصالت محتوا» (C۲PA) پیوسته است، در این ائتلاف، گروهی از شرکت‌ها در تلاش برای ایجاد یک نشان دیجیتالی به نام «اعتبارنامه محتوا» هستند. این نشان، معیار و استانداردی برای افشای این است که آیا یک تصویر یا ویدیو با استفاده از ابزار‌های هوش مصنوعی ایجاد شده است یا خیر. «ائتلاف برای حفظ منشأ و اصالت محتوا» در سال ۲۰۱۹ و با هدف ایجاد استاندارد‌های فنی برای تأیید منشاء محتوای دیجیتال ایجاد شد.

اعتبارنامه محتوا (Content Credentials) یک نشان دیجیتالی کوچک است که می‌توان آن را به اَبَرداده تصاویر وصل کرد تا مشخص شود چه کسی و چه زمانی آن را ایجاد کرده است. چنانچه محتوای دیجیتالی با استفاده از یک مدل هوش مصنوعی ایجاد شده باشد و حتی نام آن مدل با استفاده از این نشان فاش می‌شود و همچنین اگر بعد از تولید نیز به صورت دیجیتالی ویرایش شده باشد آن را تشخیص می‌دهد.

حامیان اعتبارنامه محتوا معتقدند که این ابزار یک رکورد «اَبرداده قوی در برابر دستکاری» ایجاد می‌کند و اگر یک تصویر یا ویدیو ویرایش شود، این نشان دیجیتال فاش میکند که چه زمانی و چگونه تغییر کرده است. نشان اعتبارنامه محتوا با حروف صورت سی آر (CR) در گوشه تصویر ظاهر می‌شود و چون در فرادادۀ تصویر گنجانده شده حذف آن را بسیار دشوار است.

گوگل در حال حاضر قصد دارد با گنجاندن نشان اعتبار محتوا در بخش جستجوی تصویر، محبوبیت این نشان را افزایش دهد و سازندگان بیشتری را به استفاده از آن تشویق کند.

اگرچه نشان اعتبارنامه محتوا می‌تواند اعتماد کاربران به اصالت عکس‌ها و ویدیو‌ها را تقویت کند، اما استفاده از آن همچنان داوطلبانه است. با این حال، با پیوستن شرکت‌های بیشتری مانند گوگل و متا به این جریان، این امکان وجود دارد که نشان اعتبارنامه محتوا به یک استاندارد رایج برای تأیید اصالت محتوای دیجیتال تبدیل شود.

انتهای پیام/

نازنین احسانی طباطبایی