انتشار تصاویر جعلی و اطلاعات غلط توسط هوش مصنوعی در چند وقت اخیر، مسئولان اتحادیه اروپا را به فکر طراحی برچسب برای تشخیص «دیپ فیک‌ها» انداخته است.
به گزارش خبرگزاری صداوسیما نشریه پولیتیکو در گزارشی درباره هوش مصنوعی نوشت: اتحادیه اروپا با برچسب «AI» برای مبارزه با دیپ فیک‌ها تلاش می‌کند. بروکسل می‌خواهد از بین رفتن مرز‌های بین واقعیت و خیال توسط هوش مصنوعی جلوگیری کند و برای اولین بار از شرکت‌ها خواسته که برچسبی برای شناسایی متون و تصاویر تولیدشده توسط هوش مصنوعی برای مبارزه با اطلاعات نادرست ارائه کنند.
هوش مصنوعی مولد در حال پیشرفت‌های خیره‌کننده‌ای است؛ از نوشتن متون و کد گرفته تا ایجاد تصاویر و ویدئو‌های نزديك به واقعی که پیامد‌های عظیمی نه تنها برای آینده جامعه و کار، بلکه برای سیاست نیز خواهند داشت.
تصاویر جعلی پاپ و سیاستمداران مشهور که در اوایل سال جاری میلادی در فضای مجازی منتشر شد، به وضوح مسئولان اتحادیه اروپا را ترسانده و موجب شده آن‌ها به فکر طراحی برچسب برای دیپ فیک‌ها(1) بیفتند.
در ادامه این گزارش آمده است: یک مقام اجرایی اتحادیه اروپا که قوانین را پیشنهاد و اجرا می‌کند، قانون هوش مصنوعی را برای تنظیم برنامه‌های پرخطر و ممنوعیت خطرناک‌ترین آن‌ها پیشنهاد کرده است، اما حتی قبل از اجرایی‌شدن این قانون، کمیسیون صنعت را ترغیب خواهد کرد که با استفاده از برچسب برای محصولات تولیدشده توسط هوش مصنوعی، فریبکاری را کاهش دهد.
بنابر گزارش پولتیکو، امروز «ویرا ژورووا» معاون کمیسیون ارزش‌ها و شفافیت و «تیری برتون» کمیسر بازار داخلی، با نمایندگان ۴۰ سازمانی که آیین‌نامه عملکرد اتحادیه اروپا در برابر اطلاعات نادرست را امضا کرده‌اند، ملاقات خواهند کرد. این سازمان‌ها شامل مایکروسافت، گوگل، متا، تیک تاک، توییچ و شرکت‌های کوچکتر هستند، اما توییتر و سازمان‌های غیردولتی که از عمل به آیین نامه سرباززده‌اند در این جمع حضور ندارند.
در همین راستا «ژورووا» گفت: از امضاکنندگان می‌خواهم که یک مسیر اختصاصی و مجزا در اجرای آیین‌نامه ایجاد و با اطلاعات نادرستِ تولیدشده توسط هوش مصنوعی مقابله کنند. هدف این کار باید شناسایی خطرات نشر اطلاعات نادرست توسط هوش مصنوعی مولد و اتخاذ تدابیر مناسب برای رسیدگی به آن‌ها باشد.
«ژورووا» گفت: امضاکنندگانی که هوش مصنوعی مولد را در سرویس‌های خود مانند بینگ چت (Bingchat) برای مایکروسافت و بارد (Bard) برای گوگل ادغام می‌کنند، باید اقدامات حفاظتی لازم را ایجاد کنند که عوامل مخرب نتوانند از این سرویس‌ها برای تولید اطلاعات نادرست استفاده كنند.
بر این اساس، امضاکنندگانی که خدمات بالقوه‌ای برای انتشار اطلاعات نادرستِ تولیدشده توسط هوش مصنوعی دارند، باید فناوری مورد نیاز را برای شناسایی این محتواها و برچسب‌گذاری واضح برای کاربران ایجاد کنند.
دو مقامی که در این زمینه فعالیت می‌کنند گفته‌اند که این برچسب باید برای همه مطالب تولیدشده توسط هوش مصنوعی از جمله متن، تصاویر، صدا و ویدئو اعمال شود.
بخشی از این آیین‌نامه در حال حاضر داوطلبانه است و اجباری نخواهد بود. با این حال، کمیسیون قصد دارد این مورد را با گنجاندن آن به عنوان یک کد رفتاري در قانون خدمات دیجیتال (DSA) قابل اجرا کند. در همین راستا، الزامات برچسب‌گذاری محتوای هوش مصنوعی ممکن است در جریان مذاکرات بین کشور‌های اتحادیه اروپا، پارلمان و کمیسیون به قانون هوش مصنوعی تبدیل شود.
حالا در نهایت باید دید آیا چنین فناوری قادر خواهد بود تمام دیپ‌فیک‌ها را شناسایی کند یا نه.
1. دیپ فیک، یک روش نرم‌افزاری مبتنی‌بر هوش‌مصنوعی است که با تغییر محتواهای صوتی و تصویری، این محتواها را در قالبی جعلی و کاملا متفاوت از واقعیت ارائه می دهد.