«دادگاه عالی» متا به این شرکت فناوری دستور داده است که ویدیوهای جعل عمیق (دیپفیک) از یک سیاستمدار بریتانیایی و یک زن جوان مسلمان را از فیسبوک حذف کند و اقدامات بیشتری برای مقابله با تصاویر جعلی تولیدشده توسط هوش مصنوعی انجام دهد.
این هیئت اعلام کرد یک ویدیوی جعلی که در آن یکی از اعضای شورای محلی وابسته به حزب کارگر در اسکاتلند در حال بیان اظهاراتی تحریکآمیز علیه پناهجویان نشان داده میشود، نباید در فیسبوک باقی میماند. این نهاد همچنین حکم داد که ویدیوی ساختهشده با هوش مصنوعی از یک زن مسلمان داوطلب در پویش سلامت، که بهدروغ او را در حال ارائه توصیههای بهداشتی همزمان با انجام حرکات ورزشی نامتعارف یا مصرف تنقلات ناسالم نشان میداد، باید حذف میشد.
هیئت نظارت تأکید کرد که سازوکارهای حفاظتی متا برای مقابله با رشد سریع جعلهای عمیق هوش مصنوعی «بهطور مداوم و اساساً ناکافی» بوده است.
پاملا سن مارتین، یکی از رؤسای هیئت نظارت، اظهار داشت: «از سیاستمداران گرفته تا شهروندان عادی، ویدیوهای جعل عمیقِ ساختهشده با هوش مصنوعی به شکلی فزاینده برای آزار و اذیت زنان و خاموش کردن صدای آنان در مشارکتهای عمومی مورد استفاده قرار میگیرند.»
او افزود: «این پروندهها نشاندهنده الگویی گستردهتر و نگرانکننده هستند که در آن زنانی که در مسائل عمومی مشارکت میکنند، به شکلی نامتناسب هدف آزار و اذیت و اطلاعات گمراهکننده قرار میگیرند. متا و سایر پلتفرمهای شبکههای اجتماعی برای مقابله با گسترش جعل عمیق نیازمند سیاستهای قویتری هستند.»
در ویدیوی مربوط به اسکاتلند، بهدروغ از زبان این عضو شورا نقل میشود: «پناهجویان در اینجا مورد استقبال قرار میگیرند، حتی اگر به زنان ما تجاوز کنند، زیرا سفیدپوستان نیز چنین میکنند.»
هیئت نظارت که نهادی شبهمستقل است و آرای آن لازمالاجرا محسوب میشود، اعلام کرد که بررسیها نشان میدهد ویدیوی این عضو شورا با هوش مصنوعی ساخته شده است؛ زیرا صدای پخششده با حرکات چهره این عضو شورا (که نامش فاش نشده) همگامسازی کامل ندارد.
حتی پس از آنکه این موضوع مستقیماً از سوی هیئت نظارت با شرکت در میان گذاشته شد، متا تصمیم گرفت که این ویدیو ناقض سیاستهای محتوایی آن نیست و نیازی به الصاق برچسب هوش مصنوعی ندارد.
این هیئت در یادداشتی وبلاگی که روز پنجشنبه منتشر شد، اعلام کرد این پست باید حذف میشد، زیرا با متهم کردن پناهجویان به عنوان یک کل — و نه افراد بهصورت مجزا — به رفتارهای مجرمانه و تعرض جنسی، مقررات متا در خصوص رفتارهای نفرتپراکنانه را نقض کرده است. هیئت مذکور ضمن درخواست تدابیر سختگیرانهتر علیه جعل عمیق، تأکید کرد که این ویدیو باید برچسب «هوش مصنوعی پرخطر» دریافت میکرد.
در این بیانیه آمده است: «اکثریت [اعضای هیئت] بر این باورند که متا نیازمند سیاستهای قویتری در زمینه جعل عمیق است؛ از جمله گسترش شرایطی که میتوان در آنها برچسبهای محتوای پرخطر اعمال کرد، اتخاذ تدابیر بیشتر برای کاهش انتشار محتوای فریبنده هوش مصنوعی، افزایش مجازات حسابهایی که مکرراً آن را به اشتراک میگذارند، و ایجاد شفافیت بیشتر در دادههای مرتبط با زمان الصاق برچسبهای هوش مصنوعی.»
این هیئت ۹ تغییر سیاستی را به متا پیشنهاد داد که از جمله آنها میتوان به الزام الگوریتمها به تنزل رتبه محتواهای دارای برچسب «پرخطر» اشاره کرد تا احتمال نمایش این پستها در صفحه اصلی (فید) کاربران کاهش یابد. این نهاد همچنین پیشنهاد کرد که متا دسترسی و مشاهده محتوای تولیدشده با هوش مصنوعی را دشوارتر سازد؛ به عنوان مثال با ایجاد یک صفحه هشدار که مشاهده محتوا را منوط به کلیک کاربر بر روی آن میکند.
در حکمی جداگانه، این هیئت به متا دستور داد که ویدیوی ساختهشده با هوش مصنوعی را که به تمسخر یک زن جوان مسلمان در اروپا پرداخته بود، از فیسبوک حذف کند؛ زنی که در یک پویش برای بهبود آموزش بهداشت قاعدگی و کاهش پیشداوریهای منفی درباره وضعیت سلامت زنان و دختران از اقلیتهای قومی مشارکت داشت. تصاویر و ویدیوهای دستکاریشده با هوش مصنوعی در تمسخر این زن، دهها میلیون بار در فضای مجازی، از جمله در پلتفرمهای متا، بازدید داشته است.
هیئت نظارت یکی از این ویدیوها را — که این زن را در حال ورزش به شکلی مضحک و خوردن تنقلات ناسالم نشان میداد — نقض آشکار سیاستهای شرکت در زمینه قلدری و آزار و اذیت دانست. این نهاد توصیه کرد که پست مذکور حذف شود و سه پیشنهاد سیاستی نیز ارائه داد؛ از جمله اصلاح تعریف این پلتفرم از «تصاویر دستکاریشده ناخواسته» بهگونهای که جعلهای عمیق از اشخاص حقیقی را که در آن کارها یا سخنانی خلاف واقع به آنان نسبت داده میشود، پوشش دهد.
این هیئت در سال ۲۰۲۰ از سوی متا تأسیس شد تا به عنوان مرجع داوری برای محتوای پلتفرمهای آن عمل کند. از شرکت متا برای ارائه نظر در این زمینه درخواست شده است.