یک وبسایت کرهای جنوبی به نام GenNomis این هفته پس از آنکه یک محقق کشف نگرانکنندهای انجام داد، آفلاین شد: دهها هزار تصویر مستهجن تولید شده توسط هوش مصنوعی که توسط نرمافزار آن، Nudify، ایجاد شده بود. این عکسها در یک پایگاه داده ناامن یافت شدند و شامل تصاویر صریحی بودند که شباهتهایی به افراد مشهور، سیاستمداران، زنان تصادفی و کودکان داشتند.
جرمیا فاولر، محقق امنیت سایبری که این حافظه پنهان را پیدا کرد، میگوید بلافاصله یک اخطار افشای مسئولانه برای GenNomis و شرکت مادر آن، AI-Nomis ارسال کرده و آنها دسترسی عمومی به پایگاه داده را محدود کردند. بعداً، تنها چند ساعت پس از اینکه Wired برای اظهار نظر با GenNomis تماس گرفت، به نظر میرسید که هم آن و هم شرکت مادرش به طور کامل از وب ناپدید شدند.
GenNomis تنها استارتاپ هوش مصنوعی نیست که ابزارهایی برای تولید پورنوگرافی میفروشد. این بخش کوچکی از یک روند نگرانکننده است که توسط هوش مصنوعی مولد غیرقانونی در سراسر جهان فعال شده است. تصاویر و ویدیوهای پورنو جعلی مبتنی بر افراد واقعی، که اغلب به دلیل ماهیت واقعی خود به عنوان "دیپفیک" شناخته میشوند، با دسترسی مصرفکنندگان به هوش مصنوعی مولد متقاعدکنندهتر، در سراسر اینترنت منفجر شدهاند.
پیامدهای پورن دیپفیک میتواند ویرانگر باشد، به ویژه برای زنان، که اکثریت قریب به اتفاق قربانیان را تشکیل میدهند. گذشته از فقدان آشکار رضایت وقتی فردی به صورت دیجیتالی برهنه میشود، این مطالب برای خدشهدار کردن سیاستمداران، اخراج افراد، اخاذی از قربانیان برای پول و تولید مواد سوء استفاده جنسی از کودکان مورد استفاده قرار گرفته است. فراتر از خشونت جنسی، دیپفیکهای غیر پورنوگرافی مسئول افزایش زیادی در جرایم مالی و سایبری و مقدار قابل توجهی از اطلاعات نادرست آشکار هستند.
همچنین جای تعجب نیست که GenNomis در کره جنوبی مستقر است. یک گزارش سال ۲۰۲۳ در مورد پورن دیپفیک نشان داد که زنان کرهای جنوبی ۵۳ درصد از افرادی را تشکیل میدهند که قربانی این عمل شدهاند - تا کنون بیشترین گروه هدف. برای مقایسه، زنان ایالات متحده دومین گروه هدف را تشکیل میدهند که ۲۰ درصد را به خود اختصاص دادهاند.
ظهور هوش مصنوعی مولد که امکان بهرهبرداری گسترده از زنان را فراهم میکند، همزمان با افزایش چشمگیر در لفاظیهای جنسیتی و خشونت مبتنی بر جنسیت در کره جنوبی است، زیرا سیاستمداران و اینفلوئنسرهای ارتجاعی فمینیسم را به دلیل افزایش میزان خودکشی مردان سرزنش میکنند.
به طور کلی، این یک استدلال قوی برای قانونگذاران است تا رویکرد سختتری برای تنظیم هوش مصنوعی مولد اتخاذ کنند، اگرچه این به دلیل آزادی فعلی صنعت هوش مصنوعی برای تنظیم خود بعید به نظر میرسد. برای مقایسه، چین دستور داده است که تمام رسانههای تولید شده توسط هوش مصنوعی از ابتدا به این عنوان برچسبگذاری شوند. اگرچه قانونگذاران غربی با سرعت کمتری وارد این عرصه شدهاند، اما در حال جبران جرمانگاری ایجاد و توزیع پورن دیپفیک هستند، اگرچه قوانین و مجازاتها از ایالتی به ایالت دیگر در آمریکا متفاوت است.
با این حال، برای هزاران زن در سراسر جهان، این واقعیت که شرکتهایی مانند GenNomis اصلاً وجود داشتهاند، به این معنی است که خیلی دیر شده است.
بیشتر در مورد اخلاق هوش مصنوعی: چین اعلام کرد تمام مطالب تولید شده توسط هوش مصنوعی باید به صورت آنلاین برچسبگذاری شوند