کمیسیونر کودکان برای انگلستان هشدار میدهد که برنامههای هوش مصنوعی «برهنگیساز» که تصاویر جنسی جعلی عمیق از کودکان ایجاد میکنند، باید فوراً ممنوع شوند، این درخواست در میان ترسهای فزاینده در بین دختران نوجوان مطرح میشود که ممکن است قربانی شوند.
بر اساس گزارش کمیسیونر در مورد این ابزارها، با استناد به تجربیات کودکان، دختران میگویند از ترس اینکه ابزارهای هوش مصنوعی مولد (Generative AI) بتوانند به صورت دیجیتالی لباسهای آنها را حذف کرده یا آنها را جنسی کنند، از انتشار تصاویر خود در رسانههای اجتماعی دست کشیدهاند. این گزارش خاطرنشان میکند، اگرچه ایجاد یا به اشتراک گذاشتن یک تصویر جنسی صریح از یک کودک غیرقانونی است، اما فناوری که آنها را قادر میسازد، قانونی باقی مانده است.
دیم ریچل دی سوزا، کمیسیونر، گفت: «کودکان به من گفتهاند که از ایده وجود این فناوری، چه برسد به استفاده از آن، وحشت دارند. آنها میترسند که هر کسی - یک غریبه، یک همکلاسی یا حتی یک دوست - بتواند از یک تلفن هوشمند به عنوان راهی برای دستکاری آنها با ایجاد یک تصویر برهنه با استفاده از این برنامههای سفارشی استفاده کند.»
«دنیای آنلاین انقلابی و به سرعت در حال تحول است، اما هیچ دلیل مثبتی برای وجود این برنامههای خاص وجود ندارد. آنها در جامعه ما جایی ندارند. ابزارهایی که از فناوری جعل عمیق برای ایجاد تصاویر برهنه از کودکان استفاده میکنند نباید قانونی باشند و من از دولت میخواهم که به جای اینکه اجازه دهد آنها بدون بررسی و با عواقب شدید در دنیای واقعی به کار خود ادامه دهند، اقدام قاطعی برای ممنوعیت آنها انجام دهد.»
دی سوزا از دولت خواست لایحهای در مورد هوش مصنوعی ارائه کند که از توسعهدهندگان ابزارهای هوش مصنوعی مولد (GenAI) بخواهد خطراتی را که محصولاتشان ایجاد میکنند، برطرف کنند و سیستمهای مؤثری را برای حذف تصاویر جنسی صریح جعلی عمیق از کودکان مستقر کنند. او پیشنهاد کرد که این امر باید با سیاستگذاریهایی پشتیبانی شود که سوء استفاده جنسی جعلی عمیق را به عنوان شکلی از خشونت علیه زنان و دختران به رسمیت میشناسد.
در این میان، این گزارش از آیفکام (Ofcom) میخواهد اطمینان حاصل کند که تأیید سن در برنامههای برهنگیساز به درستی اجرا میشود و پلتفرمهای رسانههای اجتماعی از تبلیغ ابزارهای جنسی صریح جعلی عمیق به کودکان، مطابق با قانون ایمنی آنلاین، جلوگیری میکنند.
این گزارش به نظرسنجی سال 2025 توسط Girlguiding اشاره میکند که نشان داد 26 درصد از پاسخدهندگان 13 تا 18 ساله، یک تصویر جنسی صریح جعلی عمیق از یک سلبریتی، یک دوست، یک معلم یا خودشان را دیدهاند.
به نظر میرسد بسیاری از ابزارهای هوش مصنوعی فقط روی بدنهای زنانه کار میکنند، که این گزارش هشدار داد که به یک فرهنگ رو به رشد زنستیزی دامن میزند.
یک دختر 18 ساله به کمیسیونر گفت: «روایت اندرو تیت و اینفلوئنسرهایی از این دست... که توسط یک صنعت هرزهنگاری کاملاً خشن و رو به نفوذ حمایت میشوند، این تصور را ایجاد میکند که هوش مصنوعی چیزی است که میتوانید از آن استفاده کنید تا همیشه مردم را تحت فشار قرار دهید تا با شما بیرون بروند یا اعمال جنسی با شما انجام دهند.»
این گزارش خاطرنشان کرد که بین سوء استفاده جعلی عمیق و افکار خودکشی و اختلال استرس پس از سانحه (PTSD) ارتباط وجود دارد، به عنوان مثال در مورد میا جانین، که در مارس 2021 خودکشی کرد.
دی سوزا در این گزارش نوشت که فناوری جدید «کودکان را با مفاهیمی مواجه میکند که هنوز نمیتوانند درک کنند» و «در چنان مقیاس و سرعتی در حال تغییر است که تلاش برای درک خطری که آنها ایجاد میکنند، میتواند طاقتفرسا باشد».
وکلا به گاردین گفتند که آنها شاهد بازتاب این موضوع در افزایش مواردی هستند که پسران نوجوان به دلیل جرایم جنسی دستگیر میشوند، زیرا آنها عواقب کارهایی را که انجام میدهند، درک نمیکنند، به عنوان مثال آزمایش با جعل عمیق، حضور در یک چت واتساپ که در آن تصاویر صریح در حال گردش است، یا جستجوی هرزهنگاری که در آن کودکانی همسن خودشان حضور دارند.
دانیل ریس-گرینهال، شریک شرکت حقوقی کورکر بینینگ که متخصص در جرایم جنسی و در اختیار داشتن تصاویر غیراخلاقی است، گفت که قانون «سعی میکند با انفجار فناوری جعل عمیق در دسترس همگام شود»، که در حال حاضر «مشکل بزرگی برای اجرای قانون در تلاش برای شناسایی و محافظت از قربانیان سوء استفاده» ایجاد میکند.
او خاطرنشان کرد که ممنوعیت برنامهها «احتمالاً بحثهایی را در مورد آزادیهای اینترنتی برمیانگیزد» و میتواند «تأثیر نامتناسبی بر مردان جوان» داشته باشد که ناآگاهانه از عواقب، با نرمافزار هوش مصنوعی بازی میکنند.
ریس-گرینهال گفت که اگرچه سیستم عدالت کیفری سعی میکند «دیدگاه عقل سلیمی داشته باشد و از جرم انگاری جوانان برای جرایمی که شبیه رفتار عادی نوجوانان است ... که ممکن است قبلاً پشت یک پناهگاه دوچرخه اتفاق افتاده باشد، اجتناب کند»، دستگیریها میتواند تجربیات آسیبزا باشد و در مدرسه یا در جامعه عواقبی داشته باشد، و همچنین پیامدهای طولانیمدت مانند نیاز به اعلام در فرم استا (Esta) برای ورود به ایالات متحده یا نشان دادن در بررسی پیشرفته DBS داشته باشد.
مت هاردکستل، شریک کینگزلی ناپلی، گفت که «مینگذاری برای جوانان آنلاین» در مورد دسترسی به محتوای جنسی و خشونتآمیز غیرقانونی وجود دارد. او گفت که بسیاری از والدین از اینکه چقدر آسان است که کودکان «به چیزهایی دسترسی پیدا کنند که آنها را به سرعت به یک مکان تاریک میبرد»، به عنوان مثال برنامههای برهنگیساز، بیاطلاع هستند.
او گفت: «آنها از دریچه چشم یک کودک به آن نگاه میکنند. آنها نمیتوانند ببینند که کاری که انجام میدهند بالقوه غیرقانونی است، و همچنین برای شما و دیگران نیز کاملاً مضر است.» «مغز کودکان هنوز در حال رشد است. آنها رویکرد کاملاً متفاوتی نسبت به ریسکپذیری دارند.»
مارکوس جانستون، وکیل جنایی متخصص در جرایم جنسی، گفت که با «تعداد روزافزونی از جوانان» کار میکند که به این جرایم کشیده شدهاند. او گفت: «اغلب والدین نمیدانستند چه خبر است. معمولاً مردان جوان، به ندرت زنان جوان، در اتاق خواب خود حبس شدهاند و والدینشان فکر میکنند که آنها مشغول بازی هستند.» «این جرایم قبل از اینترنت وجود نداشتند، اکنون بیشتر جرایم جنسی به صورت آنلاین انجام میشوند. این یک انجمن برای تبدیل شدن کودکان به جنایتکاران ایجاد کرده است.»
سخنگوی دولت گفت: «ایجاد، در اختیار داشتن یا توزیع مطالب سوء استفاده جنسی از کودکان، از جمله تصاویر تولید شده توسط هوش مصنوعی، نفرتانگیز و غیرقانونی است. بر اساس قانون ایمنی آنلاین، پلتفرمهای در هر اندازهای اکنون باید این نوع محتوا را حذف کنند، در غیر این صورت ممکن است با جریمههای قابل توجهی روبرو شوند.»
«بریتانیا اولین کشور در جهان است که جرایم بیشتر سوء استفاده جنسی از کودکان با هوش مصنوعی را معرفی میکند و در اختیار داشتن، ایجاد یا توزیع ابزارهای هوش مصنوعی طراحی شده برای تولید مطالب شنیع سوء استفاده جنسی از کودکان را غیرقانونی میکند.»
-
در بریتانیا، NSPCC به کودکان با شماره 0800 1111 و به بزرگسالان نگران در مورد یک کودک با شماره 0808 800 5000 پشتیبانی ارائه میدهد. انجمن ملی برای افراد مورد آزار و اذیت در دوران کودکی (Napac) با شماره 0808 801 0331 پشتیبانی برای بازماندگان بزرگسال ارائه میدهد. در ایالات متحده، با خط تلفن سوء استفاده Childhelp با شماره 800-422-4453 تماس بگیرید یا پیامک ارسال کنید. در استرالیا، کودکان، جوانان، والدین و معلمان میتوانند با Kids Helpline با شماره 1800 55 1800 یا Bravehearts با شماره 1800 272 831 تماس بگیرند و بازماندگان بزرگسال میتوانند با Blue Knot Foundation با شماره 1300 657 380 تماس بگیرند. منابع کمک دیگر را میتوان در Child Helplines International یافت