هدف بریتانیا این است که اولین کشوری در جهان باشد که جرایم جدیدی را در رابطه با سوء استفاده جنسی تولید شده توسط هوش مصنوعی ایجاد می کند. قوانین جدید غیرقانونی اعلام میکند داشتن، ایجاد یا توزیع ابزارهای هوش مصنوعی که برای تولید محتوای سوء استفاده جنسی از کودکان (CSAM) طراحی شدهاند، مجازات آن تا پنج سال زندان است. این قوانین همچنین برای هر کسی که به اصطلاح "کتابچه راهنمای پدوفیل" را در اختیار داشته باشد که به افراد آموزش می دهد چگونه از هوش مصنوعی برای سوء استفاده جنسی از کودکان استفاده کنند، غیرقانونی خواهد بود.
در چند دهه گذشته، تهدید علیه کودکان ناشی از سوء استفاده آنلاین با سرعت نگران کننده ای افزایش یافته است. بر اساس بنیاد دیدهبان اینترنت، که سوء استفاده را از اینترنت ردیابی و حذف میکند، از سال 2014، 830 درصد افزایش در تصاویر سوء استفاده جنسی از کودکان آنلاین وجود داشته است. شیوع ابزارهای تولید تصویر هوش مصنوعی این موضوع را بیشتر دامن می زند.
سال گذشته، ما در مؤسسه تحقیقات پلیس بینالمللی و حفاظت عمومی در دانشگاه آنگلیا راسکین گزارشی در مورد افزایش تقاضا برای محتوای سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی در اینترنت منتشر کردیم.
محققان چت هایی را که در انجمن های دارک وب در 12 ماه گذشته انجام شده بود، تجزیه و تحلیل کردند. ما شواهدی از علاقه فزاینده به این فناوری و تمایل مجرمان آنلاین به یادگیری بیشتر و ایجاد تصاویر سوء استفاده یافتیم.
به طرز وحشتناکی، اعضای انجمن به کسانی که تصاویر هوش مصنوعی را ایجاد میکنند، "هنرمند" میگفتند. این فناوری دنیای جدیدی از فرصت را برای مجرمان ایجاد می کند تا شنیع ترین اشکال محتوای سوء استفاده از کودکان را ایجاد و به اشتراک بگذارند.
تجزیه و تحلیل ما نشان داد که اعضای این انجمن ها از تصاویر و ویدیوهای غیر تولید شده توسط هوش مصنوعی که در اختیار دارند برای تسهیل یادگیری و آموزش نرم افزاری که برای ایجاد تصاویر استفاده می کنند، استفاده می کنند. بسیاری از آنها امیدها و انتظارات خود را مبنی بر تکامل فناوری ابراز کردند و ایجاد این مطالب را برای آنها آسان تر می کند.
فضاهای دارک وب پنهان هستند و فقط از طریق نرم افزارهای تخصصی قابل دسترسی هستند. آنها ناشناس بودن و حریم خصوصی را برای مجرمان فراهم می کنند و شناسایی و پیگرد قانونی آنها را برای مجریان قانون دشوار می کند.
بنیاد دیدهبان اینترنت آمار نگران کننده ای در مورد افزایش سریع تعداد تصاویر تولید شده توسط هوش مصنوعی که به عنوان بخشی از کار خود با آن مواجه می شوند، ثبت کرده است. حجم آن در مقایسه با مقیاس تصاویر غیر تولید شده توسط هوش مصنوعی که در حال یافتن است نسبتاً پایین است، اما اعداد با سرعت هشدار دهنده ای در حال افزایش هستند.
خیریه گزارش داد در اکتبر 2023 که در مجموع 20254 تصویر تولید شده توسط هوش مصنوعی در یک ماه در یک انجمن دارک وب آپلود شده است. قبل از انتشار این گزارش، اطلاعات کمی در مورد تهدید وجود داشت.
آسیب های سوء استفاده از هوش مصنوعی
تصور مجرمان این است که تصاویر سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی یک جرم بدون قربانی است، زیرا تصاویر "واقعی" نیستند. اما این به هیچ وجه بی ضرر نیست، اولاً به این دلیل که می توان آن را از عکس های واقعی کودکان، از جمله تصاویر کاملاً بی گناه، ایجاد کرد.
در حالی که چیزهای زیادی وجود دارد که هنوز در مورد تأثیر سوء استفاده تولید شده توسط هوش مصنوعی به طور خاص نمی دانیم، تحقیقات زیادی در مورد آسیب های سوء استفاده جنسی از کودکان آنلاین، و همچنین چگونگی استفاده از فناوری برای تداوم یا بدتر شدن تأثیر سوء استفاده آفلاین وجود دارد. به عنوان مثال، قربانیان ممکن است به دلیل دائمی بودن عکس ها یا فیلم ها، فقط با دانستن اینکه تصاویر در آنجا هستند، دچار آسیب های مداوم شوند. مجرمان همچنین ممکن است از تصاویر (واقعی یا جعلی) برای ارعاب یا اخاذی از قربانیان استفاده کنند.
این ملاحظات همچنین بخشی از بحث های مداوم در مورد پورنوگرافی دیپ فیک است که دولت نیز قصد دارد جرم انگاری کند.
بیشتر بخوانید: پورن دیپ فیک: چرا باید ایجاد آن را جرم تلقی کنیم، نه فقط به اشتراک گذاری آن
همه این مسائل می توانند با فناوری هوش مصنوعی تشدید شوند. علاوه بر این، احتمالاً تأثیر آسیب زا بر روی ناظران و بازرسانی که مجبورند تصاویر سوء استفاده را با جزئیات دقیق مشاهده کنند تا تشخیص دهند که آیا تصاویر "واقعی" هستند یا "تولید شده".
قانون چه کاری می تواند انجام دهد؟
قانون انگلستان در حال حاضر عکس گرفتن، ساختن، توزیع و در اختیار داشتن یک تصویر غیراخلاقی یا یک عکس شبه (یک تصویر فوتورئالیستی ایجاد شده دیجیتالی) از یک کودک را ممنوع می کند.
اما در حال حاضر هیچ قانونی وجود ندارد که در اختیار داشتن فناوری برای ایجاد تصاویر سوء استفاده جنسی از کودکان با هوش مصنوعی را جرم تلقی کند. قوانین جدید باید اطمینان حاصل کند که افسران پلیس قادر خواهند بود مجرمانی را که از هوش مصنوعی برای تولید این محتوا استفاده می کنند یا قصد استفاده از آن را دارند، هدف قرار دهند، حتی اگر در زمان تحقیقات در حال حاضر تصاویر را در اختیار نداشته باشند.
وقتی صحبت از فناوری به میان میآید، همیشه از مجرمان عقب خواهیم بود و سازمانهای مجری قانون در سرتاسر جهان به زودی تحت فشار قرار خواهند گرفت. آنها به قوانینی نیاز دارند که به آنها کمک کند کسانی را که به دنبال بهره برداری از کودکان و جوانان آنلاین هستند، شناسایی و تحت پیگرد قانونی قرار دهند.
این خبر خوبی است که دولت متعهد به اقدام است، اما باید سریع باشد. هرچه تصویب این قانون بیشتر طول بکشد، کودکان بیشتری در معرض سوء استفاده قرار می گیرند.
مقابله با تهدید جهانی نیز مستلزم چیزی بیش از قوانین یک کشور است. ما به یک پاسخ کل سیستمی نیاز داریم که از زمان طراحی فناوری جدید آغاز شود. بسیاری از محصولات و ابزارهای هوش مصنوعی به دلایل کاملاً واقعی، صادقانه و غیر مضر توسعه یافته اند، اما به راحتی می توانند توسط مجرمانی که به دنبال ایجاد مواد مضر یا غیرقانونی هستند، تطبیق داده شوند و مورد استفاده قرار گیرند.
قانون باید این موضوع را درک کند و به آن پاسخ دهد، به طوری که نتوان از فناوری برای تسهیل سوء استفاده استفاده کرد و بتوانیم بین کسانی که از فناوری برای آسیب رساندن استفاده می کنند و کسانی که از آن برای خیر استفاده می کنند، تمایز قائل شویم.