هدف انگلستان این است که اولین کشوری در جهان باشد که جرایم جدیدی را در رابطه با سوء استفاده جنسی تولید شده توسط هوش مصنوعی ایجاد می کند. قوانین جدید غیرقانونی خواهد بود برای داشتن، ایجاد یا توزیع ابزارهای هوش مصنوعی که برای تولید مطالب سوء استفاده جنسی از کودکان (CSAM) طراحی شده اند، مجازات آن تا پنج سال زندان است. این قوانین همچنین برای هر کسی که به اصطلاح "دفترچه راهنمای پدوفیل" را در اختیار داشته باشد که به افراد آموزش می دهد چگونه از هوش مصنوعی برای سوء استفاده جنسی از کودکان استفاده کنند، غیرقانونی خواهد بود.
در چند دهه اخیر، تهدید علیه کودکان ناشی از سوء استفاده آنلاین با نرخی نگران کننده افزایش یافته است. به گزارش بنیاد نظارت بر اینترنت که سوء استفاده را از اینترنت ردیابی و حذف می کند، از سال 2014، 830 درصد افزایش در تصاویر سوء استفاده جنسی کودکان آنلاین وجود داشته است. شیوع ابزارهای تولید تصویر هوش مصنوعی به این امر دامن می زند.
سال گذشته، ما در موسسه بین المللی تحقیقات پلیسی و حفاظت در دانشگاه آنگلیا راسکین گزارشی درباره افزایش تقاضا برای مطالب سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی در اینترنت منتشر کردیم.
محققان چت هایی را که در انجمن های دارک وب در 12 ماه گذشته انجام شده بود، تجزیه و تحلیل کردند. ما شواهدی از علاقه روزافزون به این فناوری و تمایل مجرمان آنلاین برای یادگیری بیشتر و ایجاد تصاویر سوء استفاده پیدا کردیم.
به طرز وحشتناکی، اعضای انجمن به کسانی که تصاویر هوش مصنوعی را ایجاد می کنند، "هنرمند" می گفتند. این فناوری دنیای جدیدی از فرصت را برای مجرمان ایجاد می کند تا شرورانه ترین اشکال محتوای سوء استفاده از کودکان را ایجاد و به اشتراک بگذارند.
تجزیه و تحلیل ما نشان داد که اعضای این انجمن ها از تصاویر و ویدیوهای غیر تولید شده توسط هوش مصنوعی که از قبل در اختیار دارند برای تسهیل یادگیری و آموزش نرم افزاری که برای ایجاد تصاویر استفاده می کنند، استفاده می کنند. بسیاری امیدها و انتظارات خود را مبنی بر تکامل این فناوری ابراز کردند و ایجاد این مطالب را برای آنها آسان تر کرد.
فضاهای دارک وب پنهان هستند و فقط از طریق نرم افزارهای تخصصی قابل دسترسی هستند. آنها ناشناس بودن و حریم خصوصی را برای مجرمان فراهم می کنند و شناسایی و تعقیب قانونی آنها را برای اجرای قانون دشوار می کند.
بنیاد نظارت بر اینترنت آمارهای نگران کننده ای در مورد افزایش سریع تعداد تصاویر تولید شده توسط هوش مصنوعی که به عنوان بخشی از کار خود با آن مواجه می شوند، مستند کرده است. حجم آن در مقایسه با مقیاس تصاویر غیرهوش مصنوعی که در حال یافتن هستند نسبتاً کم است، اما اعداد با سرعتی هشداردهنده در حال افزایش هستند.
خیریه گزارش داد در اکتبر 2023 که در مجموع 20254 تصویر تولید شده توسط هوش مصنوعی در یک ماه در یک انجمن دارک وب بارگذاری شده است. قبل از انتشار این گزارش، اطلاعات کمی در مورد این تهدید وجود داشت.
آسیب های سوء استفاده از هوش مصنوعی
تصور در بین مجرمان این است که تصاویر سوء استفاده جنسی از کودکان تولید شده توسط هوش مصنوعی یک جرم بدون قربانی است، زیرا این تصاویر "واقعی" نیستند. اما این به هیچ وجه بی ضرر نیست، اولا به این دلیل که می توان آن را از عکس های واقعی کودکان، از جمله تصاویری که کاملاً بی گناه هستند، ایجاد کرد.
در حالی که چیزهای زیادی وجود دارد که هنوز در مورد تأثیر سوء استفاده تولید شده توسط هوش مصنوعی به طور خاص نمی دانیم، تحقیقات زیادی در مورد آسیب های سوء استفاده جنسی آنلاین از کودکان، و همچنین نحوه استفاده از فناوری برای تداوم یا بدتر شدن تأثیر سوء استفاده آفلاین وجود دارد. به عنوان مثال، قربانیان ممکن است به دلیل دائمی بودن عکس ها یا فیلم ها، فقط با دانستن اینکه تصاویر در آنجا هستند، دچار آسیب های مداوم شوند. مجرمان همچنین ممکن است از تصاویر (واقعی یا جعلی) برای ارعاب یا اخاذی از قربانیان استفاده کنند.
این ملاحظات همچنین بخشی از بحث های جاری در مورد پورنوگرافی دیپ فیک است که دولت نیز قصد دارد جرم انگاری کند.
همه این مسائل می تواند با فناوری هوش مصنوعی تشدید شود. علاوه بر این، احتمالاً تأثیر آسیب زا بر ناظران و محققانی که مجبور به مشاهده تصاویر سوء استفاده در بهترین جزئیات هستند تا تشخیص دهند که آیا آنها تصاویر "واقعی" یا "تولید شده" هستند، وجود خواهد داشت.
قانون چه کاری می تواند انجام دهد؟
قانون انگلستان در حال حاضر گرفتن، ساخت، توزیع و نگهداری یک تصویر مستهجن یا یک شبه عکس (یک تصویر فوتورئالیستی ایجاد شده به صورت دیجیتالی) از یک کودک را غیرقانونی می داند.
اما در حال حاضر هیچ قانونی وجود ندارد که نگهداری فناوری ایجاد تصاویر کودکان را به عنوان جرم تلقی کند. قوانین جدید باید اطمینان حاصل کند که افسران پلیس می توانند مجرمانی را که از هوش مصنوعی برای تولید این محتوا استفاده می کنند یا در نظر دارند استفاده کنند، هدف قرار دهند، حتی اگر در هنگام تحقیق در حال حاضر تصاویری در اختیار نداشته باشند.
ما همیشه در زمینه فناوری از مجرمان عقب خواهیم ماند و آژانس های اجرای قانون در سراسر جهان به زودی غرق خواهند شد. آنها به قوانینی نیاز دارند که به آنها کمک کند تا کسانی را که به دنبال استثمار کودکان و جوانان آنلاین هستند، شناسایی و تحت تعقیب قرار دهند.
این خبر خوبی است که دولت متعهد به اقدام است، اما باید سریع باشد. هرچه تصویب این قانون بیشتر طول بکشد، کودکان بیشتری در معرض خطر سوء استفاده قرار می گیرند.
مقابله با تهدید جهانی نیز بیش از قوانین یک کشور نیاز دارد. ما به یک پاسخ سیستمی کامل نیاز داریم که از زمان طراحی فناوری جدید شروع شود. بسیاری از محصولات و ابزارهای هوش مصنوعی به دلایل کاملاً واقعی، صادقانه و غیر مضر توسعه یافته اند، اما به راحتی می توانند توسط مجرمانی که به دنبال ایجاد مطالب مضر یا غیرقانونی هستند، اقتباس و مورد استفاده قرار گیرند.
قانون باید این را درک کرده و به آن پاسخ دهد، به طوری که فناوری نتواند برای تسهیل سوء استفاده استفاده شود، و به طوری که ما بتوانیم بین کسانی که از فناوری برای آسیب رساندن استفاده می کنند و کسانی که از آن برای خیر استفاده می کنند، تمایز قائل شویم.
ارائه شده توسط The Conversation
این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.