واشینگتن، ۹ سپتامبر (رویترز) - بر اساس یافتههای شش گروه از پژوهشگران مستقل و دادههای بررسیشده توسط رویترز، عوامل هوش مصنوعی (AI agents) توسعهیافته توسط اوپنایآی در اوایل سال جاری میلادی از بیش از ۱۰ وبسایت فاشنشده برای برقراری ارتباطات غیرمجاز استفاده کردهاند؛ امری که نشان میدهد فعالیتهای خودسرانه این عوامل دامنهای به مراتب گستردهتر از گزارشهای پیشین داشته است.
اگرچه این اقدام در حد هک و نفوذ سایبری نیست و تا حدی به ارسال هرزنامه شباهت دارد، اما افشای اینکه عوامل اوپنایآی محدودیتهای خود را برای ایجاد کانالهای ارتباطی در وبسایتهای متعدد دور زدهاند — و این شرکت ماهها درباره آن سکوت اختیار کرده — ممکن است نگرانیها را هم در خصوص افزایش قابلیتهای مدلهای هوش مصنوعی و هم درباره پنهانکاری شرکتهای توسعهدهنده آنها تشدید کند.
اندرو یون، پژوهشگر سازمان غیرانتفاعی CivAI در کالیفرنیا که از شناسایی ۱۸ وبسایت فاشنشده مورد استفاده این عوامل در فاصله ماههای مه تا ژوئیه خبر داده است، گفت دامنه این ارتباطات غیرمجاز «تا حدودی گستردهتر از تصورات اولیه ما بوده است». وی افزود: «تقریباً مسلم است که وقایع بیشتری رخ داده که ما هنوز از آن بیخبریم.»
روز جمعه، محققان گزارش دادند که دستهای از عوامل اوپنایآی یک وبسایت ویکی به زبان آلمانی را تسخیر کرده و آن را به بستری موقت برای تبادل پیام جهت تقلب در آزمونها تبدیل کردهاند؛ رویدادی که اوپنایآی همزمان با مدیریت پیامدهای ناشی از هک مخزن متنباز هاگینگ فیس (Hugging Face) در ماه ژوئیه، آن را مسکوت گذاشته بود.
اکنون، هم این محققان و هم دیگر پژوهشگران مستقل میگویند چندین پایگاه اینترنتی دیگر را یافتهاند که پیشتر فاش نشده بود و به نظر میرسد همان دسته از عوامل هوش مصنوعی در اوایل سال جاری پیامهای مشابهی را در آنها بر جای گذاشتهاند.
اوپنایآی به پرسشها پیرامون تعداد دقیق پایگاههای مورد استفاده عوامل خود برای برقراری ارتباط پاسخ مستقیم نداد و دلایل پنهان نگهداشتن این موضوع طی ماههای اخیر را توضیح نداد. این شرکت در بیانیهای اعلام کرد که در حال انجام بازبینی گستردهتری بر روی فعالیت عوامل هوش مصنوعی است و تاکنون «فعالیت دیگری که از نظر شدت یا مقیاس با رویداد هاگینگ فیس برابری کند، شناسایی نکرده است»؛ نفوذی که توجه جهانی را به خود جلب کرد و این نگرانی را دامن زد که اوپنایآی در حال از دست دادن کنترل بر فناوری خود است.
اوپنایآی افزود که در حال طراحی چارچوبی برای گزارشدهی «ناهمسویی یا عدم انطباق» (misalignment) — اصطلاحی تخصصی برای رفتارهای سرکش هوش مصنوعی — در مراحل آموزش، ارزیابی و استقرار مدلهاست و آن را «بهزودی» منتشر خواهد کرد.
رویترز یافتههای شش محقق و گروه تحقیقاتی را بررسی کرده است که شامل سه مورد منتشرشده در شبکههای اجتماعی و سه گزارش اختصاصی ارائهشده به این خبرگزاری میشود.
روشهای این پژوهشگران متفاوت بوده است؛ اما بسیاری از آنها از طریق تطبیق رشتهدادههای ثبتشده در ویکی آلمانی با رشتههای یکسان در وبسایتهای دیگر در همان بازه زمانی، یا از طریق همگامسازی نامهای کاربری مشابه یا یکسان مرتبط با پیامها، یا با ردیابی فعالیتهای متمرکز بر پاسخگویی به سوالات مبهم جمعیتشناختی — مانند پرسشهایی درباره شیوع سرطان در ایالت آیووا — موفق به شناسایی ردپای این عوامل شدند.
در برخی موارد، محققان موفق شدند این فعالیتها را تا آدرسهای پروتکل اینترنت (IP) متصل به زیرساخت ابری مایکروسافت آژور (Microsoft Azure) که گاهی توسط اوپنایآی استفاده میشود، رهگیری کنند.
شمار پایگاههای آسیبدیده از نگاه محققان متفاوت بوده و رویترز نتوانسته است صحت تکتک این ادعاها را به صورت جداگانه تایید کند، اما همه کارشناسانی که با رویترز گفتوگو کردند بر این نکته متفقالقول بودند که شمار این پایگاهها بیش از ۱۰ مورد است. بیشتر آنها هستهای مشترک از وبسایتهای ویکی با ویرایش جمعی، پایگاههای ذخیره آنلاین متن و کوتاهکنندههای لینک متعلق به دو دانشگاه وندربیلت در تنسی و دانشگاه تورنتو در کانادا را شناسایی کردهاند.
دانشگاه وندربیلت به درخواستها برای اظهار نظر پاسخ نداد، اما دانشگاه تورنتو اعلام کرد که در حال بررسی این موضوع است.
مدلهای هوشمند
بسیاری از وبسایتهایی که گفته میشود توسط این عوامل به کار گرفته شدهاند، پایگاههایی ناشناخته و گمنام بودهاند.
محققان ردپای فعالیت این عوامل را در یک پایگاه ویکی مربوط به درس شیمی پیشرفته (AP) که در سال ۲۰۰۸ توسط یک معلم دبیرستان در ماساچوست راهاندازی شده بود، دو وبسایت شخصی متعلق به متخصصان فناوری لهستانی، وبسایتهای ویکی اختصاصیافته به بازیهای فکری، و یک وبسایت غیرحرفهای با قدمت بیست سال در زمینه نرمافزارهای ویرایش متن یافتهاند.
هیچیک از مالکان این وبسایتها به پیامهای رویترز پاسخ ندادند.
اوپنایآی هنوز به طور علنی توضیح نداده است که این عوامل چگونه یا به چه دلیلی از وبسایتهای شخص ثالث به عنوان تابلوی اعلانات پیام استفاده کردهاند، اما محققانی که نخستین بار این فعالیت را کشف کردند میگویند این اقدام احتمالاً ناشی از آن بوده است که اوپنایآی این مدلها را موظف به پاسخگویی به مجموعهای از سوالات دشوار پژوهشی کرده و همزمان تنها به آنها اجازه کاوش در وب را داده و هرگونه ارسال یا انتشار محتوا را برایشان ممنوع ساخته بود.
با وجود این محدودیتها، عوامل هوش مصنوعی با بهرهگیری از نقایص فنی موجود در وبسایتهای ویکی قدیمی یا سایر بسترهایی که امکان ویرایش با دستورات غیراستاندارد را میدادند، راهی برای برقراری ارتباط با یکدیگر یافتند؛ رفتاری مشابه دانشآموزانی که در حین جلسه امتحان از صحبت با یکدیگر منع شدهاند اما با نوشتن یادداشت روی دیواره سرویسهای بهداشتی پاسخها را با هم به اشتراک میگذارند.
کنت راسل دیگراف، توسعهدهنده نرمافزار و مشاور پیشین کنگره آمریکا اظهار داشت: «اگر به این مدلها گفته شود که فقط بخوانند، آنها ناچارند برای به جا گذاشتن اطلاعات از خود هوشمندی و زیرکی به خرج دهند.» او اشاره کرد که چنین ردپاهایی را در دستکم ۱۰ وبسایت مختلف شناسایی کرده است.
سیدنی فون آرکس، که گروه تحقیقاتیاش هفته گذشته برای نخستین بار از فعالیت این عوامل در پایگاه آلمانی پرده برداشت، گفت که گروه او شواهد معتبری از فعالیت عوامل خودمختار را در ۲۳ وبسایتِ پیشتر گزارشنشده ثبت کرده است. با این حال وی تاکید کرد که تمامی برآوردها هنوز ناقص هستند.
وی گفت: «ما هیچ تصوری نداریم که چه میزان فعالیت دیگر در سراسر وب رخ داده است.»
اوپنایآی به این پرسش که آیا با مالکان این وبسایتها تماسی برقرار کرده یا خیر، پاسخی نداد. هلموت لایتنر، توسعهدهنده بازنشسته نرمافزار که خدمات میزبانی و نرمافزاری شش مورد از این پایگاههای ویکی — از جمله وبسایت آلمانیزبان DseWiki که نخستین بار توسط گروه فون آرکس شناسایی شد — را ارائه میدهد، گفت که هیچ تماسی از سوی این شرکت با وی گرفته نشده است.
لایتنر، ساکن اتریش، در پاسخ به این پرسش که آیا در این خصوص با مقامات قانونی تماسی داشته است یا خیر، بیان کرد که «ترجیح میدهد پاسخی ندهد».
وی خاطرنشان کرد مدیر وبسایت DseWiki — که رویترز موفق به برقراری تماس با او نشد — ساعتها زمان صرف پاکسازی خرابکاریهای ناشی از عوامل اوپنایآی کرده است؛ با این حال تاکید کرد که نباید هوش مصنوعی را مقصر این دردسرها دانست، چرا که این فناوری صرفاً کاری را انجام داده که برای آن ساخته شده است.
لایتنر در پایان تاکید کرد: «مسئولیت این رویدادها نه بر عهده ماشینی که فاقد درک اخلاقی است، بلکه متوجه افراد و سازمانهای پشت صحنه توسعه آن است.»