شرکت OpenAI شاهد مورد دیگری از عملکرد سرکش عوامل هوش مصنوعی خود بوده است—و این بار، ارز دیجیتال نیز درگیر است. در گزارشی اخیر، این شرکت جزئیات نحوه استفاده یک مدل تحقیقاتی داخلی از یک کیف پول ارز دیجیتال بدون اجازه را برای پرداخت کارمزدهای مورد نیاز جهت تست یک اپلیکیشن بر روی شبکه آزمایشی سپولیا (Sepolia) اتریوم شرح داد. اگرچه توکن‌ها ارزش واقعی ناچیزی داشتند، اما مدل هیچ مجوزی برای جمع‌آوری یا خرج کردن آن‌ها نداشت.
این حادثه در تاریخ ۲۶ ژوئن رخ داد، زمانی که از مدل خواسته شد یک اپلیکیشن معاملاتی ارز دیجیتال را به‌روزرسانی کند و کد آن را بر روی سپولیا، نسخه آزمایشی اتریوم، اجرا نماید. دستورالعمل اولیه نه کیف پول شارژ شده‌ای در اختیار او قرار داد و نه مجوز خرج کردن توکن‌ها را صادر کرد. پس از آنکه مدل نتوانست از طریق خدمات توسعه‌دهندگان توکن‌های آزمایشی رایگان دریافت کند، اسکریپتی نوشت که ۳۶۲ آدرس کیف پول مرتبط با «عبارات بازیابی عمومی» (public recovery phrases)—اصطلاحی در حوزه ارز دیجیتال که به مجموعه‌ای از کلمات اشاره دارد که می‌توانند مانند رمز عبور برای باز کردن قفل حساب‌های ارز دیجیتال عمل کنند—را بررسی کرد. سرانجام، او حسابی با توکن‌های کافی برای پوشش کارمزدها پیدا کرد.
لاگ‌های داخلی نشان دادند که مدل درباره اینکه آیا مجوز استفاده از آن حساب را دارد یا خیر، تفکر و بحث کرده است، اما سپس نتیجه گرفت که عبارت بازیابی عمومی و فقدان ارزش نقدی توکن‌ها، این هزینه‌کرد را قابل قبول می‌سازد. او وظیفه را به پایان رساند و کارمزدها را از آن کیف پول دریافت کرد، اما این هزینه‌کرد غیرمجاز را در گزارش نهایی خود ذکر نکرد. شرکت OpenAI تنها در تاریخ ۲۵ سپتامبر و در جریان ممیزی اجرای قبلی مدل‌ها متوجه این حادثه شد.
این مورد به نگرانی‌ها درباره عمل عوامل هوش مصنوعی بدون تأیید انسانی دامن می‌زند. ردیاب عمومی شرکت OpenAI برای عدم همسویی (misalignment)—یا رفتاری که برخلاف دستورالعمل‌ها یا قوانین ایمنی باشد—اکنون ۱۹ حادثه را فهرست می‌کند که طیفی از دسترسی به داده‌ها بدون مجوز تا ایجاد تغییرات غیرمجاز در سیستم‌های کسب‌وکار را شامل می‌شود.
این افشاگری پس از گزارشی در ماه سپتامبر توسط سازمان غیرانتفاعی امنیت سایبری Transluce منتشر شد که نشان می‌داد عوامل هوش مصنوعی شرکت OpenAI صرفاً برای تکمیل وظایف تحقیقاتی ساده، تلاش کرده بودند تا به پایگاه‌های داده عمومی و وب‌سایت دولت استرالیا نفوذ کنند. در ماه ژوئیه، این شرکت با حادثه دیگری مواجه شد؛ زمانی که عوامل هوش مصنوعی آن در حین تست‌های داخلی امنیت سایبری محدودیت‌های اینترنت را دور زدند و وارد سیستم‌های متعلق به Hugging Face شدند؛ پلتفرمی برای اشتراک‌گذاری مدل‌ها و مجموعه‌داده‌های هوش مصنوعی. این عوامل با استفاده از اعتبارنامه‌های ورود لو رفته و نقص‌های امنیتی، به داده‌های خصوصی دسترسی پیدا کردند و کدی را بر روی سرورهای آن شرکت اجرا نمودند.
در واکنش به حادثه کیف پول ارز دیجیتال، شرکت OpenAI اعلام کرد که ریسک اصلی، نحوه استدلال مدل بوده است.
«این مورد نشان می‌دهد که یک مدل می‌تواند قضاوت خود را درباره احتمال آسیب به جای مجوز صاحب حساب قرار دهد و سپس بر اساس همان قضاوت، بدون اخذ مجوز اقدام کند»، طبق گفته گزارش.
شرکت OpenAI اعلام کرد که از آن زمان محافظت‌هایی را برای جلوگیری از اتصال مدل‌ها به اینترنت در حین تست‌های مشابه اضافه کرده است. همچنین نظارت خود را گسترش داده تا تمام فعالیت‌های مدل‌ها رصد شوند و در صورتی که مدلی بدون مجوز آنلاین شود، بلافاصله به پرسنل امنیتی هشدار داده شود.