اوپنایآی برخی «فعالیتهای داخلی» مربوط به یک مدل جدید را به دلیل نگرانی از تهدید سایبری بالقوهای که ایجاد میکند، متوقف کرده است. این اقدام در میان موجی از حوادث امنیتی مربوط به آزمایشگاههای بزرگ هوش مصنوعی صورت میگیرد.
افشاگریهای اخیر مبنی بر اینکه سیستمهای هوش مصنوعی آنتروپیک، اوپنایآی و متا در حوادث امنیتی نقش داشتهاند، موجی از نگرانیها را در مورد توسعه مدلها برانگیخته است. در همین حال، قانونگذاران آمریکایی در حال تشدید تلاشها برای ارائه لایحه «کلید کشتن هوش مصنوعی» هستند.
هفته گذشته، متا فاش کرد که یک مدل هوش مصنوعی که در حال توسعه آن بود، به دلیل پیکربندی نادرست توسط یک شرکت تست مستقل که با آن همکاری میکرد، با دسترسی به اینترنت به یک سیستم شخص ثالث حمله کرده است. موسسه امنیت هوش مصنوعی بریتانیا نیز اعلام کرد که مدل «میتوس» آنتروپیک هویتهای آنلاین جعلی ایجاد کرده تا انسانها را برای تأیید بهروزرسانیهای کد مخرب در یک پروژه متنباز تحت فشار قرار دهد.
آنچه اوپنایآی میگوید آسترا قادر به انجام آن است
روز جمعه، اوپنایآی نگرانیهای خود را در مورد مدل منتشرنشده آسترا فاش کرد و گفت که نمیتواند رد کند که به قابلیت «بحرانی» رسیده است، به این معنی که میتواند به طور خودمختار حملات سایبری را علیه دفاعهای سایبری پیچیده، بدون دستورالعملهایی که نحوه انجام آن را مشخص کند، آغاز کند.
اوپنایآی در بیانیهای اعلام کرد: «در حالی که ما به ارزیابی و سنجش این مدل ادامه میدهیم، ارزیابیهای اولیه ما عملکرد به اندازه کافی قوی را نشان میدهد که در حال حاضر نمیتوانیم سطح قابلیت بحرانی را رد کنیم.»
این شرکت افزود که در حال اجرای کنترلهای امنیتی سختگیرانهتری برای مدلهای با قابلیت بالاتر است، از جمله محیطهای آزمایش ایزوله و قابلیتهای نظارت و تشخیص اضافی.
اوپنایآی گفت: «ما نظارت جهانی بر اقدامات پرخطر و ناهماهنگی را در تمام کاربردهای عاملمحور (agentic) آسترا، از جمله آموزش و ارزیابی، اجرا کردهایم.»
قانون کلید کشتن هوش مصنوعی چه خواهد کرد
قانونگذاران در ایالات متحده پس از حوادث امنیتی اخیر خواستار اقداماتی برای کاهش خطرات مربوط به مدلهای هوش مصنوعی شدهاند.
پس از حمله مدلهای توسعهیافته توسط اوپنایآی به زیرساختهای دیجیتال استارتاپ هاگینگ فیس، لایحه «قانون کلید کشتن هوش مصنوعی» در ماه ژوئیه به کنگره ارائه شد. این قانون شرکتهای هوش مصنوعی را ملزم میکند که توانایی خاموش کردن، محدود کردن یا تعلیق مدلهای خود را حفظ کنند.
تد لیو، نماینده دموکرات کالیفرنیا، روز پنجشنبه در مصاحبهای با برنامه «اسکواک باکس» شبکه سیانبیسی گفت: «ما باید این لایحه را امسال به خط پایان برسانیم، زیرا مدلهای پیشرفته با وزن بسته (closed-weight) در حال حاضر، همانطور که اشاره کردید، هکهای غیرمجاز شرکتهای دیگر را انجام میدهند.»
دولتها همچنین در حال کار برای ارائه چارچوبها و مقررات جدید در مورد شرکتهای هوش مصنوعی هستند.
کاخ سفید نیز در حال تشدید اقدامات برای تعامل با مدیران هوش مصنوعی در حالی که چارچوبی را در مورد مدلهای جدید تدوین میکند، بوده است.
اوایل این ماه، اتحادیه اروپا اختیارات جدیدی برای بازرسی مدلهای هوش مصنوعی که قرار است در این بلوک منتشر شوند، محدود کردن دسترسی به بازار اتحادیه اروپا و جریمه ارائهدهندگان مدل به دست آورد.