مروری کوتاه
شرکت Anthropic اعلام کرده است که انتظار دارد پس از تکمیل آزمایشهای اضافی، مدل هوش مصنوعی Claude Mythos خود را «در هفتههای آینده» در اختیار مشتریان قرار دهد. Claude Mythos پس از آنکه محققان دریافتند این مدل میتواند به طور مستقل آسیبپذیریها را شناسایی کرده و حملات سایبری پیچیده را انجام دهد، مورد بررسی دقیق قرار گرفته است. Anthropic دسترسی به Claude Mythos را از طریق برنامه Project Glasswing خود محدود کرده است.
شرکت Anthropic روز پنجشنبه اعلام کرد که انتظار دارد دسترسی به مدلهای هوش مصنوعی Claude Mythos خود را «در هفتههای آینده» گسترش دهد؛ این نشان میدهد که این شرکت ممکن است به زودی از عرضه بسیار محدود سیستم متمرکز بر امنیت سایبری فراتر رود.
Anthropic همزمان با معرفی مدل جدید Opus 4.8 خود گفت: «ما در توسعه این تدابیر امنیتی به سرعت پیشرفت میکنیم و انتظار داریم بتوانیم مدلهای کلاس Mythos را در هفتههای آینده به همه مشتریان خود عرضه کنیم.»
این بیانیه واضحترین نشانه از سوی Anthropic است که گسترش دسترسی به Mythos در دست اقدام است، پس از ماهها هشدار از سوی محققان، دولتها و کارشناسان امنیت سایبری در مورد قابلیتهای این مدل.
Anthropic نگفت که چه تدابیر امنیتی دیگری باید قبل از عرضه گستردهتر Mythos تکمیل شود، یا اینکه آیا همه مشتریان پس از گسترش دسترسی به این مدل، سطح دسترسی یکسانی خواهند داشت.
Anthropic بلافاصله به درخواست Decrypt برای اظهار نظر پاسخ نداد.
کاربران در Myriad – یک پلتفرم پیشبینی بازار که توسط شرکت مادر Decrypt، Dastan، اداره میشود – به طور فزایندهای معتقدند که این مدل تا پایان ماه ژوئن منتشر خواهد شد و احتمال آن را تا زمان نگارش این مطلب 44 درصد میدانند. این رقم از 17.5 درصد صبح امروز افزایش یافته است.
Claude Mythos اولین بار در ماه مارس پس از درز پیشنویس مطالب وبلاگ Anthropic به صورت آنلاین، ظاهر شد. در آن زمان، Anthropic Mythos را «قدرتمندترین مدل هوش مصنوعی که تا به حال توسعه دادهایم» توصیف کرد و آن را به عنوان یک رده جدید بالاتر از مدلهای پیشرفته Opus این شرکت قرار داد.
این شرکت نوشت: «اگرچه Mythos در حال حاضر در قابلیتهای سایبری بسیار جلوتر از هر مدل هوش مصنوعی دیگری است، اما موجی از مدلهای آتی را پیشبینی میکند که میتوانند آسیبپذیریها را به روشهایی بسیار فراتر از تلاشهای مدافعان، مورد سوءاستفاده قرار دهند.»
Anthropic از آن زمان دسترسی به Mythos را از طریق Project Glasswing، برنامهای که به شرکتهای فناوری منتخب، محققان امنیتی و شرکای دولتی اجازه دسترسی به این مدل را تحت شرایط کنترل شده میدهد، محدود کرده است.
این شرکت استدلال کرده است که Mythos میتواند به مدافعان کمک کند تا آسیبپذیریهای نرمافزاری را قبل از سوءاستفاده مهاجمان شناسایی و رفع کنند. با این حال، محققان امنیتی و آژانسهای دولتی هشدار دادند که همین قابلیتها میتوانند حملات سایبری را تسریع کنند.
این نگرانیها پس از آن تشدید شد که مؤسسه امنیت هوش مصنوعی بریتانیا دریافت که Mythos میتواند به طور مستقل یک حمله شبیهسازی شده 32 مرحلهای به شبکه شرکت را در طول آزمایش تکمیل کند. در ماه آوریل، Mozilla گفت که Mythos 271 آسیبپذیری را در فایرفاکس در طول ارزیابیهای امنیتی داخلی شناسایی کرده است. در اوایل این ماه، شرکت استارتاپی امنیتی Calif ادعا کرد که یک نسخه پیشنمایش از مدل Mythos به محققان کمک کرد تا یک زنجیره حمله علیه تراشههای M5 Mac اپل ایجاد کنند.
این مدل همچنین بخشی از یک بحث گستردهتر در صنعت هوش مصنوعی در مورد نحوه انتشار سیستمهای پیشرفته و اینکه آیا توسعهدهندگان هوش مصنوعی از ترس از یک آخرالزمان هوش مصنوعی برای تبلیغ محصولات خود استفاده میکنند، شده است.
سم آلتمن، مدیرعامل OpenAI، در مصاحبهای با پادکست «Core Memory» در ماه گذشته، Anthropic را به استفاده از «بازاریابی مبتنی بر ترس» متهم کرد و استدلال کرد که هشدارها در مورد خطرات امنیت سایبری میتواند به توجیهی برای محدود کردن دسترسی به سیستمهای هوش مصنوعی قدرتمند تبدیل شود.