تصمیم دولت ترامپ برای وادار کردن شرکت اَنتروپیک (Anthropic) به تعلیق پیشرفتهترین مدلهای هوش مصنوعی خود، تنها چند روز پس از انتشار عمومی آنها توسط این شرکت ۹۰۰ میلیارد دلاری، صنعت هوش مصنوعی را غافلگیر کرده و سوالاتی را در مورد رویکرد واشنگتن به این فناوری مطرح کرده است.
وزارت بازرگانی آمریکا روز جمعه کنترلهای صادراتی را بر جدیدترین مدلهای اَنتروپیک، یعنی Fable و Mythos، اعمال کرد. این اقدام استفاده از این فناوری را برای اتباع خارجی ممنوع کرده و شرکت را وادار کرد تا هر دو سیستم را برای همه کاربران به حالت تعلیق درآورد.
به گفته فردی نزدیک به شرکت، اَنتروپیک ۹۰ دقیقه فرصت داشت تا از این دستور تبعیت کند و پیش از صدور دستور، نگرانیهای جزئی به آن ارائه نشد.
در طول آخر هفته، این شرکت یک تیم فنی ارشد را به واشنگتن اعزام کرده است تا پیامدهای این موضوع را مهار کند.
به گفته فردی آگاه به موضوع، این دستور پس از گزارشی از محققان آمازون صادر شد که در آن یک «گذر از محدودیتها» (jailbreak) بالقوه در Fable شناسایی شده بود؛ راهی برای دور زدن مکانیزمهای حفاظتی مدل و استخراج اطلاعات در مورد آسیبپذیریهای امنیتی در نرمافزار. آمازون ابتدا یافتههای خود را با اَنتروپیک به اشتراک گذاشته بود.
به گفته افراد آگاه، اندی جاسی، مدیر عامل آمازون، روز جمعه این موضوع را با مقامات آمریکایی در میان گذاشت. جاسی، که شرکتش ۱۳ میلیارد دلار در اَنتروپیک سرمایهگذاری کرده است، به جای تمرکز خاص بر مسائل مربوط به اَنتروپیک، نگرانیهای گستردهتری را در مورد قابلیتهای مدلهای پیشرفته مطرح کرده بود.
آمازون اظهار داشت: «عادی است که دولتها در مورد خطرات امنیتی احتمالی از ما مشورت بگیرند. در چنین مواردی، ما جزئیات این بحثها را به اشتراک نمیگذاریم.»
به گفته افراد نزدیک به موضوع، مدل Fable توسط آژانسهای داخلی همین وزارتخانه، روزها قبل از انتشار، برای راهاندازی آزمایش و تأیید شده بود.
اَنتروپیک نسبت به هدف قرار گرفتن مدلهایش توسط دولت اعتراض دارد و استدلال میکند که قابلیت شناساییشده منحصربهفرد نیست و میتواند در سیستمهای رقیب، از جمله مدلهای توسعهیافته توسط OpenAI، نیز نشان داده شود.
به گفته کارشناسان امنیتی، رفع این نوع مشکل هفتهها تحقیق و توسعه نیاز دارد، بدون تضمین اینکه موارد جدیدی ظاهر نخواهند شد. فردی نزدیک به اَنتروپیک گفت که این شرکت در حال همکاری نزدیک با دولت برای یافتن زمینه مشترک و تعیین گامهای بعدی است.
این درگیری به عنوان اولین آزمون نحوه نظارت دولت ترامپ بر مدلهای هوش مصنوعی که روز به روز قدرتمندتر میشوند، در حال ظهور است. مدیران و محققان میگویند که استفاده از کنترلهای صادراتی برای رفع یک نگرانی ایمنی مدل، خطر ایجاد عدم قطعیت در مورد استقرار هوش مصنوعی پیشرفته را به همراه دارد.
هلن تونر، عضو سابق هیئت مدیره OpenAI و مدیر اجرایی مرکز امنیت و فناوریهای نوظهور در دانشگاه جورجتاون، گفت: «این یک واقعیت مورد توافق گسترده است که شما نمیتوانید مشکلات گذر از محدودیتها را در این مدلها به طور کامل رفع کنید؛ این یک علم بسیار نامشخص است. قطعاً دولت باید انتظار داشته باشد که مدلهای OpenAI و گوگل نیز قادر به انجام کارهای مشابهی هستند.»
با این حال، توقف دولتی شامل مدلهای پیشرو رقیب اَنتروپیک، یعنی OpenAI، نمیشود، با وجود اینکه آنها قابلیتهای مشابهی را نشان دادهاند.
این مداخله به ویژه قابل توجه است زیرا داریو آمودی از اَنتروپیک در میان پر سر و صداترین رهبران هوش مصنوعی بوده که درباره خطرات ناشی از مدلهای با قابلیت فزاینده هشدار داده است.
سیستم Mythos این شرکت توانایی غلبه بر برخی دفاعیات سایبری موجود را نشان داده است و این شرکت پیش از انتشار گستردهتر آن در هفته گذشته، با مقامات دولتی در مورد یک عرضه کنترلشده کار میکرد.
این دستور پس از آن صادر شد که مقامات ارشد دولتی در مورد مسائلی از جمله مقررات هوش مصنوعی و استفاده از فناوری اَنتروپیک در نظارت داخلی و تسلیحات مستقل کشنده، به طور علنی با رهبری اَنتروپیک اختلاف پیدا کردند. پنتاگون اَنتروپیک را به عنوان یک خطر زنجیره تأمین برای امنیت ملی معرفی کرده است و دو طرف در مورد این نامگذاری درگیر پرونده قضایی هستند.
دولت ترامپ این اقدام را یک تدبیر امنیت ملی توصیف کرده و آن را بیارتباط با آن اختلافات دانسته است. یک مقام آمریکایی به فایننشال تایمز گفت که رفع مشکل گذر از محدودیتها میتواند بنبست کنونی را حل کند.
اما پیت هگست، وزیر دفاع، این اتفاق را به انتقادات خود از اَنتروپیک مرتبط دانست و در پستی در X (توییتر سابق) نوشت که وزارتخانهاش پیش از این شرکت را «برای همیشه از ساختمان ما بیرون کرده بود»، و افزود: «هر روز که میگذرد ثابت میکند که آن اقدام درست بود.»
با این حال، مقامات آمریکایی و مدیران شرکت گفتند که پنتاگون و سایر آژانسهای ایالات متحده همچنان از پیشرفتهترین مدلهای اَنتروپیک استفاده میکنند.
کمیسیون اروپا، که اخیراً به جدیدترین مدلهای اَنتروپیک دسترسی پیدا کرده است، گفت که در حال ارزیابی پیامدهای این دستور بر شهروندان خود است.
کمیسیون اعلام کرد: «این مدلها مزایای قابل توجهی از جمله برای دفاع سایبری ارائه میدهند، اما نگرانیهای جدی امنیت سایبری را نیز به وجود میآورند که باید مورد توجه قرار گیرند. این یک چالش مشترک است، نه محدوده به یک حوزه قضایی یا شرکت واحد. ما معتقدیم که تدابیر احتیاطی که در این راستا اتخاذ میشوند نباید تبعیضآمیز علیه شرکا باشند.»
تونر گفت: «اهرمی که آنها انتخاب کردهاند، یعنی کنترل صادرات، برای آنچه که میخواهند انجام دهند، بسیار نامناسب است. این امر مانع از استفاده دولتهای خارجی از آن میشود و اکنون زمانی است که متحدان باید از آن برای دفاع سایبری استفاده کنند.»
کاخ سفید پیش از این رویکردی کمتر مداخلهجویانه در مورد استقرار مدلهای پیشرفته را اعلام کرده بود. یک فرمان اجرایی که اوایل این ماه امضا شد، شامل مکانیزمی برای دولت آمریکا برای جلوگیری از انتشار یک مدل نبود.
فردی نزدیک به OpenAI گفت که شرکتهای پیشرو هوش مصنوعی با دولت برای اجرای فرمان اجرایی همکاری کردهاند.
این فرد افزود که در روزهای اخیر، صنعت در تلاش بوده تا اطمینان حاصل کند که محققان ملیتهای خارجی میتوانند به کار بر روی توسعه پیشرفتهترین مدلها ادامه دهند، عملی که دستور اَنتروپیک اکنون آن را ممنوع کرده است.
کتی موسوریس، محقق و مدیر عامل گروه امنیت سایبری Luta Security که نسخهای از یافتههای آمازون را از اَنتروپیک دریافت کرده بود، گفت که قابلیتهای شناسایی شده توسط آمازون، از جمله توانایی شناسایی آسیبپذیریهای سایبری بالقوه، غیرمعمول نیستند. او گفت که مدلهای رقیب، مانند GPT 5.5 از OpenAI، قادر به انجام همین کار هستند.
موسوریس گفت که مکانیزمهای حفاظتی مدل به خوبی کار میکردند. او اظهار داشت: «دولت اشتباه کرده است.»
کاخ سفید از اظهار نظر خودداری کرد.
گزارشهای تکمیلی از ماری نوویک در بروکسل