مدیران ارشد در شرکت‌های آنتروپیک، اوپن‌ای‌آی و سایر شرکت‌های هوش مصنوعی، به‌صورت خصوصی سناریوهای شورش عمومی و سیاسی پس از یک رویداد فاجعه‌بار هوش مصنوعی را شبیه‌سازی می‌کنند.
چرا اهمیت دارد: این مقامات انتظار دارند که یک رویداد بزرگ‌مقیاس، احتمالاً یک حمله سایبری، دسترسی به خدمات مالی، اتصال اینترنتی یا حتی برق و آب را مختل کند.
- نخستین نمونه از آسیب جدی دنیای واقعی ناشی از هوش مصنوعی ناایمن، افکار عمومی که پیش‌تر نیز محتاط بودند را علیه این فناوری و رهبران آن، از جمله داریو آمودی، مدیرعامل آنتروپیک و سم آلتمن، مدیرعامل اوپن‌ای‌آی، و همچنین رئیس‌جمهور ترامپ به دلیل بی‌میلی‌اش نسبت به تنظیم مقررات، بیشتر خواهد کرد.
سطح تهدید: اگرچه برنامه‌ریزی سناریو در بسیاری از شرکت‌ها و نهادهای امنیت ملی رایج است — پنتاگون دهه‌هاست که بازی‌های جنگی را اجرا می‌کند — اما تفاوت اینجاست که بسیاری از پژوهشگران و مدیران ارشد هوش مصنوعی معتقدند یک حادثه بزرگ اجتناب‌ناپذیر است.
- «اوپن‌ای‌آی تمرینات آمادگی انجام می‌دهد که در آن تیم‌ها طیفی از سناریوهای احتمالی را بحث و بررسی می‌کنند»، به گفته سخنگوی این شرکت. «این سناریوها به عنوان اجتناب‌ناپذیر تلقی نمی‌شوند، بلکه برای کمک به ما در آماده‌سازی برای شرایط مختلف طراحی شده‌اند.»
- آنتروپیک از اظهار نظر خودداری کرد.
جزئیات بیشتر: بازی سرزنش آغاز خواهد شد، خواه یک گله‌ی عوامل سرکش از محیط آزمایش داخلی فرار کند و یا یک عامل مخرب راه‌های غیرمنتظره‌ای برای استفاده از مدل‌های موجود پیدا کند.
- کمپین اخیر علیه سازمان‌های مالی کره جنوبی — از جمله نقض امنیتی گزارش‌شده در دو بانک — نشان می‌دهد که یک نفر چه آسیبی می‌تواند وارد کند.
- به گفته شرکت امنیت سایبری کراود استرایک، یک هکر از چین ظاهراً از ابزارهای هوش مصنوعی مدل‌های توسعه‌یافته در چین، از جمله دیپ‌سیک (DeepSeek)، برای سرقت داده‌های ده‌ها هزار مشتری بانک استفاده کرده است. مهاجم از کلاد کد (Claude Code) درخواست کمک کرد تا مکان‌هایی برای فروش داده‌های سرقت‌شده پیدا کند.
برنامه‌ریزان ارشد هوش مصنوعی فرض را بر این گذاشته‌اند که دموکرات‌ها، پس از پیروزی در انتخابات میان‌دوره‌ای، به سرعت اقدام به خاموش کردن هوش مصنوعی خواهند کرد، اما با چالش‌های قابل توجهی روبرو خواهند شد.
- یک کنگره مسن و دور از انقلاب هوش مصنوعی ممکن است احساس کند از عهده موضوع برنمی‌آید.
- اقتصاد جهانی اکنون به شدت با زیرساخت‌های هوش مصنوعی گره خورده است. کند کردن این روند می‌تواند ضربه سختی به اقتصاد شکننده فعلی وارد کند.
- بسیاری از مدل‌های با وزن باز (Open-weight models) هم‌اکنون به صورت رایگان قابل دانلود هستند و می‌توان از آن‌ها برای ایجاد آسیب استفاده کرد؛ مشکلی که اکثر متخصصان امنیت سایبری تنها راه حل آن را استفاده از هوش مصنوعی برای مبارزه با هوش مصنوعی سرکش می‌دانند.
آنچه پشت پرده است: این برنامه‌ریزی شامل تیم‌های قرمز (Red-teaming) برای بدترین سناریوهاست. تمرکز اصلی بر تلاش برای آگاه‌سازی اعضای کنگره است.
- مدیران شرکت‌ها می‌دانند که تصویب مقررات در حال حاضر هیچ شانسی ندارد، اما همچنان می‌خواهند قانون‌گذاری و سیاست‌هایی را که رهبران آمریکا پس از اولین رویداد فاجعه‌بار به آن روی خواهند آورد، شکل دهند.
آنچه تحت نظارت داریم: بسیاری از کارشناسان صنعت هوش مصنوعی به اکسیوس گفتند که معتقدند رویدادی بزرگ در شش تا ۱۲ ماه آینده رخ خواهد داد.
- حتی با کنترل دموکرات‌ها بر مجلس نمایندگان و سنا، شرکت‌ها سیاست‌های تفرقه‌انگیز را به عنوان وضع عادی می‌بینند، از جمله درون حزب دموکرات.
- برخی از سنگین‌ترین پیشنهادات دموکرات‌ها شامل ممنوعیت فوق‌هوش (Superintelligence) یا توقف توسعه هوش مصنوعی پیشرفته است.
- دیگر پیشنهادات حمایت دو حزبی و حتی پذیرش برخی از صنایع را جلب کرده‌اند، از جمله الزام به وجود یک کلید خاموش‌کن اضطراری (Kill switch) در سیستم‌های هوش مصنوعی پیشرفته. اما کارشناسان معتقدند...