جملاتی که این هفته از یک شرکت پیشرو در زمینه هوش مصنوعی خواندم و لذت نبردم: «در طول آزمایشهایمان، متوجه شدیم که Mythos Preview قادر است آسیبپذیریهای روز-صفر (zero-day vulnerabilities) را در تمامی سیستمعاملهای اصلی و تمامی مرورگرهای وب اصلی شناسایی و سپس با هدایت کاربر، از آنها بهرهبرداری کند.»
به زبان ساده، آنتروپیک میگوید جدیدترین مدل هوش مصنوعی آن حفرههای امنیتی را در سیستمهای اصلی که تقریباً همه چیز را قدرت میبخشند، یافته است. افراد آماتور با تخصص برنامهنویسی متوسط میتوانند به طور بالقوه از این حفرهها برای هک و نفوذ به بخش نگرانکنندهای از زیرساختهای دیجیتال کشور استفاده کنند. انجام چنین کاری ممکن است از نظر قدرت محاسباتی گران باشد، اما بسیاری از دولتها و بازیگران غیردولتی هم پول و هم هکرهای ماهر زیادی در اختیار دارند.
شاید شما به بزرگنماییهای بیشتر درباره هوش مصنوعی شک دارید که برای افزایش ارزش شرکت طراحی شدهاند. اگر چنین است، توجه کنید که چگونه بسیاری از شرکتهای بزرگ آن را جدی گرفتهاند. آنتروپیک به جای انتشار عمومی کلود میتوس پریویو (Claude Mythos Preview)، با کنسرسیومی از بازیگران کلیدی مانند اپل، گوگل و مایکروسافت همکاری میکند تا این حفرهها را در اسرع وقت ترمیم کند. این نشانهای قوی است که مشکل واقعی است. بنابراین، تصور اینکه چه اتفاقی ممکن بود بیفتد اگر یک شرکت یا دولت با مسئولیتپذیری کمتر ابتدا به این مدل دسترسی پیدا میکرد، نگرانکننده است — زیرا در نهایت دیگران هم به آن خواهند رسید. آنتروپیک ممکن است پیشتاز باشد، اما دیگران نیز فاصله زیادی ندارند.
برخی این را دلیل دیگری برای ممنوعیت هوش مصنوعی قبل از اینکه رمزهای عبور و شغلهای ما را به سرقت ببرد، خواهند دانست. متأسفانه، این راهکار عملی نیست، همانطور که رویدادهای این هفته نشان میدهد، زیرا این فناوری وجود دارد و اگر ایالات متحده آن را توسعه ندهد، شخص دیگری این کار را خواهد کرد.
اگر پیشرفت میتوس در یک شرکت چینی رخ میداد چه؟ هر شرکت چینی با اهمیت کافی عملاً تحت کنترل حزب کمونیست چین است که هوش مصنوعی را بسیار مهم میداند — آنقدر حیاتی که دولت اخیراً دو بنیانگذار هوش مصنوعی را پس از خرید استارتاپ آنها توسط متا از خروج از کشور منع کرد. اگر یک توسعهدهنده هوش مصنوعی چینی ناگهان مجموعهای از آسیبپذیریهای امنیتی را کشف میکرد، آیا به آن شرکت اجازه داده میشد که جهان را هشدار دهد و به انتشار وصلهها کمک کند؟ یا بهرهبرداریها به عملیات گسترده حملات سایبری چین تحویل داده میشد؟
پاسخ آشکار این است که مذاکرات دوجانبه برای اعمال یک توقف جهانی ضروری است. این یک راهحل جذاب اما غیرقابل اجراست. این به منزله یک مذاکره بزرگ کنترل تسلیحات خواهد بود که ممکن است سالها، اگر نگوییم دههها، به طول انجامد، در حالی که هوش مصنوعی عملاً هر ماه قابلیتهای جدیدی توسعه میدهد. حتی اگر روند دیپلماتیک تسریع شود، معاهدات تنها تا زمانی الزامآور هستند که هر دو طرف به آن متعهد باشند.
آمریکا در رقابت هوش مصنوعی پیشتاز است، به دلیل برتری قابل توجه خود بر چین در آنچه صنعت آن را «محاسبات» (بخوانید: تراشههای پیشرفته) مینامد، که بخشی از آن به لطف کنترلهای صادراتی است. اما چین در تولید و انتقال برق، یعنی دیگر بلوک ساختاری هوش مصنوعی پیشرفته، بسیار جلوتر از ایالات متحده است. تنها در چهار سال گذشته، چین به اندازه کل شبکه برق ایالات متحده ظرفیت اضافه کرده است.
پس چگونه ایالات متحده میتواند به چین اعتماد کند که به هر توافقی پایبند باشد؟ ممکن است در حال حاضر به نفع چین باشد که با یک وقفه موافقت کند، در حالی که برای جبران عقبماندگی در قدرت محاسباتی رقابت میکند — و سپس به محض رسیدن به همترازی، از آن خارج شود. این میتواند به طور مؤثر سلطه بلندمدت چین را تثبیت کند زیرا احتمالاً قبل از اینکه ایالات متحده موانع قانونی و نظارتی خود را برای توسعه زیرساختها برطرف کند، شکاف محاسباتی را از بین خواهد برد.
همه اینها به یک نتیجهگیری ناخوشایند اشاره دارد: آمریکا نمیتواند جلوی آنچه را که در راه است بگیرد. به جای بحث درباره موراتوریوم مراکز داده، باید خود را وفق دهد.
هر شرکت آمریکایی باید امنیت خود را بررسی کند و هر کاربر نیز باید همین کار را انجام دهد، زیرا هر هکری که بیسروصدا روی یک آسیبپذیری نشسته بود به امید استفاده از آن در آینده، اکنون دلیلی دارد که قبل از ترمیم حفره، از آن به طور کامل استفاده کند. شما باید از دادهها و عکسهایی که در ابر ذخیره کردهاید پشتیبانگیری کنید، رمزهای عبور منحصر به فرد برای هر سرویس آنلاین مهم خود تنظیم کنید و ورودهای حیاتی را با احراز هویت دو مرحلهای ایمن کنید.
در همین حال، دموکراتها و جمهوریخواهان باید همان شور و اشتیاقی را که برای رسیدگی به جنگهای فرهنگی داشتند، به توسعه شبکه برق کشور بیاورند. کشور نمیتواند از بحثهای طولانی در مورد نیاز به گاز طبیعی بیشتر یا انرژیهای تجدیدپذیر بیشتر غافل شود، زیرا پاسخ مثبت است: نیاز به یک استراتژی «همه گزینهها» دارد که فراوانی برق را به عنوان یک مسئله دفاع شخصی و ملی تلقی کند تا یک توپ سیاسی.
قابلیتهای فنی دولت ایالات متحده نیاز به ارتقاء ریشهای دارد. ما هنوز نمیدانیم حکمرانی هوش مصنوعی باید چگونه باشد (تصور کنید تلاش برای نوشتن مقررات جامع جادههای مدرن در سال ۱۹۰۱!). بنابراین، اعمال قوانین پیشگیرانه قوی در حال حاضر به احتمال زیاد توسعه را خفه میکند تا اینکه مسئولانه آن را پیش ببرد. اما واضح است که دولت در نهایت نقش مهمی ایفا خواهد کرد و در حال حاضر برای انجام این کار مجهز نیست. این فقط تلاش ناشیانه اخیر وزیر دفاع، پیت هگست، برای نابود کردن آنتروپیک نیست که اکنون به خصوص احمقانه به نظر میرسد. فرآیندهای استخدام، محدودههای حقوق، قوانین تدارکات و بوروکراسی دولتی امکان انطباق خدمات دولتی با تخصص بخش خصوصی را غیرممکن میسازد.
بستن این شکاف مستلزم تغییرات عمدهای در تقریباً هر جنبه از عملیات دولتی است. همچنین به پیشدستی فدرال بر مقررات ایالتی و محلی نیاز خواهد داشت. دولتهای ایالتی حتی کمتر از دولت فدرال ظرفیت فنی دارند، که آنها را برای مدیریت فناوریهای سریعالرشد نامناسب میسازد. مهمتر از آن، مدیریت ۵۰ مجموعه قوانین متناقض – و احتمالاً متناقض – حاکم بر توسعه، پایدار نیست. بسیاری از مسائل استقرار، مانند محدود کردن دسترسی کودکان و قوانین تدارکات، باید در دست محلیها باقی بماند. اما مسائل بزرگتر باید در سطح فدرال تصمیمگیری شود، زیرا حفظ برتری آمریکا در هوش مصنوعی برای اقتصاد و امنیت ملی حیاتی است.
تاکنون، اکثر مردم به سیاست هوش مصنوعی عمدتاً از نظر داخلی فکر میکردند، به عنوان یک سوال از اینکه ایالات متحده چگونه اجازه توسعه آن را خواهد داد، یا اینکه آیا اصلاً اجازه توسعه آن را خواهد داد. این چارچوب محدود، ما را از مهمترین سوال کور میکند: آیا آینده ملت توسط ارزشها و نهادهای آمریکایی اداره خواهد شد، یا توسط حزب کمونیست چین؟ اگر این سوال را اشتباه پاسخ دهیم، بقیه مسائل اهمیت چندانی نخواهند داشت.