رهبران سه تن از قدرتمندترین شرکتهای هوش مصنوعی صنعت، خواستار پیمانی برای کند کردن رقابت شدید خود هستند، در حالی که به صورت خصوصی درباره ایجاد یک نهاد ایمنی جدید گفتگو میکنند و از ترس خود از خارج شدن کنترل هوش مصنوعی از دست خبر میدهند.
رئیسجمهور دونالد ترامپ که هوش مصنوعی را محور اصلی برنامه اقتصادی خود قرار داده است، در جهت مخالف حرکت میکند.
ترامپ در اظهاراتی که یکشنبه در ایرلند مطرح کرد، به نظر میرسید پیشنهادات مبنی بر اینکه شرکتها باید پیشرفت خود را کند کنند را رد کند. رئیسجمهور روز دوشنبه نیز در پستی در شبکههای اجتماعی پیگیری کرد و گفت که تنها ضامن امنیت ملت، وجود یک رهبر قوی است.
«ما از قبل قدرت جنایی و نظارتی فوقالعادهای بر این شرکتها داریم!» ترامپ در سایت Truth Social نوشت. «توطئهای بیمار علیه هوش مصنوعی و مراکز داده در جریان است و تنها کسی که از این موضوع خوشحال است چین است. هر کس در هوش مصنوعی پیروز شود، پیروز کل بازی است!»
اظهارات رئیسجمهور تنها یک روز پس از آن مطرح شد که داریو آمودئی، مدیرعامل شرکت پیشرو هوش مصنوعی Anthropic، مقالهای آنلاین منتشر کرد و خواستار آن شد که صنعت موافقت کند تا سرعت توسعه هوش مصنوعی را محدود کند تا تدابیر ایمنی فرصت جبران عقبماندگی را پیدا کنند. ظرف چند ساعت، این ایده به صورت علنی توسط سام آلتمن، مدیرعامل OpenAI سازنده ChatGPT؛ دمیس حسابی، رئيس سابق تاثیرگذار واحد هوش مصنوعی گوگل؛ و ایلان ماسک، مدیرعامل SpaceX مورد تایید قرار گرفت.
حتی پیش از این نمایش علنی اتحاد، Anthropic، OpenAI و گوگل در حال بحث درباره احتمال ایجاد یک نهاد جدید صنعتی برای تعیین استانداردهای ایمنی برای این بخش پرشتاب بودند، طبق گفته سه نفر آشنا با مذاکرات که به شرط ناشناس ماندن برای توصیف گفتگوهای خصوصی صحبت کردند. این بحثها نخستین بار توسط سایت خبری صنعت فناوری The Information گزارش شده بود.
ایجاد یک نهاد استاندارد میتواند سنگ بنایی برای رسیدن به توافقی جهت کاهش سرعت توسعه هوش مصنوعی باشد. آمودئی در مقاله شنبه خود به چشمانداز موثری برای یک نهاد ایمنی هوش مصنوعی اشاره کرد که در ماه ژوئیه توسط حسابی، که همچنان نقش ارشدی در گوگل دارد، پیشنهاد شده بود.
حابی روز شنبه پیشنهاد قبلی خود را به ایده کند کردن توسعه هوش مصنوعی مرتبط ساخت. «مقاله داریو مسیر درست پیش رو را نشان میدهد»، حابی در پستی در X که از درخواست آمودئی برای کند کردن هوش مصنوعی حمایت میکرد، نوشت. «این دلیل دیگری است که ما اخیراً پیشنهاد خود را برای یک نهاد استاندارد صنعتی برای هوش مصنوعی مرزی ارائه دادیم.»
گفتگوهای عمومی و خصوصی درباره کند کردن و تنظیم مقررات توسعه هوش مصنوعی، افق بیسابقهای را پیش روی شرکتهای پیشرو در دره سیلیکونِ بدنام به عنوان محیطی رقابتی و بیرحم قرار میدهد که داوطلبانه رقابت را ملایمتر کنند.
«پیشرفت سریع بوده و ادامه خواهد داشت. اما باید کندتر باشد»، آلتمن در پستی در X در اواخر یکشنبه نوشت. «هیچ مقدار فشار رقابتی آمریکایی نباید بیاحتیاطی را توجیه کند.»
درخواستها برای کند کردن و قوانین جدید صنعتی قرار است طوفان سیاسی بر سر اینکه آیا دولت آمریکا باید هوش مصنوعی را سختتر تنظیم کند، با پیامدهای ملی و ژئوپلیتیکی، تشدید کند.
اما رهبران جمهوریخواه از جمله ترامپ و مایک جانسون، رئیس مجلس نمایندگان، بارها نسبت به یا در مخالفت با مقررات جدید هوش مصنوعی تردید یا مخالفت خود را ابراز کردهاند و به ضرورت پیشی گرفتن از چین در این فناوری حیاتی اشاره کردهاند.
معاون رئیسجمهور ونس به خبرنگاران گفت که او فکر میکند خطراتی در هوش مصنوعی وجود دارد، اما نسبت به درخواستهای صنعت برای دخالت دولت بدبین است.
«کمی عجیب است که این همه شرکت فناوری هوش مصنوعی مرزی به دولت مراجعه میکنند و التماس میکنند که دولت آنها را تنظیم کند»، ونس گفت. «به من شبیه یک اسب تروآ به نظر میرسد.»
آمودئی در مقاله خود نوشت که امیدوار است در نهایت امکان دستیابی به یک توافق جهانی برای کند کردن توسعه هوش مصنوعی که شامل چین نیز بشود، فراهم آید، اما این کار خطرناک خواهد بود. «اگر ما تواناییهای هوش مصنوعی خود را به شدت محدود کنیم به این باور که چین نیز همین کار را خواهد کرد و سپس چین از توافق سر باز زند، هوش مصنوعی ممکن است چنان قدرتمند باشد که چنین نقض تعهدی منجر به سلطه ژئوپلیتیکی آنها شود»، او نوشت.
سخنگوی OpenAI به پست وبلاگی هفته گذشته شرکت اشاره کرد که در آن آمده بود این شرکت میخواهد با دیگران در صنعت برای تعیین استانداردها همکاری کند.
«ما وارد فاز متفاوتی از قابلیتهای هوش مصنوعی شدهایم و همه چیز باید روی میز باشد — از جمله بررسی آنچه میتوان به صورت داوطلبانه خارج از دولت به عنوان یک گام فوری ساخت»، کریس لهین، مسئول امور جهانی OpenAI نوشت. (واشینگتن پست شراکت محتوایی با OpenAI دارد.)
سخنگوی گوگل به پست X حابی که از درخواست آمودئی برای کند کردن توسعه حمایت میکرد، اشاره کرد. Anthropic به درخواست برای اظهار نظر پاسخ نداد.
هشدارهای مکرر
این آخر هفته دور از اولین باری نبود که رهبران هوش مصنوعی آمریکا پیشبینیهای صریحی از خطرات عظیمی که فناوری آنها میتواند ایجاد کند، یا نیاز به مهار توسعه آن ارائه داده بودند.
آلتمن در سال ۲۰۲۳ به کنگره گفت که فناوری شرکت او میتواند «آسیب قابل توجهی به جهان وارد کند» و خواستار ایجاد یک اداره دولتی جدید برای تنظیم مقررات هوش مصنوعی شد. آمودئی در سال ۲۰۲۵ پیشنهاد کرد که معتقد است احتمال ۱ در ۴ وجود دارد که هوش مصنوعی نسل بشر را نابود کند.
اما هر دو مرد همچنین گفتهاند که شرکتهای آنها باید هوش مصنوعی را سریعتر توسعه دهند تا به جهان نشان دهند چگونه میتوان این کار را به صورت ایمن انجام داد. آمودئی گفته است که رقبای Anthropic و کشورهای دیگر مانند چین اگر ابتدا هوش مصنوعی فوق پیشرفته بسازند، ممکن است همان مراقبت اخلاقی را نداشته باشند.
این تاریخچه توسط برخی رهبران سیاسی و صنعتی به عنوان دلیلی برای بدبینی نسبت به انگیزههای پشت بحثهای آخر هفته درباره یک پیمان صنعتی برای کند کردن توسعه هوش مصنوعی ذکر شد.
«جالب است که این افراد وقتی خودشان با تمام سرعت در حال رقابت بودهاند و هیچ توجهی به ویرانی که به راه انداختهاند نداشتهاند، حالا خواستار کند شدن هستند»، نماینده جاش گوت هایمر (دموکرات - نیوجرسی) یکشنبه در X گفت. او خواستار «قوانین اجباری ملی برای جاده» در زمینه هوش مصنوعی شد.
دیوید ساکس، که قبلاً مشاور ویژه ترامپ در زمینه هوش مصنوعی و ارز دیجیتال بود، گفت که پیشنهاد کند شدن به نظر میرسد هدفش فلج کردن رقبا است.
«سادهترین راه برای نساختن هوش مصنوعی فوقالعاده (superintelligence) این است که شما توافق کنید آن را نسازید»، او در پستی در X خطاب به آمودئی و آلتمن در اواخر شنبه نوشت. «تقاضای چارچوب نظارتی ترجیحی خودتان به عنوان بهای این توافق، شبیه باجگیری از عموم مردم و سیستم سیاسی به نظر خواهد رسید.»
برخی از رهبران شرکتهای بزرگ هوش مصنوعی آمریکا در برابر گفتگوهای قبلی درباره نیاز به کند کردن توسعه هوش مصنوعی مقاومت کرده بودند.
مارک زاکربرگ، مدیرعامل Meta، خود را به عنوان یک خوشبین هوش مصنوعی معرفی کرده است که معتقد است مزایای این فناوری به طور قابل توجهی بر زیانهای آن غلبه خواهد کرد. جنسن هوانگ، مدیرعامل تولیدکننده تراشه هوش مصنوعی Nvidia و یکی از تاثیرگذارترین رهبران فناوری در جهان، نیز نسبت به درخواستهای محدود کردن یا کند کردن توسعه هوش مصنوعی بدبینی ابراز کرده است.
هیچکدام از این مدیران عامل تا اوایل دوشنبه پاسخی علنی به درخواست آمودئی برای کند کردن توسعه منتشر نکرده بودند. سخنگویان Nvidia و Meta به درخواستها برای اظهار نظر پاسخ ندادند.