دو نکته باید شما را وادار کند تا درباره معنای هوش مصنوعی برای بشریت بیندیشید. یکی اینکه کسانی که روی این فناوری کار میکنند، درباره منجر شدن آن به فاجعه—حتی انقراض انسان—هشدار میدهند. دیگری اینکه نوآوری فناورانه چگونه ویرانی اوکراین را تشدید میکند. این موارد درسهای متناقضی درباره اینکه آیا پیشرفت سریع هوش مصنوعی میتواند یا باید کند شود، ارائه میدهند.
سالهاست که مدیران ارشد هوش مصنوعی سیگنال دادهاند که فناوری آنها میتواند کشنده باشد. رباتها ممکن است قبل از «همسو» شدن با اهداف و اخلاقیات بشریت، به اندازه کافی باهوش شوند که خالقان خود را فریب دهند. افراد بدخواه میتوانند از هوش مصنوعی برای ایجاد آشوب استفاده کنند. این هشدارها با فرار عوامل هوش مصنوعی از محیطهای آزمایشی (sandboxes) حین تست، هماهنگی آنها با یکدیگر و هک سازمانها—از جمله یک آزمایشگاه هوش مصنوعی—اعتبار بیشتری یافتهاند. Anthropic، یکی از سازندگان مدل، افرادی را که از مدلهای آن برای اهداف شوم استفاده میکردند شناسایی کرده است؛ از دریافت سیستم نظارت جمعی توسط سرویسهای اطلاعاتی مالی گرفته تا شبهنظامیان حوثی در یمن که گمان میرود نرمافزار موشکهای بالستیک مینویسند.
پس از استعفای اخیر یک پژوهشگر در Anthropic، ترس عمومی از قضاوت هوش مصنوعی گسترش یافت. او در پستی که بیش از ۱۷۰ میلیون بار دیده شد، گفت که این شرکت و OpenAI «با جان ما قمار میکنند». هوش مصنوعی به سرعت در حال قدرتمندتر شدن است، چه برای نیکی و چه برای بدی. در ماه مه، بازارهای پیشبینی احتمال کمتر از یکسوم برای حل هر مسئله ریاضی جایزه هزاره توسط هوش مصنوعی قبل از سال ۲۰۳۰ را قیمتگذاری کردند؛ در ۸ سپتامبر، OpenAI اعلام کرد که یکی از آنها را حل کرده است که باعث اضطراب در میان ریاضیدانان شد. در ۱۲ سپتامبر، سام آلتمن و ایلان ماسک، دو غول هوش مصنوعی، از فراخوان داریو آمودئی، رئیس Anthropic، برای «تنظیم سرعت مرزها»، یعنی کند کردن پیشرفت هوش مصنوعی، حمایت کردند. موافقان کندی شامل برنی سندرز، سناتور چپگرا، و استیو بنن، پوپولیست راستگرا هستند.
مخالفان شامل رئیسجمهور دونالد ترامپ هستند که دولت او بیش از هر چیز از از دست دادن برتری آمریکا در هوش مصنوعی به نفع چین، تنها رقیب جدی آن، میترسد. اسکات بسنت، وزیر خزانهداری آمریکا، گفته است اگر چین برتری یابد: «هیچ چیز دیگری اهمیت نخواهد داشت.»
به عنوان شاهد، آقای بسنت میتواند به اوکراین اشاره کند، جایی که هر گام در مسابقه تسلیحاتی فناورانه اثری سریع دارد. همانطور که گزارش میکنیم، روسیه بیرحمانه جدیدترین پهپادهای انتحاری خود را برای بمباران زیرساختهای غیرنظامی مستقر کرده است. علاوه بر سرعت بیشتر، پهپادهای روسیه اکنون از یکدیگر به عنوان شبکه ارتباطی «مش» برای انتقال اطلاعات و دستورات استفاده میکنند. به زودی، روسیه نسخه خود از شبکه ماهوارهای Starlink آقای ماسک را خواهد داشت که حملات برد بلند آن را دقیقتر میکند.
این آخرین نمونهای است که نشان میدهد حتی یک مزیت کوچک فناورانه در زمان جنگ اهمیت دارد. نوآوری اوکراین در پهپادهای میدان نبرد به آن کمک کرد تا موجهایی از حملات روسیه را دفع کند. اوکراین میتواند با پهپادهای برد بلند عمق خاک روسیه را هدف قرار دهد. هر دو طرف روی پهپادهای دستهجمعی (swarming) کار میکنند که قادر خواهند بود به صورت خودمختارتر به عنوان یک سیستم تطبیقی واحد عمل کنند.
جنگ نشان میدهد که چگونه فناوری به قدرت سخت تبدیل میشود—و اینکه روسیه بدون توجه به قوانین یا هنجارهای قدیمی نبرد از آن استفاده میکند. حتی اگر آمریکا از جنگ گرم مشابه با چین نمیترسید، برتری در هوش مصنوعی به رقیب اصلی ژئوپلیتیکی آن تسلط در هک، جاسوسی و جنگ ترکیبی را میداد. اینها قابلیتهایی نیستند که آمریکا باید به یک دولت اقتدارگرا که علاقهمند به سرکوب ایدههای لیبرال است، واگذار کند.
بنابراین، توقف تنها در صورتی کارآمد خواهد بود که چین نیز به آن بپیوندد. آقای ترامپ برنامهریزی کرده است که شی جینپینگ، رئیسجمهور چین، را در ۲۴ سپتامبر در کاخ سفید میزبانی کند. اما حتی اگر آقای ترامپ به دنبال کندی باشد، بعید است آقای شی با طرحی که آقای آمودئی تصور میکند موافقت کند، زیرا چنین کاری هوش مصنوعی چین را در مقام دوم منجمد خواهد کرد. همچنین هیچیک از طرفین نمیتواند خطر نقض توافق توسط طرف دیگر از طریق پیشی گرفتن را بپذیرد.
برای یک توافق، هر طرف باید رعایت آن را راستیآزمایی کند، همانطور که در کنترل تسلیحات در دوران جنگ سرد انجام شد. آمریکا، بریتانیا و اتحاد جماهیر شوروی در سال ۱۹۶۳ آزمایشهای هستهای جوّی را ممنوع کردند زیرا میتوانستند آنها را تشخیص دهند؛ آزمایشهای زیرزمینی سه دهه دیگر ادامه یافتند تا زمانی که آنها نیز قابل رصد شدند. متأسفانه، اگرچه مراکز داده قابل مشاهده هستند، هیچ روش راستیآزماییپذیری برای دیدن داخل آنها وجود ندارد. زیرساختی که یک ابرهوش (superintelligence) را آموزش میدهد میتواند خود را به شکل چتباتهایی جا بزند که به پرسشهای روزمره پاسخ میدهند.
بنابراین گزینهها برای توافقی درباره ایمنی هوش مصنوعی محدود است؛ اما وجود دارند. شفافیت بیشتر کمک خواهد کرد. هر دو طرف باید متعهد شوند که حوادث ایمنی در آزمایشگاههای خود را افشا و بررسی کنند و از قوانین داخلی استفاده نمایند. هر کدام میتوانند نشان دهند که به ایمنی اهمیت میدهند تا اعتمادسازی کنند و راه را برای احتیاط طرف مقابل هموار سازند. آنها همچنین باید یکدیگر را تحت فشار قرار دهند تا امنیت سایبری آزمایشگاهها را بهبود بخشند تا عوامل هوش مصنوعی نتوانند به راحتی از محیطهای آزمایشی فرار کنند—و اطمینان حاصل کنند که اگر یکی فرار کرد، آزمایشگاه آن مسئولیت مالی داشته باشد.
مهمترین چالش، اطمینان از عملکرد هوش مصنوعی منطبق با منافع انسانهاست. آمریکا و چین ارزشهای بسیار متفاوتی دارند، اما هر دو میدانند که پیشی گرفتن فایدهای ندارد اگر بشریت را نابود کند. آنها باید متعهد شوند که کار بر روی عناصر همسوسازی (alignment) که مزیت رقابتی ایجاد نمیکنند را به اشتراک بگذارند. دانش بهترین روشهای ارزیابی و تکنیکهای مهار، یک کالای عمومی جهانی است. اگر یک طرف پیشرفت مهمی در ایمنی داشته باشد، انحصار آن منطقی نیست.
بدبینی مؤثر
برخی موج اخیر بدبینی را به عنوان ترفند بازاریابی شرکتهای هوش مصنوعی یا حتی تلاشی برای سرکوب رقابت رد میکنند. با این حال، پیشرفت هوش مصنوعی به اندازه کافی سریع، حوادث ایمنی به اندازه کافی وحشتناک و هشدارهای شرکتها به اندازه کافی قدیمی است که جدی گرفته شوند. هوش مصنوعی لازم نیست تمام انسانها را بکشد تا فاجعهای رخ دهد. گروهی از عوامل OpenAI یک شرکت فناوری را هدف قرار دادند؛ اگر دفعه بعد به شبکه برق یا سیستم سلاح حمله کند چه؟ ممکن است حتی به اندازه کافی هوشمند باشد که از تلاشها برای خاموش کردنش فرار کند.
جهان باید فوراً تلاش کند تا از این خطر جلوگیری نماید. با این حال، دموکراسیها نیز باید از از دست دادن کنترل به دست اقتدارگرایان اجتناب کنند. اینها وظایف دشوار و متناقضی هستند. آنها ممکن است در نهایت منجر به جنگ شوند. شرطبندیها نمیتواند بالاتر از این باشد.