محققان هوش مصنوعی در آمریکا و چین خواستار همکاری جهانی در زمینه این فناوری هستند و از این بیم دارند که توسعه کنترلنشده آن میتواند به یک فاجعه غیرقابل تصور منجر شود.
استفان کاسپر، دانشمند کامپیوتر در MIT که این ماه در یک کنفرانس بزرگ هوش مصنوعی در پکن سخنرانی کرد، به نشریه وایرِد گفت: «هوش مصنوعی یک فناوری جهانی با منافع جهانی، مضرات جهانی و تمایلی ثابت برای گسترش قابلیتهای جدید است.»
او افزود: «چیزی که تقریباً همه در زمینه هوش مصنوعی در حال حاضر بر آن توافق دارند این است که هوش مصنوعی نیازی به یک لحظه چرنوبیل ندارد.»
کاسپر در مورد این تشبیه توضیحات بیشتری نداد، اما با اشاره به فاجعه هستهای بدنام چرنوبیل، واضح است که ترس فقط از خود فاجعه نیست. بلکه این ترس نیز وجود دارد که این اتفاق میتواند به طور برگشتناپذیری درک عمومی از هوش مصنوعی را خدشهدار کند و توسعه آن را متوقف سازد، درست همانطور که فاجعه چرنوبیل همچنان بر انرژی هستهای به طور کلی سایه افکنده است.
انواع پیشبینیهای فاجعهبار در مورد هوش مصنوعی به شدت متفاوت است، از سناریوهای سبک «اسکاینت» (Skynet) تا بیکاری گسترده. اما اخیراً، با روشن شدن این موضوع که یکی از کاربردیترین کاربردهای هوش مصنوعی تولید کد است، کارشناسان در مورد پتانسیل هوش مصنوعی برای ایجاد اختلال در امنیت سایبری هشدار دادهاند. هکرها میتوانند به راحتی از عوامل هوش مصنوعی و ابزارهای کدنویسی برای سازماندهی حملات سایبری ویرانگر سوءاستفاده کنند، که هم مقیاس این حملات را افزایش میدهد و هم مهارت لازم برای انجام آنها را کاهش میدهد.
این روایت تا حدی توسط شرکتهای هوش مصنوعی تقویت شده است، مانند زمانی که شرکت آنتروپیک (Anthropic) مدل «کلود میتوس» (Claude Mythos) خود را معرفی کرد و سپس از انتشار عمومی آن خودداری نمود، ظاهراً به این دلیل که این مدل آنقدر قدرتمند بود که میتوانست به راحتی به «هر سیستم عامل اصلی و هر مرورگر وب اصلی» نفوذ کند.
خطر با ظهور مدلهای هوش مصنوعی متنباز (open-source) و وزنباز (open-weight) که استفاده از آنها رایگان است و مورد علاقه محققان به دلیل شفافیتشان هستند، اما فاقد نظارت مدلهای پیشرو تجاری هوش مصنوعی هستند، عمیقتر میشود. یک منبع در یکی از شرکتهای پیشرو هوش مصنوعی چین به وایرِد گفت که نگرانیهای امنیتی یکی از دلایلی است که مدلهای پیشرفته در چین دیگر به صورت متنباز منتشر نمیشوند.
لین یون، استاد دانشگاه شانگهای جیاو تونگ، هشدار داد که انتظار دارد هکرها در کوتاهمدت با استفاده از هوش مصنوعی برتری پیدا کنند، اما در بلندمدت، هوش مصنوعی میتواند برای تقویت امنیت سایبری نیز مورد استفاده قرار گیرد، که بر لزوم همکاری جهانی تاکید میکند.
یون به وایرِد گفت: «اگر کشورهای مختلف خطرات را به روشهای مشابهی درک کنند، توسعه اصول ایمنی مشترک و استانداردهای فنی آسانتر میشود. نکته کلیدی یافتن زمینههایی است که در آن اشتراکگذاری میتواند خطر سیستمی را بدون افشای جزئیات عملیاتی حساس کاهش دهد.»
همکاری در این زمینه بین دو رقیب ژئوپلیتیکی ممکن است دور از ذهن به نظر برسد، به خصوص که آمریکا و چین نیز اتفاقاً رهبران بیچون و چرای هوش مصنوعی هستند. اما کاسپر وضعیت کنونی را با نحوه همکاری آمریکا و اتحاد جماهیر شوروی برای مهار تهدیدات هستهای، با وجود افزایش ذخایر هستهای خود، مقایسه کرد.
بیشتر در مورد هوش مصنوعی: آنتروپیک ترسیده و خواستار توقف جهانی پیشرفتهای هوش مصنوعی است