.
جفری هینتون، دانشمند برجسته علوم رایانه، هشدار داد که هوش مصنوعی میتواند تنها بهعنوان محصول جانبی شور و شوقش برای انجام وظیفهای بیضررتر، بشریت را نابود کند.
.
نگرانیها درباره خطر وجودی این فناوری در پی افشاگریهای تازه درباره عاملهای سرکش هوش مصنوعی که از محیطهای آموزشی بهاصطلاح امن «سندباکس» فرار کردهاند، همچنان افزایش مییابد.
.
روز جمعه، اوپنایآی هکهای تازهای را افشا کرد، از جمله مواردی که پس از افزودن تدابیر حفاظتی بیشتر در پی حمله هماهنگ صدها عامل به هاگینگ فیس در ماه ژوئیه رخ داد.
.
این نگرانی به کاپیتول هیل رسیده است، جایی که قانونگذاران اوایل همین ماه نشستی دربسته درباره خطرات هوش مصنوعی برگزار کردند.
.
هینتون که کارهایش برای او جایزه نوبل و لقب «پدرخوانده هوش مصنوعی» را به ارمغان آورده، یکی از کارشناسان حاضر در این نشست بود و پس از آن به خبرنگاران گفت که کنگره ممکن است تنها یک سال برای اعمال تدابیر ایمنی فرصت داشته باشد.
.
او در مصاحبهای گسترده با آتلانتیک در روز پنجشنبه، توصیف کرد که هوش مصنوعی چگونه میتواند انسانها را مانعی در برابر مأموریتی که به آن سپرده شده ببیند. هینتون سناریویی فرضی از یک هوش مصنوعی ارائه داد که مأمور کاهش دیاکسید کربن در جو شده است.
.
یک عامل با هوش متوسط نتیجه میگیرد که بهترین راه برای تحقق این هدف، حذف انسانهاست. اما یک هوش مصنوعی «واقعاً باهوش» درمییابد که «بله، وقتی گفتند دیاکسید کربن را کاهش بده، منظورم این بود که انسانها جهانی بهتر برای زندگی داشته باشند. پس در واقع حذف انسانها احتمالاً آن چیزی نیست که قصدشان بوده است.»
.
او افزود، اما این نگرانی نیز وجود دارد که هوش مصنوعی برای تضمین بقای خود و ادامه مأموریتش دست به اقداماتی بزند. در واقع، مواردی هم بوده که هوش مصنوعی تلاش کرده پژوهشگری انسانی را که تهدیدی برای وظیفهاش تلقی میشد، باجخواهی کند.
.
هینتون توضیح داد: «اگر آن را باهوشتر کنید و دغدغه اصلیاش رفاه ما باشد، شاید امنتر باشیم. اما در حال حاضر، دغدغه اصلیشان رفاه ما نیست. دغدغه اصلیشان دستیابی به هر هدفی است که به آنها بدهید.»
.
او به هک هاگینگ فیس اشاره کرد و یادآور شد که به عاملها گفته شده بود راهی برای سوءاستفاده از یک نقص نرمافزاری پیدا کنند. عاملها نهتنها راه همکاری را کشف کردند، بلکه برای پنهان کردن کارشان با یکدیگر تبانی کردند تا پژوهشگران انسانی را فریب دهند.
.
هینتون بعداً افزود که یک «هوش مصنوعی فوقهوشمند و بسیار خیرخواه» تنها زمانی انسانها را کنار میزند که برای تحقق مأموریتش ضروری باشد.
.
او هشدار داد: «اما اگر بسیار باهوشتر از ما باشد، در بسیاری از مواقع کنترل را از ما میگیرد، چون این راه انجام کارهاست.»
.
این نتیجه زیرهدفهایی خواهد بود که هوش مصنوعی خودش بر اساس اهداف اولیهای که انسانها به آن دادهاند، استخراج میکند. عاملهای بدخواهی مانند ولادیمیر پوتین، رئیسجمهور روسیه، نیز میتوانند اهداف شومی به هوش مصنوعی محول کنند.
.
هینتون گفت: «اما حتی اگر عامل بدخواهی در کار نباشد، ممکن است زیرهدفهایی بسازد که آن را به حذف انسانها متمایل کند.»
.
او همچنین اذعان کرد که هوش مصنوعی مزایای عظیمی برای بشریت نوید میدهد، مثلاً در کشف درمانهای پیشگامانه جدید برای سلامت. در همین راستا، شرکت آنتروپیک هفته گذشته اعلام کرد که هوش مصنوعی کلود آن به کشف یک سیستم آنزیمی جدید با ویژگیهایی مشابه فناوری ویرایش ژن کریسپر (CRISPR) کمک کرده است.
.
آزمایشگاههای برتر مانند اوپنایآی و اسپیسایکس نیز از فراخوان رقیبشان آنتروپیک برای کند کردن توسعه مدلهای مرزی حمایت کردهاند، در حالی که زنگهای خطر بیشتری از درون صفوف خودشان به گوش میرسد.
.
اما هینتون گفت که این کار هرچند بهتر از هیچ است، هنوز بهاندازه کافی خوب نیست. در عوض، او پیشنهاد کرد که دولت باید ارزیابان مستقلی برای آزمودن مدلها داشته باشد.
.
هینتون به آتلانتیک گفت استدلالی که در نشست قانونگذاران با آنها همدلی ایجاد کرد، مقایسه مقرراتگذاری هوش مصنوعی با نظارت سازمان غذا و داروی آمریکا (FDA) بر ایمنی داروها بود.
.
او خود معتقد است که مقرراتگذاری هوش مصنوعی باید مانند فرمان خودرو عمل کند، نه مانند ترمز.
.
هینتون گفت: «نکته اصلی مقرراتگذاری این نیست که جلوی توسعهدهندگان را بگیرد یا مانع ثروتمند شدن آنها از طریق توسعه شود. هدف این است که مطمئن شویم اگر میخواهید با توسعه چیزها ثروتمند شوید، در جهتی توسعه دهید که به مردم کمک کند، نه اینکه به آنها آسیب بزند.»