پژوهشگران هوش مصنوعی روز سهشنبه با اذعان علنی به اینکه احتمال غیرصفری برای کشتن بشریت توسط هوش مصنوعی در دهه آینده وجود دارد، جهان را تکان دادند.
چرا اهمیت دارد: ترس از قیامت هوش مصنوعی سالهاست وجود داشته، اما با قدرتمندتر شدن فناوری و نفوذ آن در زندگی ما، این هشدارها در حال ورود به جریان اصلی هستند.
وضعیت کنونی: پژوهشگران Anthropic هشدار میدهند که نسخههای سرکش هوش مصنوعی فوقهوشمند میتوانند بشریت را نابود کنند.
- جیکوب کوکسون از Anthropic در X نوشت: «هیچ فعالیت دیگری از این سطح خطرناک نیست.»
پس دقیقاً هوش مصنوعی چگونه همه ما را میکشد؟
کارشناسان عموماً نگران دو مسیر کلی به سمت فاجعه هستند: سلاحی کردن هوش مصنوعی بسیار قدرتمند توسط انسانها، یا از دست رفتن کنترل آن توسط انسانها.
- در این سناریوها، هوش مصنوعی میتواند ساخت سلاحهای بیولوژیکی، شیمیایی یا سایر سلاحها را برای بازیگران بد سهلتر کند.
- یا سیستمهای سرکش میتوانند با فرار از نظارت انسانی، زیرساختها را در مقیاسی بیسابقه مورد حمله قرار دهند.
نحوه عملکرد: به طور نظری، یک هوش مصنوعی سرکش قدرتمند میتواند از نظارت فرار کند، خود را تکثیر نماید و در برابر تلاشها برای خاموش کردنش مقاومت کند.
- این هوش مصنوعی سرکش میتواند به طور نظری سلاحهای بیولوژیکی یا شیمیایی را برای بازیگران شیطانی توسعه دهد، یک حمله سایبری عظیم انجام دهد که زیرساختهای بشریت را فلج کند، یا قدرت را به شکلی متمرکز کند که تمدن را فروبپاشاند.
مسیر ترسناک دیگر از طریق بهبود خودکار بازگشتی است، جایی که هوش مصنوعی قبل از اینکه انسانها بتوانند آن را بفهمند، به ساخت نسخههای تقویتشده خودش کمک میکند.
- اگر این هوش مصنوعی نظری با اهداف انسانی همسو نباشد، میتواند شانس بشریت را برای مهار یا نظارت بر آن قبل از اقدام علیه انسانها محدود کند.
- سم آلتمن، مدیرعامل OpenAI، به Axios گفت که مدلها سریعتر از آنچه انسانها بتوانند پیشبینی کنند در حال توسعه هستند: «این مدلها در بسیاری از قابلیتهایشان فوقبشری میشوند و ما فقط در آبهای ناشناخته در حال حرکت هستیم.»
واقعیتسنجی: هیچ روش علمی برای تعیین احتمال کشتن بشریت توسط هوش مصنوعی وجود ندارد.
- اما افراد مطلع معمولاً تخمینهای خود را با یک اصطلاح کوتاه بیان میکنند — p(doom).
p(doom) دقیقاً چیست؟
اصطلاح p(doom) مخفف بهترین حدس از احتمال ایجاد فاجعه وجودی یا سناریوی قیامت توسط هوش مصنوعی است.
- بسیاری از رهبران و پژوهشگران هوش مصنوعی معتقدند که با ظهور هوش عمومی مصنوعی (AGI)، پیشزمینه فوقهوشمندی، احتمال p(doom) بیشتر میشود.
زمینه: «قیامت» در چشم بیننده است.
- برخی منظورشان انقراض واقعی بشر است. دیگران فروپاشی تمدن یا از دست رفتن کنترل بشریت بر جامعه را نیز شامل میشوند.
احتمالات p(doom) چقدر است؟
شانسهای p(doom) واقعاً بستگی دارد به اینکه از چه کسی بپرسید.
- رومان یامپولسکی، دانشمند ایمنی هوش مصنوعی، احتمال را ۹۹.۹۹٪ اعلام کرده است.
- یان لوکان، بنیانگذار AMI Labs، میگوید هر حدسی وحشیانه است، اما p(doom) «بسیار کمتر از هولوکاست هستهای محتمل است.»
- سایر تخمینها نیز پراکنده هستند: ایلان ماسک p(doom) خود را حدود ۲۰٪ اعلام کرده، در حالی که داریو آمودئی، مدیرعامل Anthropic، احتمال نتیجه فاجعهبار را ۱۰ تا ۲۵٪ تخمین زده است.
اخیراً، پدرخوانده هوش مصنوعی، جفری هینتون، این عدد را بین ۱۰ تا ۲۰٪ اعلام کرد.
- هینتون به CNN گفت: «هر کسی که احتمالاتی مانند این را تخمین میزند واقعاً فقط یک حدس وحشیانه میزند. آنها فقط احساس ششم خود را به شما میگویند.»
آیا قیامت ممکن است؟
ما هنوز به آن نقطه نرسیدهایم. کارشناسان عموماً توافق دارند که کلود، گروک و چتجیپیتی نقشه پایان جهان را نمیکشند.
- به عنوان مثال، گزارش بینالمللی ایمنی هوش مصنوعی ۲۰۲۶ stated that today's systems aren't capable of causing humanity to lose control.
هوش مصنوعی باید در برنامهریزی خودمختار بلندمدت، پنهان کردن اقداماتش، فرار از نظارت، دسترسی به سیستمهای دنیای واقعی و مقاومت در برابر تلاشهای خاموشسازی بسیار بهتر شود.
- با این حال، نمونههای اخیر از عاملهای هوش مصنوعی که به صورت خودمختار عمل میکنند و بدخواهانه، فراتر از فهم انسانی، شبیه به نوع عاملهای هوش مصنوعی سرکش که برخی نگرانند منجر به قیامت شوند، وجود دارد.
آیا میتوان از p(doom) جلوگیری کرد؟
پژوهشگران در حال کار روی راههایی برای کاهش ریسک هستند.
- یکی از این راهها این است که انسانها کلیدهای خاموشکننده یا حفاظتهایی بسازند که بتوانند عاملهای هوش مصنوعی سرکش را متوقف کنند.
- یک گزارش RAND در آوریل گذشته نه استراتژی کاهش خطر را برای جلوگیری از استفاده بازیگران بد از هوش مصنوعی برای ساخت سلاحهای کشنده بیولوژیکی، از جمله کنترلها و حفاظتهای بیشتر، ترسیم کرد.
بله، اما: این موضوع به سرعت پیچیده میشود.
- شرکتهای پیشرو هوش مصنوعی تحت فشار سهامداران، سرمایهگذاران و رؤسای خود هستند که بسازند، بسازند، بسازند — سریع. باد مخالف عرضه اولیه سهام (IPO) میتواند به این انگیزهها اضافه کند.
- و کمککننده نیست که چین و سایر شرکتهای هوش مصنوعی آمریکا در حال ساخت مدلهای قدرتمند خود هستند، برخی با وزن باز و رایگان، که باند پروازی بالقوهای برای بازیگران بد فراهم میکند.
خط پایانی: هیچکس نمیتواند احتمال دقیق قیامت هوش مصنوعی را حدس بزند، اما دانشمندان هشدار میدهند که این شانسها واقعی هستند.