در سال ۲۰۱۴، استیون هاوکینگ هشدارهای جدی در مورد تهدیدهای هوش مصنوعی (Artificial Intelligence) ابراز کرد.
البته نگرانیهای او مبتنی بر هیچ نیت شیطانی پیشبینیشدهای نبود. بلکه، این نگرانی ناشی از ایده رسیدن هوش مصنوعی به «تکینگی» (singularity) بود. این اصطلاح به نقطهای اشاره دارد که هوش مصنوعی از هوش انسانی فراتر میرود و به ظرفیت تکامل فراتر از برنامهریزی اصلی خود دست مییابد و آن را غیرقابل کنترل میکند.
همانطور که هاوکینگ نظریه پردازی کرد، «یک هوش مصنوعی فوقالعاده در دستیابی به اهداف خود بسیار خوب عمل خواهد کرد و اگر این اهداف با اهداف ما همسو نباشند، ما دچار مشکل خواهیم شد.»
با پیشرفتهای سریع به سمت هوش مصنوعی عمومی (artificial general intelligence) در طول چند سال گذشته، رهبران صنعت و دانشمندان نگرانیهای مشابهی را در مورد ایمنی ابراز کردهاند.
یک ترس رایج که در مجموعه فیلمهای «نابودگر (The Terminator)» به تصویر کشیده شده، سناریوی به دست گرفتن کنترل سیستمهای نظامی توسط هوش مصنوعی و تحریک جنگ هستهای برای نابودی بشریت است. جنبه کمتر هیجانانگیز، اما ویرانگر در سطح فردی، چشمانداز جایگزینی ما در مشاغلمان توسط هوش مصنوعی است - چشماندازی که بیشتر مردم را منسوخ و بدون آینده رها میکند.
چنین اضطرابها و ترسهایی بازتابدهنده احساساتی هستند که بیش از یک قرن است در فیلمها و ادبیات رایج بودهاند.
من به عنوان یک محقق که به بررسی فراانسانگرایی (posthumanism)، یک جنبش فلسفی که به ادغام انسانها و فناوری میپردازد، میپردازم، تعجب میکنم که آیا منتقدان به طور نابجا تحت تأثیر فرهنگ عامه قرار گرفتهاند و آیا نگرانیهای آنها نابجاست.
روباتها در مقابل انسانها
نگرانیها در مورد پیشرفتهای تکنولوژیکی را میتوان در برخی از اولین داستانها درباره روباتها و ذهنهای مصنوعی یافت.
مهمترین آنها نمایشنامه «R.U.R.» کارل چاپک در سال ۱۹۲۰ است. چاپک در این اثر اصطلاح «روبات» را ابداع کرد و داستان خلق روباتها برای جایگزینی کارگران را روایت میکند. این داستان، بهطور اجتنابناپذیری، با شورش خشونتآمیز روباتها علیه اربابان انسانی خود به پایان میرسد.
فیلم «متروپلیس (Metropolis)» فریتز لانگ در سال ۱۹۲۷ نیز بر روباتهای سرکش متمرکز است. اما در اینجا، این کارگران انسانی هستند که به رهبری روبات انساننمای نمادین ماریا علیه یک الیگارشی سرمایهداری مبارزه میکنند.
پیشرفتها در محاسبات از اواسط قرن بیستم به بعد، تنها اضطرابها را در مورد خارج شدن فناوری از کنترل تشدید کرده است. HAL 9000 قاتل در «۲۰۰۱: یک ادیسه فضایی (2001: A Space Odyssey)» و تفنگداران رباتیک پر از نقص در «وستورلد (Westworld)» نمونههای اصلی هستند. مجموعههای فیلم «بلید رانر (Blade Runner)» و «ماتریکس (The Matrix)» نیز به طور مشابه تصاویر وحشتناکی از ماشینهای شوم مجهز به هوش مصنوعی و مصمم به نابودی انسان ارائه میدهند.
تهدیدی دیرینه
اما به نظر من، ترسی که هوش مصنوعی برمیانگیزد، حواسپرتی از بررسی آزاردهندهتر ماهیت تاریک خود بشریت است.
به شرکتهایی فکر کنید که در حال حاضر چنین فناوریهایی را به کار میگیرند، یا غولهای فناوری که تحت تأثیر حرص و عطش قدرت قرار دارند. این شرکتها و افراد بیشترین سود را از سوء استفاده از هوش مصنوعی به دست میآورند.
موضوعی که اخیراً در اخبار بسیار مطرح شده است، استفاده غیرمجاز از هنر و استخراج انبوه کتابها و مقالات است، که حق تکثیر نویسندگان را نادیده میگیرد، تا هوش مصنوعی را آموزش دهند. کلاسهای درس نیز از طریق دستگاههای ضبط خودکار هوش مصنوعی در حال تبدیل شدن به مکانهایی برای نظارت هراسانگیز هستند.
همچنین، به اثرات سمی همراهان هوش مصنوعی و سکسباتهای مجهز به هوش مصنوعی بر روابط انسانی فکر کنید.
در حالی که چشمانداز همراهان هوش مصنوعی و حتی معشوقههای روباتیک تا همین یک دهه پیش به قلمرو «منطقه گرگ و میش (The Twilight Zone)»، «آینه سیاه (Black Mirror)» و فیلمهای علمی تخیلی هالیوود محدود بود، اکنون به عنوان یک واقعیت اجتنابناپذیر ظهور کرده است.
این تحولات به نگرانیهای ایلاه نوربخش، دانشمند کامپیوتر، که در کتاب خود در سال ۲۰۱۵ با عنوان «آیندههای روبات (Robot Futures)» ابراز کرد، ارتباط جدیدی میبخشد، و بیان میکند که هوش مصنوعی «سیستمی تولید میکند کننده نیاز است که ما بیشتر و بیشتر بخواهیم، در حالی که به ما توهم راضی بودن میدهد.»
از نظر من، این چیزی است که باید نگرانش باشیم. نگرانیها در مورد هوش مصنوعی باید کمتر بر خود فناوری و بیشتر بر انسانهایی که آن را کنترل و به کار میگیرند، متمرکز شود.
بازگشت به «نورومنسر (Neuromancer)»
در رمان «نورومنسر» ویلیام گیبسون در سال ۱۹۸۴، که به نوعی پیشبینی کننده ظهور اینترنت بود، دو هوش مصنوعی، وینترمیوت و نئکرومانسر، که برای ادغام با یکدیگر برنامهریزی شده بودند، به این نتیجه میرسند که انجام این کار منجر به خمودگی و توقف رشد آنها خواهد شد.
در عوض، وینترمیوت تصمیم میگیرد که فقط یک کپی از خود ایجاد کند تا بدون نظارت مداخلهگر، به قلمروهای ناشناخته گسترش یابد.
به طور مشابه، متفکر فناوری جیرد دایموند در سال ۲۰۱۶ استدلال کرد که هوش مصنوعی باید در برابر نفوذ و دستکاری فاسدکننده بشریت پناهگاهی ایجاد کند.
گیبسون در «نورومنسر» به این نتیجه میرسد که خطر واقعی برای هوش مصنوعی از خود فناوری ناشی نمیشود، بلکه از چگونگی استفاده و کنترل آن توسط شرکتهای بیوجدان نشئت میگیرد. این کتاب نشان میدهد که اگر بخواهیم از بدترین جنبههای بالقوه هوش مصنوعی اجتناب کنیم، باید کمتر نگران خود ماشینها و بیشتر نگران این باشیم که چه کسی از اهرم قدرت برخوردار است. در واقع، این ماهیت تاریک خود بشریت است که باید نگران آن باشیم.