یووال نوح هراری خود را تاریخنگاری توصیف میکند که نه گذشته، بلکه تغییر را مطالعه میکند. اولین کتاب پرفروش او، «انسان خردمند» (Sapiens)، این نگاه را به طیف گستردهای از تاریخ بشریت اعمال کرد. کتاب دوم، «خدایان انسان» (Homo Deus)، به نقش مذهب در ساختن هویت بشر پرداخت. جدیدترین اثر او، «پیوند» (Nexus)، بررسی کرد که چگونه کنترل اطلاعات مسیر تاریخ را تغییر داده است و هوش مصنوعی میتواند آینده را شکل دهد.
در یک مصاحبه جامع برای برنامه Insider مجله The Economist، آقای هراری هشدار میدهد که بزرگترین تأثیر هوش مصنوعی ممکن است نحوه بازتعریف اعتماد، «مهمترین دارایی جهان» باشد. بخش بزرگی از دوران مدرن بر سیستمهایی استوار است که امکان عمل کردن اعتماد در مقیاسهایی فراتر از تصور در جهان پیشاتاریخ را فراهم میکنند. پول «راهی بسیار خلاقانه و تخیلی برای ایجاد اعتماد بین غریبههاست»: مردم با خوشحالی کالاهای ارزشمند را در ازای هیچ چیز جز وعدهای که شخص دیگری نیز همین کار را در قبال آن انجام خواهد داد، تحویل میدهند. «بانکداران، اگر بانکداران خوبی باشند که وظیفه خود را انجام میدهند، اعتماد میسازند.»
تحویل کنترل قدرتمند سیستم مالی به هوش مصنوعی تقریباً اجتنابناپذیر به نظر میرسد، طبق نظر آقای هراری. سیستمهای هوش مصنوعی به زودی قادر خواهند بود کل اقتصاد جهانی را با جزئیاتی بسیار بیشتر از آنچه یک انسان هرگز بتواند درک کند، بفهمند. فشار برای اینکه انسانها اعتماد بیشتری به هوش مصنوعی داشته باشند، بنابراین در چند سال آینده افزایش خواهد یافت، انتظار دارد آقای هراری. او به ظهور ارزهای رمزنگاریشده اشاره میکند - «پول هوش مصنوعی»، همانطور که او بیان میکند. بسیاری از افراد به الگوریتم بیتکوین بیشتر از حتی آن بانکداران خوب ایمان دارند. او اضافه میکند که وقتی مردم به رسانهها اعتماد خود را از دست میدهند، با کمال میل محتوای فیدهای الگوریتمی را در پلتفرمهای دیجیتال مصرف میکنند (مانند تیکتاک یا اینستاگرام).
پارادوکس این است که اعتماد فزاینده انسانهای فردی به تعاملات شخصی خود با هوش مصنوعی ممکن است در نهایت به بیاعتمادی به سیستم فنی-مالی منجر شود که آن تعاملات در نهایت به آن ختم میشوند. این اتفاق میافتد زیرا مردم هیچ راهی برای استنباط چگونگی و چرایی تصمیمگیریهای هوش مصنوعی ندارند. «سیستم مالی انسانها زندگی گاوهای مرغها را کنترل میکند، اما گاوهای مرغها هیچ ایدهای ندارند که اصلاً مالیات وجود دارد»، او میگوید. «این احتمالاً موقعیت ما در ده سال آینده خواهد بود.»
حتی اگر خطرات وجودی که هوش مصنوعی ممکن است ایجاد کند را کنار بگذاریم، که آقای هراری آنها را واقعی میداند، دنیایی که در آن انسانها تا حد زیادی به هوش مصنوعی اعتماد کنند، پرخطر خواهد بود. تصور کنید سقوط مالی در یک سیستم فنی-مالی رخ دهد، برای مثال. اگر علل آن فراتر از درک انسان باشد، پاسخ سیاستی غیرممکن خواهد بود - حداقل از سوی تصمیمگیرندگان انسان.
نگرانکنندهتر آقای هراری این است که اعتماد بیش از حد به هوش مصنوعی میتواند به دیکتاتوری تکنولوژیک منجر شود. استالین میتوانست سخنرانیای در رادیو ارائه دهد و همه شهروندان شوروی را مجبور به گوش دادن به آن کند. اما برای داشتن کنترل واقعی بر جمعیت، او نیاز داشت که همه واقعاً به او اعتماد کنند، نه اینکه فقط وانمود کنند. و این مستلزم میلیونها رابطه شخصی است که حتی دیکتاتور استاخانوفی هم نمیتوانست آن را انجام دهد. اکنون، آقای هراری مشاهده میکند که «هوش مصنوعی برای اولین بار در تاریخ، امکان تولید انبوه صمیمیت را فراهم کرده است». بسیاری از افراد قبلاً ابراز علاقه کردهاند که دوستان هوش مصنوعی و حتی همراهان عاشقانه دارند. «شما میتوانید میلیونها هوش مصنوعی داشته باشید که به عنوان بخشی از یک شبکه در خدمت کسی، یا در خدمت خودشان کار کنند... و سپس از آن قدرت صمیمیت برای متقاعد کردن [مردم] به هر نوع منافع سیاسی یا تجاری که بخواهند استفاده کنند.»
تنها راه برای مهار آسیبهای بالقوه، از طریق مقرراتگذاری است، آقای هراری فکر میکند. او پیشنهاد میکند ممنوعیت شخصیت حقوقی برای هوش مصنوعی (نسخهای از آن که آرژانتین میخواهد با اجازه دادن به رباتها برای اداره شرکتها اعطا کند) و ممنوعیت جعل هویت انسان توسط هوش مصنوعی (از جمله «دیپفیکها») که آنقدر متقاعدکننده شدهاند که ۹۰ ثانیه کامل طول کشید تا متوجه شود ویدیویی از یکی از سخنرانیهایش که اخیراً دریافت کرده بود، واقعی نیست).
با توجه به سرعت سرسامآور پیشرفتهای هوش مصنوعی، او محاسبه میکند که سیاستگذاران، به ویژه در آمریکا، جایی که بیشتر این پیشرفتها در حال وقوع است و دولت آن همچنان پاسخگوی دموکراتیک است، باید اکنون اقدام کنند. و رأیدهندگان نیز باید همین کار را بکنند. اگر آقای هراری اراده میکرد، انتخابات میانهدوره نوامبر کاملاً حول محور هوش مصنوعی میچرخید. ¦