بیش از هر زمان دیگری، سؤالات بزرگ درباره هوش مصنوعی محرک فراز و نشیبهای بازارهای مالی است. خوشبینان (Bulls)، که معتقدند هوش مصنوعی هم تحولآفرین خواهد بود و هم سودآور، در برابر بدبینان ایستادهاند که باور دارند بازده وعدهدادهشده هرگز محقق نخواهد شد.
اما اکنون حس سوم برای سرمایهگذاران برجسته شده است: چه میشود اگر سیستمهای هوش مصنوعی، همانطور که خوشبینان پیشبینی میکنند، بسیار توانمند باشند، اما عملاً خطرناک؟ ترس از هوش مصنوعی «ناهماهنگ» (Misaligned) که سایر سیستمها را هک میکند، امکان کلاهبرداری را فراهم میآورد یا مهندسان انسانی را گمراه میکند، در حال افزایش است. پژوهشگران در آزمایشگاههای هوش مصنوعی مرزی (Frontier AI) نگرانند که ابزارهایشان ممکن است به دولتهای سرکش یا گروههای تروریستی کمک کند تا سلاحهای بیولوژیک خود را بسازند. برخی فکر میکنند مدلها ممکن است منجر به انقراض انسان شوند، که این امر جذابیت هر عرضه اولیه سهام آینده را از بین میبرد. جشن گرفتن عرضه عمومی اولیه (IPO) که منجر به پایان عمومی (Terminal Public Offing) شود، دشوار است.
تایلر کوئن، اقتصاددان آمریکایی، آرزو دارد که هشداردهندگان حرفهایشان را عملی کنند و پولشان را جایی که ادعا میکنند قرار دهند. بسیاری احتمال وقوع فاجعه را بالا میبرند. اگر آنها درست بگویند، نشانههای شوم باید قبل از رسیدن واقعی فاجعه بر بازارها تأثیر بگذارد. بنابراین تکنوفوبها (Tech-phobes) میتوانند نظریات خود را از طریق انجام معاملات مالی آزمایش کنند. اگر موفق شوند، اعتباری به پیشگوییهایشان اضافه میکند، مدتی طولانی قبل از فاجعهای که در نهایت آنها را راست میگوید. این درخواست برای پاسخگویی فکری قابل درک است. الکس تاباروک، یکی از همکاران آقای کوئن، چنین شرطبندیای را «مالیات بر حرفهای بیاساس» نامیده بود. اما وقتی صحبت از خطرات هوش مصنوعی پیشرفته میشود، انجام این شرطبندیها دشوار است.
برخی از معایب ملایمتر هوش مصنوعی قدرتمند از قبل در بازارها قیمتگذاری شدهاند. نگرانیها درباره هک کردن با کمک هوش مصنوعی به افزایش ارزش سهام امنیت سایبری مانند CrowdStrike کمک کرده است. قیمت این شرکت که در شش ماه گذشته بیش از دو برابر شده، اکنون نزدیک به ۲۰۰ برابر درآمد مورد انتظار آن برای ۱۲ ماه آینده است. برای برخی شرکتها، ترس، نه فقط طمع، خوب است.
استراتژیهای دیگرِ آزمایشنشده ممکن است برای نگرانان جسورتر کارآمد باشد. اگر شرکتهای امنیت سایبری با حقالزحمه (Premium) معامله میشوند، پس قطعاً شرکتهایی که بیشترین آسیبپذیری را در برابر هک و کلاهبرداری دارند باید با تخفیف (Discount) معامله شوند. در بخش خصوصی، صنایع مراقبت بهداشتی، مالی، مخابرات و حملونقل اغلب هدف قرار میگیرند. شرکتهای کوچک و متوسط نسبت به رقبای بزرگتر خود آسیبپذیرتر هستند. یکی از راههای بهرهبرداری از این منطق، خرید سوآپهای نکول اعتباری (Credit-default swaps) علیه بدهی بانکهای منطقهای، برای مثال، است.
برای خطرات سنتیتر مانند سیل، آتشسوزی جنگلی یا حتی تروریسم، پاسخ بدیهی خرید محصولات بیمهای است. اما بازار ریسک هوش مصنوعی توسعه کندی داشته است. حتی ریسکهای فیزیکی که مراکز داده با آنها مواجه هستند، بیمه کردنشان دشوار است. اوایل امسال، Insurance Services Office، ارائهدهنده استانداردهای صنعت، الگوی جدیدی منتشر کرد که خسارات ناشی از هوش مصنوعی مولد را از طیف وسیعی از مطالبات خارج میکرد. چندین شرکت بزرگ از مقامات نظارتی خواستهاند اجازه دهند چنین تهدیدات جدیدی را حذف کنند. این احتیاط شکافی در بازار ایجاد کرده است که تعداد انگشتشماری از استارتاپها آرزوی پر کردن آن را دارند. اما فعلاً اندازه این شرکتها در مقایسه با وظیفه ناچیز است.
مشکل مواجهه بیمهگران ریشههای عمیقتری دارد. آنها در پوشش ریسکهای هوش مصنوعی دچار مشکل هستند، زیرا «ریسک» مفهومی بیش از حد مرتب و تمیز برای آنچه در معرض خطر است، محسوب میشود. در اقتصاد، ریسک به احتمالات قابل اندازهگیری اشاره دارد. تهدیدات وحشی و مبهم مرتبط با هوش مصنوعی شناساییشان سختتر است. آنها جدید و بهخوبی شناختهنشده هستند. پایه شواهد نازک است. بنابراین نه خریداران و نه فروشندگان بیمه نمیدانند چگونه آنها را قیمتگذاری کنند.
در تاریخ طولانی بدبینی بشر، پیشگویان زیادی بودهاند که در پیشبینیهایشان آزاد و بیپروا بودند. کسانی که درباره فروپاشی زنجیره تأمین، فرود سخت (Hard landing) یا ذوب مالی فریاد میزدند، اگر به همان اندازه که ادعا میکنند دوراندیش بودند، میتوانستند از پیشگوییهایشان پول در بیاورند. اما هوش مصنوعی متفاوت است. در افراطیترین نقطه طیف، خطرات ذاتاً غیرقابل پوشش (Unhedgeable) هستند. حتی اگر بتوانید احتمال تهدید وجودی را محاسبه کنید، خرید محافظت از طرفهای مقابل که برای پرداخت حضور نخواهند داشت، چندان معنا ندارد.
در صورت وقوع «تسلط هوش مصنوعی»، جایی که انسانها تحت سلطه یا حاشیهنشین میشوند، برندگان بزرگ موجودات هوش مصنوعی خواهند بود که به عنوان اشکال غالب حیات بر زمین مسئولیت را بر عهده میگیرند. آنها طرفهای مقابل طبیعی در هر سیاست بیمهای خواهند بود که یک پیشگو ممکن است بخواهد بخرد. اما حتی اگر این امکانپذیر باشد، یک ابرهوش شریک مذاکرهکننده سختی خواهد بود. برخلاف انسانها، آنها احتمالاً ریز جزئیات قرارداد را میخوانند. ¦