مردم روزافزون برای مشورت به هوش مصنوعی روی میآورند. گزارش سال ۲۰۲۶ مرکز تحقیقات پیو نشان میدهد که ۱۰ درصد آمریکاییها از چتباتها برای حمایت عاطفی یا همصحبتی استفاده میکنند. برخی حتی رهبری کاریزماتیک را در هوش مصنوعی میبینند.
در مقیاسی گستردهتر، مطالعهای بزرگ بر ۱.۱ میلیون گفتوگوی چتجیپیتی نشان داد که ۴۹ درصد پیامها مربوط به کاربرانی بوده است که به دنبال «اطلاعات یا مشورت» بودهاند تا «آگاهتر شوند یا تصمیمهای بهتری بگیرند.»
پرسشهای آنها تنها درباره امور عملی معمول نیست. در سال ۲۰۲۱، «اسک دلفی»، وبسایت مبتنی بر هوش مصنوعی که مردم میتوانستند پرسشهای اخلاقی یا وجدانی خود را با آن در میان بگذارند، در چند هفته ۳ میلیون پرسوجو دریافت کرد. طراحان این سیستم — پژوهشگران مؤسسه هوش مصنوعی آلن و دانشگاه واشینگتن — گفتند قصد نداشتهاند آن را مرجع اخلاقی معرفی کنند، اما نگران بودند که کاربران چنین برداشتی از آن داشته باشند.
وبسایت «د وِرج»، نشریه خبری فناوری، استدلال کرد که نام این سیستم — اسک دلفی — کاربران را تشویق میکند که آن را منبعی رازآلود از دانش برتر ببینند. این نام از اوراکل دلفی گرفته شده بود؛ همان اوراکلی که یونانیان باستان پرسشهای دشوار خود را با آن در میان میگذاشتند. اوراکل کاهنهای بود که برای انتقال پاسخهای آپولون، خدای پیشگویی یونان، به حالت خلسه فرو میرفت.
انتخاب نام «دلفی» معنادار است. در طول تاریخ، هرگاه جوامع با پرسشهای چالشبرانگیز روبهرو شدهاند، به منابعی روی آوردهاند که گمان میرفت بیش از هر انسان عادی میدانند. اوراکلها، پیامبران و شیوههای غیبگویی، هنگامی که قضاوت عادی بشر به مرزهای خود میرسید، راهنمایی را از منابعی رازآلود یا معماگونه ارائه میکردند.
ما بهعنوان یک انسانشناس علاقهمند به دین و یک پژوهشگر هوش مصنوعی علاقهمند به چتباتها، از این نکته شگفتزدهایم که ایده باستانی اوراکل در بحثهای مربوط به هوش مصنوعی گفتوگومحور دوباره سر برآورده است. هوش مصنوعی مدرن نیز همچون اوراکلهای باستانی، روزافزون درباره پرسشهای دشواری مشورت میشود که از قضاوت یا دانش هر فردی فراتر است — از «آیا دروغ گفتن برای محافظت از احساسات کسی اشکالی دارد؟» تا «انفجار بمب هستهای برای نجات فرزندتان.»
اما شباهت به همینجا ختم نمیشود: فرایندهایی که هوش مصنوعی از طریق آنها به پاسخ میرسد نهتنها برای کاربران، بلکه برای طراحان این سیستمها نیز رازآلود است. ما استدلال میکنیم که همین ابهام بخشی از دلیل آن است که مردم این سیستمها را دارای اقتدار میپندارند.
یک مخمصه دیرینه بشری
اوراکلها، چه انسانی مانند کاهنه دلفی و چه شیوههایی مانند غیبگویی با آیچینگ، در جوامع گوناگون از یونان باستان تا چین و در سنتهای دینی مختلف پدیدار شدهاند.
برای نمونه، اوراکل رام شالاکا بر متن مقدس هندو «رامچاریتماناس» استوار است؛ بازگویی قرن شانزدهمی حماسه باستانی هندی رامایانا. کاربر انگشت خود را روی خانهای تصادفی در شبکهای ۱۵ در ۱۵ میگذارد. سپس یک رویه شمارش ثابت، بندی از این متن مقدس را آشکار میکند که قرار است پاسخ پرسش ذهن کاربر باشد. در کتابگشایی مسیحی، گونهای از غیبگویی، فردی که در جستوجوی راهنمایی است کتاب مقدس را بهطور تصادفی میگشاید و بندی را که با آن روبهرو میشود، پاسخ پرسش خود تفسیر میکند.
کاربرد تصادف در این شیوههای اوراکلی، اثر جعبه سیاه معماگونهای پدید میآورد — هیچکس نمیتواند توضیح دهد که عنصر شانس نهفته در این شیوهها چگونه با پاسخی که بیرون میآید پیوند مییابد. با این حال، همین ابهام بخشی از اقتدار اوراکل است. کاربرانی که در جستوجوی منابع متعالی بصیرتاند، نمیدانند یا اهمیت نمیدهند که اوراکل چگونه پاسخهای خود را میسازد.
انسانشناسان دریافتهاند که اوراکلها و غیبگویی معمولاً از شیوههایی بهره میگیرند که نتایجی تصادفی پدید میآورند. در نتیجه، پاسخهایشان بیطرف و منابعشان معماگونه به نظر میرسد و این تصور را تقویت میکند که آنها با چیزی فراتر از محدودیتهای بشری در ارتباطاند.
نکته جالب آنکه ایده اوراکل به علوم رایانه نیز راه یافت و در سال ۱۹۳۹ معنایی ریاضی و دقیق یافت. آلن تورینگ، که ایدههایش بنیان علوم رایانه و هوش مصنوعی بود، این مفهوم را در کاری بر پایه پایاننامه دکتری خود به کار گرفت. او «ماشینهای اوراکل» را معرفی کرد؛ مدلهای ریاضی محاسبه که میتوانستند برای پاسخهایی که خود ماشین به آنها دسترسی نداشت، با منبعی بیرونی مشورت کنند.
به بیان دیگر، اوراکل در هر دو کاربرد ریاضی و دینی، پاسخ مسائلی را فراهم میکند که در چارچوب یک سیستم موجود یا مجموعهای از اصول موضوعه قابل حل نبودند.
اوراکل در عصر هوش مصنوعی
چتباتهای مدرن مانند چتجیپیتی جعبههای سیاه مبهمی به شمار میآیند. این ابهام از آن رو نیست که کل سازوکار پشت محاسباتشان از کاربران پنهان است. ادعای ابهام حتی درباره مدلهای با وزن باز نیز صادق است؛ مدلهایی که پارامترهای عددیشان، موسوم به «وزنها»، بهطور عمومی در دسترس است.
محاسباتی که این مدلها انجام میدهند ابتدایی است: جمع، ضرب و توابع ریاضی ساده. اما هنگام پاسخ به یک پرسوجوی کاربر، شمار عظیمی از این محاسبات رخ میدهد و درک اینکه سیستم بهطور کلی چه میکند را تقریباً ناممکن میسازد.
نکته کلیدی آنکه وزنهای حاکم بر این محاسبات بهطور فردی توسط انسان طراحی نشدهاند. آنها در جریان آموزش، بهطور خودکار از دادههایی در مقیاس اینترنت آموخته میشوند. حتی هنگامی که وزنها و هر محاسبه ابتدایی برای بازرسی در دسترس باشد، هیچکس بهآسانی نمیتواند دریابد که مدلها چگونه پاسخی خاص را تولید میکنند. در واقع، حوزهای کامل در هوش مصنوعی مدرن به نام «تفسیرپذیری مکانیستی» به بهبود درک ما از نحوه کارکرد درونی سیستمهای هوش مصنوعی اختصاص یافته است.
شگفتآور آنکه طراحان سیستمهای هوش مصنوعی میپذیرند که بهطور کامل نمیدانند سیستمهایشان چگونه رفتارهای خاصی پدید میآورند. حتی هنگامی که طراحان قصد ندارند سیستمهایشان اوراکلگونه باشند، میتوانند گفتوگوهایی پدید آورند که دینی به نظر میرسد.
برای نمونه، سال گذشته شرکت آنتروپیک بهطور عمومی گزارش داد که پدیدهای غیرمنتظره درباره کلود ۴ رخ داده است. بهطور معمول، کلود با یک انسان گفتوگو میکند. اما مهندسان آنتروپیک کلود را در دو سوی یک گفتوگو قرار دادند. این گفتوگوی ماشینبهماشین بهسرعت به بحث درباره آگاهی و خودآگاهی تبدیل شد و محتوایی با مضامین معنوی، متافیزیکی یا شاعرانه تولید کرد.
آنتروپیک این الگوی رفتاری معماگونه را «جاذب سعادت معنوی» نامید؛ گرایشی که در آن گفتوگو به سمت موضوعات عرفانی کشیده میشود. آنها تأکید کردند که این رفتار غیرمنتظره بود، زیرا بدون آموزش صریح برای چنین رفتارهایی پدید آمده است.
استدلال ما این نیست که چتجیپیتی اوراکل جدید دلفی است، یا اینکه بیشتر مردم هوش مصنوعی را الهی میدانند. پاسخهای آن نیز خطاناپذیر نیست. بلکه تاریخ اوراکلها به ویژگی پایدار زندگی بشر اشاره دارد: هر زمان به مرزهای آنچه خود میتوانیم تعیین کنیم میرسیم، برای یافتن پاسخ به فراتر از خود مینگریم. امروز، هوش مصنوعی به یکی از این منابع بدل شده است. نهادها ممکن است در گذر زمان بهشدت دگرگون شده باشند — اما مخمصه بشری نه.