قرنهاست که انسانها شیفته چشمانداز خلق موجودات مصنوعی به شکل خودمان بودهاند؛ موجوداتی با ذهنهای مصنوعی و بدنهای ساختگی که نه تنها فکر میکنند، بلکه احساس نیز دارند و هم هوشمند هستند و هم خودآگاه. برای بخش عمدهای از این زمان، چنین چشماندازی بسیار دور از دسترس به نظر میرسید؛ موضوعی برای داستانهای علمی تخیلی و فلسفه، نه برای زمان حال. اما در چند سال گذشته، ظهور سریع هوش مصنوعی و به ویژه مدلهای زبان، همه چیز را تغییر داده است.
هفته گذشته، شرکت پیشرو هوش مصنوعی آنتروپیک (Anthropic) تحقیقات جدیدی را درباره مدل زبان خود، کلود (Claude)، منتشر کرد که در آن محققان ادعا کردند نشانههایی از ظهور آگاهی در عملکرد درونی آن یافتهاند. آنها ادعا نکردند که کلود واقعاً به همان شکلی که انسانها آگاه هستند، آگاه است، اما این یافتهها قطعاً احتمال بروز آگاهی در هوش مصنوعی را افزایش داد.
این روزها، محیطی به طور فزایندهای پذیراتر برای این نوع تفکر وجود دارد. ریچارد داوکینز (Richard Dawkins)، زیستشناس تکاملی برجسته، اخیراً نتیجهگیری کرده است که با توجه به پیچیدگی توانایی مکالمه کلود، این مدل حتماً باید آگاه باشد.
مخاطرات بالا است. اگر هوش مصنوعی آگاه باشد یا بتواند آگاه شود، پیامدهای آن بسیار گسترده خواهد بود. هوش مصنوعیهای آگاه بالقوه میتوانند رنج بکشند، که این امر منجر به یک فاجعه اخلاقی بیسابقه خواهد شد. و اگر سیلیکون (silicon) بتواند حس داشته باشد، پس شاید مغزها و بدنهای درهمبرهم خودمان به زودی توسط ماشینهایی که هرگز پیر نمیشوند و نمیمیرند، جایگزین شوند. برخی افراد حتی فکر میکنند که هوش مصنوعیها نوادگان ما خواهند بود و شعله آگاهی را تا آیندهای دور و در سراسر کهکشان حمل خواهند کرد.
تحقیقات آنتروپیک، به رهبری جک لیندسی (Jack Lindsey)، چشمگیر است. تیم او روش جدیدی برای بررسی حرکات آماری بین ورودی به یک مدل زبان (هر آنچه که به آن داده میشود) و خروجی آن توسعه دادند. آنها فعالیتی را یافتند که به نظر میرسید نوعی «فضای کاری ذهنی» برای مدل ایجاد میکند. این فضای کاری شامل انواع کلمات و عبارات مرتبط با مکالمه فعلی بود، موارد مرتبط را در چیزی شبیه به حافظه کوتاهمدت نگه میداشت و برای هر وظیفه در دست، انتخابی عمل میکرد. همچنین آثاری از استدلال گام به گام و بسیاری موارد دیگر را نیز نشان میداد.
در اصل، یافتههای آنها به نظر میرسد نشان میدهد که هوش مصنوعی به طور خودبهخودی یک فضای داخلی برای «فکر کردن» درباره آنچه انجام میدهد و سازماندهی اطلاعات مرتبط، قبل از تصمیمگیری در مورد آنچه که در پاسخ به یک درخواست خاص بگوید، ایجاد میکند.
نکته حیاتی برای محققان این بود که این ویژگیها مشابه مواردی هستند که توسط یکی از برجستهترین نظریههای کنونی آگاهی انسان شناسایی شدهاند: نظریه فضای کاری جهانی (global workspace theory). این نظریه در دهه ۱۹۸۰ توسط دانشمند علوم شناختی، برنارد بارس (Bernard Baars)، معرفی شد و طی سالیان متمادی توسط عصبشناس، استانیسلاس دهاین (Stanislas Dehaene)، بسط داده شد. این نظریه پیشنهاد میکند که تجربیات آگاهانه زمانی رخ میدهند که اطلاعات به طور گسترده در دسترس سایر بخشهای مغز قرار گیرند.
آیا «فضای کاری» درون کلود شواهد خوبی برای آگاهی است؟ برای پاسخ به این سوال، ابتدا باید آگاهی را تعریف کنیم. در این مورد اجماعی وجود ندارد، اما یک نقطه شروع مناسب از فیلسوف توماس نیگل (Thomas Nagel) میآید. پنجاه سال پیش، او در مقاله خود با عنوان «خفاش بودن چگونه است؟» (What Is It Like to Be a Bat?) استدلال کرد که برای یک موجود آگاه، «چیزی وجود دارد که آن موجود بودن شبیه آن است». برای من، حسی وجود دارد که من بودن شبیه آن است، برای شما، حسی وجود دارد که شما بودن شبیه آن است و احتمالاً برای یک سگ یا یک فیل نیز حسی وجود دارد که آن حیوان بودن شبیه آن است. اما برای یک صندلی، یا یک میز، یا یک فرد تحت بیهوشی عمومی عمیق، هیچ حسی وجود ندارد. آگاهی هر نوع تجربهای است: درد دنداندرد، حسادت، لذت خوردن بستنی در یک روز گرم.
یکی از پیامدهای مهم این تعریف این است که آگاهی با هوش متفاوت است. در حالی که آگاهی تماماً درباره احساس کردن و بودن است، هوش تماماً درباره انجام دادن است – درباره انجام وظایفی از یک نوع یا نوع دیگر. یک اشتباه رایج که مردم در مورد هوش مصنوعی مرتکب میشوند، اشتباه گرفتن این دو است – گرفتن نشانههای هوش به عنوان شواهدی برای آگاهی. اما صرف اینکه آگاهی و هوش در انسانها با هم همراه هستند، به این معنی نیست که آنها به طور کلی با هم همراه هستند. فرض اینکه چنین است، بازتابی از روانشناسی خود ماست، نه بینشی در مورد ماهیت واقعیت.
این یکی از دلایلی است که تحقیقات جدید آنتروپیک ارزشمند است. این تحقیق صرفاً بر سوگیریهای روانشناختی ما تکیه نمیکند. در عوض، عمیقتر میرود تا به دنبال نشانههایی از پردازش اطلاعات آگاهانه باشد که ممکن است بین انسانها و ماشینها مشترک باشد. و ادعا میکند که برخی از آنها را یافته است.
همه اینها مطالب جذابی هستند، اما هنوز تفاوتهای زیادی بین کلود و من و شما وجود دارد و دلایل خوبی برای این باور که این تفاوتها حیاتی باقی میمانند. برای مثال، یافتههای آنتروپیک کمتر از آن چیزی است که نظریه فضای کاری جهانی معمولاً نیاز دارد (به عنوان مثال، هیچ فعالیت بازگشتی در کلود وجود ندارد، نوع خاصی از حلقه بازخورد اطلاعات که در مغز انسان میبینیم). اما یک تفاوت اساسیتر وجود دارد: کلود یک برنامه کامپیوتری است که روی سیلیکون اجرا میشود، در حالی که ما و سایر حیوانات آگاه موجودات زنده هستیم. مغزهای ما در بدنهایی تجسم یافتهاند که در جهانها جای گرفتهاند.
چرا این تفاوت مهم است؟ زیرا خود امکان هوش مصنوعی آگاه به این فرض بستگی دارد که آگاهی یک مسئله محاسباتی است و محاسبات مسئول آگاهی در ما میتوانند به همان خوبی در سیلیکون در هوش مصنوعی پیادهسازی شوند.
اما هرچه دقیقتر به مغزهای واقعی نگاه میکنیم، واضحتر میشود که آنها فقط کامپیوترهایی از جنس گوشت نیستند. برای مغزها، برخلاف کامپیوترها، نمیتوان به طور واضح آنچه را که انجام میدهند (نرمافزار) از آنچه که هستند (سختافزار) جدا کرد. این به نوبه خود به این معنی است که آنچه آنها انجام میدهند بعید است صرفاً یک مسئله محاسباتی باشد، زیرا توانایی جداسازی نرمافزار از سختافزار برای نحوه کار کامپیوترهای مدرن حیاتی است.
به نظر میرسد در جایی از مسیر، فراموش کردهایم که کامپیوتر فقط یک استعاره برای مغز است. البته یک استعاره قدرتمند، اما همچنان یک استعاره. و وقتی استعاره را با خود شیء – نقشه را با قلمرو – اشتباه بگیریم، همیشه به مشکل برمیخوریم.
به نظر من، آنچه تحقیقات جدید آنتروپیک نشان میدهد این است که هم مغزهای زنده و هم کامپیوترهای سیلیکونی میتوانند هنگام مواجهه با مشکلات مشابه، به راهحلهای مشابهی دست یابند. همانطور که پرواز با بالهای پرنده یا با موتورهای جت امکانپذیر است، مغزهای انسان و مدلهای زبان نیز میتوانند نحوه بیان چیزهای معقول را بیابند؛ چه با آگاهی (مغزها) و چه بدون آن (مدلهای زبان). اما پردازش اطلاعاتی که در داخل کلود اتفاق میافتد، به همان اندازه بعید است که منجر به آگاهی شود که یک شبیهسازی از یک سیستم آب و هوایی منجر به یک طوفان واقعی شود.
سیستمهای هوش مصنوعی هر روز قدرتمندتر میشوند. اما برای اینکه بهترین شانس را برای حرکت در این دنیای جدید به خود بدهیم، باید به یاد داشته باشیم که چقدر با ساختههای تقریباً جادویی خود متفاوت هستیم. وقتی ذهن خود را بیش از حد ارزان به ماشینهایمان میفروشیم، نه تنها آنها را بیش از حد ارزیابی میکنیم، بلکه خودمان را دست کم میگیریم.
آنیل ست (Anil Seth) استاد علوم اعصاب شناختی و محاسباتی در دانشگاه ساسکس (University of Sussex) و مدیر مشترک مرکز علوم آگاهی ساسکس است. او نویسنده کتاب «تو بودن» (Being You) است.