آنیل ست برنده جایزه سالانه مقاله‌نویسی برگروئن ۲۰۲۵ Berggruen Prize Essay Competition برای مقاله انگلیسی‌اش «The Mythology Of Conscious AI» شد.
ست استاد علوم اعصاب و مدیر مرکز علم آگاهی در دانشگاه ساسکس است. او همچنین مدیر مشترک برنامه مغز، ذهن و آگاهی در مؤسسه پیشرفته کانادایی پژوهش است. کتاب او «Being You: A New Science of Consciousness» (انتشارات داتون، ۲۰۲۱) است.
برای قرن‌ها، مردم رویای بازی کردن نقش خدا را با خلق نسخه‌های مصنوعی انسان داشتند. این رویایی است که با هر موج جدید فناوری بازتولید می‌شود. با مهندسی ژنتیک، امکان کلونینگ انسانی مطرح شد و با رباتیک، اندرویدهای شبیه انسان.
ظهور هوش مصنوعی (AI) موج شکسته دیگری است — شاید یک سونامی. سیستم‌های هوش مصنوعی اطراف ما احتمالاً همین حالا هوشمند هستند، دست‌کم در برخی جنبه‌ها. قطعاً هوشمندتر هم خواهند شد. اما آیا آن‌ها آگاه هستند، یا می‌توانند روزی آگاه شوند؟ و چرا این موضوع اهمیت دارد؟
تاریخ فرهنگی آگاهی مصنوعی، هم طولانی است و هم عمدتاً ناخوشایند. از یوسله گولم گرفته تا فرانکنشتاین مری شلی، HAL 9000 در «۲۰۰۱: ادیسه فضایی»، اوا در «Ex Machina» و کلارا در «Klara and The Sun»، رویای خلق بدن‌های مصنوعی و ذهن‌های سنتزی که هم فکر می‌کنند و هم احساس می‌کنند، به ندرت پایان خوشی دارد — حداقل نه برای انسان‌های درگیر. چیزی که از این داستان‌ها می‌آموزیم این است: اگر هوش مصنوعی در مسیر رسیدن به آگاهی واقعی، یا حتی سیستم‌هایی است که به طور متقاعدکننده‌ای آگاه به نظر می‌رسند، چیزهای زیادی در خطر است — و فقط اختلال در بازار کار نیست.
برخی افراد فکر می‌کنند هوش مصنوعی آگاه همین حالا اینجا است. در مصاحبه‌ای در سال ۲۰۲۲ با واشنگتن پست، بلیک لموین، مهندس گوگل، ادعای تکان‌دهنده‌ای درباره سیستم هوش مصنوعی‌ای که رویش کار می‌کرد، یعنی چت‌بات LaMDA، مطرح کرد. او ادعا کرد که این سیستم آگاه است، احساسات دارد و به معنای مهمی مانند یک شخص واقعی است. با وجود پوشش رسانه‌ای گسترده، لموین خیلی جدی گرفته نشد. گوگل او را به دلیل نقض سیاست‌های محرمانگی اخراج کرد و قطار هوش مصنوعی به حرکت خود ادامه داد.
اما سوالی که او مطرح کرد، از بین نرفته است. اخراج کسی به دلیل نقض محرمانگی، همان اخراج شدن به دلیل اشتباه بودن نیست. با بهبود مداوم فناوری‌های هوش مصنوعی، سوالات درباره آگاهی ماشینی بیشتر مطرح می‌شوند. دیوید چالمرز، یکی از برجسته‌ترین متفکران این حوزه، پیشنهاد کرده است که ماشین‌های آگاه ممکن است در آینده‌ای نه چندان دور وجود داشته باشند. جفری هینتون، پیشگام واقعی هوش مصنوعی و برنده اخیر جایزه نوبل، باور دارد که آن‌ها همین حالا وجود دارند. در اواخر سال ۲۰۲۴، گروهی از پژوهشگران برجسته مقاله‌ای را با تبلیغات گسترده درباره لزوم توجه جدی به رفاه سیستم‌های هوش مصنوعی نوشتند. برای بسیاری از متخصصان ارشد هوش مصنوعی و علوم اعصاب، ظهور آگاهی ماشینی مسئله‌ی زمان است، نه اگر.
نحوه تفکر ما درباره چشم‌انداز هوش مصنوعی آگاه اهمیت دارد. این موضوع برای خود سیستم‌های هوش مصنوعی اهمیت دارد، زیرا — اگر آن‌ها آگاه باشند، چه اکنون و چه در آینده — با آگاهی، جایگاه اخلاقی، ظرفیت رنج کشیدن و شاید حقوق نیز همراه می‌آید.
این موضوع برای ما نیز اهمیت دارد. آنچه ما به صورت جمعی درباره آگاهی در هوش مصنوعی فکر می‌کنیم، صرف‌نظر از واقعیت، از قبل اهمیت بسیار زیادی دارد. اگر احساس کنیم که همراهان هوش مصنوعی ما واقعاً احساساتی دارند، آسیب‌پذیری‌های روانشناختی ما مورد بهره‌برداری قرار می‌گیرد، اولویت‌های اخلاقی ما تحریف می‌شود و ذهن‌هایمان خشن می‌شوند — رفتار با ماشین‌های به نظر آگاه طوری که انگار احساس ندارند، مکانی ناسالم از نظر روانشناختی است. و اگر به مخلوقات هوش مصنوعی خود حقوق اعطا کنیم، ممکن است نتوانیم آن‌ها را خاموش کنیم، حتی اگر برخلاف منافع ما عمل کنند.
شاید بیش از همه، نحوه تفکر ما درباره هوش مصنوعی آگاه، بر نحوه درک ما از طبیعت انسانی خودمان و ماهیت تجربیات آگاهی‌بخشی که زندگی ما را ارزشمند می‌کنند، تأثیر می‌گذارد. اگر خودمان را بیش از حد راحت با مخلوقات ماشینی‌مان اشتباه بگیریم، نه تنها آن‌ها را بیش از حد بزرگ می‌بینیم، بلکه خودمان را نیز دست‌کم می‌گیریم.
وسوسه‌های هوش مصنوعی آگاه
چرا ممکن است فکر کنیم که هوش مصنوعی می‌تواند آگاه باشد؟ در نهایت، رایانه‌ها بسیار متفاوت از موجودات بیولوژیکی هستند و تنها چیزهایی که اکثر مردم اکنون توافق دارند آگاه هستند، از گوشت ساخته شده‌اند، نه فلز.
دلیل اول در زیرساخت روانشناختی خودمان نهفته است. به عنوان انسان، می‌دانیم که آگاه هستیم و دوست داریم فکر کنیم که باهوش هستیم، بنابراین طبیعی می‌دانیم که فرض کنیم این دو با هم مرتبط هستند. اما صرف اینکه این دو در ما با هم مرتبط هستند، به این معنا نیست که به طور کلی با هم مرتبط هستند.
هوش و آگاهی چیزهای متفاوتی هستند. هوش عمدتاً درباره انجام دادن است: حل جدول کلمات، مونتاژ مبلمان، مدیریت یک موقعیت خانوادگی پیچیده، رفتن به فروشگاه — همه شامل نوعی رفتار هوشمندانه هستند. یک تعریف عمومی مفید از هوش، توانایی دستیابی به اهداف پیچیده از طریق روش‌های انعطاف‌پذیر است. تعاریف دیگری نیز وجود دارند، اما همه آن‌ها بر ظرفیت‌های عملکردی یک سیستم تأکید می‌کنند: توانایی تبدیل ورودی‌ها به خروجی‌ها، انجام دادن کارها.
«اگر خودمان را بیش از حد راحت با مخلوقات ماشینی‌مان اشتباه بگیریم، نه تنها آن‌ها را بیش از حد بزرگ می‌بینیم، بلکه خودمان را نیز دست‌کم می‌گیریم.»
یک سیستم هوش مصنوعی توسط توانایی آن در انجام نوعی رفتار هوشمندانه اندازه‌گیری می‌شود، هرچند لزوماً به شکل انسانی. مفهوم هوش عمومی مصنوعی (AGI)، در مقابل، صراحتاً به هوش انسانی اشاره دارد. قرار است با شایستگی‌های شناختی انسان‌ها برابر یا فراتر از آن‌ها باشد. (همچنین هوش فوق‌العاده مصنوعی، ASI، وجود دارد که زمانی رخ می‌دهد که هوش مصنوعی خودش را فراتر از درک و کنترل ما ارتقا دهد. ASI معمولاً در سناریوهای وجودی‌تر برای آینده احتمالی ما ظاهر می‌شود.)
آگاهی، در مقابل هوش، عمدتاً درباره بودن است. نیم قرن پیش، فیلسوف توماس نیگل مشهورانه بیان کرد که «یک ارگانیسم دارای حالت‌های ذهنی آگاه است اگر و تنها اگر چیزی باشد که بودن آن ارگان شبیه است.» آگاهی تفاوت بین بیداری عادی و غفلت ناشی از بیهوشی عمیق عمومی است. این جنبه تجربی عملکرد مغز و به ویژه ادراک است: رنگ‌ها، اشکال، مزه‌ها، هیجانات، افکار و موارد دیگر که به زندگی ما بافت و معنا می‌بخشند. آبی بودن آسمان در یک روز صاف. طعم تلخ و سرگیجه اولین فنجان قهوه شما.
سیستم‌های هوش مصنوعی می‌توانند به طور معقولی ادعای هوش در برخی اشکال را داشته باشند، زیرا قطعاً می‌توانند کارهایی انجام دهند، اما گفتن اینکه آیا چیزی شبیه بودن ChatGPT وجود دارد، دشوارتر است.
تمایل به دسته‌بندی هوش و آگاهی با هم، ریشه در سه سوگیری روانشناختی ذاتی دارد.
اولین مورد انسان‌محوری است. این تمایل به دیدن چیزها از لنز انسانی است: مثال انسانی را به عنوان تعریف‌کننده در نظر گرفتن، نه به عنوان یکی از نمونه‌های اینکه چگونه خواص مختلف ممکن است کنار هم جمع شوند.
دومین مورد استثنائیت انسانی است: عادت بدشانس ما برای قرار دادن گونه انسانی در بالای هر تپه‌ای، و گاهی در تپه‌ای کاملاً متفاوت (شاید نزدیک‌تر به فرشتگان و خدایان تا حیوانات دیگر، همانطور که در Scala naturae قرون وسطی). و سومین مورد انسان‌نمایی است. این تمایل به فرافکنی صفات انسانی بر چیزهای غیرانسانی بر اساس شباهت‌های ظاهری است.
این سوگیری‌ها در کنار هم توضیح می‌دهند که چرا تقریباً تعجب‌آور نیست که وقتی چیزها توانایی‌هایی را نشان می‌دهند که ما آن‌ها را مختص انسان می‌دانیم، مانند هوش، به طور طبیعی آن‌ها را با سایر صفاتی که احساس می‌کنیم مشخصاً انسانی هستند، مانند فهم، ذهنیت و آگاهی، مجهز می‌کنیم.
یکی از جنبه‌های رفتار هوشمندانه که مشخص شد برای متقاعد کردن برخی افراد به اینکه هوش مصنوعی می‌تواند آگاه باشد، بسیار مؤثر است، زبان است. این احتمالاً به این دلیل است که زبان سنگ بنای استثنائیت انسانی است. مدل‌های زبانی بزرگ (LLMs) مانند ChatGPT شرکت OpenAI یا Claude شرکت Anthropic، محور بیشتر هیجان‌ها درباره آگاهی مصنوعی بوده‌اند. تا جایی که من می‌دانم، هیچ‌کس ادعا نکرده است که AlphaFold شرکت DeepMind آگاه است، حتی اگر در پشت پرده، بسیار شبیه به یک LLM باشد. همه این سیستم‌ها روی سیلیکون اجرا می‌شوند و شامل شبکه‌های عصبی مصنوعی و نوآوری‌های الگوریتمی پیچیده دیگر مانند ترانسفورمرها هستند. AlphaFold، که ساختار پروتئین را پیش‌بینی می‌کند نه کلمات، صرفاً تارهای روانشناختی ما را به همان شیوه نمی‌نوازد.
زبانی که خود ما استفاده می‌کنیم نیز اهمیت دارد. به این فکر کنید که چقدر عادی شده است که بگوییم LLMها هنگام تولید اطلاعات نادرست «توهم» می‌زنند. توهم در انسان‌ها عمدتاً تجربیات آگاهی‌بخشی است که ارتباط خود را با واقعیت از دست داده‌اند (می‌توان گفت ادراکات غیرقابل کنترل). ما توهم می‌زنیم وقتی صداهایی را می‌شنویم که وجود ندارند یا خویشاوند مرده‌ای را در پای تخت ایستاده می‌بینیم. وقتی می‌گوییم سیستم‌های هوش مصنوعی «توهم» می‌زنند، به طور ضمنی ظرفیت تجربه را به آن‌ها اعطا می‌کنیم. اگر مجبور باشیم از تشبیه انسانی استفاده کنیم، بهتر است بگوییم آن‌ها «داستان‌سرایی» (confabulate) می‌کنند. در انسان‌ها، داستان‌سرایی شامل ساختن چیزها بدون آگاهی از آن است. این عمدتاً درباره انجام دادن است، نه تجربه کردن.
وقتی تجربه آگاهی‌بخش را با صفات به نظر انسانی مانند هوش و زبان شناسایی می‌کنیم، احتمال بیشتری دارد که آگاهی را جایی ببینیم که وجود ندارد، و آن را جایی که وجود دارد، نبینیم. ما قطعاً نباید فقط فرض کنیم که آگاهی به سادگی با هوشمندتر شدن هوش مصنوعی همراه خواهد شد، و اگر کسی را بشنوید که می‌گوید آگاهی مصنوعی واقعی به طور جادویی در آستانه دلخواه AGI ظاهر می‌شود، این نشانه قطعی فعالیت استثنائیت انسانی است.
سوگیری‌های دیگری نیز در کار هستند. ایده قدرتمند اینکه همه چیز در هوش مصنوعی به صورت نمایی در حال تغییر است، وجود دارد. خواه محاسبات خام طبق قانون مور باشد، یا قابلیت‌های جدید موجود در هر تکرار جدید از مدل‌های پایه فناوری‌های بزرگ، چیزها قطعاً سریع در حال تغییر هستند. رشد نمایی خاصیت بی‌ثبات‌کننده روانشناختی دارد که آنچه پیش رو است غیرممکن شیب‌دار به نظر می‌رسد و آنچه پشت سر است بی‌ربط مسطح به نظر می‌رسد. نکته کلیدی این است که اینگونه به نظر می‌رسد هر جا که روی منحنی باشید — این چیزی است که آن را نمایی می‌کند. به دلیل این موضوع، وسوسه‌انگیز است که احساس کنیم همیشه در آستانه یک گذار بزرگ هستیم، و چه چیزی می‌تواند بزرگ‌تر از خلق آگاهی مصنوعی واقعی باشد؟ اما روی یک منحنی نمایی، هر نقطه یک نقطه عطف است.
«وقتی تجربه آگاهی‌بخش را با صفات به نظر انسانی مانند هوش و زبان شناسایی می‌کنیم، احتمال بیشتری دارد که آگاهی را جایی ببینیم که وجود ندارد، و آن را جایی که وجود دارد، نبینیم.»
در نهایت، وسوسه رستاخیز تکنولوژیک وجود دارد. در ابتدای فیلم «Ex Machina»، برنامه‌نویس کیلب به مخترع ناتان می‌گوید: «اگر تو یک ماشین آگاه خلق کرده باشی — این تاریخ بشر نیست، این تاریخ خدایان است.» اگر احساس کنیم در یک گذار تاریخی-تکنولوژیک هستیم و اتفاقاً یکی از معماران آن باشیم، آنگاه وسوسه پرومتئوسی باید سخت قابل مقاومت باشد: احساس آوردن به بشریت چیزی که زمانی حیطه الهی بود. و با این تکینگی (singularity)، وعده رستاخیز امضا شده برای نامیرایی می‌آید: قول فرار از بدن‌های بیولوژیکی فاسد و ناراحت‌کننده ما و زندگی کردن (یا حداقل بودن) برای همیشه، شناور شدن به سوی ابدیت در یک ابر مبتنی بر سیلیکون.
شاید این یکی از دلایلی باشد که اعلام‌های آگاهی ماشینی قریب‌الوقوع در میان نخبگان تکنولوژی (technorati) بیشتر از خارج از آن دیده می‌شود. (بدبینانه‌تر: تغذیه ایده‌ای که چیزی نیمه‌جادویی درباره هوش مصنوعی وجود دارد، ممکن است به حفظ قیمت سهام در سطح بالا کمک کند و حقوق‌های نجومی و سطوح سرمایه‌گذاری فعلی در دره سیلیکون را توجیه کند. کسی واژه «حباب» را گفت؟)
در کتاب «More Everything Forever,»، آدام بکر تمایل به فرافکنی آگاهی به هوش مصنوعی را به عنوان شکلی از پاری‌دولیا توصیف می‌کند — پدیده دیدن الگوها در چیزها، مانند یک صورت در یک تکه نان تست یا مادر ترزا در یک شیرینی دارچینی (شکل ۱). این توصیف مناسبی است. اما کمک به شما برای تشخیص قدرت سوگیری‌های روانشناختی پاری‌دولیای ما، تنها اولین قدم در به چالش کشیدن اسطوره هوش مصنوعی آگاه است. برای پرداختن به سوال اینکه آیا آگاهی مصنوعی واقعی اصلاً ممکن است، باید عمیق‌تر کاوش کنیم.
آگاهی و محاسبات
خود ایده هوش مصنوعی آگاه بر این فرض استوار است که آگاهی مسئله‌ای از جنس محاسبات است. به طور دقیق‌تر، اجرای نوع درست محاسبات، یا پردازش اطلاعات، برای ظهور آگاهی کافی است. این فرض، که فیلسوفان آن را کارکردگرایی محاسباتی می‌نامند، آنقدر عمیقاً نهادینه شده است که می‌تواند دشوار باشد آن را به عنوان یک فرض تشخیص دهیم. اما همین است. و اگر اشتباه باشد، همانطور که من فکر می‌کنم ممکن است باشد، آنگاه آگاهی مصنوعی واقعی کاملاً از روی میز برداشته می‌شود، حداقل برای انواع هوش مصنوعی که با آن‌ها آشنا هستیم.
به چالش کشیدن کارکردگرایی محاسباتی به معنای شیرجه زدن در آب‌های عمیق درباره معنای محاسبات و معنای این است که بگوییم یک سیستم فیزیکی، مانند یک رایانه یا مغز، اصلاً محاسبه می‌کند. من چهار استدلال مرتبط را خلاصه می‌کنم که ایده محاسبات، حداقل از نوعی که در رایانه‌های دیجیتال استاندارد پیاده‌سازی می‌شود، را برای آگاهی کافی دانستن، تضعیف می‌کنند.
۱: مغزها رایانه نیستند
اولین و مهم‌ترین نکته، مغزها رایانه نیستند. استعاره مغز به عنوان یک رایانه مبتنی بر کربن بسیار تأثیرگذار بوده و جذابیت فوری دارد: ذهن به عنوان نرم‌افزار، مغز به عنوان سخت‌افزار. این استعاره همچنین بسیار محصول‌آور بوده است، منجر به بینش‌های فراوانی درباره عملکرد مغز و بخش عمده‌ای از هوش مصنوعی امروز شده است. برای درک قدرت و نفوذ این استعاره، و برای درک محدودیت‌های آن، باید به برخی از پیشگامان علوم کامپیوتر و نوروبیولوژی بازگردیم.
آلان تورینگ در این داستان بر همه مسلط است. در دهه ۱۹۵۰، او ایده‌ای را کاشت که ماشین‌ها ممکن است هوشمند باشند، و بیش از یک دهه قبل از آن، تعریفی از محاسبات را تدوین کرد که از آن زمان تاکنون بنیادی برای فناوری‌های ما و برای درک اکثر مردم از اینکه رایانه‌ها چیست، باقی مانده است.
تعریف تورینگ از محاسبات بسیار قدرتمند و بسیار (هرچند، همانطور که خواهیم دید، نه کاملاً) عمومی است. این تعریف بر مفهوم انتزاعی ماشین تورینگ استوار است: یک دستگاه ساده که نمادها را روی یک نوار بی‌نهایت مطابق مجموعه‌ای از قوانین می‌خواند و می‌نویسد. ماشین‌های تورینگ ایده الگوریتم را رسمی می‌کنند: یک نگاشت، از طریق توالی مراحل، از یک ورودی (رشته‌ای از نمادها) به یک خروجی (رشته دیگری از این دست)؛ اگر بخواهید، یک دستورالعمل ریاضی. مشارکت حیاتی تورینگ تعریف آنچه به عنوان ماشین تورینگ جهانی شناخته شد بود: دستگاه انتزاعی دیگری، اما این بار قادر به شبیه‌سازی هر ماشین تورینگ خاصی — هر الگوریتمی — با گرفتن توصیف ماشین هدف به عنوان بخشی از ورودی خود. این قابلیت چندمنظوره یکی از دلایلی است که محاسبات تورینگ بسیار قدرتمند و بسیار رایج است. رایانه لپ‌تاپی که من با آن می‌نویسم، و همچنین ماشین‌های موجود در مزارع سروری که هر مدل هوش مصنوعی جدیدی را اجرا می‌کنند، همه نمونه‌های فیزیکی و عینی (یا تقریب‌هایی از) ماشین‌های تورینگ جهانی هستند، که توسط محدودیت‌های فیزیکی مانند زمان و حافظه مقید شده‌اند.
«خود ایده هوش مصنوعی آگاه بر این فرض استوار است که آگاهی مسئله‌ای از جنس محاسبات است.»
مزیت بزرگ دیگر این چارچوب، از نقطه نظر مهندسی عملی، جداسازی تمیز بین محاسبات انتزاعی (نرم‌افزار) و پیاده‌سازی فیزیکی (سخت‌افزار) است که اجازه می‌دهد. یک الگوریتم (به معنای توصیف شده در بالا) باید کاری مشابه انجام دهد، صرف‌نظر از اینکه روی چه رایانه‌ای اجرا شود. محاسبات تورینگ، به طور اصولی، مستقل از بستر است: به هیچ پایه مادی خاصی وابسته نیست. در عمل، بهتر است آن را انعطاف‌پذیر نسبت به بستر توصیف کرد، زیرا نمی‌توانید یک رایانه قابل قبول از هر ماده دلخواه بسازید — پنیر، مثلاً، از پس این کار برنمی‌آید. این انعطاف‌پذیری بستر، محاسبات تورینگ را در جهان واقعی بسیار مفید می‌کند، که دلیل آن است که رایانه‌ها در تلفن‌های ما وجود دارند نه صرفاً در ذهن‌های ما.
در حدود همان زمانی که تورینگ اثر خود را می‌گذاشت، ریاضیدان والتر پیتس و نوروفیزیولوژیست وارن مک‌کالوک نشان دادند، در یک مقاله شاخص، که شبکه‌هایی از نورون‌های انتزاعی بسیار ساده‌شده می‌توانند عملیات منطقی انجام دهند (شکل ۲). کارهای بعدی، توسط منطق‌دان استفن کلین و دیگران، نشان داد که شبکه‌های عصبی مصنوعی مانند این‌ها، وقتی با یک حافظه شبیه نوار (مانند ماشین تورینگ) فراهم شوند، «تورینگ کامل» هستند — یعنی می‌توانند، به طور اصولی، هر ماشین تورینگ، هر الگوریتمی را پیاده‌سازی کنند.
این ایده‌ها را کنار هم بگذارید، و ما یک ازدواج ریاضی از روی convenience و نفوذ داریم، و نوعی زیبایی که سادگی را همراهی می‌کند. از یک طرف، می‌توانیم واقعیت آشفته نوروبیولوژیکی مغزهای واقعی را نادیده بگیریم و آن‌ها را به عنوان شبکه‌های ساده‌شده‌ای از نورون‌های انتزاعی در نظر بگیریم، که هر کدام فقط ورودی‌های خود را جمع می‌کنند و خروجی تولید می‌کنند. از طرف دیگر، وقتی این کار را می‌کنیم، همه آنچه محاسبات تورینگ ارائه می‌دهد را به دست می‌آوریم — که بسیار زیاد است.
میوه‌های این ازدواج بیش از همه در فرزندان آن آشکار است: شبکه‌های عصبی مصنوعی که هوش مصنوعی امروز را تغذیه می‌کنند. این‌ها نوادگان مستقیم مک‌کالوک، پیتس و کلین هستند و همچنین الگوریتم‌ها را به معنای تورینگ انعطاف‌پذیر نسبت به بستر پیاده‌سازی می‌کنند. تقریباً تعجب‌آور نیست که جذابیت مسحورکننده موج فعلی هوش مصنوعی، ایده‌ای را تقویت می‌کند که مغزها چیزی جز نسخه‌های کربن‌مبتنی الگوریتم‌های شبکه عصبی نیستند.
اما اینجا جایی است که دردسرها شروع می‌شوند. در داخل مغز، جداسازی تیزی بین «نرم‌افزار ذهنی» (mindware) و «سخت‌افزار مرطوب» (wetware) همانطور که بین نرم‌افزار و سخت‌افزار در یک رایانه وجود دارد، وجود ندارد. هرچه بیشتر به پیچیدگی‌های مغز بیولوژیکی فرو بروید، بیشتر متوجه می‌شوید که چقدر غنی و پویا است، در مقایسه با شن مرده سیلیکون.
الگوهای فعالیت مغز در چندین مقیاس فضایی و زمانی تکامل می‌یابند، از قلمروهای قشری بزرگ‌مقیاس تا جزئیات ریز نوروترانسمیترها و مدارهای عصبی، همه به شدت با یک طوفان مولکولی فعالیت متابولیکی درهم تنیده شده‌اند. حتی یک نورون واحد یک ماشین بیولوژیکی به طرز چشمگیری پیچیده است، مشغول حفظ یکپارچگی خود و بازتولید شرایط و پایه مادی برای ادامه وجود خود. (این فرآیند اتوپویزیس نامیده می‌شود، از یونانی به معنای «تولید خود». اتوپویزیس به طور بحث‌برانگیز یک ویژگی تعریف‌کننده و متمایز سیستم‌های زنده است.)
برخلاف رایانه‌ها، حتی رایانه‌هایی که الگوریتم‌های شبکه عصبی را اجرا می‌کنند، مغزها نوعی چیز هستند که جدا کردن کاری که انجام می‌دهند از آنچه هستند دشوار، و احتمالاً غیرممکن است.
هیچ دلیل خوبی نیز برای انتظار چنین جداسازی تمیزی وجود ندارد. تقسیم‌بندی تیز بین نرم‌افزار و سخت‌افزار در رایانه‌های مدرن توسط طراحی انسانی، پیروی از اصول تورینگ، تحمیل شده است. تکامل بیولوژیکی تحت محدودیت‌های مختلف و با اهداف مختلف عمل می‌کند. از دیدگاه تکامل، هیچ فشار انتخابی آشکاری برای نوع جداسازی کاملی که امکان سازگاری کامل بین مغزهای مختلف، همانطور که ما بین رایانه‌های مختلف لذت می‌بریم، وجود ندارد. در واقع، احتمالاً عکس آن درست است: حفظ تقسیم‌بندی تیز نرم‌افزار/سخت‌افزار از نظر انرژی پرهزینه است، همانطور که این روزها در بودجه‌های انرژی عظیم مزارع سروری مدرن به وضوح مشاهده می‌شود.
«هرچه بیشتر به پیچیدگی‌های مغز بیولوژیکی فرو بروید، بیشتر متوجه می‌شوید که چقدر غنی و پویا است، در مقایسه با شن مرده سیلیکون.»
این موضوع اهمیت دارد زیرا ایده مغز به عنوان یک ماشین تورینگ (جهانی) مبتنی بر گوشت، دقیقاً بر این جداسازی تیز مقیاس‌ها، بر استقلال از بستر که انگیزه تعریف تورینگ در وهله اول بود، استوار است. اگر نتوانید کاری که مغزها انجام می‌دهند را از آنچه هستند جدا کنید، ازدواج ریاضی از روی convenience شروع به فروپاشی می‌کند، و دلیل کمتری برای فکر کردن به سخت‌افزار مرطوب بیولوژیکی به عنوان صرفاً ابزاری برای پیاده‌سازی نرم‌افزار ذهنی الگوریتمی وجود دارد. شواهدی که نشان می‌دهند مادی بودن مغز برای عملکرد آن اهمیت دارد، شواهدی علیه ایده‌ای است که محاسبات دیجیتال همه چیز است، که به نوبه خود شواهدی علیه کارکردگرایی محاسباتی است.
پیامد دیگر یکپارچگی چندمقیاسی عمیق مغزهای واقعی — ویژگی‌ای که فیلسوفان گاهی آن را «تحکیم تولیدی» (generative entrenchment) می‌نامند — این است که نمی‌توانید فرض کنید امکان جایگزینی یک نورون بیولوژیکی واحد با معادل سیلیکونی آن وجود دارد، در حالی که عملکرد آن، رفتار ورودی-خروجی آن، کاملاً حفظ شده باشد.
برای مثال، دانشمندان علوم اعصاب چایتانیا سینتالوری و تیم ووگلز کشف کردند که برخی نورون‌ها به نظر می‌رسد برای پاک کردن محصولات زائد ایجاد شده توسط متابولیسم، اسپایک‌های فعالیت می‌فرستند. ارائه یک جایگزین سیلیکونی کامل برای این نورون‌ها نیازمند اختراع یک متابولیسم کاملاً جدید مبتنی بر سیلیکون نیز خواهد بود، که دقیقاً چیزی نیست که سیلیکون برای آن مناسب باشد. تنها راه برای جایگزینی یکپارچه یک نورون بیولوژیکی، با یک نورون بیولوژیکی دیگر است — و ایده‌آل، همان نورون.
این ضعف آزمایش فکری محبوب «جایگزینی عصبی» را آشکار می‌کند، که اغلب مرتبط با چالمرز است و ما را دعوت می‌کند تا تصور کنیم به تدریج اجزای مغز را با معادل‌های سیلیکونی جایگزین کنیم که دقیقاً به همان شیوه همتایان بیولوژیکی خود عمل می‌کنند. نتیجه‌گیری فرضی این است که خواصی مانند شناخت و آگاهی باید مستقل از بستر باشند (یا حداقل انعطاف‌پذیر نسبت به بستر سیلیکون). این آزمایش فکری به یک تم رایج در بحث‌های آگاهی مصنوعی تبدیل شده است، معمولاً برای حمایت از امکان آن احضار می‌شود. هینتون اخیراً به همین شیوه در یک مصاحبه که ادعا کرد هوش مصنوعی آگاه همین حالا با ما است، به آن استناد کرد. اما این استدلال در اولین مانگ خود شکست می‌خورد، با توجه به غیرممکن بودن جایگزینی هر بخشی از مغز با یک معادل سیلیکونی کامل.
یک پیامد دیگر از مغز عمیقاً یکپارچه از نظر مقیاس وجود دارد که ذکر آن ارزشمند است. رایانه‌های دیجیتال و مغزها به طور بنیادین در نحوه ارتباط خود با زمان متفاوت هستند. در دنیای تورینگ، فقط توالی اهمیت دارد: A به B، ۰ به ۱. می‌تواند یک میکروثانیه یا یک میلیون سال بین هر انتقال حالت وجود داشته باشد، و همچنان همان الگوریتم، همان محاسبات خواهد بود.
در مقابل، برای مغزها و به طور کلی سیستم‌های بیولوژیکی، زمان فیزیکی، پیوسته و اجتناب‌ناپذیر است. سیستم‌های زنده باید به طور مداوم در برابر تجزیه و بی‌نظمی که در مسیر یکسانی آنتروپیک تحمیل شده توسط قانون دوم غیرقابل نقض ترمودینامیک قرار دارد، مقاومت کنند. این بدان معناست که فعالیت نوروبیولوژیکی در زمان پیوسته لنگر انداخته است، به شیوه‌ای که الگوریتم‌ها، به طور طراحی، نیستند. (این دلیل دیگری است که محاسبات دیجیتال بسیار پرهزینه از نظر انرژی است. محاسبات خارج از زمان وجود دارد، اما رایانه‌ها چنین نیستند. اطمینان از اینکه ۱ها به عنوان ۱ها باقی می‌مانند و ۰ها به عنوان ۰ها، انرژی زیادی می‌طلبد، زیرا حتی سیلیکون نمی‌تواند از چنگال‌های آنتروپی فرار کند.)
علاوه بر این، بسیاری از پژوهشگران — به ویژه آن‌هایی که در سنت پدیدارشناسی هستند — مدت‌ها تأکید کرده‌اند که تجربه آگاهی‌بخش خود به طور غنی پویا و ذاتاً زمانی است. این تجربه از یک حالت به حالت دیگر سکته نمی‌کند؛ جریان دارد. انتزاع مغز به فضای توالی خشک الگوریتم‌ها، نه به بیولوژی ما و نه به پدیدارشناسی جریان آگاهی عدالت می‌کند.
استعاره‌ها، در نهایت، فقط استعاره هستند، و — همانطور که فیلسوف آلفرد نورث وایتهد مدت‌ها پیش اشاره کرد — همیشه خطرناک است که یک استعاره را با خود چیز اشتباه بگیرید. نگاه کردن به مغز از طریق «عینک‌های تورینگ»، غنای بیولوژیکی آن را دست‌کم می‌گیرد و انعطاف‌پذیری بستر آنچه انجام می‌دهد را بیش از حد بزرگ می‌بیند. وقتی مغز را آنطور که واقعاً هست می‌بینیم، ایده‌ای که تمام فعالیت بیولوژیکی چندمقیاسی آن صرفاً زیرساخت پیاده‌سازی برای برخی حرکات آکروباتیک الگوریتمی انتزاعی است، نسبتاً ساده‌لوحانه به نظر می‌رسد. مغز یک ماشین تورینگ ساخته شده از گوشت نیست.
«انتزاع مغز به فضای توالی خشک الگوریتم‌ها، نه به بیولوژی ما و نه به پدیدارشناسی جریان آگاهی عدالت می‌کند.»
۲: بازی‌های دیگر در شهر
در بخش قبلی، اشاره کردم که محاسبات تورینگ قدرتمند اما محدود است. محاسبات تورینگ — الگوریتم‌ها — یک محدوده متناهی از اعداد گسسته (به طور کلی، رشته‌ای از نمادها) را به محدوده دیگری نگاشت می‌کنند، و فقط توالی اهمیت دارد. الگوریتم‌های تورینگ قدرتمند هستند، اما انواع زیادی از پویایی‌ها، انواع دیگری از توابع، وجود دارند که فراتر از این نوع محاسبات می‌روند. تورینگ خود توابع غیرقابل محاسبه مختلفی را شناسایی کرد، مانند «مسئله توقف» مشهور، که مسئله تعیین، به طور کلی، اینکه آیا یک الگوریتم، با توجه به برخی ورودی‌های خاص، هرگز متوقف خواهد شد، است. علاوه بر این، هر تابعی که پیوسته (به طور نامحدود قابل تقسیم) یا تصادفی (شامل تصادف ذاتی) باشد، به طور دقیق، خارج از حیطه تورینگ قرار می‌گیرد. (محاسبات تورینگ می‌توانند این خواص را تا درجات مختلف تقریب بزنند یا شبیه‌سازی کنند، اما این با ادعای اینکه چنین توابعی هستند محاسبات تورینگ، متفاوت است. من بعداً به این تمایز بازخواهم گشت.)
سیستم‌های بیولوژیکی سرشار از پویایی‌های پیوسته و تصادفی هستند، و به شدت در زمان فیزیکی غوطه‌ورند. حداقل جسورانه به نظر می‌رسد که فرض کنیم فقط محاسبات تورینگ برای آگاهی، یا در واقع برای بسیاری از جنبه‌های دیگر شناخت و ذهن، اهمیت دارند. میدان‌های الکترومغناطیسی، شار نوروترانسمیترها، و بسیاری چیزهای دیگر — همه خارج از مرزهای الگوریتمی قرار دارند، و هر کدام از آن‌ها ممکن است نقش حیاتی در آگاهی ایفا کنند.
این محدودیت‌ها ما را تشویق می‌کنند که دیدگاه گسترده‌تری به مغز داشته باشیم، فراتر از آنچه گاهی «دنیای تورینگ» می‌نامم، تا در نظر بگیریم چگونه اشکال گسترده‌تر محاسبات و پویایی‌ها ممکن است به توضیح اینکه مغزها چگونه کارهای خود را انجام می‌دهند، کمک کنند. تاریخ غنی‌ای برای بهره‌برداری وجود دارد، و آینده‌ای هیجان‌انگیز نیز.
قدیمی‌ترین رایانه‌ها ماشین‌های تورینگ دیجیتال نبودند، بلکه دستگاه‌های آنالوگ بودند که در زمان پیوسته کار می‌کردند. «مکانیزم آنتیکیترا» باستانی، که برای اهداف نجومی استفاده می‌شد و مربوط به حدود ۲۰۰۰ سال قبل از میلاد است، نمونه عالی‌ای است. رایانه‌های آنالوگ دوباره در تولد هوش مصنوعی در دهه ۱۹۵۰، در قالب رشته‌ای که مدت‌ها نادیده گرفته شده بود یعنی سایبرنتیک، برجسته بودند، جایی که مسائل کنترل و تنظیم یک سیستم مهم‌تر از دستکاری نمادهای انتزاعی در نظر گرفته می‌شد.
اخیراً، احیایی در محاسبات نورومورفیک وجود داشته است، که از خواص دقیق‌تر سیستم‌های عصبی، مانند زمان‌بندی دقیق اسپایک‌های نورونی، بهره می‌برد، بیشتر از نورون‌های شبیه‌سازی‌شده کارتونی که رویکردهای فعلی شبکه عصبی مصنوعی را غالب می‌کنند. و سپس مفهوم نسبتاً جدید «محاسبات فان» (معرفی شده توسط هینتون) وجود دارد، که بر پتانسیل صرفه‌جویی انرژی ارائه شده توسط توسعه الگوریتم‌هایی که به طور جدایی‌ناپذیر به بسترهای مادی خود متصل هستند، تأکید می‌کند، به طوری که آن‌ها (به صورت استعاره‌ای) می‌میرند وقتی پیاده‌سازی خاص آن‌ها از بین می‌رود. همه این اشکال جایگزین محاسبات، بیشتر به پایه مادی خود متصل هستند — کمتر انعطاف‌پذیر نسبت به بستر هستند — از محاسبات دیجیتال استاندارد.
بسیاری از سیستم‌ها کارهای خود را انجام می‌دهند بدون اینکه منصفانه یا مفید باشد که آن‌ها را محاسباتی توصیف کرد. سه دهه پیش، دانشمند شناختی تیم ون گلدر یک مثال تأثیرگذار ارائه داد، به شکل گاورنر یک موتور بخار (شکل ۳). این گاورنرها جریان بخار را از طریق یک موتور با استفاده از مکانیک و فیزیک ساده تنظیم می‌کنند: با افزایش سرعت موتور، دو توپ سنگین کنسولی به بیرون تاب می‌خورند، که به نوبه خود یک شیر را می‌بندد و جریان بخار را کاهش می‌دهد. یک «گاورنر محاسباتی»، که سرعت موتور را حس کند، اقدامات لازم را محاسبه کند و سپس سیگنال‌های دقیق موتوری را برای روشن یا خاموش کردن عملگرها ارسال کند، نه تنها به طور ناامیدکننده‌ای ناکارآمد خواهد بود، بلکه سوءتفاهم کاملی از آنچه واقعاً در حال وقوع است را نشان می‌دهد.
شاخه‌ای از علوم شناختی که به طور کلی به عنوان «سیستم‌های پویا» شناخته می‌شود، و همچنین رویکردهایی که بر جنبه‌های فعال، تجسم‌یافته، تعبیه‌شده و گسترده ذهن تأکید دارند (به اصطلاح علوم شناختی 4E)، همه، به شیوه‌هایی مرتبط با بینش ون گلدر، ایده‌ای را رد می‌کنند که ذهن و مغز می‌توانند به طور جامع به صورت الگوریتمی توضیح داده شوند. همه آن‌ها جایگزین‌هایی را بر اساس ریاضیات فرآیندهای پیوسته و پویا — شامل مفاهیمی مانند جاذب‌ها، فضاهای فاز و غیره — بررسی می‌کنند. حداقل معقول است که آن جنبه‌های عملکرد مغز که برای آگاهی ضروری هستند، نیز به فرآیندهای غیرمحاسباتی مانند این‌ها، یا شاید به برخی مفهوم گسترده‌تر محاسبات، وابسته باشند.
«شواهدی که نشان می‌دهند مادی بودن مغز برای عملکرد آن اهمیت دارد، شواهدی علیه ایده‌ای است که محاسبات دیجیتال همه چیز است، که به نوبه خود شواهدی علیه کارکردگرایی محاسباتی است.»
این بازی‌های دیگر در شهر هنوز با آنچه در فلسفه به عنوان کارکردگرایی شناخته می‌شود، سازگار هستند: ایده‌ای که خواص ذهن (شامل آگاهی) به سازمان‌دهی عملکردی مغز (تجسم‌یافته) بستگی دارد. یکی از عوامل contributing به سردرگمی در این حوزه، تمایل به خلط موضع نسبتاً لیبرال کارکردگرایی-به‌طور-عمومی، از آنجا که سازمان‌دهی عملکردی می‌تواند شامل چیزهای زیادی باشد، با ادعای بسیار خاص کارکردگرایی محاسباتی بوده است، که ضمن می‌کند نوع سازمان‌دهی که اهمیت دارد محاسباتی است و که به نوبه خود اغلب فرض می‌شود مربوط به الگوریتم‌های سبک تورینگ است.
چالش برای آگاهی ماشینی اینجا این است که هرچه بیشتر از دنیای تورینگ دور شویم، بیشتر در تصادف، پویایی و آنتروپی درگیر می‌شویم، و بیشتر به خواص یک بستر مادی خاص متصل می‌شویم. سوال دیگر درباره اینکه کدام الگوریتم‌ها منجر به آگاهی می‌شوند نیست؛ سوال درباره اینکه یک سیستم چقدر باید شبیه مغز باشد تا سوزن پتانسیل آگاه بودن آن را جابه‌جا کند.
۳: حیات اهمیت دارد
استدلال سوم من این است که حیات (احتمالاً) اهمیت دارد. این ایده — که طبیعت‌گرایی زیستی توسط فیلسوف جان سرل نامیده می‌شود — این است که خواص حیات برای آگاهی ضروری هستند، هرچند لزوماً کافی نیستند. باید از ابتدا بگویم که من استدلال قطعی برای این موضع ندارم، و فکر نمی‌کنم چنین استدلالی هنوز وجود داشته باشد. اما ارزش جدی گرفتن دارد، حداقل به دلیل ساده‌ای که قبلاً ذکر شد: هر نامزدی برای آگاهی که اکثر مردم اکنون توافق دارند واقعاً آگاه است، همچنین زنده است.
چرا حیات ممکن است برای آگاهی اهمیت داشته باشد؟ چیزهای بیشتری برای گفتن اینجا وجود دارد که در این مقاله جا نمی‌شود (من یک کتاب کامل، «Being You»، و یک مقاله تحقیقاتی اخیر درباره این موضوع نوشتم)، اما یکی از راه‌های فکر کردن درباره آن اینگونه است.
نقطه شروع ایده‌ای است که آنچه ما به صورت آگاهانه ادراک می‌کنیم، به حدس‌های بهترین مغز درباره آنچه در جهان در حال وقوع است بستگی دارد، نه به خوانش مستقیم ورودی‌های حسی. این از نظریه‌های پردازش پیش‌بینی‌کننده تأثیرگذار مشتق می‌شود که مغز را به عنوان چیزی درک می‌کنند که به طور مداوم ورودی‌های حسی خود را با به‌روزرسانی پیش‌بینی‌ها درباره علل آن‌ها توضیح می‌دهد. در این دیدگاه، سیگنال‌های حسی به عنوان خطاهای پیش‌بینی تفسیر می‌شوند، که تفاوت بین آنچه مغز انتظار دارد و آنچه در هر سطح از سلسله‌مراتب ادراکی خود دریافت می‌کند را گزارش می‌دهند، و مغز به طور مداوم این خطاهای پیش‌بینی را در همه جا و همیشه به حداقل می‌رساند.
تجربه آگاهی‌بخش در این نور نوعی توهم کنترل‌شده است: یک استنتاج ادراکی بالا به پایین و از درون به بیرون که در آن پیش‌بینی‌های مغز درباره آنچه در حال وقوع است، به طور مداوم توسط سیگنال‌های حسی که از پایین به بالا (یا بیرون به درون) می‌آیند، کالیبره می‌شوند.
این نوع حدس‌زنی ادراکی بهترین، نه تنها تجربیات جهان را، بلکه تجربیات بودن یک خود را نیز پشتیبانی می‌کند — تجربیات بودن سوژه تجربه. یک مثال خوب نحوه ادراک ما از بدن است، هم به عنوان یک شیء در جهان و هم به عنوان منبع جنبه‌های بنیادی‌تر خودی، مانند هیجان و خلق. هر دو این جنبه‌های خودی می‌توانند به عنوان اشکالی از حدس‌زنی ادراکی بهترین درک شوند: استنتاج‌هایی درباره اینکه چه چیزی بخشی از بدن است و چه چیزی نیست، و استنتاج‌هایی درباره وضعیت فیزیولوژیکی داخلی بدن (دومی گاهی «استنتاج اینتروسپتیو» نامیده می‌شود؛ اینتروسپشن به ادراک بدن از درون اشاره دارد).
پیش‌بینی‌های ادراکی نه تنها برای فهمیدن آنچه در حال وقوع است خوب هستند، بلکه (با ارجاع به سایبرنتیک اواسط قرن بیستم) برای کنترل و تنظیم نیز خوب هستند: وقتی می‌توانید چیزی را پیش‌بینی کنید، می‌توانید آن را کنترل نیز بکنید. این بیش از همه به پیش‌بینی‌ها درباره وضعیت فیزیولوژیکی بدن اعمال می‌شود. این به این دلیل است که وظیفه اولیه هر مغزی نگه داشتن بدن خود زنده است، نگه داشتن کمیت‌های فیزیولوژیکی مانند ضربان قلب و اکسیژن خون در جایی که باید باشند. این، به نوبه خود، کمک می‌کند توضیح دهد که چرا تجربیات تجسم‌یافته به شکلی که هستند احساس می‌شوند.
تجربیات هیجان و خلق، برخلاف بینایی (برای مثال)، عمدتاً با والانس مشخص می‌شوند — با اینکه چیزها به طور کلی خوب پیش می‌روند یا بد.
«هر نامزدی برای آگاهی که اکثر مردم اکنون توافق دارند واقعاً آگاه است، همچنین زنده است.»
این رانش برای زنده ماندن در هیچ نقطه خاصی به کف نمی‌رسد. این به عمق داخل هر سلول، به کوره‌های مولکولی متابولیسم، می‌رسد. در این گردبادها فعالیت متابولیکی، فرآیند فراگیر به حداقل رساندن خطای پیش‌بینی از مادی بودن حیات خود جداشدنی نمی‌شود. یک خط ریاضی می‌تواند مستقیماً از ماهیت خودتولیدکننده، اتوپویئتیک مواد بیولوژیکی تا حدس‌های بایسی بهترین که تجربیات ادراکی ما از جهان و خود را پشتیبانی می‌کنند، کشیده شود.
اکنون چندین خط فکر همگرا می‌شوند. اول، ما درخشش‌هایی از یک ارتباط توضیحی بین حیات و آگاهی داریم. تجربیات آگاهی‌بخش هیجان، خلق و حتی احساس پایه‌ای زنده بودن همه به طور مرتب روی پیش‌بینی‌های ادراکی درگیر در کنترل و تنظیم وضعیت بدن نگاشت می‌شوند. دوم، فرآیندهایی که این پیش‌بینی‌های ادراکی را پشتیبانی می‌کنند، عمیقاً، و شاید جدایی‌ناپذیر، در ماهیت ما به عنوان سیستم‌های بیولوژیکی، به عنوان طوفان‌های خودبازتولیدکننده حیات که در برابر کشش یکسانی آنتروپیک مقاومت می‌کنند، ریشه‌دار هستند. و سوم، همه این‌ها غیرمحاسباتی هستند، یا حداقل غیرالگوریتمی. به حداقل رساندن خطای پیش‌بینی در مغزهای واقعی و بدن‌های واقعی یک فرآیند پویای پیوسته است که احتمالاً از پایه مادی خود جداشدنی نیست، نه یک الگوریتم پیاده‌سازی‌شده با گوشت که در جهان پاک نماد و توالی وجود دارد.
همه این‌ها را کنار هم بگذارید، و تصویری شروع به شکل گرفتن می‌کند: ما جهان اطراف خود و خودمان را در آن تجربه می‌کنیم — با، از طریق و به دلیل بدن‌های زنده خود. شاید این حیات است، نه پردازش اطلاعات، که آتش را به معادلات تجربه دم می‌کند.
۴: شبیه‌سازی، نمونه‌سازی نیست
در نهایت، شبیه‌سازی نمونه‌سازی نیست. یکی از قدرتمندترین قابلیت‌های رایانه‌های جهانی مبتنی بر تورینگ این است که می‌توانند طیف وسیعی از پدیده‌ها را شبیه‌سازی کنند — حتی، و شاید به ویژه، پدیده‌هایی که خودشان (دیجیتال) محاسباتی نیستند، مانند فرآیندهای پیوسته و تصادفی.
اما ما نباید نقشه را با قلمرو، یا مدل را با مکانیزم اشتباه بگیریم. یک شبیه‌سازی الگوریتمی یک فرآیند پیوسته فقط همین است — یک شبیه‌سازی، نه خود فرآیند.
شبیه‌سازی‌های محاسباتی به طور کلی فاقد قدرت‌های علّی و خواص ذاتی چیزهایی هستند که شبیه‌سازی می‌شوند. یک شبیه‌سازی دستگاه گوارش واقعاً چیزی را هضم نمی‌کند. یک شبیه‌سازی باران واقعاً چیزی را خیس نمی‌کند. اگر یک موجود زنده را شبیه‌سازی کنیم، حیات خلق نکرده‌ایم. به طور کلی، یک شبیه‌سازی محاسباتی X باعث به وجود آمدن X نمی‌شود — X را نمونه‌سازی نمی‌کند — مگر اینکه X خود یک فرآیند محاسباتی (به طور خاص، یک الگوریتم) باشد. بیان نکته از جهت دیگر، واقعیت اینکه X می‌تواند به صورت محاسباتی شبیه‌سازی شود، نتیجه‌گیری اینکه X خودش محاسباتی است را توجیه نمی‌کند.
در بیشتر موارد، تمایز بین شبیه‌سازی و نمونه‌سازی واضح و بدون بحث است. باید برای آگاهی نیز واضح و بدون بحث باشد. یک شبیه‌سازی محاسباتی مغز (و بدن)، هر چقدر هم جزئیات داشته باشد، تنها در صورتی منجر به آگاهی می‌شود اگر آگاهی مسئله‌ای از جنس محاسبات باشد. به عبارت دیگر، چشم‌انداز نمونه‌سازی آگاهی از طریق نوعی شبیه‌سازی کل مغز، در برخی سطوح دلخواه جزئیات بالا، از قبل فرض می‌کند که کارکردگرایی محاسباتی درست است. اما همانطور که استدلال کردم، این فرض احتمالاً اشتباه است و قطعاً نباید به صورت بدیهی پذیرفته شود.
این ما را به فقر استعاره مغز-به-عنوان-رایانه بازمی‌گرداند. اگر فکر می‌کنید همه آنچه درباره مغزها اهمیت دارد می‌تواند توسط شبکه‌های عصبی انتزاعی ثبت شود، آنگاه طبیعی است که فکر کنیم شبیه‌سازی مغز روی یک رایانه دیجیتال تمام خواص آن، شامل آگاهی، را نمونه‌سازی خواهد کرد، زیرا در این مورد، همه آنچه اهمیت دارد، به فرض، الگوریتمی است. این دیدگاه «دنیای تورینگ» مغز است.
«شاید این حیات است، نه پردازش اطلاعات، که آتش را به معادلات تجربه دم می‌کند.»
اگر، در عوض، شما به مدل‌های مغز با جزئیات بیشتر که پیچیدگی‌های نورون‌های فردی و سایر فرآیندهای بیوفیزیکی ریز را ثبت می‌کنند، علاقه‌مند هستید، آنگاه واقعاً باید کمتر طبیعی باشد که فرض کنید شبیه‌سازی مغز تمام خواص آن را محقق خواهد کرد، زیرا این مدل‌های با جزئیات بیشتر دقیقاً به این دلیل جالب هستند که پیشنهاد می‌کنند چیزهای دیگری غیر از محاسبات تورینگ احتمالاً اهمیت دارند.
بنابراین، چیزی شبیه تضاد برای کسانی که رویاها و سرمایه خطرپذیر خود را به چشم‌انداس آپلود ذهن‌های آگاه خود به شبیه‌سازی‌های به شدت جزئی مغزشان، تا بتوانند برای همیشه در رستاخیز سیلیکونی وجود داشته باشند، نهفته است. اگر یک مدل مغز به شدت جزئی مورد نیاز باشد، آنگاه شما احتمالاً به همان اندازه در شبیه‌سازی وجود نخواهید داشت که یک تگرگ احتمالاً در رایانه‌های اداره هواشناسی انگلستان به وجود می‌آید.
اما آماده شوید. چه می‌شود اگر همه چیز از قبل یک شبیه‌سازی باشد؟ چه می‌شود اگر کل جهان ما — شامل میلیاردها بدن، مغز و ذهن در این سیاره، و همچنین تگرگ‌ها و رایانه‌های پیش‌بینی آب و هوای آن — فقط مجموعه‌ای از قطعه‌کدها در یک شبیه‌سازی رایانه‌ای پیشرفته خلق شده توسط نوادگان خداسان از نظر تکنولوژیک و وسواسی از نظر نسب‌شناسی ما باشد؟
این «فرضیه شبیه‌سازی» است، که بیشتر با فیلسوف نیک بوستروم مرتبط است، و هنوز، به طرز عجیبی، ایده‌ای تأثیرگذار در میان نخبگان تکنولوژی است.
بوستروم اشاره می‌کند که شبیه‌سازی‌هایی مانند این، اگر خلق شده باشند، باید بسیار بیشتر از «واقعیت پایه» اصلی باشند، که به نوبه خود پیشنهاد می‌کند که ما احتمال بیشتری دارد در یک شبیه‌سازی وجود داشته باشیم تا در خود واقعیت. او استدلال‌های آماری مختلفی را برای پر کردن این ایده بسیج می‌کند. اما نشان‌دهنده است که او یک فرض ضروری را ذکر می‌کند، و سپس آن را به عنوان یک بدیهی در نظر می‌گیرد. این، شاید تعجب‌آور نباشد، فرضی است که «یک رایانه که یک برنامه مناسب را اجرا کند آگاه خواهد بود» (صفحه ۲ مقاله او را ببینید). اگر این فرض برقرار نباشد، آنگاه واقعیت ساده اینکه ما آگاه هستیم، وجود ما در یک شبیه‌سازی را رد می‌کند. اینکه این فرض قوی بدون بررسی در یک بحث فلسفی که همه درباره اعتبار فرض‌ها است پذیرفته می‌شود، نشانه دیگری از چقدر عمیقاً دیدگاه محاسباتی ذهن و مغز نهادینه شده است. همچنین نشانه‌ای از آشوب وجودی است که خود را در آن قرار می‌دهیم وقتی شکست می‌خوریم مدل‌های خود از واقعیت را از خود واقعیت متمایز کنیم.
بیایید خلاصه کنیم. عوامل اجتماعی و روانشناختی زیادی، شامل برخی سوگیری‌های شناختی خوب‌فهمیده، ما را به نسبت دادن بیش از حد آگاهی به ماشین‌ها سوق می‌دهند.
کارکردگرایی محاسباتی — ادعای اینکه محاسبات (الگوریتمی) برای آگاهی کافی است — یک فرض بسیار قوی است که با نمایان شدن تفاوت‌های متعدد و عمیق بین مغزها و (رایانه‌های دیجیتال استاندارد) لرزان‌تر به نظر می‌رسد. فناوری‌های دیگری (مثلاً محاسبات نورومورفیک، زیست‌شناسی مصنوعی) و چارچوب‌های زیادی برای درک مغز (مثلاً نظریه سیستم‌های پویا) وجود دارند که فراتر از الگوریتمی بودن صرف می‌روند. در هر مورد، هرچه بیشتر از دنیای تورینگ دور می‌شوید، کمتر معقول است که خواص مرتبط بتوانند از پایه مادی زیرین خود انتزاع شوند.
یک احتمال، انگیزه گرفته از اتصال دیدگاه‌های پردازش پیش‌بینی‌کننده ادراک با تنظیم فیزیولوژیکی و متابولیسم، این است که آگاهی عمیقاً به ماهیت ما به عنوان موجودات بیولوژیکی و زنده متصل است.
در نهایت، شبیه‌سازی محاسباتی مکانیزم‌های بیولوژیکی آگاهی، در هر دانه‌جزئیاتی که ممکن است انتخاب کنید، منجر به آگاهی نخواهد شد مگر اینکه کارکردگرایی محاسباتی اتفاقاً درست باشد.
هر یک از این خطوط استدلال می‌توانند به تنهایی بایستند. ممکن است استدلال‌های علیه کارکردگرایی محاسباتی را ترجیح دهید در حالی که درباره شایستگی‌های طبیعت‌گرایی زیستی متقاعد نشده باقی بمانید. تمایز بین شبیه‌سازی و نمونه‌سازی به در نظر گرفتن سوگیری‌های شناختی ما بستگی ندارد. اما در کنار هم، آن‌ها یکدیگر را تکمیل و تقویت می‌کنند. پرسشگری از کارکردگرایی محاسباتی اهمیت تمایز بین شبیه‌سازی و نمونه‌سازی را تقویت می‌کند. دسترسی به فناوری‌ها و چارچوب‌های دیگر فراتر از محاسبات الگوریتمی سبک تورینگ، فضا را برای ایده‌ای که حیات ممکن است برای آگاهی ضروری باشد، باز می‌کند.
به طور جمعی، این استدلال‌ها موردی را می‌سازند که آگاهی بعید است به سادگی با هوشمندتر شدن هوش مصنوعی همراه شود، و دستیابی به آن ممکن است برای سیستم‌های هوش مصنوعی به طور کلی غیرممکن باشد، حداقل برای رایانه‌های دیجیتال مبتنی بر سیلیکون که با آن‌ها آشنا هستیم.
در همان زمان، هیچ چیز در آنچه گفتم امکان آگاهی مصنوعی را کاملاً رد نمی‌کند.
با توجه به همه این‌ها، چه باید کرد؟
«عوامل اجتماعی و روانشناختی زیادی، شامل برخی سوگیری‌های شناختی خوب‌فهمیده، ما را به نسبت دادن بیش از حد آگاهی به ماشین‌ها سوق می‌دهند.»
چه کار (نه) انجام دهیم؟
وقتی نوبت به آگاهی می‌رسد، واقعیت موضوع اهمیت دارد. و نه فقط به دلیل اسطوره شبیه‌سازی‌های اجدادی، آپلود ذهن و موارد مشابه. چیزهایی که ظرفیت تجربیات آگاهی‌بخش دارند، جایگاه اخلاقی و moral standing دارند که چیزهای دیگر ندارند. حداقل، ادعاهای این نوع ملاحظه اخلاقی وقتی بر ظرفیت آگاهی استوار باشند، مستقیم‌تر هستند.
به همین دلیل است که تفکر روشن درباره چشم‌اندازهای آگاهی مصنوعی واقعی در اینجا و اکنون حیاتی است. من موردی علیه هوش مصنوعی آگاه ساخته‌ام، اما ممکن است اشتباه کنم. موضع طبیعت‌گرایی زیستی (نسخه من یا هر نسخه دیگر) همچنان یک دید اقلیت است. نظریه‌های دیگر آگاهی حساب‌هایی را در چارچوب محاسبات-به-عنوان-آن-را-می‌شناسیم پیشنهاد می‌کنند. این نظریه‌ها به طور کلی از پیشنهاد شرایط کافی برای آگاهی اجتناب می‌کنند. آن‌ها همچنین به طور کلی از دفاع از کارکردگرایی محاسباتی کنار می‌روند، و به جای آن فرض می‌کنند.
اما این به معنای اشتباه بودن آن‌ها نیست. همه نظریه‌های آگاهی سرشار از عدم قطعیت هستند، و هر کسی که ادعا می‌کند قطعاً می‌داند چه چیزی برای خلق آگاهی مصنوعی واقعی مورد نیاز است، یا قطعاً می‌داند چه چیزی برای اجتناب از انجام این کار مورد نیاز است، از آنچه می‌توان منصفانه گفت، فراتر می‌رود.
این عدم قطعیت ما را در موقعیت دشواری قرار می‌دهد. هرچند ممکن است تکراری به نظر برسد، هیچ‌کس نباید عمداً قصد خلق هوش مصنوعی آگاه را داشته باشد، چه در خدمت برخی رستاخیزهای تکنولوژیک بداندیشیده، یا برای هر دلیل دیگر. خلق ماشین‌های آگاه یک فاجعه اخلاقی خواهد بود. ما سوژه‌های اخلاقی جدیدی را وارد جهان می‌کنیم، و با آن‌ها ظرفیت اشکال جدید رنج کشیدن را، در (احتمالاً) سرعت نمایی. و اگر به این سیستم‌ها حقوق بدهیم، همانطور که استدلال می‌شود اگر واقعاً آگاه هستند باید بدهیم، توانایی ما برای کنترل آن‌ها، یا خاموش کردن آن‌ها اگر نیاز باشد، را محدود می‌کنیم.
حتی اگر من درست بگویم که رایانه‌های دیجیتال استاندارد از پس این کار برنمی‌آیند، سایر فناوری‌های در حال ظهور ممکن است هنوز بتوانند، خواه اشکال جایگزین محاسبات (آنالوگ، نورومورفیک، بیولوژیکی و غیره) یا روش‌های به سرعت در حال توسعه در زیست‌شناسی مصنوعی. به عقیده من، باید بیشتر نگران ظهور تصادفی آگاهی در ارگانوئیدهای مغزی (سازه‌های شبیه مغز که معمولاً از سلول‌های بنیادی جنینی انسانی رشد می‌کنند) باشیم تا هر موج جدید LLM.
اما نگرانی‌های ما اینجا متوقف نمی‌شود. وقتی نوبت به تأثیر هوش مصنوعی در جامعه می‌رسد، ضروری است که تمایزی بین سیستم‌های هوش مصنوعی که واقعاً آگاه هستند و آن‌هایی که به طور متقاعدکننده آگاه به نظر می‌رسند اما در واقع نیستند، قائل شویم. در حالی که عدم قطعیت اجتناب‌ناپذیری درباره اولی وجود دارد، سیستم‌های به نظر آگاه بسیار، بسیار نزدیک‌تر هستند.
همانطور که مهندس گوگل لموین نشان داد، برای برخی از ما، چنین سیستم‌های به نظر آگاه همین حالا اینجا هستند. ماشین‌هایی که آگاه به نظر می‌رسند مسائل اخلاقی جدی متفاوت از آن‌هایی که توسط ماشین‌های واقعاً آگاه مطرح می‌شوند، ایجاد می‌کنند.
برای مثال، ممکن است به سیستم‌های هوش مصنوعی «حقوقی» بدهیم که واقعاً به آن‌ها نیاز ندارند، زیرا در واقع آگاه نخواهند بود، و توانایی ما برای کنترل آن‌ها را بدون دلیل خوبی محدود می‌کند. به طور کلی، یا تصمیم می‌گیریم درباره هوش مصنوعی به نظر آگاه اهمیت قائل شویم، دایره‌های ملاحظه اخلاقی خود را تحریف می‌کنیم، یا تصمیم می‌گیریم اهمیت ندهیم، و خطر خشن کردن ذهن‌هایمان را می‌پذیریم. همانطور که ایمانوئل کانت مدت‌ها پیش در سخنرانی‌های اخلاقی خود استدلال کرد، رفتار با چیزهای به نظر آگاه طوری که انگار آگاهی ندارند، مکانی ناسالم از نظر روانشناختی است.
خطرات هوش مصنوعی به نظر آگاه شروع به توجه توسط چهره‌های برجسته در هوش مصنوعی، شامل مصطفی سلیمان (مدیرعامل Microsoft AI) و یوشوا بندژیو، شده است، اما این به معنای اینکه مشکل به هیچ وجه تحت کنترل است نیست.
«اگر به این سیستم‌ها حقوق بدهیم، همانطور که استدلال می‌شود اگر واقعاً آگاه هستند باید بدهیم، توانایی ما برای کنترل آن‌ها، یا خاموش کردن آن‌ها اگر نیاز باشد، را محدود می‌کنیم.»
یک عامل نادیده گرفته شده اینجا این است که حتی اگر بدانیم، یا باور کنیم، که یک هوش مصنوعی آگاه نیست، هنوز ممکن است نتوانیم در برابر احساس اینکه آگاه است مقاومت کنیم. توهمات آگاهی مصنوعی ممکن است برای ذهن‌های ما به همان اندازه نفوذناپذیر باشند که برخی توهمات بصری. دو خط در توهم مولر-لیر (شکل ۵) طول یکسانی دارند، اما همیشه متفاوت به نظر خواهند رسید. مهم نیست چند بار با توهم مواجه می‌شوید؛ نمی‌توانید با فکر کردن از آن خارج شوید. نحوه احساس ما درباره آگاه بودن هوش مصنوعی ممکن است به همان اندازه نسبت به آنچه فکر می‌کنیم یا درباره آگاهی هوش مصنوعی می‌فهمیم، نفوذناپذیر باشد.
علاوه بر این، چون اجماعی درباره شرایط ضروری یا کافی برای آگاهی وجود ندارد، هیچ آزمون قطعی برای تصمیم‌گیری اینکه آیا یک هوش مصنوعی واقعاً آگاه است، وجود ندارد. داستان «Ex Machina» دقیقاً حول این دوراهی می‌چرخد. با الهام از آزمون تورینگ مشهور (که، همانطور که تورینگ خوب می‌دانست، برای هوش ماشینی آزمون می‌کند، نه آگاهی)، ناتان — خالق ربات اوا — می‌گوید که «آزمون واقعی» آشکار کردن این است که مخلوق او یک ماشین است، و دیدن اینکه آیا کیلب — قربانی — همچنان احساس می‌کند که آن، یا او، آگاه است. «آزمون گلند»، همانطور که شناخته شده است، آزمون خود آگاهی ماشینی نیست. این آزمونی است از اینکه چه چیزی برای متقاعد کردن یک انسان به آگاه بودن یک ماشین مورد نیاز است.
اهمیت اتخاذ موضع اخلاقی آگاهانه با وجود همه این عدم قطعیت‌ها، عادت انسانی دیگری را برجسته می‌کند: سابقه بدشانس ما برای نگه داشتن جایگاه اخلاقی از آن‌هایی که شایسته آن هستند، شامل بسیاری از حیوانات غیرانسانی، و گاهی انسان‌های دیگر. منصفانه است که پرسید آیا نگه داشتن انتساب‌های آگاهی از هوش مصنوعی ممکن است ما را دوباره در سمت اشتباه تاریخ قرار دهد. درخواست‌های اخیر برای توجه به «رفاه هوش مصنوعی» عمدتاً بر اساس این نگرانی است.
اما دلایل خوبی وجود دارد که چرا وضعیت با هوش مصنوعی احتمالاً متفاوت است. سوگیری‌های روانشناختی ما احتمال بیشتری دارد منجر به مثبت‌های کاذب شوند تا منفی‌های کاذب. در مقایسه با حیوانات غیرانسانی، شگفتی‌های ظاهری هوش مصنوعی ممکن است به شیوه‌هایی که برای آگاهی اهمیت ندارند، مانند توانایی زبانی، بیشتر شبیه ما باشند و به شیوه‌هایی که اهمیت دارند، مانند زنده بودن، کمتر شبیه باشند.
ماشین روح
با وجود هیاهو و غرور، شک نیست که هوش مصنوعی جامعه را متحول می‌کند. پیمایش چالش‌های واضح و آشکاری که هوش مصنوعی ایجاد می‌کند، و بهره‌برداری مناسب از بسیاری از منافع آن، بدون سردرگمی اضافی ایجاد شده توسط اعلام‌های نامتناسب درباره عصر در حال آمدن ماشین‌های آگاه، به اندازه کافی دشوار خواهد بود. با توجه به سرعت تغییر در هر دو خود فناوری و در ادراک عمومی آن، توسعه دیدگاهی روشن درباره چشم‌اندازها و دام‌های هوش مصنوعی آگاه هم ضروری و هم فوری است.
آگاهی مصنوعی واقعی همه چیز را تغییر خواهد داد — و بسیار به سمت بدتر. توهمات آگاهی هوش مصنوعی به شیوه‌های متمایز خود خطرناک هستند، به ویژه اگر ما دائماً منحرف و مسحور وسوسه ماشین‌های واقعاً حساس شویم. امید من برای این مقاله این است که ابزارهایی برای فکر کردن درباره این چالش‌ها، برخی دفاع‌ها علیه ادعاهای بیش از حد مطمئن درباره اجتناب‌ناپذیری یا غیرممکن بودن مطلق، و برخی امید برای ماهیت انسانی، حیوانی و بیولوژیکی خودمان ارائه دهد. و امید برای آینده ما نیز.
تاریخ آینده هوش مصنوعی هنوز نوشته نشده است. هیچ اجتناب‌ناپذیری درباره جهاتی که هوش مصنوعی ممکن است هنوز اتخاذ کند وجود ندارد. فکر کردن خلاف این، یعنی بیش از حد محدود شدن توسط میراث مفهومی ما، سنگین شدن با بار علمی-تخیلی بد و مطیع بودن روایت خودخواهانه شرکت‌های فناوری که تلاش می‌کنند به فصل مالی بعدی برسند. زمان کوتاه است، اما ما به طور جمعی هنوز می‌توانیم تصمیم بگیریم چه نوع هوش مصنوعی واقعاً می‌خواهیم و چه نوعی را واقعاً نمی‌خواهیم.
فیلسوف شانون والور هوش مصنوعی را به عنوان آینه‌ای توصیف می‌کند که نور حادثی گذشته دیجیتال‌شده ما را به ما بازمی‌تاباند. ما خودمان را در الگوریتم‌هایمان می‌بینیم، اما الگوریتم‌هایمان را نیز در خودمان می‌بینیم. این مکانیزه کردن ذهن شاید مخرب‌ترین پیامد کوتاه‌مدت شتاب بی‌ادبانه به سمت هوش مصنوعی شبیه انسان باشد. اگر غنای مغزهای بیولوژیکی و تجربه انسانی را با توطئه‌های پردازش اطلاعات چت‌بات‌های تقویت‌شده با دیپ‌فیک، یا هر جادوی جدید هوش مصنوعی ممکن، خلط کنیم، به ذهن‌ها، مغزها و بدن‌هایمان بی‌عدالتی بزرگی می‌کنیم. اگر خودمان را بیش از حد ارزان به مخلوقات ماشینی‌مان بفروشیم، آن‌ها را بیش از حد بزرگ می‌بینیم، و خودمان را دست‌کم می‌گیریم.
شاید به طور غیرمنتظره‌ای، این مرا در نهایت به روح می‌رساند. برای بسیاری از مردم، به ویژه مردم مدرن علم و عقل، ایده روح ممکن است به همان اندازه منسوخ به نظر برسد که عصر حجر. و اگر منظور از روح یک جوهر غیرمادی عقلانیت و آگاهی باشد، کاملاً جداشدنی از بدن، آنگاه این دیدگاه وحشتناکی نیست.
«زمان کوتاه است، اما ما به طور جمعی هنوز می‌توانیم تصمیم بگیریم چه نوع هوش مصنوعی واقعاً می‌خواهیم و چه نوعی را واقعاً نمی‌خواهیم.»
اما بازی‌های دیگری نیز اینجا در شهر هستند. مدت‌ها قبل از دکارت، مفهوم یونانی سایکه ایده روح را به نفس مرتبط می‌کرد، در حالی که در آن سوی دنیا، بیان هندو روح، یا آتمن، جوهر درونی‌ترین ما را با حالت پایه تمام تجربیات مرتبط می‌کرد، تحت تأثیر قرار نگرفته توسط فکر عقلانی یا هر محتوای آگاهی‌بخش خاص دیگر، یک آگاهی شاهد خالص.
رویاهای کارتونی یک رستاخیز سیلیکونی، با تم‌های آپلود ذهن، وجود ابدی بدون بدن و دیدارهای مجدد مبتنی بر ابر با دیگران منتخب، یک عقب‌گرد به روح دکارتی است. رایانه‌ها، یا دقیق‌تر محاسبات، در نهایت نامیرا هستند، و آیین الگوریتم عقلانیتی خالص را وعده می‌دهد، آلوده نشده توسط بدن (با وجود شواهد فراوان مرتبط کردن عقل به هیجان). اما این‌ها احتمالاً رویاهای پوچی هستند، که نه بهشت پساهومانی را ارائه می‌دهند بلکه فراموشی سیلیکونی را.
آنچه واقعاً اهمیت دارد این نوع روح نیست. نه هیچ جوهر ابدی بدون بدن استثنائیت انسانی از شما یا از من. شاید آنچه ما را ما می‌کند حتی دورتر بازمی‌گردد، به یونان باستان و دشت‌های هند، جایی که جوهر درونی‌ترین ما به عنوان احساسی نامشخص از صرفاً زنده بودن ظاهر می‌شود — بیشتر نفس تا فکر و بیشتر گوشت تا ماشین. جامعه‌شناس شری تورکل یک بار گفت که فناوری می‌تواند باعث شود آنچه درباره حیات می‌دانیم فراموش کنیم. وقت آن رسیده است که شروع به یادآوری کنیم.