نوعدوستی اثربخش، بزرگ‌ترین ایده این قرن است

هاینریش هاینه، شاعر آلمانی، نوشت: «اندیشه پیش از کردار می‌آید، همچنان که آذرخش پیش از تندر.» این نکته درباره نوعدوستی اثربخش (EA) نیز درست از آب درآمده است؛ آموزه‌ای اخلاقی که فیلسوفان در آکسفورد آن را پروراندند و با سرعتی چشمگیر از برج عاج دانشگاه به راهروهای قدرت راه یافت. نوعدوستان اثربخش سیلیکون‌ولی را پر کرده‌اند، شرکت‌های پیشرو هوش مصنوعی جهان را کارمند دارند—و دولت ترامپ را نگران کرده‌اند. پنتاگون تعهد می‌دهد: «ایالات متحده هرگز کشوری نوعدوست اثربخش نخواهد بود.» وزیر جنگ این فلسفه را «نوعدوستی معیوب» می‌نامد؛ دیگران در دولت آن را «دیستوپیایی» می‌خوانند. این حملات را نشانه نفوذ آن بدانید.

برخی گله می‌کنند که قرن بیست‌ویکم اندیشه تازه‌ای به خود ندیده است. در این خلأ، ماگا و همفکرانش گام نهادند و پوپولیسم نوستالژیک را به پروژه سیاسی بزرگ قرن بدل کردند. اما ایده بزرگ این قرن نوعدوستی اثربخش است. چنان‌که گزارش می‌دهیم، آنچه در دهه ۲۰۰۰ به‌عنوان شیوه‌ای خوره‌وار برای کارآمدتر کردن کمک‌های خیریه آغاز شد، به جنبشی تبدیل شده که جهان را در معرض محاسبات اخلاقی پیچیده و حتی عجیب قرار می‌دهد. برای بسیاری از پیروان آن، ضرورت اخلاقی فوری برای کسانی که می‌خواهند کار خوبی انجام دهند، جلوگیری از نابودی بشریت به دست هوش مصنوعی است.

EA از نظر جامعه‌شناختی نیز مهم است. شمار نوعدوستان اثربخش زیاد نیست، اما این ایده نسل جوانان بااستعدادی را درنوردیده که در رمزارز و هوش مصنوعی ثروت‌هایی به هم زده‌اند. هرچه این فناوری میلیاردرهای بیشتری بسازد، نوعدوستان اثربخش میلیاردها دلار را به اهدافی هدایت می‌کنند که جامعه را شکل خواهند داد. پیروان EA به راه‌اندازی اوپنای‌آی و آنتروپیک، آزمایشگاه‌های پیشرو، کمک کردند، به این باور که کسانی که خطرهای هوش مصنوعی را درک می‌کنند باید توسعه آن را کنترل کنند. تا حدی، اکنون چنین می‌کنند—هرچند طنز ماجرا آن است که با ایجاد آزمایشگاه‌های بیشتر و در نتیجه رقابت بیشتر، احتمالاً پیشرفت هوش مصنوعی را تسریع کرده‌اند.

و همه این‌ها اکنون EA را از نظر سیاسی مهم کرده است. دولت ترامپ بیم آن دارد که این جنبش در مهار هوش مصنوعی موفق شود. این دولت بر سر خودداری آنتروپیک از اجازه دادن به استفاده از مدل‌هایش برای برخی اهداف نظامی با این شرکت کشمکش داشته است. نوعدوستان اثربخش برجسته می‌پذیرند که هوش مصنوعی ممکن است بسیار سودمند باشد، اما با این حال می‌خواهند توسعه آن را کند کنند تا احتمال آن را کاهش دهند که یک مغز ماشینی توقف‌ناپذیر در پی اهدافی «ناهم‌راستا» با اهداف بشریت سرکشی کند.

برخی منتقدان در آمریکا ترجیح می‌دهند این فناوری را تسریع کنند تا چین از میدان رقابت عقب بماند. اما هنگام حمله به آخرالزمان‌گرایی هوش مصنوعی، آنان را آسان‌تر می‌یابند که نقش خوره را بازی کنند تا نقش توپ. آنان می‌گویند نوعدوستی اثربخش جنبشی از متعصبان است که به‌گونه‌های مختلف غیردموکراتیک، خطرناک و فرقه‌وار است.

این داوری بیش از حد خام است. ریشه‌های خیریه این جنبش آشکارا ستودنی است. نوعدوستان اثربخش، همچون اکونومیست، به تجربه‌گرایی و—به‌ویژه از زمانی که با جامعه آنلاین «عقل‌گرا» درآمیختند—به کاربست تفکر منطقی پایبندند. آنان خرد را بالاتر از سنت یا هنجارها می‌نشانند و با اشتیاق درباره هر موضوعی، هرچند جنجالی، در پی حقیقت بحث می‌کنند.

موفقیت مکرر پیروان EA در پیش‌بینی پیشرفت سریع هوش مصنوعی نیز چشمگیر بوده است. آنان در مورد خطرهای این فناوری برای بشریت حق دارند. در ۲۸ سپتامبر، اوپنای‌آی پس از آنکه مدل تازه‌اش در آزمایش‌ها بیش از حد خطرناک به نظر رسید، برنامه انتشار آن را لغو کرد. بسیاری از رخدادهای ایمنی اخیر به سناریوهای ترسناکی شباهت دارند که سال‌ها پیش در وبلاگ‌های نوعدوستان اثربخش ترسیم شده بود.

با این حال، منتقدان در هشدار دادن به اینکه نوعدوستان اثربخش به نتایجی عجیب می‌رسند حق دارند. آنان همچون فیلسوفان سودگرای پیش از خود، رفتار اخلاقی را به مسئله‌ای بهینه‌سازی فرو می‌کاهند. چگونه می‌توان بهترین نتایج را برای بشریت به‌عنوان یک کل پدید آورد؟ محاسبه آنان ضرورت‌های محلی مانند «وفای به عهد» یا «مراقبت از خانواده» را کم‌اهمیت می‌کند. آنچه اهمیت دارد کاهش رنج است، بی‌طرفانه و در همه‌جا.

این امر آنان را به گنجاندن دایره‌ای بسیار گسترده از دغدغه‌ها در محاسبات اخلاقی‌شان می‌کشاند. به‌آسانی می‌توان دید که اخلاقی بودن یعنی کمک به همسایه. نوعدوستان اثربخش می‌پرسند: چرا برای کمک به کسانی که دورند به همان اندازه تلاش نکنیم؟ این جنبش در آغاز ارتش خود از افراد بسیار موفق را به گرفتن شغل‌های پرحقوق در مالی و مشاوره هدایت کرد. ثروت آنان می‌توانست کارهای نیک بخرد و بیش از آنچه خودشان به‌عنوان مددکار خیریه به دست می‌آوردند، محقق کند.

اما هرچه EA قوی‌تر شده، عجیب‌تر نیز شده است. برخی نوعدوستان اثربخش تمایز اخلاقی میان انسان و دیگر جانوران را ضعیف می‌دانند، زیرا جانوران رنج را تجربه می‌کنند. توقف دامداری صناعی و کمک به میگوها دغدغه‌های عمده‌ای هستند. به همین ترتیب، آنان رویکردی خلاف شهود به زمان دارند. کسانی که هنوز زاده نشده‌اند نیز باید در ترازو سنجیده شوند—و ممکن است تریلیون‌ها نفر باشند. بسیاری از نوعدوستان اثربخش «بلندمدت‌گرا» هستند و خود را موظف می‌دانند خطرهای آینده دور را دفع کنند، حتی اگر این کار اهداف خوب امروز، مانند کمک به فقرای درمانده، را گرسنه بگذارد.

این محاسبه در صورت رانده شدن به حد نهایی می‌تواند به اخلاقی بینجامد که نه فقط خلاف شهود، بلکه نفرت‌انگیز است. برخی نوعدوستان اثربخش می‌اندیشند که زندگی حشرات در مجموع ارزشمندتر از زندگی انسان است، زیرا شمار حشرات بسیار زیاد است. برخی می‌گویند بهتر است تریلیون‌ها انسان که زندگی‌شان به‌سختی ارزش زیستن دارد به وجود آیند تا تنها میلیاردها انسان با زندگی‌های واقعاً خوب. دیگران حتی می‌اندیشند که رفاه خود هوش مصنوعیها روزی اهمیت حیاتی خواهد یافت. آنان منابع را به سوی انسان‌ها یا غیرانسان‌های آینده و دور از مردمانی که امروز رنج می‌کشند، هدایت می‌کنند.

احترام به خرد درست است. اما فیلسوفان اخلاق از ارسطو تا رالز می‌دانستند که اگر استدلالی به جاهایی تحمل‌ناپذیر برسد، باید گامی پنهان و معیوب در آن باشد. با این حال، غریزه نوعدوستان اثربخش آن است که از نتایج خلاف شهود، حتی اگر منحرف به نظر برسند، لذت ببرند. یک مشکل، حاشیه‌های خطایی است که ناگزیر همراه استدلال‌های نوعدوستانه اثربخش می‌آید. هیچ‌کس واقعاً توان سنجیدن معضلات اخلاقی مربوط به میلیاردها انسان امروز را ندارد، چه رسد به مبالغ عظیم کشیده‌شده به آینده، با شمار نامعلوم افراد، نرخ‌های تنزیل، پیشرفت فناوری و بی‌شمار متغیر دیگر. مشکل دیگر آن است که انقراض چنان هولناک است که در یک حساب اخلاقی خام، حتی احتمال کوچک آن بر دغدغه‌های گوشت و پوست امروز چیره می‌شود.

مشکل سوم آن است که در سنجش منافع میلیاردها نفر، کرامت ذاتی فرد از نظرها می‌رود. هرکس که صفحه‌گسترده‌ای در دست و ادعاهای بزرگ درباره آینده بشریت بر زبان دارد، یک گام از آن فاصله دارد که خود را برنامه‌ریز مرکزی بخواند. با اقتدار اخلاقی در دست، حقوق، رفاه و عقاید یک همسایه می‌تواند بی‌اهمیت به نظر برسد.

انقلاب فرانسه گویا بر خرد بنا شده بود؛ به اعدام راهبه‌ها انجامید. لنین نیز می‌اندیشید روشنفکرانی که مارکسیسم را آموخته‌اند، منافع کارگران را بهتر از خود کارگران درک می‌کنند. اگر واقعاً باور داشته باشید که به نمایندگی از همه مردم، چه رسد به تریلیون‌ها نفر آینده، عمل می‌کنید، ممکن است در نهایت هرگونه فجایعی را توجیه کنید.

خوشبختانه، نوعدوستان اثربخش به‌هیچ‌رو در آستانه بازگرداندن گیوتین نیستند. ترس در عوض آن است که کنترل هوش مصنوعی سرانجام قدرت عظیمی به آنان بدهد و بسیاری از پیروان EA در سیلیکون‌ولی بیندیشند که تنها آنان را می‌توان امین این فناوری دانست. این ایده‌ای هشداردهنده است. استدلال نوعدوستان اثربخش برای نگرانی درباره هوش مصنوعیهای بسیار قدرتمند آن است که ماشین‌ها می‌توانند برای یک هدف واحد و به‌شدت نادرست بهینه‌سازی کنند. همه باید نگران این نیز باشند که وقتی گروه کوچکی از مردم در همان تله می‌افتند چه رخ می‌دهد. ¦