بدون شناخت «خیرخواهی مؤثر» یا EA، نمیتوانید فشارها برای کند کردن پیشرفت هوش مصنوعی در داخل شرکتهای سازنده آن را درک کنید.
چرا این موضوع برای شما مهم است: EA یک جنبش واقعی است که نفوذ واقعی در سراسر صنعت هوش مصنوعی دارد؛ اما به سرعت در حال تبدیل شدن به چیزی دیگر است: برچسبی تحقیرآمیز که منتقدان به هر کسی که خواستار احتیاط در مورد این فناوری باشد، میچسبانند.
- دولت ترامپ، EA و «بدبینی نسبت به هوش مصنوعی» را بخشی از یک دشمن ایدئولوژیک واحدِ ضد رشد میداند، بنابراین باید بدانیم این اصطلاح واقعاً چه معنایی دارد.
این چیست: EA قبل از رونق فعلی هوش مصنوعی وجود داشته است، اما در این زمینه به شاخهای از این جنبش اشاره دارد که به استفاده از این فناوری جدید برای حداکثر خیر اعتقاد دارد و آن را تبلیغ میکند — در عین حال هشدار میدهد که پیامدهای فاجعهبار هوش مصنوعی برای انسانها وجود دارد.
- بسیاری از آنها واقعاً بدبین هستند، اما یا در آنتروپیک یا اوپنایآی کار میکنند یا قبلاً در آنجا فعالیت داشتهاند.
- سانفرانسیسکو یک مرکز اصلی EA است، جایی که اعضا با هم معاشرت و سازماندهی میکنند. آنها بسیاری از گروههای ایمنی هوش مصنوعی که نامشان را میشنوید تأمین مالی و نیروی انسانی میکنند و راهاندازی آنتروپیک را نیز تأمین مالی کردند.
این جنبش عمیقاً با صنعت هوش مصنوعی گره خورده است دقیقاً به این دلیل که ترسهای ایمنی را مدت طولانی حفظ کرده است.
- «سرمایهگذاران EA برخی از تنها افرادی بودند که در مقیاس بزرگ، واقعاً مایل به تأمین مالی» تحقیقات ایمنی هوش مصنوعی بودند، اندی ماسلی، که دفتر واشنگتن دیسی EA را اداره میکرد، به اکسیوس گفت.
- «هر کسی که در مراحل اولیه حتی کمی به ریسک هوش مصنوعی اهمیت میداد، قطعاً با پروژههایی برخورد میکرد که تا حدی توسط سازمانهای EA تأمین مالی میشد.»
بررسی واقعیت: اعضای EA کارت عضویت حمل نمیکنند. این یک جنبش غیرمتمرکز است که باعث میشود استفاده از این برچسب بسیار کشدار باشد.
- نه همه کسانی که خواستار احتیاط در مورد هوش مصنوعی هستند، خیرخواه مؤثر محسوب میشوند. نگرانیها در مورد این مسئله فراتر از دایرههای EA گسترش یافته است — از دانشمندان برجسته و مدیران اجرایی گرفته تا باراک اوباما.
وضعیت کنونی: محیط پیرامون ترامپ این تمایزها را از بین میبرد و از EA و ویژگیهای خاص منطقه خلیج سانفرانسیسکو به عنوان یک هیولا در مبارزه گستردهتر حول ایمنی هوش مصنوعی استفاده میکند.
- شیام شانکار، مدیر ارشد فناوری پالانتیر و متحد ترامپ، در سرمقالهای در نشریه فری پرس علیه EA موضع گرفت و سپس در توییتر (X) آن را با مارکسیسم مقایسه کرد.
- مدیر ارشد فناوری پنتاگون صریحتر بود: «ملیگرایی آمریکایی، نه خیرخواهی مؤثر.»
اگر میخواهید بیشتر یاد بگیرید، ارزش دارد که راهنمای مقدماتی EA را بررسی کنید — منظمترین و مستندترین مجموعه باورهای این جنبش.
- اندرو کی از اکسیوس در تهیه گزارش مشارکت داشت.