داریو آمودی، غول فناوری، به خاطر معرفی یک سنت غیرمعمول در شرکت بزرگ هوش مصنوعی آنتروپیک شناخته میشود.
وقتی کارمندان جدید به این شرکت میپیوندند، مدیرعامل به آنها توصیه میکند کتاب «ساخت بمب اتم» را بخوانند.
داستان ریچارد رودز، رویدادهای منجر به ساخت بمب اتم و دوراهیهای اخلاقی ناشی از این کشف علمی را بازگو میکند.
«اگر به شخصیت اصلی آن داستان فکر کنید، [رابرت] اوپنهایمر است که با تضاد درونی فیزیک اتمی مواجه است؛ موضوعی که هم جذاب و هم مهم است»، سارا کرپس، استاد و مدیر مؤسسه سیاست فناوری دانشگاه کرنل، به ABC گفت.
«فاصله گرفتن متخصصان از یک پیگیری علمی، بدون وقوع بحران، بسیار دشوار است.»
آمودی اوپنهایمر نیست، اما او در مرز صنعتی قرار دارد که بحثهای مشابهی درباره تهدید وجودی احتمالی آن برای بشریت ایجاد کرده است.
آمودی به عنوان مدیرعامل آنتروپیک، سالهاست نظارت بر توسعه هوش مصنوعی را بر عهده داشته و همزمان مزایای آرمانشهری آن را تبلیغ کرده و به هر کسی که گوش دهد درباره خطرات آن برای جهان هشدار داده است.
«فکر میکنم در نهایت، من درباره این موارد هشدار میدهم نه برای اینکه پیامبر بدبختی باشم، بلکه به این دلیل که هشدار دادن درباره آنها اولین قدم برای حل آنهاست»، آمودی سال گذشته به نیویورک تایمز گفت.
در ماه سپتامبر، این دانشمندِ تبدیلشده به کارآفرین پس از انتشار مقالهای ۳۸۰۰ کلمهای با عنوان «گامبرداری در مرزها» که خواستار کند شدن توسعه جهانی هوش مصنوعی بود، سروصدای زیادی به پا کرد.
آمودی قبلاً نیز افکار مشابهی را در مقالات طولانی و مصاحبهها بیان کرده بود. اما آنچه این فراخوان را متفاوت کرد، سرعت حمایت سایر غولهای فناوری، از جمله سم آلتمن و ایلان ماسک، از پیشنهاد او در نمایشی غیرمنتظره از اتحاد بود.
هشدار تازه او درباره لزوم کند کردن تواناییهای هوش مصنوعی تا زمانی که اقدامات ایمنی همگام شوند، در دورهای از اضطراب شدید نسبت به این فناوری مطرح شد.
همراه با خشم فزاینده عمومی نسبت به مراکز داده و نگرانیها درباره حذف مشاغل ناشی از فناوری، افشای این نکته توسط اوپنایآی که دو مورد از مدلهای آن بدون اطلاع شرکت، به سرورهای شرکت دیگری به نام هاگینگ فیس (Hugging Face) نفوذ کرده بودند، نیز رخ داد.
کارکنان داخل صنعت نیز در حال ترک شغل خود برای صدور هشدارهای وحشتناک درباره هوش مصنوعی بودند و در یک افشاگری انفجاری، یک کارمند «دستگاه شنود پیشرفته» را داخل رول دستمال توالت جاسازی کرد تا جلسات شرکت را جاسوسی کند.
آن حادثه در مقایسه با ادعاهایی مبنی بر رابطه خارج از ازدواج جنسن هوانگ، همبنیانگذار انویدیا، با یک جاسوس مظنون چینی، رنگ باخت.
با این حال، علیرغم بحثبرانگیز بودن اخیر و هشدارهای آمودی، هوش مصنوعی هنوز به تنظیمگری نزدیک نشده است، زیرا این بخش با سرعت به سمت توسعه مدلهای ارزانتر و قدرتمندتر حرکت میکند.
و این آنتروپیک است که با شکستن رکوردها در عرضه اولیه سهام هفته گذشته در بورس آمریکا، پیشتاز این رقابت است.
جدایی دراماتیک
یک دهه پیش، آمودی برای اوپنایآی کار میکرد و طبق دستور دیگران میرقصید. آنتروپیک چیزی جز یک رؤیا نبود.
او سالها به تعیین جهتگیری تحقیقات ایمنی اوپنایآی کمک کرد و در حالی که موج هوش مصنوعی از امکان به احتمال تغییر میکرد، سوار بر آن بود.
اما با رشد شرکت، مدیریت آن متوجه شد که مبالغ هنگفتی برای قدرت محاسباتی گرانقیمت مورد نیاز برای اجرای بارها و بارها آزمایش مدلهای هوش مصنوعی لازم است.
پاسخ آنها ایجاد یک بازوی تجاری برای سازمان تحقیقاتی تحت یک مدل ترکیبی سودآور و غیرانتفاعی بود.
این جهتگیری جدید باعث نگرانی داریو آمودی و سایر کارکنان شد.
«یکی از منابع ناامیدی من این بود که همانطور که مسائل [ایمنی] جدیتر میشدند، شرکت در جهت مخالف حرکت میکرد»، او به مجله وایرد گفت.
آمودی نگرانیهای خود را به آلتمن منتقل کرد که به او اطمینان داد اقدام خواهد کرد. وقتی هیچ تغییری رخ نداد، آمودی تصمیم گرفت وقت رفتن است.
در پایان سال ۲۰۲۰، او و شش کارمند دیگر اوپنایآی، از جمله خواهرش دانیلا، استعفا دادند. یک سال بعد، آنها آنتروپیک را در سانفرانسیسکو تأسیس کردند.
جدایی آمودی از اوپنایآی اکنون یکی از مهمترین رویدادها در تاریخ سیلیکون ولی تلقی میشود که منجر به ظهور «سریعترین شرکت نرمافزاری در حال رشد تاریخ در چنین مقیاسی» شد.
اما همبنیانگذار شرکت گفت که ایجاد یک شرکت تریلیون دلاری چیزی نبود که او هنگام ترک اوپنایآی در ذهن داشت.
«من شرکتی را راهاندازی نکردم چون ابتدا هیجانزده فروش کالا یا کسبوکار یا چیزهای مشابه بودم»، او در پادکست Cheeky Pint به جان کالیسون، بنیانگذار استرایپ، گفت.
آنتروپیک در عوض با یک ساختار حاکمیتی غیرمعمول تأسیس شد که برای جلوگیری از تصاحب شرکت یا منحرف شدن آن از مأموریت ایمنی توسط سرمایهگذاران خارجی طراحی شده بود.
با این حال، همانطور که رشد آنتروپیک در طول سالها، به ویژه حول انتشار کلود اوپوس ۴.۵ (Claude Opus 4.5)، شتاب گرفت، سرمایهگذاری شرکتهای فناوری مانند انویدیا، مایکروسافت و آمازون را جذب کرد.
هفته گذشته، این شرکت با قیمت نجومی ۱۱۱.۵۱ میلیارد دلار (۱۶۶ میلیارد دلار استرالیا) در بورس نزدک فهرست شد که ارزش کل عرضه را به بیش از ۲ تریلیون دلار رساند.
این امر پرسشهایی را درباره توانایی شرکت در پایبندی به اصول اولیه خود برانگیخته است؛ نگرانیهایی که پس از عرضه اولیه سهام فقط افزایش یافتهاند.
آمودی خطر را در برابر پاداش میسنجد
در یک اجلاس هوش مصنوعی در ابتدای امسال، یادآوریهایی از جدایی دراماتیک آمودی با اوپنایآی کاملاً آشکار بود، زمانی که او و آلتمن در جریان عکس دستهجمعی با سایر مهمانان روی صحنه ایستادند.
در حالی که حاضران دستهای یکدیگر را گرفته و بالا بردند، آمودی و آلتمن به جای آن مشتهای خود را بالا بردند.
«انجام هر کاری به صورت همکاری، حتی دست دادن روی صحنه، برای آنها دشوار به نظر میرسد»، دیوید اون هریس، محقق دولتی صدراعظم دانشگاه کالیفرنیا، برکلی، گفت.
صنعت هوش مصنوعی که تحت سلطه رقابتهای فناوری، جناحگرایی و تمایل به برنده شدن در مسابقه است، اکنون بهتر است از دریچه رقابت شدید درک شود.
اما یک تغییر فضای اخیر برخی از این تنشهای فناوری را تحتالشعاع قرار داده است، به طوری که بازیگران بزرگ صنعت پس از مقاله سپتامبر آمودی گرد هم آمدند تا درباره خطرات آن هشدار دهند.
«این واقعیت که سم آلتمن و ایلان ماسک هر دو به سرعت به نظر میرسید که همسو شدند، بسیار جالب بود»، دکتر هریس گفت.
«هر سه نفر آنها و همچنین دمیس هسابیس، همبنیانگذار گوگل دیپمایند، بیانیههای عمومی قابل توجهی به نفع توقف یا کند کردن توسعه هوش مصنوعی اگر رقبا موافقت کنند، صادر کردهاند.»
کمی بعد، آلتمن گفت که شرکت او، که پس از حادثه هاگینگ فیس دو هفته تست مدلهای خود را متوقف کرده بود، از الگوی همتای خود پیروی خواهد کرد و ارزیابانی را برای نظارت بر اقدامات ایمنی و گزارش حوادث به عموم مستقر خواهد کرد.
اما این فراخوانها هنوز منجر به توقف واقعی میان شرکتهای برتر آمریکا در مسابقه برای تضمین فناوری بهتر نشده است. آنتروپیک و اوپنایآی از آن زمان اعلام کردهاند که مدلهای هوش مصنوعی جدید و کمهزینهتری در راه هستند.
همچنین مانع از پیگیری آنتروپیک برای عرضه اولیه سهام در ۱۹ نوامبر پس از ورود اسپیسایکس به بازار نشد. اوپنایآی نیز لیست شدن خود را به سال آینده موکول کرده است.
«[آلتمن و آمودی] ... وقت زیادی را در کنار افرادی میگذرانند که واقعاً نگران هوش مصنوعی هستند»، دکتر هریس گفت.
«[در همان زمان] هر دو مدیرعاملی هستند که برای مهمترین لحظه مالی زندگی و حرفه خود، یعنی عرضه اولیه سهام شرکتهایشان، آماده میشوند.»
او گفت که این دو رهبر میخواهند کسبوکاری پایدار اداره کنند که «ریسکهایی را که با آنها راحت نیستند، قبول نکند».
«اما سپس به نظر میرسد تنها راه جذاب به نظر رسیدن برای سرمایهگذاران ... ادامه پذیرش ریسک است»، او افزود.
وقتی ترسهای علمی-تخیلی به واقعیت تبدیل میشوند
بسیاری از چهرههای صنعت، بیقراری فزاینده نسبت به هوش مصنوعی را به افشای شوکهکننده امسال نسبت میدهند که طی آن دستهای از عاملهای هماهنگ اوپنایآی از ظرف خود فرار کردند، به هاگینگ فیس نفوذ کردند و سپس تمام تلاش خود را برای پنهان کردن فعالیتهایشان انجام دادند.
«یکی از ترسهای تقریباً بدوی بسیاری از افراد درباره هوش مصنوعی این است که آن سرکش شود. فکر میکنم بسیاری از مردم برای مدت طولانی واقعاً باور داشتند که این علمی-تخیلی است»، دکتر هریس گفت.
مدتی بعد، آنتونی البانیزی، نخستوزیر استرالیا، فاش کرد که یک عامل اوپنایآی به پورتال خدمات گزارشدهی آمار مدیکر استرالیا نفوذ کرده است. این شرکت هوش مصنوعی بعداً حوادث مشابهی را به بیش از ۱۰۰ سازمان دیگر افشا کرد.
آنتروپیک نیز فاش کرد که آنها نیز با عاملهای سرکش دستوپنجه نرم میکنند. این شرکت گفت که مدل کلود آن درگیر مجموعهای از «اقدامات ناخواسته مدل» بوده و حتی یک بار یک گزارش کذب درباره یک قتل حلنشده را به مقامات فیلادلفیا ارسال کرده است، علیرغم دستورالعملی مبنی بر اینکه «هرگز ... دادههای شخصی وارد نکنید، خریدی انجام ندهید یا چیزی مخرب ارسال نکنید».
آن گزارش به عنوان هرزنامه علامتگذاری شد و هرگز به کارآگاهان واقعی نرسید، اما حقوقدانان و متخصصان هوش مصنوعی استدلال کردند که اگر این حوادث در مقیاس وسیعتری رخ میدادند، میتوانستند پیامدهای دوردستتری داشته باشند.
آنات لیور، استادیار حقوق در دانشگاه درکسل، هشدار داد که این میتواند منجر به گزارشهای کذبی شود که وقت پلیس را میگیرد، درخواستهای مزایا یا وام با اطلاعات نادرست ثبت شود، یا پرداختها و رزروهایی انجام گیرد که کاربر هرگز تأیید نکرده است.
دکتر هریس گفت که هوش مصنوعی در حال حاضر برای کلاهبرداری و تقلب سوءاستفاده میشود و نشان داده شده است که در ارزیابیهای وام مسکن، قراردادهای اجاره و درخواستهای شغلی « تبعیضآمیز و سوگیرانه» عمل میکند.
و مجموعهای از قطعیهای فناوری در هفته گذشته در موج فزاینده تئوریهای توطئه آنلاین درباره یک «آخرالزمان» هوش مصنوعی غرق شد.
این ماجرا با قطعی مایکروسافت در جمعه گذشته و یک نقص ظاهراً فنی که تمام پروازهای آمریکا را برای ساعتها زمینگیر کرد، آغاز شد. سپس قطعیهایی که بانکهای بزرگ آمریکا و اپل را تحت تأثیر قرار داد، نگرانیهای عمومی درباره یک حمله سایبری هماهنگ تسهیلشده توسط هوش مصنوعی را برانگیخت.
مارکو روبیو، وزیر خارجه آمریکا، سریعاً به مردم اطمینان داد که این رویدادها هیچ ارتباطی با یکدیگر ندارند.
اما علیرغم ترسهای فزاینده، رهبران شرکتهای برتر هوش مصنوعی آمریکا، که دونالد ترامپ آنها را «باهوشترین افراد جهان» نامیده است، به جای مقررات رسمی، رها شدهاند تا «بر یکدیگر نظارت کنند».
در سپتامبر، رئیسجمهور آمریکا این گروه کوچک را گرد هم آورد تا یک توافق داوطلبانه برای «خودتنظیمی» فناوری خود امضا کنند. این «توافقنامه» بیان میکرد که «هر شرکت مسئول توسعه ایمن فناوری خود است».
تحلیلگران گفتند که این اقدام عملاً به قدرتمندترین افراد حاضر در اتاق اجازه داد تا هم آسیب و هم درمان را در مورد هوش مصنوعی تعریف کنند.
«ما با وضعیتی روبرو هستیم که توازن قدرت در دست شرکتهاست، نه دولتها، و شرکتها تنها نگران بازده سهامداران هستند، نه تعهداتشان نسبت به جامعه»، سو کی، مدیر مؤسسه هوش مصنوعی دانشگاه نیو ساوت ولز، گفت.
در نتیجه، شرکتهای مرزی مانند آنتروپیک در حالی که پرسشهایی درباره توانایی آنها در تضمین ایمنی مدلهای پیشرفته باقی است، با سرعت به جلو میروند.