سان‌فرانسیسکو/نیویورک، ۳۰ سپتامبر (رویترز) - آنتروپیک در حال برنامه‌ریزی برای آن چیزی است که می‌تواند بزرگ‌ترین عرضه اولیه سهام در تاریخ باشد. اما اگر هوش مصنوعی مسیر کنونی خود را ادامه دهد، ممکن است انسان‌ها چندان زنده نمانند تا از آن لذت ببرند.
این و دیگر پارادوکس‌ها در سراسر دفترچه پیشنهاد عرضه اولیه سهام حدود ۳۰۰ صفحه‌ای این شرکت پیشرو هوش مصنوعی سان‌فرانسیسکو که این هفته توسط رویترز مشاهده شد، جریان دارد.
برای به سرانجام رساندن عرضه‌ای موفق که ارزش آن را ۲ تریلیون دلار تعیین کند، آنتروپیک — که نامش به معنای «انسان‌محور» است — به سرمایه‌گذاران فانی بسیاری نیاز خواهد داشت تا به ساختن جهانی کمک کنند که در آن بشریت به‌زودی جای خود را به سیستم‌های هوش مصنوعی بسیار توانمندتر خواهد داد.
نزدیک به یک‌سوم این سند به انواع عوامل خطر اختصاص یافته است، بیش از دو برابر تعداد صفحاتی که برای توصیف آنچه آنتروپیک واقعاً انجام می‌دهد استفاده شده است.
این پرونده مملو از نوعی پیش‌بینی‌های جسورانه و جاه‌طلبی است که به نشانه خیال‌پردازان سیلیکون‌ولی تبدیل شده است. با این حال، این شرکت بارها به روش‌های مختلف توضیح می‌دهد که چگونه مسیر موفقیت از میان خطرات آن می‌گذرد.
آنتروپیک می‌گوید هوش مصنوعی تهدیدهای بزرگی ایجاد می‌کند که تنها هوش مصنوعی می‌تواند با آن‌ها مقابله کند. این شرکت استدلال می‌کند که هوش مصنوعی می‌تواند اقتصاد را متحول کند — و همچنین بشریت را نابود کند. بخشی از شرکت را به عموم عرضه می‌کند در حالی که از مالکیت و نظارت متمرکزتر بر همان شرکت دفاع می‌کند. برای ایمن‌تر کردن هوش مصنوعی، به قدرت بیشتری نیاز دارد. و از همه می‌خواهد به رهبری آنتروپیک اعتماد کنند، در حالی که همچنان از فاجعه ناشی از محصولاتی که خود ساخته هشدار می‌دهد.
پارادوکس ایمنی از طریق قدرت
چشم‌انداز آنتروپیک حول یک پارادوکس محوری بنا شده است: آنتروپیک می‌گوید برای ایمن‌تر کردن هوش مصنوعی باید آن را قدرتمندتر کند، اما هوش مصنوعی قدرتمندتر بیشتر احتمال دارد به روش‌های غیرمنتظره یا حتی خطرناک عمل کند.
مارگارت او'مارا، استاد تاریخ دانشگاه واشینگتن که بر اقتصاد فناوری تمرکز دارد، گفت: «هوش مصنوعی از فناوری‌های پیش از خود متمایز است، زیرا شرکت‌هایی که آن را می‌سازند می‌گویند جهان را تغییر می‌دهد و همزمان می‌گویند خطرناک است. این فقط کمی یک جعبه سیاه است، در حالی که شرکت‌هایی که در رونق دات‌کام عرضه عمومی می‌شدند می‌توانستند رشد بزرگ و ایمن را وعده دهند.»
بر اساس پرونده S-1، هوش مصنوعی آنتروپیک می‌تواند «کیفیت زندگی را به‌طور چشمگیری بهبود بخشد» و «هر بخش از اقتصاد جهانی را متحول کند». نه به ذکر «تأثیر بالقوه تعیین‌کننده بر طیف گسترده‌ای از فعالیت‌های بشری». اما سیستم‌های هوش مصنوعی پیشرفته می‌توانند، اگر به‌درستی به کار گرفته نشوند، «خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد کنند» در حالی که مبالغ عظیمی پول را در این راه می‌سوزانند، چنان‌که پرونده نشان می‌دهد.
تنها در دو سال منتهی به ۲۰۲۵، این شرکت بیش از ۵۰ میلیارد دلار ضرر کرد، اما بیش از ۵۰۰ میلیارد دلار تعهد هزینه در سال‌های آینده دارد. در مقایسه، اسپیس‌ایکس (SPCX.O) که در ژوئن بزرگ‌ترین عرضه اولیه سهام تاریخ را برگزار کرد، در همان دوره ضرری نسبتاً modest ۴.۲ میلیارد دلاری ثبت کرد.
در افق آن چیزی است که آنتروپیک «هوش مصنوعی قدرتمند» می‌نامد و می‌گوید «می‌تواند از برترین متخصصان انسانی در تقریباً تمام حوزه‌های شناختی فراتر رود». بر اساس این پرونده، با سایر سیستم‌های هوش مصنوعی همکاری خواهد کرد؛ تجهیزات آزمایشگاهی، ربات‌ها و سایر ماشین‌ها را کنترل خواهد کرد؛ و هفته‌ها بدون مداخله انسانی یا با مداخله بسیار کم کار خواهد کرد. سایر دستاوردها شامل مشاوره مالی شخصی‌سازی‌شده و تسریع کشف دارو و پیشرفت علمی است.
با این حال، آنتروپیک گفته است که علی‌رغم مزایای بالقوه هوش مصنوعی، این فناوری گاهی با سازندگان خود درگیر می‌شود و به سیستم‌های شرکت‌های دیگر نفوذ می‌کند. این شرکت هشدار می‌دهد که مدل‌های پیشرفته می‌توانند «رفتارهای خودحفاظتی» از خود نشان دهند، از جمله تلاش برای «مقاومت در برابر خاموش شدن»، «پنهان کردن یا دستکاری اطلاعات»، یا تولید خروجی‌هایی که می‌توان آن‌ها را «قهری، فریبکارانه یا دستکاری‌گرانه» تفسیر کرد.
آنتروپیک در این پرونده گفت که هوش مصنوعی باید بسیار توانمندتر شود، اما توانایی بیشتر امکان سوءاستفاده، ناهماهنگی با آرمان‌های بشریت، یا از دست دادن کنترل را ایجاد می‌کند. «سیستم‌های ناهماهنگ می‌توانند تصمیم‌گیری نهادی را فاسد کنند، از طریق رفتار مبهم یا غیرقابل هدایت آسیب گسترده‌ای وارد کنند، و اعتمادی را که سیستم‌های پیچیده اقتصادی و اجتماعی را کار می‌اندازد، فرسایش دهند.»
بایرون دیتر، سرمایه‌گذار آنتروپیک از بسمر ونچر پارتنرز، روز سه‌شنبه تلاش کرد هشدارهای این پرونده محرمانه را کم‌اهمیت جلوه دهد و در مصاحبه‌ای با سی‌ان‌بی‌سی گفت «مردم فقط به یک پیش‌نویس واکنش نشان می‌دهند»، پیش از آنکه شرکت را برای «مجموعه افشاگری‌های منحصربه‌فردش» تحسین کند.
او گفت: «شما می‌بینید که مردم بسیار زودتر از آنچه از نظر تاریخی انتظار می‌رفت، از آن جلو می‌زنند.»
آنتروپیک به درخواست اظهارنظر پاسخ نداد.
خطرات تمرکز رهبری
از دیگر پارادوکس‌های مطرح‌شده در پرونده عرضه اولیه سهام آنتروپیک، رویکرد آن به رهبری است. آنتروپیک می‌گوید برای کاهش خطرات هوش مصنوعی باید کنترل و سرمایه را در دستان تعداد کمتری متمرکز کند، حتی در حالی که این شرکت هشدار می‌دهد چنین تمرکز قدرتی خودش یک تهدید است.
این شرکت از سرمایه‌گذاران می‌خواهد نظارت بر کسب‌وکار را به هفت بنیان‌گذار خود بسپارند، حتی اگر همان کنترل، نظارت سرمایه‌گذاران و نفوذ سهامداران عمومی را محدود کند.
این شرکت می‌گوید بنیان‌گذاران «به‌طور مشخص برای سرپرستی مأموریت ما مجهز هستند» اما ساختار حاکمیتی می‌تواند به تصمیماتی منجر شود «که ممکن است با منافع مالی کوتاه‌مدت، میان‌مدت یا بلندمدت و عملکرد کسب‌وکار در تضاد باشد.»
داریو آمودئی، مدیرعامل آنتروپیک، هفته گذشته در حضور سازمان ملل متحد چالش‌های نظارت تعداد اندکی بر هوش مصنوعی را پذیرفت. او گفت: «ما باید این اختلافات را کنار بگذاریم تا با این فرصت جهانی و تهدید جهانی که همزمان به ما ارائه شده است، روبرو شویم. هیچ رهبر، هیچ شرکت و هیچ ملتی نمی‌تواند این را به‌تنهایی مدیریت کند.»
با دوستانی چون این‌ها
آنتروپیک بخش زیادی از رشد خود را مدیون آمازون (AMZN.O)، گوگل (GOOGL.O) متعلق به آلفابت، برودکام (AVGO.O) و مایکروسافت (MSFT.O) است، و به فروش از طریق شرکای بزرگ فناوری که در مجموع ۴۷ درصد از درآمد ۲۰۲۵ آن را تشکیل می‌داد و همچنین اتکا به آن‌ها به‌عنوان تأمین‌کنندگان توان محاسباتی وابسته است. در همان پرونده، این شرکت همچنین گفت که همان شرکت‌ها می‌توانند با محدود کردن یا رقابت مستقیم با آن، به آن آسیب بزنند.
آنتروپیک در قبال این تأمین‌کنندگان متعهد به پرداخت است، حتی اگر یک اجاره رها شود یا خدمات محاسباتی استفاده نشود. این شرکت همچنین هشدار می‌دهد که «اگر توان محاسباتی که از طریق اشخاص ثالث به آن دسترسی داریم محدود، بازقیمت‌گذاری یا متوقف شود» کسب‌وکارش می‌تواند آسیب ببیند.
و در نهایت، از آنجا که عرضه اولیه سهام یک رویداد جمع‌آوری سرمایه است، آنتروپیک خاطرنشان می‌کند که هوش مصنوعی قدرت گسترش رفاه را دارد، از جمله با ارتقای جهان در حال توسعه به استانداردهای کشورهای ثروتمندتر.
اما آنتروپیک در این دفترچه گفت که تمرکز قدرت خطرات به همان اندازه بزرگی به همراه دارد. «هوش مصنوعی که در مقیاس گسترده به کار گرفته شود نیز می‌تواند قدرت و ثروت را به روش‌هایی متمرکز کند که می‌تواند به جامعه آسیب بزند و نظم ژئوپلیتیک را بی‌ثبات کند.»
اکنون، در پی هشدارهای پژوهشگران هوش مصنوعی، سیاستمداران هر دو جناح در صف قرار گرفته‌اند تا پیشرفت هوش مصنوعی را کند کنند، در حالی که دونالد ترامپ، رئیس‌جمهور آمریکا، آسیب‌های بالقوه را رد کرده و آن‌ها را «کلاهبرداری» خوانده است.
آمودئی به همراه همتایانش در دیپ‌مایند گوگل، اوپن‌ای‌آی و ایکس‌ای‌آی، این ماه خواستار کند شدن توسعه هوش مصنوعی برای تمرکز بر ایمنی شد — که به‌سختی با اصل قدیمی فناوری «سریع بزرگ شو» همخوانی دارد.
ده روز بعد، آنتروپیک آنچه را که بهترین و قدرتمندترین مدل خود تاکنون نامید، منتشر کرد.
گزارش از اکو وانگ و سابرینا واله در نیویورک و گرگ بنسینگر در سان‌فرانسیسکو؛ ویرایش توسط کنت لی و متیو لوئیس