اشتراک
گرافیکی از یک شبکه دیجیتال سبز که روی تصویر بنجامین فرانکلین روی اسکناس ۱۰۰ دلاری زوم کرده است.
گرافیکی از یک شبکه دیجیتال سبز که روی تصویر بنجامین فرانکلین روی اسکناس ۱۰۰ دلاری زوم کرده است.
فناوری کسب‌وکار هوش مصنوعی

ریاکاری در عرضه اولیه سهام آنتروپیک

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

آنتروپیک، شرکتی که با شعار ایمنی‌محوری و انتقاد از بی‌پروایی اوپن‌ای‌آی تأسیس شد، اکنون با ارزش‌گذاری ۱.۴ تریلیون دلار وارد بازار سهام می‌شود. مدل کسب‌وکار این شرکت بر ارائه پیشرفته‌ترین مدل‌های هوش مصنوعی به کسب‌وکارها استوار است و درآمد فصلی آن در سال گذشته از ۱.۴ به ۱۷ میلیارد دلار رسیده است. اما رشد آن به پیشی گرفتن از رقبا وابسته است و برای حفظ مزیت خود، تعهدات ۹۰۰ میلیارد دلاری برای خرید چیپ و ساخت مراکز داده انجام داده که نیمی از آن باید پیش از ۲۰۳۰ پرداخت شود. استراتژی آنتروپیک حول بهبود بازگشتی خودکار می‌چرخد؛ فرآیندی که خود شرکت اذعان دارد می‌تواند خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد کند. رهبران آنتروپیک با استدلال «مسابقه به سمت قله» مدعی‌اند بهتر است آن‌ها اول به فوق‌هوشمندی برسند و ایمنی را ترویج کنند، اما در عمل لابی‌گری برای تضعیف قوانین ایمنی، این ادعا را زیر سؤال می‌برد. ساختار حاکمیتی ویژه شرکت نیز به گفته کارشناسان حقوقی نمی‌تواند در تضاد مستقیم میان سود و ایمنی، پیروزی ایمنی را تضمین کند. عرضه اولیه سهام انگیزه‌های مالی را تقویت خواهد کرد و کارمندان نیز به قیمت سهام توجه خواهند کرد. مسئله هم‌راستایی آنتروپیک به زودی می‌تواند به مسئله همه تبدیل شود.

تا همین اواخر، آنتروپیک بیشتر به عنوان رقیب جوان، عجیب و ایمنی‌محور اوپن‌ای‌آی شناخته می‌شد که توسط کارکنان جداشده از اوپن‌ای‌آی تأسیس شد؛ کسانی که معتقد بودند کارفرمای سابقشان توسعه هوش مصنوعی را بیش از حد بی‌پروا و در پی سودآوری پیش می‌برد. اکنون این شرکت در آستانه تبدیل شدن به یکی از ارزشمندترین شرکت‌های بازار سهام است. آنتروپیک برنامه‌ریزی کرده است که روز چهارشنبه با ارزش‌گذاری ۱.۴ تریلیون دلار وارد بازار عمومی شود. این شرکت به سرمایه‌گذاران وعده می‌دهد که با پیگیری بی‌امان همان استراتژی‌هایی که رهبران و کارکنانش معتقدند ممکن است منجر به حذف تمام بشریت توسط هوش مصنوعی فوق‌هوشمند شود، بازدهی عظیمی تولید خواهد کرد. تعهد اعلام‌شده آنتروپیک به ایمنی همواره در تنش با پیگیری سود بوده است. عرضه اولیه سهام آن نشانه‌ای آشکار است که پیگیری سود در حال پیروز شدن است.

مدل کسب‌وکار آنتروپیک بر اساس داشتن پیشرفته‌ترین مدل‌های هوش مصنوعی و دریافت مبالغ زیاد از کسب‌وکارها برای استفاده از آن‌ها استوار است. محصولات کلود (Claude) این شرکت، به ویژه ابزار توسعه نرم‌افزار کلود کد (Claude Code)، به طور گسترده بهترین در بازار تلقی می‌شوند و شرکت‌ها صف کشیده‌اند تا برای آن‌ها هزینه بپردازند. در سال گذشته، درآمد فصلی آنتروپیک بیش از ده برابر افزایش یافته، از ۱.۴ میلیارد دلار به ۱۷ میلیارد دلار رسیده است—که بیش از شش برابر نرخ رشد درآمد گوگل و متا در سال منتهی به عرضه اولیه سهام آن‌ها است. این شرکت در سه‌ماهه دوم سال ۲۰۲۶ شروع به سوددهی کرد.

اما همان‌طور که این شرکت در بخش «عوامل خطر» اسناد عرضه اولیه خود اذعان می‌کند، رشد بیشتر آن وابسته به پیشی گرفتن از رقابت است. رشد درآمد در سه‌ماهه سوم امسال کند شد، عمدتاً زیرا اوپن‌ای‌آی و شرکت‌های چینی مدل‌هایی تقریباً به توانایی کلود منتشر کردند که سهم بازار آنتروپیک را کاهش داد. جی رایتر، مدیر ابتکار عرضه اولیه در دانشگاه فلوریدا، به من گفت: «آنتروپیک واقعاً نمی‌تواند در جای خود بماند. اگر لغزش کنند، صنعت ممکن است در وضعیتی مانند هواپیماها قرار گیرد، جایی که بوئینگ و ایرباس وارد جنگ قیمت می‌شوند و هیچ‌کدام به سودآوری زیادی دست نمی‌یابند.»

برای حفظ مزیت خود، آنتروپیک تعهداتی حدوداً ۹۰۰ میلیارد دلاری برای خرید چیپ‌ها و ساخت مراکز داده‌ای که برای بهبود مداوم مدل‌هایش نیاز دارد، انجام داده است. حدود نیمی از این صورت‌حساب باید قبل از سال ۲۰۳۰ پرداخت شود. پول خصوصی از تعداد محدودی سرمایه‌گذار نهادی به سادگی برای تأمین چنین ولخرجی کافی نیست. بنابراین آنتروپیک در عوض به بازارهای عمومی روی آورده است.

برنامه آنتروپیک برای تمام آن پول حول محور استفاده از هوش مصنوعی فعلی برای ساخت هوش مصنوعی بهتر در آینده می‌چرخد، که به نوبه خود نسخه‌های حتی بهتری از خودش را ایجاد خواهد کرد، و الی آخر—فرآیندی که به عنوان بهبود بازگشتی خودکار (recursive self-improvement) شناخته می‌شود. این شرکت صراحتاً بیان می‌کند که دستیابی اول به این نقطه عطف، شرط بزرگ آن است. اسناد عرضه اولیه آن توضیح می‌دهد: «اگر رقبا مؤثرتر از هوش مصنوعی برای تقویت چرخه‌های نوآوری خود بهره ببرند، ما خطر عقب ماندن تدریجی و فزاینده را داریم.»

اما در همان سند، آنتروپیک اذعان می‌کند که بهبود بازگشتی خودکار می‌تواند آسیب‌های عظیم و شاید حتی آخرالزمانی ایجاد کند. این سند بیان می‌کند: «نگرانی‌هایی مطرح شده است که سیستم‌های هوش مصنوعی به اندازه کافی پیشرفته، اگر با حفاظت‌ها، نظارت و اقدامات امنیتی مناسب توسعه نیابند، مستقر نشوند و عمل نکنند، ممکن است خطرات فاجعه‌بار یا وجودی برای بشریت ایجاد کنند.» این سند ادامه می‌دهد و استدلال می‌کند که «این خطرات با اتوماسیون عمده تحقیق و توسعه هوش مصنوعی توسط سیستم‌های هوش مصنوعی افزایش خواهد یافت.» ترجمه: رویکردی که کسب‌وکار خود را بر آن بنا نهاده‌ایم، ممکن است همان چیزی باشد که در نهایت همه ما را می‌کشد.

اینکه آیا بهبود بازگشتی خودکار واقعاً می‌تواند در آینده نزدیک، اگر اصلاً، محقق شود و اینکه آیا واقعاً خطری وجودی برای بشریت ایجاد خواهد کرد، کاملاً مورد بحث است. آنچه واضح است این است که رهبران آنتروپیک و بسیاری از کارکنان آن هر دو گزاره را درست می‌دانند؛ آن‌ها کسانی هستند که این نگرانی‌ها را مطرح کرده‌اند. در یک مقاله در ماه سپتامبر، داریو آمودی، مدیرعامل، هشدار داد که سیستم‌های هوش مصنوعی آنقدر سریع در حال پیشرفت هستند که «ظرف ۶ تا ۱۲ ماه چنین دسته‌ای می‌تواند قادر به تسخیر کل اینترنت با یک بات‌نت پایدار باشد (که احتمالاً باعث خساراتی به ارزش صدها میلیارد دلار می‌شود)، و مقیاس خسارت از آن پس نیز اگر هوش مصنوعی بدون گاردیل‌های لازم قدرتمندتر شود، همچنان افزایش خواهد یافت.» او نتیجه گرفت که بهبود بازگشتی خودکار «باید بسیار محتاطانه، اگر اصلاً، دنبال شود.» اخیراً چندین کارمند برای هشدار درباره آنچه اعتقاد دارند ریسک فزاینده فاجعه است، استعفا کرده‌اند.

آنتروپیک به درخواست‌های مصاحبه پاسخ نداد. اما علناً توجیهی برای تناقض ظاهری بین هشدارهایش درباره ایمنی هوش مصنوعی و تلاش‌های بی‌امانش برای قدرتمندتر کردن هوش مصنوعی ارائه کرده است. رهبری این شرکت استدلال می‌کند که در غیاب نوعی توافق بین‌المللی، کسی هوش مصنوعی فوق‌هوشمند را خواهد ساخت. بهتر است آنتروپیک اول به آنجا برسد، در حالی که از نفوذ خود برای سوق دادن کل صنعت هوش مصنوعی به سمت مقدم داشتن ایمنی بر سود استفاده می‌کند—رویکردی که این شرکت آن را «مسابقه به سمت قله» می‌نامد. به عنوان اثبات صداقت خود، رهبران آنتروپیک به تصمیم این شرکت در ماه آوریل برای تأخیر در انتشار عمومی مدل Mythos اشاره می‌کنند تا به شرکت‌ها و دولت‌های بزرگ زمان دهند امنیت سایبری خود را تقویت کنند. آن‌ها همچنین به امتناع این شرکت از اجازه دادن به پنتاگون برای استفاده از ابزارهای آنتروپیک جهت انجام نظارت انبوه یا توسعه سلاح‌های خودمختار اشاره دارند. آمودی اخیراً در ایکس (X) نوشت: «ما بارها اقدامات جدی و ماهوی برخلاف سود خالص خود انجام داده‌ایم»، و افزود: «من به رکورد خود افتخار می‌کنم و پشت آن می‌ایستم.»

اما در موارد دیگر، آنتروپیک به نظر می‌رسد اجازه داده انگیزه‌های مالی‌اش بر ملاحظات ایمنی‌اش غلبه کند. همان‌طور که ناتان کالوین، مدیر ارشد استراتژی در انکد (Encode)، اندیشکده‌ای متمرکز بر هوش مصنوعی، اخیراً اشاره کرد، این شرکت لابی کرده است تا قانون‌گذاری‌هایی را که استانداردهای ایمنی سخت‌گیرانه‌تری را بر صنعت هوش مصنوعی تحمیل می‌کردند، شکست دهد یا به شدت تضعیف کند. در ماه اکتبر، در پاسخ به موجی از پیشنهادات قانون‌گذاری فدرال برای تنظیم‌گری صنعت، این شرکت لایحه‌ای را پیشنهاد داد که معیاری تقریباً غیرممکن بالا برای دولت فدرال جهت مسدود کردن استقرار مدل‌های هوش مصنوعی تعیین می‌کرد و قوانین سخت‌گیرانه‌تر ایالتی را بی‌اعتبار می‌ساخت. کالوین به من گفت: «من صرفاً فکر نمی‌کنم این‌ها نوع اقداماتی باشند که یک شرکت انجام دهد اگر هدف اصلی‌اش مقدم داشتن ایمنی باشد. آن‌ها بسیار شبیه‌تر به نحوه عملکرد شرکتی به نظر می‌رسند که سعی دارد مسابقه ساخت فوق‌هوشمندی را ببرد.»

عرضه اولیه سهام در آینده تنها کشش منافع مالی شخصی را قوی‌تر خواهد کرد. «این ایده که این موضوع بر تصمیمات روزمره مردم تأثیری نخواهد داشت، برای من مسخره است»، یک کارمند سابق آنتروپیک که به شرط ناشناس ماندن صحبت کرد تا شغلش در حوزه هوش مصنوعی به خطر نیفتد، به من گفت. «حتی افراد بسیار نوع‌دوست در شرکت نیز هر روز قیمت سهام را چک خواهند کرد.» وقتی از جی رایتر، متخصص عرضه اولیه، پرسیدم که آیا سهامداران عمومی آنتروپیک باید نگران انتخاب ایمنی به جای بازده توسط شرکت باشند، او همان نکته را مطرح کرد. رایتر گفت: «من خیلی نگران نبودم. بارها و بارها دیده‌ایم که وقتی مدیریت مقدار زیادی سهام دارد و کارکنان مقدار زیادی سهام دارند، تمایل دارند به روش‌هایی عمل کنند که عملکرد سهام خوب باشد.»

برای محافظت در برابر این پویایی، آنتروپیک ساختار حاکمیتی منحصر‌به‌فردی ایجاد کرده است که در آن اکثریت هیئت مدیره آن نه توسط رهبران شرکت یا سهامداران، بلکه توسط یک «صندوق منفعت بلندمدت» منصوب می‌شوند که از افرادی تشکیل شده که سهامی در شرکت ندارند و وظیفه دارند مأموریت ایمنی شرکت را در ذهن نگه دارند. اما چندین متخصص حقوقی استدلال کرده‌اند که این بعید است مانع از اولویت دادن شرکت به اهداف مالی‌اش شود. روبرتو تالاریتا، استاد دانشکده حقوق هاروارد که در حاکمیت شرکتی تخصص دارد، اشاره کرده است که ساختار حاکمیتی آنتروپیک به ترکیبی از کارکنان، مدیران اجرایی و سرمایه‌گذاران اجازه می‌دهد رأی دهند تا صندوق را کاملاً حذف کنند. تالاریتا به من گفت: «من اعتبار زیادی برای آنتروپیک قائل هستم چون خلاقانه سعی کرده شرکت را از فشار مالی مصون نگه دارد. اما در نهایت، اگر تضاد مستقیمی بین سود و ایمنی شکل بگیرد، من فقط فکر نمی‌کنم این مکانیزم‌ها به تنهایی به اندازه کافی قوی باشند تا مطمئن شوند ایمنی پیروز می‌شود.»

احتمال اینکه سیستم‌های هوش مصنوعی اهداف متفاوتی از آنچه خالقان انسانی‌شان قصد دارند دنبال کنند، به عنوان مسئله هم‌راستایی (alignment problem) شناخته می‌شود. آنتروپیک، که انگیزه کسب‌وکاری آن در تضاد با نگرانی‌اش درباره ایمنی هوش مصنوعی است، مسئله هم‌راستایی خاص خود را دارد. برای انصاف با شرکت، در هیچ صنعت دیگری به شرکت‌های خصوصی اعتماد نمی‌شود که ارزش‌های اجتماعی را بر سود خالص خود مقدم بدانند. آمودی و سایر رهبران هوش مصنوعی به درستی استدلال می‌کنند که تنها تنظیم‌گری فراصنعتی می‌تواند سرعت توسعه را محدود کند. اما این دلیل دیگری برای نگرانی درباره عرضه اولیه سهام آنتروپیک است. یکی از دلایل اصلی که دونالد ترامپ از حمایت از هرگونه تلاش برای تنظیم‌گری هوش مصنوعی سر باز زده، ترس او از تأثیر آن بر بازار سهام است. اضافه کردن یک شرکت تریلیون دلاری دیگر به بازارهای عمومی تنها این ترس را تشدید خواهد کرد. مسئله هم‌راستایی آنتروپیک ممکن است به زودی مسئله همه دیگران شود.

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: theatlantic.com