در یک جمعه اواخر فوریه، داریو آمودی به سرنوشت شرکت پنجساله خود میاندیشید. آن هفته برای انتروپیک، حتی با استانداردهای چند ماه فوقالعاده اخیر برای استارتاپ هوش مصنوعی که در توسعه سیستمهای پیشرفته از رقبایش پیشی گرفته بود، هفتهای سورئال بود. یک درگیری عمومی تلخ با وزارت دفاع آمریکا بر سر اصلی که در هسته تأسیس شرکت قرار داشت، یعنی استقرار ایمن فناوریهای قدرتمند هوش مصنوعی، شعلهور شده بود.
وزارت دفاع از انتروپیک خواسته بود تا سیستم هوش مصنوعی کلود خود را برای "تمامی مقاصد قانونی" در دسترس قرار دهد. انتروپیک دو استثنا درخواست کرده بود: نظارت گسترده بر آمریکاییها و جنگ خودمختار کشنده. از آنجا، مذاکرات به یک نزاع کلامی تبدیل شد.
تا آن روز، رئیسجمهور دونالد ترامپ پست کرده بود که هر آژانس فدرال در دولتش باید فوراً همکاری با انتروپیک را متوقف کند و آمودی و همکارانش را "روشنفکر... دیوانههای چپگرا" توصیف کرده بود. پیت هگست، وزیر دفاع، با پستی دیگر اعلام کرد که انتروپیک به عنوان یک "ریسک زنجیره تأمین" برای امنیت ملی معرفی خواهد شد، که برای یک شرکت آمریکایی بیسابقه بود. از نظر تئوری، این بدان معنا بود که هیچ سازمانی که با ارتش آمریکا تجارت میکند، دیگر نمیتوانست با انتروپیک همکاری کند. برای تکمیل ماجرا، رقیب و کارفرمای سابق آمودی، سم آلتمن، وارد عمل شد و معاملهای بین شرکت خودش، اوپناِیآی، و پنتاگون را اعلام کرد و سیستمهای هوش مصنوعی خود را در عملیاتهای طبقهبندی شده به جای سیستمهای انتروپیک پیشنهاد داد.
آمودی در یک خشم بیامان، افکار فیلتر نشده خود را در پیامی طولانی به 3000 کارمندش از طریق اسلک (Slack) ارسال کرد. او اوپناِیآی، آلتمن و دولت ترامپ را به ترتیب "دروغگو"، بیصداقت و "مشکوک" متهم کرد. آمودی نوشت: "بسیاری از پیامهای اوپناِیآی و وزارت دفاع درباره این مسائل کاملاً دروغ میگویند یا سعی در گیج کردن آنها دارند." "دلیل واقعی که [وزارت دفاع] و دولت ترامپ ما را دوست ندارند این است که ما به ترامپ کمک مالی نکردهایم... ما از ترامپ تمجید دیکتاتورگونه نکردهایم (در حالی که سم این کار را کرده است)، ما از مقررات هوش مصنوعی که برخلاف دستور کار آنها است حمایت کردهایم... و ما خطوط قرمز خود را با صداقت حفظ کردهایم به جای اینکه با آنها برای تولید 'تئاتر ایمنی' تبانی کنیم."
این اوج سالهای پرفراز و نشیب بود. از زمانی که انتروپیک اولین محصول خود، رقیب چتجیپیتی (ChatGPT) یعنی کلود (Claude) را در سال 2023 منتشر کرد، روایتی در مورد این شرکت شکل گرفته بود. انتروپیک خود را به عنوان وجدان صنعت هوش مصنوعی معرفی میکرد. وعده بنیانگذاری آن، ساخت یک هوش مصنوعی ایمن و مسئولانه بود، هوش مصنوعی که به کاربران یا جامعه در کل آسیبی نرساند. این شرکت که به عنوان یک شرکت عامالمنفعه تأسیس شد، از نظر قانونی موظف است اهداف مالی خود را با تأثیر مثبت اجتماعی متعادل کند. بنیانگذاران آن، گروهی از محققان و مهندسان بلندپرواز، کار خود را در اوپناِیآی ترک کرده بودند تا با داریو آمودی و خواهرش، دانیلا، همکاری کنند.
اما تا فوریه امسال، تنشی در قلب شرکت – بین انگیزههای متضاد بیانیه مأموریت والای انتروپیک و انگیزههای رشد صنعت به شدت رقابتی که پیشگام آن بود – آشکار شده بود. درگیری با دولت ترامپ نوید یک مورد آزمایشی را میداد: آیا یک کسبوکار هوش مصنوعی میتواند به رفتار اخلاقی خود ادامه دهد، در حالی که کاربران خود را به دولتها، شرکتها و افراد خصوصی گسترش میدهد و مرزهای آنچه فناوری در آینده انجام خواهد داد را جابجا میکند؟
در ماههای اخیر، این تنشها عمیقتر شدهاند. انتروپیک در ماه مارس از پنتاگون شکایت کرد و استدلال کرد که کسبوکارش در نتیجه تعیین ریسک زنجیره تأمین آسیب زیادی خواهد دید و به دلیل انتقاد از دولت هدف قرار گرفته است. این پرونده هنوز در دادگاههای فدرال در حال بررسی است.
در همین حال، رشد آن شگفتانگیز بوده است. هفته گذشته، انتروپیک با اعلام یک دور سرمایهگذاری جدید 65 میلیارد دلاری، از اوپناِیآی پیشی گرفت تا به باارزشترین استارتاپ هوش مصنوعی در جهان تبدیل شود و ارزش خود را به 900 میلیارد دلار رساند. چند روز بعد، پرونده عرضه اولیه عمومی (IPO) خود را به ارزش بیش از یک تریلیون دلار ثبت کرد و یک قدم از رقیب خود اوپناِیآی، که هنوز در حال آمادهسازی برای ثبت است، پیشی گرفت. در انتظار، جدیدترین مدل هوش مصنوعی انتروپیک، میتوس (Mythos)، که توسط کارشناسان به عنوان یک سلاح سایبری قدرتمند شناخته میشود، قرار دارد که این شرکت قصد دارد در هفتههای آتی آن را به طور گسترده به 150 شرکت در 15 کشور، به ویژه شرکتهای مسئول زیرساختهای حیاتی که بیش از 100 میلیون نفر را تحت تأثیر قرار میدهند، عرضه کند.
انتروپیک با استقرار و کنترل انتشار هوش مصنوعی در جامعه، در حال انجام آزمایشی است که فقط در مورد هوش مصنوعی نیست. مدیران آن شرط میبندند که اگر یک شرکت بهترین فناوری را در جهان بسازد، در حالی که مبادلات شفاف و پرهزینهای انجام میدهد، میتواند رقبای خود را مجبور به پیروی کند در آنچه که آنها "رقابت به سوی اوج" مینامند. اما تسلط جدید این شرکت سوالات دشوارتری را مطرح میکند. آیا میتواند همچنان با اخلاق عمل کند تا یک فناوری سریعالتغییر را مهار کند، در حالی که سعی در برنده شدن در آن رقابت دارد؟ چگونه خط قرمز خود را در برابر پنتاگون بر سر استفادههای پرخطر از هوش مصنوعی در ارتش حفظ خواهد کرد؟ و آیا حاکمیت غیرمعمول آن میتواند با آماده شدن برای یک لیست عمومی تریلیون دلاری حفظ شود؟
فایننشال تایمز (FT) از بیش از دهها نفر در داخل یا نزدیک انتروپیک در مورد برنامههای رهبران شرکت برای مدیریت این مرحله دشوار بعدی پرسید. اگر همه چیز خوب پیش برود، بنیانگذاران امیدوارند شرکتی فناوری ایجاد کنند که امروز قدیمی به نظر میرسد: شرکتی که بتواند سود را با هدف متعادل کند. اگر این اتفاق نیفتد، فناوری برتر انتروپیک میتواند راهی سریعتر برای تخریب را برای صنعت فراهم کند. داریو آمودی به این معروف است که حدس زده است 25 درصد احتمال دارد که هوش مصنوعی به فاجعهای برای نژاد بشر منجر شود.
بادهای سیاسی در ایالات متحده کمکی نخواهند کرد. انتروپیک در محیطی بسیار قطبی عمل میکند، جایی که ایدههایی مانند هوش مصنوعی تنظیمشده، مسئولیت شرکتی و تأثیر اجتماعی به عنوان چپگرا یا "روشنفکر" کدگذاری شدهاند. چندین رهبر شرکتهای سیلیکونولی (Silicon Valley) به طور فزایندهای با جناح راست سیاسی همسو شدهاند و اصول بنیانگذاری را برای سریعترین مسیر به ثروت قربانی کردهاند.
ترامپ اعلام کرده است که انتروپیک "اشتباه فاجعهباری با تلاش برای زورگویی" به دولتش مرتکب شده است و گفت که این را از یک "شرکت هوش مصنوعی افراطی چپگرای خارج از کنترل که توسط افرادی اداره میشود که هیچ ایدهای از دنیای واقعی ندارند" تحمل نخواهد کرد.
ایان هوگارت، کارآفرین فناوری و یکی از اولین سرمایهگذاران انتروپیک، این را چالش اصلی برای بنیانگذاران میداند. او گفت: برای هر شرکتی که برای رسیدن به اهدافش به سرمایه زیادی نیاز دارد، "فشاری برای هرچه سریعتر پیش رفتن وجود دارد." "این همیشه یک تنش در تقریباً تمام سازمانهایی که روی هوش مصنوعی پیشتاز کار میکنند، بوده است."
هوگارت سهام انتروپیک را که اکنون بیش از 10 میلیون دلار ارزش دارد، واگذار کرد تا از تضاد منافع زمانی که در سال 2023 به عنوان رئیس موسسه ایمنی هوش مصنوعی بریتانیا منصوب شد، جلوگیری کند. سوال او این است: "هنگامی که به موقعیت نفوذ واقعی دست مییابید، چگونه از آن عاقلانه استفاده میکنید؟"
هر ماه، جک کلارک برای نیروهای جدید در دفاتر سانفرانسیسکو انتروپیک، سخنرانی با عنوان "انتروپیک یک شرکت عادی نیست" برگزار میکند. در اسلاید آغازین، کلارک، که یکی از همبنیانگذاران است، به سادگی میپرسد: "چه چیزی میفروشیم؟" او به تازهواردان، که بسیاری از آنها به تیمهای ورود به بازار میپیوندند، کلود کد (Claude Code)، مولد کد هوش مصنوعی شرکت و یکی از محبوبترین محصولات آن را معرفی میکند. سپس اسلایدی از جارد کاپلان، دانشمند ارشد و همبنیانگذار، ارائه میشود که شواهدی را نشان میدهد که نرمافزار اخیر انتروپیک به نظر میرسد خودآگاهی از محیط خود را نشان میدهد و مطالعه بیشتر را پیشنهاد میکند. سپس نموداری از موزیلا (Mozilla)، یک سازمان غیرانتفاعی، ارائه میشود که صدها آسیبپذیری کد را که میتوس (Mythos) در پایگاه کد فایرفاکس (Firefox) خود پیدا کرده است، ترسیم میکند.
کلارک در ماه مه به من گفت: "سپس میگویم، آنچه میفروشیم یک کدنویس فوقبشری است که به طور فزایندهای خودآگاه است و قابلیتهای هک در سطح ملی را دارد." او میخواهد به نیروهای جدید نشان دهد که آنچه آنها برای فروش بیرون میبرند "ویژگیهای بسیار عجیب و غریبی دارد... [و] مخاطرات بسیار بالا هستند." این سخنرانی شدید و کمی هشداردهنده با بخشی در مورد مراقبت از خود به پایان میرسد. آخرین توصیه کلارک: "سرگرمیهایی داشته باشید که به کامپیوتر مربوط نباشد."
موفقیت تجاری انتروپیک از زمان راهاندازی خانواده جدید و قدرتمندی از مدلهای هوش مصنوعی، مورد بحث در دنیای فناوری بوده است. اپوس (Opus) در سال 2024 و پس از آن کلود کد (Claude Code) در سال 2025. هیچ نشانهای از کند شدن رشد محصول دیده نمیشود. از ژانویه به بعد، انتروپیک تعدادی ابزار جدید کدنویسی هوش مصنوعی از جمله کاورک (Cowork) – کلود کد برای متخصصان غیرفنی – را منتشر کرد که آماده است تا مشاغل یقه سفید از حقوق تا امنیت سایبری، طراحی و بانکداری را متحول کند.
راوی ماتر، همبنیانگذار شرکت سرمایهگذاری خطرپذیر لایتاسپید (Lightspeed)، که از سال 2024 سرمایهگذار انتروپیک بوده است، گفت: "فکر میکنم چرخدنده در حال چرخش است، و این به آنها اجازه میدهد تا سرعت گریز داشته باشند و حداقل تاکنون... پیشی بگیرند و جلو بمانند."
یک سرمایهگذار و کارآفرین برجسته سیلیکونولی با ارتباطات در سراسر بخش هوش مصنوعی گفت: "سال 2025 قطعاً سال انتروپیک بود." با توجه به برتری واضحی که رقیب اوپناِیآی در فضای مصرفکننده با چتبات چتجیپیتی خود ایجاد کرده بود، قدرت این شرکت "درک این بود که تمرکز بر چتباتها کارساز نخواهد بود و چرخش به سمت چیزی هوشمندانه." این سرمایهگذار گفت: انتروپیک "ضد اوپناِیآی" است. این شرکت تمرکز واضحی بر بازارهای سازمانی، موضعی موافق مقررات و تمایلی به هشدار مکرر درباره پیامدهای منفی هوش مصنوعی مانند از دست دادن شغل دارد.
این استراتژی در حال کار است. ماه گذشته، انتروپیک از 47 میلیارد دلار درآمد سالانه عبور کرد، معیاری که توسط استارتاپها برای تخمین درآمدهای سالانه بر اساس عملکرد کوتاهمدت استفاده میشود. این افزایش بیش از پنج برابری از ابتدای سال است، موجی که منجر به کمبود قدرت محاسباتی برای این استارتاپ شده و آن را مجبور به امضای قراردادی چند میلیارد دلاری برای زیرساخت با ایلان ماسک، رقیب خود کرده است. ارزشگذاری انتروپیک در 12 هفته از 350 میلیارد دلار به 900 میلیارد دلار افزایش یافته است. این شرکت اکنون یکی از سریعترین شرکتهای در حال رشد در تاریخ است.
از برخی جهات، این رشد تنها یک توسعه منطقی از نظریه بنیادی شرکت است: اینکه سیستمهای هوش مصنوعی میتوانند به طور تصاعدی قدرتمندتر شوند اگر بر روی مقادیر بیشتری از دادهها و قدرت محاسباتی آموزش داده شوند. این به اصطلاح قوانین مقیاسگذاری اکنون اساس تقریباً کل صنعت هوش مصنوعی را تشکیل میدهند. اما دیدن این پیشرفت در واقعیت برای رهبران انتروپیک حیرتانگیز بوده است. آنها به طور متفاوتی تماشای مقیاسپذیری فناوری را همزمان با موفقیت تجاری خود به عنوان "غیرعادی"، "نوعی علمی-تخیلی" و "باورنکردنی" توصیف میکنند.
دانیلا آمودی، رئیس انتروپیک که عملیات روزمره شرکت را اداره میکند، ماه گذشته در گفتوگو با من گفت: "تقریباً مانند یک صفحه نمایش دوگانه است. از یک طرف، ما قوانین مقیاسگذاری را نوشتیم... ما میدانیم که آنها چه چیزی را نشان میدهند و... ما یک کسبوکار کامل بر اساس آن ساختهایم." "اما وقتی آن را در واقعیت میبینید، کاملاً گیجکننده است و فکر نمیکنم ما در برابر این تجربه کلی که، مثلاً، چه اتفاقی میافتد؟ اینقدر دیوانهکننده است، مصون باشیم."
ورود میتوس این مشکل را به سطح جدیدی میرساند. این مدل جدید، که تحلیلگران مستقل آن را قدرتمندترین و بالقوه خطرناکترین مدل هوش مصنوعی در جهان نامیدهاند، باعث نگرانی دولتها و بانکها در سراسر جهان شده است. این مدل قادر است راههایی برای هک کردن سیستمهای حیاتی، از نیروگاهها گرفته تا خدمات مالی، سیستمهای عامل موبایل یا بیمارستانها پیدا کند.
در اواخر ژانویه، تیم تحقیقاتی انتروپیک آموزش میتوس را به پایان رساند و آماده بررسی ویژگیهای آن بود. هنگامی که مدلهای عمومی برای اولین بار از خط آموزش خارج میشوند، کارشناسان ممکن است ایدهای از روندهای قابلیتهای جدید آنها داشته باشند، اما بسیاری از جزئیات مبهم است. یک فرد نزدیک به شرکت گفت: "این مدل... مرموز است، درست است؟ وقتی یک دور آموزشی را اجرا میکنید، نمیدانید در طرف دیگر چه چیزی به دست خواهید آورد." "مثل داشتن یک نوزاد است. آیا بزرگ میشود و صادق خواهد بود؟ آیا یک کدنویس باهوش خواهد بود؟ ما نمیدانیم."
به محض اینکه مدل از خط خارج شد، گروهی از "تیمهای قرمز" داخلی، کارشناسان امنیت سایبری که حملات خصمانه به سیستمهای هوش مصنوعی را شبیهسازی میکنند، کشف کردند که میتوس قادر به یافتن و بهرهبرداری از آسیبپذیریهای نرمافزاری در هر سیستم عامل اصلی و هر مرورگر وب اصلی است.
معمولاً، هنگامی که قابلیتهای یک مدل جدید پدیدار میشود، نقشههای راه محصول کوتاه هستند. فرد نزدیک به انتروپیک گفت: "ما مانند یک تیم فرمول 1 هستیم که وارد میشویم [و میگوییم] در چه چیزی خوب است، معیارهای عملکرد کدامند؟ و کمی زمان بین آن لحظه و عرضه به بازار دارید." در مورد میتوس، بلافاصله برای مدیران اجرایی درگیر، از تیمهای ایمنی تا محصول و ورود به بازار، واضح بود که نمیتوانند فوراً آن را به عموم مردم عرضه کنند.
دانیلا به من گفت: "انواع منافع تجاری بزرگی وجود دارد که ما از آنها چشمپوشی میکنیم. اما هرگز به نظر نمیرسید که این مسیر درستی برای ما باشد." "و بنابراین فکر میکنم سوال این شد که استراتژی عرضه چگونه باید باشد؟ راه انجام این کار به طور مسئولانه چیست؟"
با تبدیل شدن انتروپیک به هسته اصلی دستگاه امنیت ملی، با محصولاتی مانند میتوس، حفظ خطوط قرمز شرکت در برابر کاخ سفید دشوارتر خواهد بود. برخی پیشنهاد میکنند که مقاومت در برابر دولت ترامپ یک قمار بود که به نظر میرسد فعلاً نتیجه داده است. سرمایهگذار برجسته هوش مصنوعی گفت: "[این] به شدت به نفع آنها است. میتوانید آن را در ارقام درآمدشان ببینید." دیگران به سادگی مقابله با دولت را زیر سوال میبرند و پیشنهاد میکنند که داریو آمودی و تیمش ممکن است مجبور شوند موضع خود را نرمتر کنند.
نزدیکان انتروپیک موفقیت آن را مدیون ترکیب قدرتمند رهبری خواهر و برادر داریو و دانیلا میدانند، که اغلب به عنوان دو نیمه یک کل توصیف میشوند.
بر اساس گفتههای چندین نفر نزدیک به شرکت، دانیلا مسئول ایجاد و حفظ فرهنگ صریح و مبتنی بر ارزشها است که انتروپیک به آن معروف است. راوی ماتر، شریک لایتاسپید، گفت که داریو یک متفکر بر پایه اصول اولیه با "توانایی نادری برای فکر کردن در زمان آینده" است. ماتر گفت این توانایی برای دیدن پیامدهای گستردهتر، او را به رهبری بینظیر برای صنعت هوش مصنوعی تبدیل میکند.
دانیلا گفت که او و داریو با همبازی کردن بازیهای ویدیویی ارتباط برقرار کردند، سنتی که از کودکی حفظ کردهاند. او گفت: "ما یک قرار هفتگی داریم که [بازی میکنیم] و در مورد کار صحبت نمیکنیم." آنها بیشتر بازیهای نقشآفرینی را بازی میکنند که بر داستانسرایی، توسعه شخصیت و تصمیمگیری تاکتیکی تمرکز دارند.
دانیلا اضافه کرد که در تکنیک بازی آنها یک نکته جالب وجود دارد. به جای رقابت، خواهر و برادر به عنوان یک شخصیت بازی میکنند و نوبتهای یکدیگر را در طول بازی عوض میکنند. او گفت: "مردم تصور میکنند که ما در حال رقابت هستیم، اما ما فقط همکاری میکنیم." "این واقعاً بازتاب احساسی است که در انتروپیک وجود دارد، جایی که مثل این است که ما نوبت به نوبت کار میکنیم. وقتی یکی از ما خسته میشود، به نوعی مسئولیت را به دیگری واگذار میکنیم."
دانیلا انتروپیک را در ژانویه 2021 به همراه داریو و پنج همکار دیگر از اوپناِیآی تأسیس کرد. آنها کار خود را در شرکتی که در ابتدا توسط ماسک و آلتمن تأسیس شده بود، رها کرده بودند، که ناشی از یک باور مشترک بود: اینکه قابلیتهای سیستمهای هوش مصنوعی به طور تصاعدی در حال افزایش است و عرضه آنها به جامعه نیازمند نظارت مسئولانهتری است. در ابتدا، انتروپیک به عنوان یک آزمایشگاه تحقیقاتی با تمرکز بر ایمنی هوش مصنوعی تصور میشد. دانیلا گفت: "هفت نفر از ما واقعاً احساس میکردیم که دیدگاه خودمان را داریم و میخواستیم آن را به روش خودمان، در جایی دیگر، انجام دهیم، زیرا برای ما... اصطکاک کمتری داشت... اما... همچنین برای [اوپناِیآی] نیز."
سه نفر از هفت نفر، از جمله داریو، تام براون و کریس اولاه، در چندین شرکت با یکدیگر همکاری کرده بودند. ابتدا، آنها در گوگل روی هوش مصنوعی کار میکردند، اما به دنبال یک پروژه با مأموریت بیشتر، زمانی که مشخص شد هوش مصنوعی میتواند تأثیر اجتماعی بالقوه عظیمی داشته باشد، آنجا را ترک کردند. بین سالهای 2016 و 2018، آنها به اوپناِیآی پیوستند، در آن زمان یک سازمان غیرانتفاعی نسبتاً ناشناخته که مأموریت ایدهآلیستی آن، نفع رساندن به جامعه در بلندمدت بود. اما تا سال 2020، داریو و برخی از همکارانش به ایمنی سیستمهای هوش مصنوعی علاقهمندتر شده بودند و میخواستند امور را به شیوه متفاوتی اداره کنند.
هنگامی که اوپناِیآی سرمایهگذاری یک میلیارد دلاری از مایکروسافت را پذیرفت و شروع به تبدیل شدن به یک شرکت تجاری کرد، اصطکاک بدتر شد. خواهر و برادر آمودی با رهبری اوپناِیآی بر سر ارزشهای آن درگیر شدند. دانیلا گفت: "از برخی جهات، [ترک کردن] منصفانهترین کار به نظر میرسید."
در آخرین روز کاریشان در اوپناِیآی، هفت نفر از تیم انتروپیک، که هنوز در قرنطینه کووید-۱۹ بودند، برای جشن گرفتن تصمیم خود برای جدایی، یک تماس ویدیویی برقرار کردند. برای چند ماه اول، تیم عمدتاً از طریق زوم (Zoom) ملاقات میکرد، اما همچنین برای ایدهپردازی، معمولاً در حیاط خلوت کوچک خانه دانیلا در سانفرانسیسکو، یا در خانه یکی دیگر از همبنیانگذاران، سم مککندلیش، و گاهی اوقات در محل زندگی داریو گرد هم میآمدند. دانیلا در آن زمان باردار بود. او به من گفت: "هرگز در برنامه من نبود که کارم را ترک کنم و در دوران کووید، در حالی که نوزاد دارم، شرکتی راهاندازی کنم."
همانطور که شرکت به حدود 20 نفر رشد کرد، با پیوستن محققان بیشتری از اوپناِیآی، آنها شروع به صرف ناهار هفتگی در پارک پریسیتای (Precita Park) کردند، یک فضای کوچک محلهای در سانفرانسیسکو با چمنزار بزرگ و باز، جایی که صندلیها و لپتاپهای خود را میآوردند.
همبنیانگذاران شرکت گروهی نزدیک و صمیمی هستند. بسیاری از آنها بیش از یک دهه یکدیگر را میشناسند، و در مقطعی، همه آنها به یکی یا هر دوی خواهر و برادر آمودی گزارش میدادند. آنها همچنین همگی در اوج رشتههای خود بودند. در اوپناِیآی، این تیمی بود که جیپیتی-2 و جیپیتی-3 را توسعه داد، مدلهای زبان بنیادی که پیش از نسل اول چتبات چتجیپیتی اوپناِیآی بودند.
هوگارت گفت: "آنها از این طریق اعتبار تحقیقاتی فوقالعادهای داشتند." دور اول سرمایهگذاری سری A آنها در سال 2021، 124 میلیون دلار بود، مبلغی "جسورانه" برای یک استارتاپ هوش مصنوعی در آن زمان، به ویژه بدون پول از سرمایهگذاران خطرپذیر سنتی سیلیکونولی، که هنوز اقتصاد ساخت مدلهای هوش مصنوعی را درک نکرده بودند.
صعود انتروپیک به دلیل منشأ آن به عنوان یک آزمایشگاه ایمنی، به ویژه سرگیجهآور به نظر میرسید. تکامل آن به یک غول تجاری با همبستگی پیشبینی نشدهای بین سیستمهایی که هوش مصنوعی را ایمنتر میکنند و آنهایی که آن را توانمندتر میکنند، تسریع شد. یک مثال، یادگیری تقویتی از بازخورد انسانی (RLHF) است، تکنیکی که نرمافزار هوش مصنوعی را با ارزشهای انسانی همسو میکند، که توسط داریو و دیگران، زمانی که در اوپناِیآی بود، پیشگام شد. این عمل ایمنیمحور، چتجیپیتی را ایجاد کرد و در نهایت مقیاس تمام کسبوکارهای هوش مصنوعی را در سطح جهانی افزایش داد.
در اوایل ماه آوریل، انتروپیک به برنامهای دست یافت تا میتوس را در اختیار تعداد محدودی از سازمانهای زیرساخت حیاتی، عمدتاً در ایالات متحده، که بخشی از ائتلاف "پروژه گلسوینگ" (Project Glasswing) آن هستند – یک نمونه اولیه آزمایشی برای استقرار مسئولانه مدلهای هوش مصنوعی – قرار دهد. در نهایت، تأخیر بین آماده شدن میتوس برای انتشار و راهاندازی آن برای اولین شرکای خود، از جمله شرکتهای فناوری، بانکها، شرکتهای امنیت سایبری و دولت بریتانیا، تقریباً هشت هفته بود. در این مدت، این شرکت با دولت ایالات متحده همکاری نزدیکی داشت تا یک برنامه استقرار مرحلهای ایجاد کند.
اگرچه برخی منتقدان پیشنهاد کردهاند که تردیدها و تأخیرها در مورد میتوس نوعی بازاریابی است، اما نهادهای مستقل شخص ثالث مانند موسسه امنیت هوش مصنوعی بریتانیا و موزیلا، که این مدل را آزمایش کردهاند، تأیید میکنند که این یک ابزار هک پیچیده است.
یک کارشناس امنیت ملی آگاه به این موضوع گفت که این شرکت از این که میتوس میتواند توسط بازیگران دولتی مانند چین مورد استفاده قرار گیرد، آگاه بود و اعلام وجود آن یک هدف را بر پشت خود قرار میدهد. با وجود این هشدارها، انتروپیک این هفته اعلام کرد که دسترسی به مدل هوش مصنوعی را به 150 سازمان ارائهدهنده زیرساختهای حیاتی از بانکداری تا برق، آب و مراقبتهای بهداشتی، در 15 کشور در اروپا و منطقه آسیا-اقیانوسیه گسترش میدهد. این شامل ناتو، ائتلاف نظامی تحت رهبری ایالات متحده مستقر در بروکسل، و شرکتهای فناوری مانند اوکتا (Okta) و سامسونگ (Samsung) میشود.
رهبران و شرکای انتروپیک، ماجرای میتوس را نمونهای از یک اقدام مسئولانه و پرهزینه برای محافظت از مأموریت خود میدانند. آنها انتظار دارند که آزمایشگاههای رقیب تنها چند هفته با رسیدن به این قابلیتها فاصله داشته باشند و آزمایشگاههای برتر چین بیش از یک سال عقب نباشند. دانیلا در ماه مه به من گفت: "از نظر تجاری برای ما، این یک هزینه گزاف بود، درست است؟" "ما میتوانستیم آن مدل را منتشر کنیم، و به وضوح پیشتاز بودیم. شاید مدل گرانتری بود."
کلارک، که اکنون ریاست مؤسسه انتروپیک را بر عهده دارد و در مورد پیامدهای هوش مصنوعی تحقیق میکند، عرضه میتوس را اولین نمونه واقعی از چگونگی انتشار مدلهای هوش مصنوعی در آینده توصیف میکند – راهی برای تعیین لحن صنعت. او گفت: "ما احتمالاً میتوانیم دو یا سه آزمایش از این دست را انجام دهیم قبل از اینکه مدلها به طور مداوم آنقدر قدرتمند شوند، اما به راهی برای تلفیق قابلیتهای فزاینده پیشرفته با انتشار تجاری نیاز داریم." "اگر ما به عنوان یک شرکت، به اندازه کافی روی ابزارهای ایمنی سرمایهگذاری نکنیم، در موقعیتهایی قرار خواهیم گرفت که... مأموریت و فشارهای تجاری میتوانند بالقوه در تضاد باشند."
دیگران به شدت شکاک هستند. کانر لیهی، محقق هوش مصنوعی، هکر سابق و مدیر آمریکایی ControlAI، یک گروه حمایتی غیرانتفاعی که خواستار ممنوعیت جهانی ابرهوش مصنوعی است، گفت: "همه ما میدانستیم که اگر [در هوش مصنوعی] پیش بروید، در نهایت به هکرهای فوقخودکار دست خواهید یافت." "از نظر تاریخی، این شرکتها بسیار مایل به بازی رولت روسی بودهاند – و یک دور دیگر بازی میکنند."
لیهی گفت: "تنها رویکرد اخلاقی، با فناوریای که خودتان ادعا میکنید نمیتوانید کنترل آن را تضمین کنید و [که] میتواند هر مرد، زن و کودک را بکشد، این است که آن را نسازید." "اگر هنوز خود را در حال ساخت این فناوری مییابید، پس شما آدم بد هستید."
سخنگوی انتروپیک اذعان کرد که "خطرات [هوش مصنوعی] واقعی هستند... اما انتخابی که با آن روبرو هستیم لزوماً هوش مصنوعی یا عدم هوش مصنوعی نیست، بلکه در واقع این است که آیا مرز توسط سازمانهایی اشغال میشود که ایمنی را در اولویت قرار میدهند و آیا اگر همه کنار بکشند، بیهزینه خواهد بود."
داریو و دانیلا ظهور مجموعهای از بازیگران قدرتمند نخبه را، که با هزینههای بالای سرمایه در هوش مصنوعی امکانپذیر شدهاند، پیشبینی کردهاند. این امر پیشگویانه ثابت شده است. قدرت ساخت سیستمهای هوش مصنوعی جهان اساساً در اختیار نیم دوجین شرکت است. چهار شرکت بزرگ "هایپرسکلر" (hyperscalers)، آمازون (Amazon)، متا (Meta)، مایکروسافت (Microsoft) و آلفابت (Alphabet) (شرکت مادر گوگل)، در مسیر هزینه کردن 725 میلیارد دلار در سال 2026 برای زیرساختهای مرتبط با هوش مصنوعی هستند. تلاشها برای حاکمیت بر رقبای انتروپیک، از جمله اوپناِیآی و گوگل دیپمایند (Google DeepMind) از طریق هیئتهای غیرانتفاعی یا اخلاقی، به طرز چشمگیری شکست خورده است.
باور آنها به اینکه انتروپیک متفاوت است، دلیل این است که خواهر و برادر آمودی عمداً هنگام ترک اوپناِیآی یک سازمان غیرانتفاعی دیگر نساختند. در عوض، آنها یک "شرکت عامالمنفعه" (public benefit corporation) تأسیس کردند. این ساختار قانونی به آنها اجازه میداد، و حتی آنها را ملزم میکرد، از نظر مالی خودکفا باشند و سود سهام را بین سرمایهگذاران توزیع کنند، در حالی که شفاف، با انگیزه اجتماعی و مأموریتگرا نیز باشند. آنها همچنین یک مکانیسم حکومتی نوآورانه به نام "صندوق اعتماد منافع بلندمدت" (Long-Term Benefit Trust) ایجاد کردند که اعضای هیئت امنای آن هیچ منافع مالی در شرکت ندارند و چهار نفر از هفت مدیر هیئت عامل آن را انتخاب و کنترل میکنند.
در سال 2023، پیش از آنکه شرکت محصول یا درآمدی داشته باشد، آمودیها به امنای بالقوه گفته بودند که معتقدند هوش مصنوعی ممکن است مهمترین چیزی باشد که بشر تاکنون ساخته است. یک فرد نزدیک به این فرآیند گفت فرضیه آنها این بود که "قدرت تکنولوژیکی باورنکردنی ممکن است در نهایت در چند آزمایشگاه و در دستان تعداد کمی از افراد متمرکز شود. و این دنیایی بالقوه بسیار ترسناک است." آمودیها گفتند که پیش از وقوع آن دنیا، میخواستند "در اصل دستهای خود را به دکل ببندند" و ساختار حاکمیت شرکتی ایجاد کنند که بخشی از کنترل شرکت را به گروهی از امنای بیعلاقه مالی واگذار کند، "که وظیفه آنها حفظ منافع بلندمدت بشریت است."
این دیدگاه در ethos (روحیه) شرکت به شکل فلسفه "نوعدوستی مؤثر" (Effective Altruism) نهادینه شده است — جنبشی برای انجام بیشترین کار خوب اجتماعی که میتوانید، با اهدای پول به مشکلات بزرگ و نادیدهگرفتهشده، از جمله رفاه حیوانات، تغییرات اقلیمی و ایمنی هوش مصنوعی. هوش مصنوعی، به ویژه، طرفداران جنبش EA را به خود جلب کرده است، که آن را یکی از خطرات بزرگ اجتماعی میدانند. هولدن کارنوفسکی، همسر دانیلا، که در سیاست ایمنی انتروپیک کار میکند، همبنیانگذار سازمانهای معروف مرتبط با EA به نامهای GiveWell و Open Philanthropy است که اکنون Coefficient Giving نامیده میشود.
تمام هفت همبنیانگذار انتروپیک متعهد شدهاند که 80 درصد از کل ثروت خود را اهدا کنند، در حالی که داریو آمودی، جک کلارک و آماندا آسکال، فیلسوف انتروپیک، پیمان "دادن آنچه میتوانیم" (Giving What We Can) را امضا کردهاند – تعهدی عمومی برای اهدای حداقل 10 درصد از درآمد به خیریههای مؤثر، که توسط توبی اورد (Toby Ord)، شخصیت کلیدی EA، تأسیس شده است.
به گفته جان مورلی، استاد حقوق دانشگاه ییل که طراحی صندوق اعتماد را در سال 2022 رهبری کرد و همچنان به عنوان رئیس ستاد آن فعالیت میکند، امنای انتروپیک که به طور منظم با همبنیانگذاران ملاقات میکنند و در جلسات هیئت مدیره شرکت میکنند، به هدایت برخی از دشوارترین مسائل آن، از جمله حوادث پنتاگون و میتوس، کمک کردهاند.
مورلی گفت: "همانطور که فشارها بر شرکت طی چند ماه گذشته تشدید شده است... من شاهد افزایش چشمگیر تعداد و عمق تعاملات بین امنا و شرکت بودهام." "[رهبران] گفتهاند، این مسئولیت برای [آنها] به تنهایی بیش از حد بزرگ است، ما به ارتباط، حمایت و خرد از دیگران نیاز داریم."
در اوایل این هفته، انتروپیک برای عرضه اولیه عمومی (IPO) ثبت نام کرد که قرار است سازنده کلود (Claude) را به ارزش 1 تریلیون دلار برساند و آن را به یکی از بزرگترین عرضه های عمومی در تاریخ تبدیل کند. و این تنها یکی نخواهد بود. نزدیکترین رقیب این شرکت، اوپناِیآی (OpenAI)، نیز در حال آمادهسازی برای یک عرضه بزرگ در ماههای آینده، پس از اسپیساکس (SpaceX) ماسک است. این سه عرضه عمومی یک تریلیون دلاری، محدودیتهای رونق هوش مصنوعی را آزمایش خواهند کرد. سرمایهگذاران انتروپیک از رویکرد آن به عنوان یک شرکت قابل اعتماد، با رشد سریع و متمرکز بر کسبوکار با یک مأموریت، اطمینان دارند.
عرضه اولیه سهام، آزمون بعدی برای آزمایش حاکمیتی انتروپیک خواهد بود. ناظران صنعت آمادهاند تا نظرات خود را در مورد اینکه آیا این شرکت میتواند با قرار گرفتن در معرض فشارهای بازارهای عمومی، به اهداف عامالمنفعه خود ادامه دهد، ابراز کنند. اجماع گستردهای وجود دارد که رهبری صادق است و تمایل به اتخاذ تصمیمات دشوار را نشان داده است.
آدام گلیو، مدیرعامل سازمان غیرانتفاعی Far.ai که ایمنی هوش مصنوعی را ارزیابی میکند، گفت که انتروپیک یکی از اولین توسعهدهندگانی است که اقدامات حفاظتی قابل توجهی در برابر سوءاستفاده روی مدلهای خود اعمال کرده است. او گفت: از نظر درصد نیروی انسانی که صرف تحقیقات مرتبط با ایمنی میشود، قطعاً قویترین توسعهدهنده بزرگ هوش مصنوعی است. تلاشهایی مانند "سیاست مقیاسگذاری مسئولانه" انتروپیک، تعهد عمومی که بنیانگذاران از آن به عنوان نوعی قانون اساسی برای انتروپیک یاد کردهاند و استانداردهای بالاتری از ایمنی و تأیید را با توانمندتر شدن فناوری آن تعیین میکند، قبلاً به عنوان الگوهایی برای اوپناِیآی و گوگل دیپمایند برای اتخاذ چارچوبهای مشابه عمل کردهاند.
با این حال، منتقدان ادعا میکنند که علیرغم تلاشهای انتروپیک برای ایجاد یک جاذبه در صنعت گستردهتر، فشارهای تجاری نیز آن را مجبور به نادیده گرفتن برخی ملاحظات ایمنی کرده است.
استوارت راسل، یک دانشمند برجسته هوش مصنوعی در دانشگاه کالیفرنیا، برکلی، به عقبنشینی عمومی انتروپیک از تعهدات خود در سیاست مقیاسگذاری مسئولانه، به ویژه تعهد به عدم انتشار مدلهای هوش مصنوعی در صورتی که انتروپیک نتواند اقدامات ایمنی مناسب را از قبل تضمین کند، اشاره کرد. این شرکت در ماه فوریه به فشارهای رقبا و عدم اعتقاد به تعهدات یکجانبه استناد کرد. سخنگوی انتروپیک گفت: "از ابتدا گفتهایم که سرعت هوش مصنوعی و عدم قطعیتها در این زمینه از ما میخواهد که سیاست را به سرعت تکرار و بهبود بخشیم."
راسل به من گفت: "ما کوچکترین ایدهای نداریم که چگونه این سیستمهای [هوش مصنوعی] را کنترل کنیم." "این شرکتها همه این آزمایشها را دارند... تا به آنها هشدار دهند که آیا اوضاع در حال بد شدن است یا خیر. و [آنها] همه میگویند، بله، اوضاع در حال بد شدن است. چراغهای هشدار قرمز چشمک میزنند، آژیرها به صدا درآمدهاند. با این حال، آنها فقط باید به جلو حرکت کنند. پس نه، آنها سرپرستان خوبی نیستند. و لزوماً تقصیر آنها نیست. این ساختار سرمایهداری نیز هست... جایی که تمام ریسک به آینده برونسپاری میشود."
گلیو به قصد اولیه تیم انتروپیک برای تمرکز بر ایمنتر و قابل اعتمادتر کردن هوش مصنوعی، به جای تواناتر کردن آن، اشاره کرد. "این قرار بود مزیت رقابتی آنها باشد. و من فکر میکنم کاملاً واضح است که امروز آنها به دنبال مرزهای قابلیتها هستند، به ویژه در چیزهایی مانند عاملها و کدنویسی، جایی که پیشتاز هستند."
کلارک، که وظیفه بررسی تأثیر شرکت بر جهان را بر عهده دارد، این تنشها را اذعان میکند. او در سخنرانی ماه گذشته در آکسفورد، آشکارا در مورد واقعیت جدید و عجیب اتوماسیون گسترده کار انسانی در داخل شرکت و خطرات آموزش هوش مصنوعی برای خودبهبودبخشی، مفهومی که به عنوان "خودبهبودبخشی بازگشتی" شناخته میشود، صحبت کرد. او هشدار داد که هوش مصنوعی در دو تا سه سال آینده قادر به ساخت جانشین خود بدون مشارکت انسان خواهد شد – نتیجهای که به شدت با مأموریت اصلی شرکت برای بهبود وضعیت بشریت در تضاد است.
کلارک گفت: "اگر امکان داشت که توسعه این فناوری را به طور ظریفی کند کنیم تا به عنوان یک گونه زمان بیشتری برای مقابله با این موضوع داشته باشیم، احتمالاً چیز خوبی بود."
اما انتروپیک پیشگام نخواهد بود. در عوض، کلارک توضیح داد که این امر به دلیل رقابتهای تجاری و ژئوپلیتیکی با چین غیرممکن خواهد بود و نیاز به "کند شدن جهانی هماهنگ" دارد که بعید به نظر میرسد. راهحل او این است که همچنان در مورد خطرات هوش مصنوعی صریح باشد، حتی اگر این با کسبوکار انتروپیک در تضاد باشد، و "نشان دهد که میتوانید یک شرکت موفق باشید که در واقع مبادلات پرهزینه انجام میدهد. اگر ما فقط مزیت تجاری را به حداکثر برسانیم، در مأموریت شکست خوردهایم."
در همین حال، ستاره انتروپیک همچنان در حال صعود است. حتی دولت ترامپ، در حالی که در دادگاه با این شرکت مبارزه میکند، مجبور شده است در استقرار مدل میتوس، که یکی از پیچیدهترین مدلهای موجود در بازار محسوب میشود، با آن همکاری نزدیکی داشته باشد.
دانیلا به من گفت: "خطرات [هوش مصنوعی] واقعی هستند." "فواید آن نیز واقعی هستند، و برای اطمینان از اینکه... ما میتوانیم از این مرحله به شکلی مثبت عبور کنیم، به مشارکت در سطح جامعه نیاز است. ما در تلاشیم تا نشان دهیم که این چگونه میتواند باشد."
ما مجبور نیستیم حرف او را باور کنیم. در حال حاضر، انتروپیک به تعادل ظریفی بین تعقیب رشد و تعیین سرعت برای کارهای ایمنی هوش مصنوعی دست یافته است. اما با نزدیک شدن رقبای آن در ایالات متحده و خارج از کشور به قابلیتهایش، و شروع فناوری به داشتن پیامدهای گستردهتر برای اقتصاد، امنیت ملی و حتی شکوفایی انسان، این تعادل در حال لرزش است. اگر این تعادل به هم بخورد، "رقابت برای رسیدن به اوج" که انتروپیک بسیار از آن یاد میکند، میتواند به سرعت به "رقابت برای رسیدن به پایین" تبدیل شود.