پروژه گلس‌وینگ: ایمن‌سازی نرم‌افزارهای حیاتی برای دوران هوش مصنوعی

امروز ما پروژه گلس‌وینگ (Project Glasswing) را اعلام می‌کنیم؛ ابتکار جدیدی که آمازون وب سرویسز (Amazon Web Services)، آنتروپیک (Anthropic)، اپل (Apple)، برادکام (Broadcom)، سیسکو (Cisco)، کراداسترایک (CrowdStrike)، گوگل (Google)، جی.پی. مورگان چیس (JPMorganChase)، بنیاد لینوکس (Linux Foundation)، مایکروسافت (Microsoft)، انویدیا (NVIDIA) و پالو آلتو نتورکس (Palo Alto Networks) را برای ایمن‌سازی مهم‌ترین نرم‌افزارهای جهان گرد هم می‌آورد.

ما پروژه گلس‌وینگ را به دلیل توانمندی‌هایی که در یک مدل هوش مصنوعی مرزی جدید که توسط آنتروپیک آموزش دیده است مشاهده کردیم و معتقدیم می‌تواند امنیت سایبری را متحول کند، تشکیل دادیم. کلود میتوس پریویو (Claude Mythos Preview) یک مدل هوش مصنوعی مرزی همه‌منظوره و منتشر نشده است که یک واقعیت تلخ را آشکار می‌سازد: مدل‌های هوش مصنوعی به سطحی از قابلیت کدنویسی رسیده‌اند که می‌توانند در یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری از ماهرترین انسان‌ها پیشی بگیرند.

میتوس پریویو تاکنون هزاران آسیب‌پذیری با شدت بالا، از جمله مواردی در هر سیستم عامل اصلی و مرورگر وب را یافته است. با توجه به سرعت پیشرفت هوش مصنوعی، زمان زیادی طول نخواهد کشید تا چنین قابلیت‌هایی فراگیر شوند، و احتمالاً فراتر از عاملانی که به استقرار ایمن آن‌ها متعهد هستند. پیامدهای این امر—برای اقتصادها، ایمنی عمومی و امنیت ملی—می‌تواند شدید باشد. پروژه گلس‌وینگ تلاشی فوری برای به کارگیری این قابلیت‌ها برای مقاصد دفاعی است.

به عنوان بخشی از پروژه گلس‌وینگ، شرکای راه‌اندازی که در بالا ذکر شدند، از میتوس پریویو در کارهای امنیتی دفاعی خود استفاده خواهند کرد؛ آنتروپیک آنچه را که می‌آموزیم به اشتراک خواهد گذاشت تا کل صنعت از آن بهره‌مند شود. ما همچنین دسترسی به گروهی متشکل از بیش از ۴۰ سازمان دیگر که زیرساخت‌های نرم‌افزاری حیاتی را می‌سازند یا نگهداری می‌کنند، فراهم کرده‌ایم تا بتوانند از این مدل برای اسکن و ایمن‌سازی سیستم‌های داخلی و متن‌باز خود استفاده کنند. آنتروپیک متعهد شده است تا ۱۰۰ میلیون دلار اعتبار استفاده از میتوس پریویو را در طول این تلاش‌ها و همچنین ۴ میلیون دلار کمک مالی مستقیم به سازمان‌های امنیت متن‌باز اختصاص دهد.

پروژه گلس‌وینگ یک نقطه شروع است. هیچ سازمانی به تنهایی نمی‌تواند این مشکلات امنیت سایبری را حل کند: توسعه‌دهندگان هوش مصنوعی مرزی، سایر شرکت‌های نرم‌افزاری، محققان امنیتی، نگه‌دارندگان نرم‌افزارهای متن‌باز، و دولت‌ها در سراسر جهان همگی نقش‌های اساسی دارند. کار دفاع از زیرساخت‌های سایبری جهان ممکن است سال‌ها طول بکشد؛ قابلیت‌های هوش مصنوعی مرزی احتمالاً تنها در چند ماه آینده به طور قابل توجهی پیشرفت خواهند کرد. برای اینکه مدافعان سایبری پیشتاز باشند، باید اکنون اقدام کنیم.

نرم‌افزارهایی که همه ما روزانه به آن‌ها وابسته هستیم—مسئول اجرای سیستم‌های بانکی، ذخیره‌سازی سوابق پزشکی، اتصال شبکه‌های لجستیکی، حفظ عملکرد شبکه‌های برق، و بسیاری موارد دیگر—همیشه حاوی باگ بوده‌اند. بسیاری از آن‌ها جزئی هستند، اما برخی نقص‌های امنیتی جدی هستند که در صورت کشف شدن، می‌توانند به مهاجمان سایبری اجازه دهند سیستم‌ها را ربوده، عملیات را مختل کرده یا داده‌ها را سرقت کنند.

ما پیش از این پیامدهای جدی حملات سایبری را برای شبکه‌های شرکتی، سیستم‌های بهداشتی، زیرساخت‌های انرژی، مراکز حمل و نقل و امنیت اطلاعات نهادهای دولتی در سراسر جهان مشاهده کرده‌ایم. در صحنه جهانی، حملات تحت حمایت دولت از سوی عاملانی مانند چین، ایران، کره شمالی و روسیه، زیرساخت‌هایی را که زیربنای زندگی غیرنظامی و آمادگی نظامی هستند، تهدید به به خطر انداختن کرده‌اند. حتی حملات در مقیاس کوچک‌تر، مانند حملاتی که بیمارستان‌ها یا مدارس هدف قرار می‌گیرند، همچنان می‌توانند خسارات اقتصادی قابل توجهی وارد کنند، داده‌های حساس را افشا کرده و حتی جان افراد را به خطر اندازند. هزینه‌های مالی جهانی کنونی جرایم سایبری دشوار است، اما ممکن است سالانه حدود ۵۰۰ میلیارد دلار باشد.

بسیاری از نقص‌های نرم‌افزاری سال‌ها نادیده گرفته می‌شوند زیرا یافتن و بهره‌برداری از آن‌ها به تخصص‌هایی نیاز داشته که تنها در اختیار تعداد کمی از کارشناسان امنیتی ماهر بوده است. با جدیدترین مدل‌های هوش مصنوعی مرزی، هزینه، تلاش و سطح تخصص مورد نیاز برای یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری همگی به شدت کاهش یافته‌اند. در طول یک سال گذشته، مدل‌های هوش مصنوعی در خواندن و استدلال درباره کد به طور فزاینده‌ای مؤثر شده‌اند—به ویژه، آن‌ها توانایی چشمگیری در شناسایی آسیب‌پذیری‌ها و یافتن راه‌های بهره‌برداری از آن‌ها نشان می‌دهند. کلود میتوس پریویو جهشی در این مهارت‌های سایبری را نشان می‌دهد—آسیب‌پذیری‌هایی که شناسایی کرده است در برخی موارد دهه‌ها بررسی انسانی و میلیون‌ها آزمایش امنیتی خودکار را پشت سر گذاشته‌اند، و بهره‌برداری‌هایی که توسعه می‌دهد به طور فزاینده‌ای پیچیده هستند.

ده سال پس از اولین چالش بزرگ سایبری دارپا (DARPA Cyber Grand Challenge)، مدل‌های هوش مصنوعی مرزی اکنون در یافتن و بهره‌برداری از آسیب‌پذیری‌ها با بهترین انسان‌ها رقابت می‌کنند. بدون تدابیر حفاظتی لازم، این قابلیت‌های سایبری قدرتمند می‌توانند برای بهره‌برداری از نقص‌های موجود متعدد در مهم‌ترین نرم‌افزارهای جهان استفاده شوند. این امر می‌تواند حملات سایبری از هر نوع را بسیار مکررتر و مخرب‌تر سازد و دشمنان ایالات متحده و متحدانش را توانمندتر کند. بنابراین، رسیدگی به این مسائل یک اولویت امنیتی مهم برای کشورهای دموکراتیک است.

اگرچه خطرات حملات سایبری تقویت‌شده با هوش مصنوعی جدی هستند، اما دلیلی برای خوش‌بینی وجود دارد: همان قابلیت‌هایی که مدل‌های هوش مصنوعی را در دست افراد نادرست خطرناک می‌سازند، آن‌ها را برای یافتن و رفع نقص‌ها در نرم‌افزارهای مهم—و برای تولید نرم‌افزارهای جدید با باگ‌های امنیتی بسیار کمتر—بسیار ارزشمند می‌کنند. پروژه گلس‌وینگ گامی مهم به سوی دادن یک مزیت پایدار به مدافعان در دوران آینده امنیت سایبری مبتنی بر هوش مصنوعی است.

در طول چند هفته گذشته، ما از کلود میتوس پریویو برای شناسایی هزاران آسیب‌پذیری روز صفر (یعنی نقص‌هایی که قبلاً برای توسعه‌دهندگان نرم‌افزار ناشناخته بودند)، بسیاری از آن‌ها حیاتی، در هر سیستم عامل اصلی و هر مرورگر وب اصلی، به همراه مجموعه‌ای از سایر بخش‌های مهم نرم‌افزار استفاده کرده‌ایم.

در پستی در وبلاگ Frontier Red Team ما، جزئیات فنی زیرمجموعه‌ای از این آسیب‌پذیری‌ها را که قبلاً وصله شده‌اند و در برخی موارد، روش‌هایی که میتوس پریویو برای بهره‌برداری از آن‌ها یافته است، ارائه می‌دهیم. این مدل توانست تقریباً تمام این آسیب‌پذیری‌ها—و بسیاری از بهره‌برداری‌های مرتبط—را به طور کامل و مستقل، بدون هیچگونه هدایت انسانی شناسایی کند. در ادامه سه نمونه آورده شده است:

• میتوس پریویو یک آسیب‌پذیری ۲۷ ساله را در OpenBSD یافت—که شهرت یکی از ایمن‌ترین سیستم‌عامل‌های جهان را دارد و برای اجرای فایروال‌ها و سایر زیرساخت‌های حیاتی استفاده می‌شود. این آسیب‌پذیری به مهاجم اجازه می‌داد تنها با اتصال به یک ماشین از راه دور که سیستم عامل را اجرا می‌کند، آن را از کار بیندازد؛
• همچنین یک آسیب‌پذیری ۱۶ ساله را در FFmpeg—که توسط نرم‌افزارهای بی‌شماری برای رمزگذاری و رمزگشایی ویدیو استفاده می‌شود—در خطی از کد که ابزارهای تست خودکار پنج میلیون بار بدون هرگز شناسایی مشکل آن را بررسی کرده بودند، کشف کرد؛
• این مدل به طور خودکار چندین آسیب‌پذیری را در کرنل لینوکس—نرم‌افزاری که بیشتر سرورهای جهان را اجرا می‌کند—یافت و آن‌ها را به هم زنجیر کرد تا به مهاجم اجازه دهد از دسترسی کاربر عادی به کنترل کامل ماشین ارتقا یابد.

ما آسیب‌پذیری‌های فوق را به نگه‌دارندگان نرم‌افزارهای مربوطه گزارش داده‌ایم و همه آن‌ها اکنون وصله شده‌اند. برای بسیاری از آسیب‌پذیری‌های دیگر، امروز یک هش رمزنگاری‌شده از جزئیات را ارائه می‌دهیم (به وبلاگ Red Team مراجعه کنید)، و جزئیات دقیق را پس از اعمال یک راه حل آشکار خواهیم کرد.

معیارهای ارزیابی مانند CyberGym تفاوت قابل توجه بین میتوس پریویو و مدل بعدی ما، کلود اوپوس ۴.۶ (Claude Opus 4.6) را تقویت می‌کنند:

علاوه بر کار خودمان، بسیاری از شرکای ما نیز برای چندین هفته از کلود میتوس پریویو استفاده کرده‌اند. این چیزی است که آن‌ها یافته‌اند:

قابلیت‌های سایبری قدرتمند کلود میتوس پریویو نتیجه مهارت‌های قوی کدنویسی عامل‌محور و استدلال آن است. به عنوان مثال، همانطور که در نتایج ارزیابی زیر نشان داده شده است، این مدل بالاترین امتیازات را در بین تمام مدل‌های توسعه‌یافته در انواع وظایف کدنویسی نرم‌افزار دارد.

اطلاعات بیشتر در مورد قابلیت‌های مدل، ویژگی‌های ایمنی آن، و خصوصیات عمومی آن را می‌توانید در کارت سیستم کلود میتوس پریویو بیابید.

ما قصد نداریم کلود میتوس پریویو را به طور عمومی در دسترس قرار دهیم، اما هدف نهایی ما این است که کاربرانمان را قادر سازیم تا مدل‌های کلاس میتوس را با خیال راحت در مقیاس وسیع—برای اهداف امنیت سایبری، و همچنین برای مزایای بی‌شمار دیگری که چنین مدل‌های بسیار توانمندی به همراه خواهند داشت—مستقر کنند. برای انجام این کار، باید در توسعه تدابیر حفاظتی امنیت سایبری (و سایر موارد) که خطرناک‌ترین خروجی‌های مدل را شناسایی و مسدود می‌کنند، پیشرفت کنیم. ما قصد داریم تدابیر حفاظتی جدیدی را با یک مدل کلود اوپوس آینده راه‌اندازی کنیم، که به ما امکان می‌دهد آن‌ها را با مدلی که همان سطح از خطر میتوس پریویو را ندارد، بهبود و اصلاح کنیم.

اعلامیه امروز آغاز یک تلاش بلندمدت است. برای موفقیت، این پروژه نیازمند مشارکت گسترده از سراسر صنعت فناوری و فراتر از آن خواهد بود.

شرکای پروژه گلس‌وینگ به کلود میتوس پریویو دسترسی خواهند داشت تا آسیب‌پذیری‌ها یا ضعف‌ها را در سیستم‌های بنیادی خود—سیستم‌هایی که بخش بسیار بزرگی از سطح حمله سایبری مشترک جهان را تشکیل می‌دهند—بیابند و رفع کنند. ما پیش‌بینی می‌کنیم که این کار بر وظایفی مانند شناسایی آسیب‌پذیری‌های محلی، تست جعبه سیاه باینری‌ها، ایمن‌سازی نقاط پایانی، و تست نفوذ سیستم‌ها تمرکز خواهد داشت.

تعهد آنتروپیک به مبلغ ۱۰۰ میلیون دلار اعتبار استفاده از مدل به پروژه گلس‌وینگ و سایر مشارکت‌کنندگان، استفاده قابل توجهی را در طول این پیش‌نمایش تحقیقاتی پوشش خواهد داد. پس از آن، کلود میتوس پریویو با قیمت ۲۵ دلار / ۱۲۵ دلار برای هر میلیون توکن ورودی/خروجی در دسترس مشارکت‌کنندگان خواهد بود (مشارکت‌کنندگان می‌توانند از طریق Claude API، Amazon Bedrock، Vertex AI گوگل کلود و Microsoft Foundry به مدل دسترسی پیدا کنند).

علاوه بر تعهد ما به اعتبارات استفاده از مدل، ما ۲.۵ میلیون دلار به Alpha-Omega و OpenSSF از طریق بنیاد لینوکس و ۱.۵ میلیون دلار به بنیاد نرم‌افزاری آپاچی (Apache Software Foundation) اهدا کرده‌ایم تا به نگه‌دارندگان نرم‌افزارهای متن‌باز امکان دهند به این چشم‌انداز در حال تغییر پاسخ دهند (نگه‌دارندگانی که علاقه‌مند به دسترسی هستند می‌توانند از طریق برنامه کلود برای متن‌باز درخواست دهند).

قصد داریم این کار در دامنه خود گسترش یابد و برای ماه‌ها ادامه پیدا کند، و تا حد امکان اطلاعات را به اشتراک خواهیم گذاشت تا سازمان‌های دیگر بتوانند درس‌های آن را در امنیت خود به کار ببرند. شرکا، تا جایی که بتوانند، اطلاعات و بهترین شیوه‌ها را با یکدیگر به اشتراک خواهند گذاشت؛ ظرف ۹۰ روز، آنتروپیک به صورت عمومی گزارشی از آنچه آموخته‌ایم، و همچنین آسیب‌پذیری‌های رفع شده و بهبودهای انجام شده‌ای که قابل افشا هستند، ارائه خواهد کرد. ما همچنین با سازمان‌های امنیتی پیشرو همکاری خواهیم کرد تا مجموعه‌ای از توصیه‌های عملی را برای نحوه تکامل شیوه‌های امنیتی در عصر هوش مصنوعی ارائه دهیم. این موارد به طور بالقوه شامل موارد زیر خواهد بود:

• فرآیندهای افشای آسیب‌پذیری؛
• فرآیندهای به‌روزرسانی نرم‌افزار؛
• امنیت متن‌باز و زنجیره تأمین؛
• چرخه عمر توسعه نرم‌افزار و شیوه‌های امنیتی از طریق طراحی؛
• استانداردها برای صنایع تحت نظارت؛
• مقیاس‌گذاری و اتوماسیون تریاژ؛ و
• اتوماسیون وصله‌گذاری.

آنتروپیک همچنین در حال مذاکره مداوم با مقامات دولتی ایالات متحده در مورد کلود میتوس پریویو و قابلیت‌های سایبری تهاجمی و دفاعی آن بوده است. همانطور که در بالا اشاره کردیم، ایمن‌سازی زیرساخت‌های حیاتی یک اولویت امنیت ملی برای کشورهای دموکراتیک است—ظهور این قابلیت‌های سایبری دلیل دیگری است که چرا ایالات متحده و متحدانش باید یک برتری قاطع در فناوری هوش مصنوعی را حفظ کنند. دولت‌ها نقش اساسی در کمک به حفظ این برتری و در ارزیابی و کاهش خطرات امنیت ملی مرتبط با مدل‌های هوش مصنوعی دارند. ما آماده همکاری با نمایندگان محلی، ایالتی و فدرال برای کمک به این وظایف هستیم.

ما امیدواریم که پروژه گلس‌وینگ بتواند تلاشی بزرگ‌تر را در سراسر صنعت و بخش عمومی بذرپاشی کند، با همکاری همه طرفین برای رسیدگی به بزرگترین سؤالات پیرامون تأثیر مدل‌های قدرتمند بر امنیت. ما سایر اعضای صنعت هوش مصنوعی را دعوت می‌کنیم تا در تعیین استانداردها برای این صنعت به ما بپیوندند. در میان‌مدت، یک نهاد مستقل و شخص ثالث—که می‌تواند سازمان‌های بخش خصوصی و عمومی را گرد هم آورد—ممکن است خانه ایده‌آلی برای ادامه کار بر روی این پروژه‌های امنیت سایبری در مقیاس بزرگ باشد.

1. این پروژه به نام پروانه گلس‌وینگ، Greta oto، نامگذاری شده است. این استعاره به دو روش قابل استفاده است: بال‌های شفاف پروانه به آن اجازه می‌دهد در دیدرس پنهان شود، دقیقاً مانند آسیب‌پذیری‌های مورد بحث در این پست؛ همچنین به آن اجازه می‌دهد از آسیب فرار کند—مانند شفافیتی که ما در رویکرد خود از آن حمایت می‌کنیم.
2. از یونان باستان برای "بیان" یا "روایت": سیستم داستان‌هایی که از طریق آن‌ها تمدن‌ها جهان را درک می‌کردند.
3. متخصصان امنیتی که کار قانونی آن‌ها تحت تأثیر این تدابیر حفاظتی قرار می‌گیرد، می‌توانند برای یک برنامه تأیید سایبری آتی درخواست دهند.