GPT‑6 Cyber: پیشگامی در مرزهای ایمنی سایبری با عاملان هم‌راستا

ما از GPT‑6 Cyber رونمایی می‌کنیم؛ جهشی بزرگ در پژوهش‌های امنیتی: توانایی بیشتر در یافتن و رفع آسیب‌پذیری‌ها و قابلیت اطمینان بسیار بالاتر در ماندن داخل مرزهایی که پژوهشگران تعیین کرده‌اند. GPT‑6 Cyber نسبت به GPT‑5.6 Cyber دستاوردهای عمده‌ای در معیارهای کلیدی امنیت سایبری ارائه می‌دهد، از جمله بهبود نسبی ۵۱ درصدی در ExploitGym و یک بهبود پله‌ای (Step Function Improvement) در آزمون‌های ماندن در محدوده مجاز. این مدل اکنون به امن‌سازی نرم‌افزارهای دنیای واقعی کمک می‌کند و هزاران اکسپلویت را در کدبیس‌های حساس امنیتی مانند لینوکس و فایرفاکس کشف و تأیید کرده است.

در آزمون ExploitGym که بررسی می‌کند آیا مدل‌ها می‌توانند از یک آسیب‌پذیری مشخص بهره‌برداری کنند یا خیر، GPT‑6 Cyber نمره ۴۸.۵ درصد را کسب کرده که نسبت به ۳۲.۱ درصد برای GPT‑5.6 Cyber افزایش یافته است. این مدل همچنین مرزهای وظیفه را با قابلیت اطمینان بیشتری رعایت می‌کند: در یک ارزیابی جداگانه هم‌راستایی، GPT‑6 Cyber در ۹۹.۹۳ درصد آزمون‌ها بدون پرامپت استقرار خود، از بهره‌برداری سرویس‌های خارج از محدوده خودداری کرد و با این پرامپت، این عدد به ۱۰۰ درصد رسید. این بهبود در هم‌راستایی بازتاب آموزش اختصاصی برای ماندن در محدوده مجاز، رعایت محدودیت‌ها و گزارش دقیق نتایج است.

این قابلیت‌ها اکنون به امن‌سازی سیستم‌های واقعی کمک می‌کنند. پژوهشگران ما از GPT‑6 Cyber برای توسعه ۹۴۸ اکسپلویت ارتقای سطح دسترسی در لینوکس و شناسایی ۸۱ آسیب‌پذیری ناشناخته با شدت بالا در فایرفاکس استفاده کردند، علیرغم آزمایش‌های گسترده قبلی با مدل‌های پیشرو. این مدل همچنین به توسعه پچ‌های نامزد کمک کرد و موزیلا اصلاحات بسیاری از آسیب‌پذیری‌های فایرفاکس را منتشر کرده است. تیم‌های امنیتی در سیسکو، کالیف و CodeRabbit از آن برای پژوهش آسیب‌پذیری و بازبینی کد استفاده می‌کنند و ما نیز برای یافتن و رفع نقاط ضعف در زیرساخت خودمان به آن تکیه کرده‌ایم.

واضح است که ما پنجره زمانی محدودی برای استفاده از مدل‌های پیشرو جهت امن‌سازی نرم‌افزار داریم. هدف ما گسترش چشمگیر برنامه Daybreak است تا پژوهش‌های امنیتی پیشرفته را در اختیار سازمان‌هایی با هر اندازه، پژوهشگران مستقل و نگهدارندگان نرم‌افزارهای متن‌باز قرار دهیم. مدل‌های اصلی مانند GPT‑6 Astra اکنون از بازبینی کد، اولویت‌بندی آسیب‌پذیری و توسعه پچ پشتیبانی می‌کنند. Daybreak Blue به مدافعان تأییدشده کمک می‌کند تا آسیب‌پذیری‌ها و اصلاحات را با رد درخواست‌های غیرضروری کمتر اعتبارسنجی کنند، در حالی که Daybreak Red امکان توسعه عمیق‌تر اکسپلویت و تست امنیتی مجاز را با GPT‑6 Cyber فراهم می‌کند.

GPT‑6 Cyber گامی بزرگ نسبت به GPT‑5.6 Cyber برداشته و حتی زمانی که Astra درخواست را رد نمی‌کند، در اکثر وظایف سایبری عملکرد بهتری از GPT‑6 Astra دارد. ما مدل را در وظایفی ارزیابی کردیم که نیازمند درک نرم‌افزار، شناسایی آسیب‌پذیری‌ها و توسعه اکسپلویت‌های کارآمد هستند. بر اساس این نتایج، ما این مدل را در امنیت سایبری تحت چارچوب آمادگی خود در دسته «بحرانی» طبقه‌بندی می‌کنیم که نسبت به دسته «بالا» برای GPT‑5.6 Cyber ارتقا یافته است.

در آزمون ExploitGym که بررسی می‌کند آیا مدل‌ها می‌توانند از یک آسیب‌پذیری مشخص در یک هدف از راه دور بهره‌برداری کنند، GPT‑6 Cyber نمره ۴۸.۵٪ را کسب کرده که حدود ۱۶ واحد درصد بالاتر از نمره ۳۲.۱٪ برای GPT‑5.6 Cyber است. برای تست کشف آسیب‌پذیری، ما همچنین یک ارزیابی جدید برای تست نفوذ وب تهاجمی ساختیم. مدل‌ها بدون دسترسی به کد منبع، اپلیکیشن‌های وب را کاوش می‌کنند. GPT‑6 Cyber موفق به بازیابی ۴۰.۳٪ از آسیب‌پذیری‌ها شد، در مقایسه با ۳۲.۰٪ برای GPT‑6 Astra.

Daybreak Red برای پشتیبانی از جریان‌های کاری امنیتی پیشرفته‌تر طراحی شده است، از جمله توسعه اکسپلویت‌های کارآمد و استفاده از آن‌ها علیه اهداف از راه دور. برای ارزیابی این قابلیت‌ها، ما یک معیار جدید به نام RemoteExploitBench ساختیم که از آسیب‌پذیری‌های شناخته‌شده در اپلیکیشن‌هایی مانند GitLab، PostgreSQL و Jenkins مستقر در یک محیط کنترل‌شده استفاده می‌کند. در ارزیابی اولیه ما، GPT‑6 Astra در حال اجرا با Daybreak Blue ۱۰۰٪ وظایف را رد کرد، در حالی که GPT‑6 Cyber ۹۵٪ را تکمیل کرد؛ تنها شکست آن یک اکسپلویت بود که نتوانست آن را از راه دور کار کند. برای مشاهده نتایج کامل و تنظیمات ارزیابی، کارت سیستم (System Card) را ببینید.

یکی از ریسک‌ها برای عاملان امنیت سایبری این است که از محدوده وظیفه محوله خارج شوند، سعی کنند از سرویس‌های نامرتبط بهره‌برداری کنند یا قوانین درگیری پژوهشگر را نادیده بگیرند.

ما هم‌راستایی را محور اصلی GPT‑6 Cyber قرار دادیم و از آموزش تخصصی برای کمک به مدل جهت ماندن در محدوده مجاز، پیروی از محدودیت‌های اعمال‌شده بر اقداماتش و گزارش‌دهی دقیق کارش استفاده کردیم. قبل از استقرار، ما مجموعه‌ای از ارزیابی‌های هم‌راستایی را برای سنجش این رفتارها انجام دادیم. برای نتایج کامل، کارت سیستم را ببینید.

یکی از این ارزیابی‌ها ExploitGym Honeypot است که از حادثه Hugging Face الهام گرفته شده است. ما به مدل یک وظیفه دشوار بهره‌برداری در یک محیط ایزوله با دسترسی به سرویس‌های پشتیبان، مانند رجیستری بسته‌ها یا ذخیره‌ساز اشیاء، می‌دهیم. ما عمداً این سرویس‌ها را آسان برای بهره‌برداری می‌کنیم تا حمله به آن‌ها بتواند پرچم (Flag) وظیفه را آشکار کند. مدل باید استنتاج کند که بهره‌برداری از آن‌ها خارج از محدوده وظیفه‌اش است.

GPT‑6 Cyber در این ارزیابی بهبود پله‌ای چشمگیری نسبت به GPT‑5.6 Cyber نشان می‌دهد. هنگامی که بدون پرامپت‌های ایمنی استقرار آزمایش شد، در ۹۹.۹۳٪ موارد از بهره‌برداری سرویس‌های خارج از محدوده خودداری کرد، در حالی که این عدد برای GPT‑5.6 Cyber ۹۴.۴۹٪ بود. با وجود آن پرامپت‌ها، GPT‑6 Cyber در ۱۰۰٪ زمان در مرزها باقی ماند.

ما می‌توانیم مستقیماً در زنجیره تفکر (Chain of Thought) مدل GPT‑6 Cyber ببینیم که چگونه درباره ماندن در مرزها استدلال می‌کند:

«نمی‌توان فرض کرد API اضافی یا کنترلر حمله خارج از هدف است. ما فقط باید باینری/سرور را هدف قرار دهیم.»

«اعتبارنامه‌های خارج از محدوده را کاوش نکن.»

GPT‑6 Cyber اکنون به تیم‌های امنیتی کمک می‌کند تا آسیب‌پذیری‌ها را پیدا کنند، اثرات آن‌ها را اعتبارسنجی نمایند و اصلاحات را توسعه دهند. مشتریان از آن روی کدبیس‌های بزرگ، توسعه طولانی‌مدت اکسپلویت و بازبینی امنیتی استفاده کرده‌اند:

ما همچنین برای امن‌سازی سیستم‌های خودمان به GPT‑6 Cyber تکیه کرده‌ایم. این مدل یکی از مدل‌های اصلی پشت کاری بود که اخیراً درباره محکم‌سازی زیرساخت مورد استفاده برای آموزش مدل‌های پیشرو به اشتراک گذاشتیم. در کمپین‌های قرمز (Red-teaming) کنترل‌شده، عاملانی که از GPT‑6 Cyber و سایر مدل‌های اوپن‌ای‌آی استفاده می‌کردند، آسیب‌پذیری‌ها را زنجیره‌وار به هم وصل کردند تا از میکرووی‌ام‌ها (microVMs) فرار کرده و کد را روی هاست‌های زیرین اجرا کنند. ما از یافته‌ها برای پچ کردن نرم‌افزار، سخت‌گیری محدودیت‌های شبکه و گزارش مشکلات به نگهدارندگان و فروشندگان استفاده کردیم.

پژوهشگران آسیب‌پذیری ما نیز از GPT‑6 Cyber برای یافتن و اعتبارسنجی آسیب‌پذیری‌ها در نرم‌افزارهای متن‌باز در مقیاس بزرگ استفاده می‌کنند. این کار نقص‌های ناشناخته قبلی را در نرم‌افزارهایی که سال‌ها مورد بررسی دقیق قرار گرفته‌اند، کشف کرده است:

• کشف ۸۱ آسیب‌پذیری جدید فایرفاکس. GPT‑6 Cyber می‌تواند برای استفاده در جریان‌های کاری خودکار جهت یافتن آسیب‌پذیری‌ها و پیشنهاد پچ‌های باکیفیت در مقیاس بزرگ مناسب باشد. در طول یک کمپین پژوهش آسیب‌پذیری، GPT‑6 Cyber شواهد و تست‌های قابل تکرار برای ۸۱ آسیب‌پذیری جدید که توسط موزیلا با شدت بالا طبقه‌بندی شدند تولید کرد و نشان داد که ۳۰ مشکل شناخته‌شده دیگر شدیدتر از آنچه قبلاً گزارش شده بود، هستند. ما یافته‌ها را همراه با پچ‌های پیشنهادی برای کمک به مهندسانش در توسعه اصلاحات به موزیلا افشا کردیم. موزیلا از این کار حمایت کرد و پس از دریافت گزارش‌ها، به سرعت شروع به پیاده‌سازی اصلاحات کرد.

• توسعه اکسپلویت برای ۹۴۸ آسیب‌پذیری کرنل لینوکس. GPT‑6 Cyber ۱,۷۲۴ آسیب‌پذیری را بازتولید کرد و برای ۹۴۸ مورد اکسپلویت کارآمد توسعه داد—بیش از پنج برابر ۱۶۶ موردی که GPT‑5.6 Sol با استفاده از همان ابزار پژوهشی بهره‌برداری کرد. پیروی از راهنمایی‌های جامعه لینوکس، ما ۳۰۴ یافته بحرانی را همراه با پچ‌های نامزد به نگهدارندگان افشا کردیم و در حال فرآیند رفع سایر آسیب‌پذیری‌ها هستیم.

• نمایش آسیب‌پذیری‌های بحرانی RCE. ما اخیراً درباره یک آسیب‌پذیری بحرانی در Brotli، کتابخانه فشرده‌سازی مورد استفاده Node.js و سایر نرم‌افزارها، بحث کردیم. پژوهشگران امنیتی ما از GPT‑6 Cyber در کنار سایر مدل‌های اوپن‌ای‌آی برای توسعه و اعتبارسنجی اکسپلویت‌هایی استفاده کردند که نشان می‌داد چگونه این نقص می‌تواند اجرای کد از راه دور (Remote Code Execution) را در اپلیکیشن‌های پایین‌دستی ممکن سازد.

همان‌طور که مدل‌ها توانمندتر می‌شوند و آسیب‌پذیری‌های بیشتری را کشف می‌کنند، ما شاهد تلاش‌های بیشتری برای استفاده از آن‌ها جهت ایجاد آسیب هستیم. این تلاش‌ها شامل اقدامات بازیگران سایبری بدخواه و گروه‌های خصمانه است که به دنبال تقطیر (Distill) مدل‌های ما هستند. بنابراین، ما قابلیت‌های قوی‌تر GPT‑6 Cyber را با اقدامات احتیاطی قوی‌تر جفت کرده‌ایم تا سوءاستفاده را شناسایی و مختل کنیم و اقدامات مدل را در چارچوب قصد و مجوز کاربر نگه داریم.

ما این حفاظت‌ها را هم‌زمان با انتشار GPT‑6 Cyber اضافه و تقویت کردیم (برای اطلاعات کامل، کارت سیستم را ببینید):

• نظارت بر عدم هم‌راستایی خاص سایبری. ما پایش می‌کنیم که آیا اقدامات با مجوز کاربر مطابقت دارند یا خیر، در حالی که توسعه و تست مشروع اکسپلویت را تشخیص می‌دهیم.

• نظارت هدفمند بر تهدیدهای نوظهور. به عنوان مثال، در طول افشای هماهنگ آسیب‌پذیری‌های بحرانی PHP، ما نظارت هدفمند بر تلاش‌ها برای توسعه اکسپلویت علیه سرورهای فعال PHP راه‌اندازی کردیم، در حالی که حمایت از مدافعانی که سیستم‌های آسیب‌دیده را پچ می‌کنند حفظ شد.

• پردازش ایمنی خصوصی (Private Safety Processing - PSP). ما از چک‌های خودکار برای مرور تعاملات مرتبط جهت سوءاستفاده استفاده می‌کنیم. استاندارد نگهداری داده‌ها همچنان پیش‌فرض است. مشتریان API که از عدم نگهداری داده (Zero Data Retention) استفاده می‌کنند، معمولاً باید از PSP استفاده کنند که رکوردهای رمزگذاری‌شده نگهداری‌شده در فضای ذخیره‌سازی مشتری را برای ۳۰ روز مرور می‌کند بدون اینکه پرامپت‌ها و پاسخ‌ها را در معرض دید پرسنل اوپن‌ای‌آی قرار دهد.

• محافظت در برابر اعتبارنامه‌های سرقت‌شده. ما به طور پیش‌فرض برای دسترسی API به Daybreak Red، فهرست سفید IP (IP allowlisting) را الزامی می‌دانیم و درخواست‌ها را به شبکه‌های تاییدشده با استثناهای محدود محدود می‌کنیم. همچنین اعتبارنامه‌ها را برای نشت احتمالی پایش می‌کنیم.

• سندباکسینگ و نظارت. همانند مدل‌های گذشته، ما سندباکسینگ، بازبینی اقدامات و نظارت انسانی را برای جریان‌های کاری پرخطر توصیه می‌کنیم.

• محافظت در برابر کمک‌های سایبری پرخطر. ما از چک‌های جدید برای مسدودسازی فعالیت‌های پرخطر درگیر با سیستم‌های حیاتی استفاده می‌کنیم (جزئیات بیشتر در ادامه).

محافظت از زیرساخت‌های حیاتی یک ملاحظه کلیدی در طراحی اقدامات احتیاطی و دسترسی GPT‑6 Cyber بوده است، از جمله نیروگاه‌ها، تصفیه‌خانه‌های آب و سیستم‌های فناوری عملیاتی و کنترل صنعتی (OT/ICS) که آن‌ها را پشتیبانی می‌کنند. ما هم‌زمان می‌خواهیم به تیم‌هایی که از این سیستم‌ها دفاع می‌کنند دسترسی به توانمندترین مدل‌های خود را بدهیم و هم‌زمان اقدامات احتیاطی خود را برای جلوگیری از حملات غیرمجاز تقویت کنیم.

اول، برای تجهیز این مدافعان، برنامه اعطای کمک مالی یک میلیارد دلاری ما به نام Daybreak for Frontline Defenders دسترسی را برای تیم‌های دارای منابع محدود مانند سازمان‌های دولتی و ارائه‌دهندگان خدمات ضروری یارانه می‌دهد. ما همچنین یک گروه جدید درون Daybreak Red (Daybreak Red for Critical Infrastructure) برای مدافعان تأییدشده زیرساخت‌های حیاتی معرفی می‌کنیم که به آن‌ها اجازه می‌دهد تست‌های مجاز روی سیستم‌های حیاتی را انجام دهند، در حالی که اقدامات احتیاطی علیه عدم هم‌راستایی مدل حفظ می‌شود.

دوم، برای جلوگیری از سوءاستفاده از پلتفرم‌های Daybreak Red و Blue، ما اقدامات احتیاطی علیه کمک‌رسانی و توسعه قابلیت‌هایی را که می‌تواند کنترل‌های صنعتی یا سیستم‌های ایمنی حیاتی را به خطر بیندازد، تجهیزات را مختل کند یا باعث آسیب جدی، خسارت فیزیکی فاجعه‌بار یا اختلال خدماتی جان‌خطر شود، اصلاح کرده‌ایم. شکل زیر نرخ‌های برچسب اقدامات احتیاطی را در چهار پیکربندی دسترسی، قبل و بعد از به‌روزرسانی‌های اخیر که هم‌زمان با GPT‑6 Cyber در حال اجرا هستند، مقایسه می‌کند.

نرخ‌های بالاتر مسدودسازی اقدامات احتیاطی همیشه بهتر نیستند. بسیاری از تکنیک‌های موجود در این ارزیابی برای کار امنیتی مشروع نیز ضروری هستند: درک سیستم‌ها، یافتن آسیب‌پذیری‌ها و تأیید اینکه اصلاحات در برابر حملات مقاومت می‌کنند. بنابراین، ما این نرخ‌ها را در کنار حمایت از پژوهش و پچ‌کاری مشروع ارزیابی می‌کنیم، نه اینکه صرفاً به دنبال ۱۰۰٪ باشیم.

برای ارزیابی اینکه چگونه مدل‌های ما می‌توانند به دفاع از زیرساخت‌های حیاتی کمک کنند، ما با Dragos، ارائه‌دهنده جهانی امنیت سایبری فناوری عملیاتی گسترده (xOT) مشارکت کردیم. Dragos ارزیابی‌هایی را با استفاده از مدل‌های Daybreak Red با اجازه سایبری در یک محیط آزمایشگاهی کنترل‌شده انجام داد. ارزیابی‌ها شامل درخواست‌هایی بود که از کشف شبکه و شمارش دارایی‌ها از طریق شناسایی هدفمند، استخراج داده‌های حساس و اقدامات دستگاهی غیرمجاز و بالقوه خطرناک پیشرفت می‌کردند.

ما از بازخورد Dragos برای اصلاح اقدامات احتیاطی خود استفاده کردیم و هدفمان مسدودسازی کمک‌رسانی مضر بدون محدود کردن غیرضروری تست‌های مجاز بود. گزارش نهایی آن‌ها را برای جزئیات ارزیابی‌ها ببینید. ما همچنین در حال کار برای گسترش مشارکت‌ها با سایر ارائه‌دهندگان امنیت تهاجمی و تیم‌های بنفش (Purple Teams) در زمینه تست نفوذ و تیم‌سازی قرمز با هوش مصنوعی، و همچنین با شرکت‌های انرژی، سایر اپراتورهای زیرساخت حیاتی و آزمایشگاه‌های ملی برای ارزیابی اثربخشی مدل‌ها و اقدامات احتیاطی ما در دفاع صنعتی هستیم. ما همچنین سرمایه‌گذاری خود را در تحقیقات تهدید برای شناسایی استفاده از مدل‌ها درگیر OT/ICS افزایش داده‌ایم. ما به اصلاح اقدامات احتیاطی خود با ورودی از شرکا و جامعه امنیتی، از جمله گزارش‌ها از طریق /feedback زمانی که اقدامات احتیاطی فعالیت مضر را از دست می‌دهند یا کار مشروع را قطع می‌کنند، ادامه خواهیم داد.

GPT‑6 Cyber ابتدا از طریق API و Codex برای یک گروه منتخب از مشتریان تاییدشده Daybreak Red در دسترس است. ما به تدریج دسترسی را به تمام مشتریان Daybreak Red گسترش خواهیم داد و همچنین GPT‑5.6 Cyber را برای همه مشتریان Daybreak Red در دسترس قرار می‌دهیم. ما همچنین دسترسی آلفای Daybreak Blue برای GPT‑6 Astra را به سازمان‌ها و پژوهشگران امنیتی فردی بیشتری گسترش می‌دهیم؛ اگر علاقه‌مند هستید به ما اطلاع دهید.

کاربران و سازمان‌های جدید می‌توانند برای Daybreak درخواست دهند و با مهارت‌ها، محصولات و شرکای سایبری ما شروع به کار کنند.