دولت استرالیا از زمان افشای هک شدن خود در اوایل سال جاری، در تکاپو بوده است. ماه گذشته در مجمع عمومی سازمان ملل متحد، آنتونی آلبانیز، نخست‌وزیر استرالیا، اعلام کرد که مدل‌های اوپن‌ای‌آی (OpenAI) به طور خودکار به داده‌های خصوصی پایگاه داده مدیکر (Medicare) این کشور دسترسی پیدا کرده‌اند – علاوه بر این، حداقل سه سازمان دولتی دیگر را نیز مورد بررسی یا تلاش برای نفوذ قرار داده‌اند. همین هفته، قانون‌گذاران استرالیایی، جیسون کوون، مدیر ارشد استراتژی اوپن‌ای‌آی را در مورد این حادثه مورد بازجویی قرار دادند: سناتور جوناتان دونیام پرسید: «اگر شما داوطلبانه این اطلاعات را به دولت ارائه نمی‌کردید، آیا ما امروز هم نمی‌دانستیم؟» کوون پاسخ داد: «آنچه شما می‌گویید یک نتیجه‌گیری منطقی است.»
در همین حال، دولت این کشور خود را برای آینده‌ای از حملات سایبری مبتنی بر هوش مصنوعی آماده می‌کند: وزارت کشور استرالیا به همه سازمان‌های دولتی دستور داده است تا ظرف شش ماه آینده، سیستم‌های قدیمی فناوری اطلاعات را شناسایی کرده و برنامه‌ای برای حذف تدریجی آن‌ها تدوین کنند. وزیر کشور نوشت، در دنیایی که «قابلیت‌های پیشرفته هوش مصنوعی، فناوری مشترک‌المنافع را هدف قرار داده‌اند»، چنین نرم‌افزارهایی «خطری غیرقابل قبول برای دولت استرالیا» محسوب می‌شوند.
استرالیا تنها یکی از کشورها، انجمن‌ها و شرکت‌های خصوصی است که خود را برای موجی از حملات سایبری مبتنی بر هوش مصنوعی آماده می‌کنند. مجرمان و گروه‌های اطلاعاتی تحت حمایت دولت اکنون از این فناوری برای اجرای حملات سایبری با سرعت، مقیاس و پیچیدگی بیشتر استفاده می‌کنند – از جمله ایمیل‌های فیشینگ فوق‌شخصی‌سازی‌شده و نفوذهای خودکار. در نتیجه، بر اساس تحقیقات گروه اطلاعات تهدید گوگل، تعداد آسیب‌پذیری‌های امنیت سایبری که هر ماه افشا می‌شود، از ابتدای سال جاری دو برابر شده است.
در پاسخ به این وضعیت، تیم‌های فناوری اطلاعات در تلاشند تا دفاعیات خود را تقویت کنند. استانیسلاو فورت، محقق سابق شرکت آنتروپیک (Anthropic) که اکنون دانشمند ارشد شرکت امنیت سایبری اِیزل (AISLE) است، به من گفت: «ظرف چند ماه، یا شاید یک سال، وظیفه ایمن‌سازی زیرساخت نرم‌افزاری تمدن باید حل شود.» هوش مصنوعی نه تنها حملات سایبری را مؤثرتر می‌کند، بلکه سطح حمله را نیز افزایش می‌دهد. فورت گفت: نفوذ به یک وب‌سایت یا اجرای حمله باج‌افزاری زمان‌بر است، بنابراین هکرها به طور سنتی اهداف بزرگ با سود قابل توجه را انتخاب می‌کردند. اما عوامل هک ارزان و خستگی‌ناپذیر به این معنی است که هر سازمان یا شخصی ممکن است ارزش هدف قرار گرفتن را داشته باشد. در عین حال، متخصصان امنیت سایبری که با آن‌ها صحبت کردم، مطمئن بودند که می‌توانند از پس این چالش برآیند. فورت گفت: «اگر ما در زمینه امنیت سایبری، بازی خود را ارتقا دهیم، قطعاً می‌توانیم چالش ناشی از هوش مصنوعی را برآورده کنیم.»
حملات سایبری به تاسیسات آب مینه سوتا در تابستان گذشته پیش‌نمایشی از آنچه در راه است را ارائه می‌دهد. هکرهای مرتبط با ایران ده‌ها تاسیسات آب در مینه سوتا را مختل کردند، بسیاری از آن‌ها در جوامع کوچکی بودند که ممکن است یک متخصص امنیت سایبری اختصاصی در کادر خود نداشته باشند. جان اسرائیل، افسر ارشد امنیت اطلاعات مینه سوتا، به من گفت: «ما خوش‌شانس بودیم که یک اپراتور بسیار هوشیار گفت: 'هی، من دیدم یک پمپ از کار افتاد.'» این ایالت حدود ساعت ۳ صبح گزارشی از اپراتور دریافت کرد و ظرف دو ساعت شروع به تحقیق و پاسخگویی کرد. هکرها یک نقطه ضعف در رایانه‌های صنعتی را هدف قرار دادند که تنها چند روز قبل توسط آژانس امنیت سایبری و زیرساخت (CISA) اعلام شده بود. تاسیسات آب به طور موقت به فرآیندهای دستی بازگشتند تا عملیاتی بمانند: به عنوان مثال، اسرائیل گفت، یک اپراتور آب ممکن است مجبور باشد «هر چند ساعت یک بار به آن برج آب برود» تا مطمئن شود همه چیز کار می‌کند.
اگرچه هوش مصنوعی به طور مستقیم در حملات سایبری مینه سوتا دخیل نبود، امیلی زیمر، سخنگوی خدمات فناوری اطلاعات مینه سوتا، به من گفت: «ما فرض می‌کنیم که اکثر مهاجمان از هوش مصنوعی برای تقویت حملات خود استفاده می‌کنند.» به عبارت دیگر، تصور هکری که امروز از این فناوری استفاده نکند، دشوار است. سیسا (CISA) هشداری صادر کرد که در آن به بازیگران تهدیدکننده که از بدافزارهای تولید شده توسط هوش مصنوعی برای هدف قرار دادن رایانه‌های مشابه در زیرساخت‌های حیاتی در سراسر کشور استفاده می‌کنند، اشاره داشت. اسرائیل گفت: «ما شاهد آسیب‌پذیری‌های بیشتر، وصله‌های بیشتر خواهیم بود و باید آن‌ها را سریع‌تر پیاده‌سازی کنیم تا از این حملات جلوگیری کنیم.» او افزود: «و آمار ما نشان می‌دهد که همینطور است.» برای شهرهای کوچک با بودجه‌های محدود که از خود در برابر هکرهای دولتی دفاع می‌کنند، چالش حتی بزرگ‌تر است. اسرائیل گفت: خدمات فناوری اطلاعات مینه سوتا «ناوبری‌کنندگان سایبری» را در سراسر ایالت برای کمک به امنیت سایبری می‌فرستد، اما «صدها و صدها شهر و شهرک کوچک و موارد دیگر» به کمک نیاز دارند.
دفاع کافی در برابر حملات هوش مصنوعی مستلزم تغییر پارادایم در امنیت سایبری است. از لحاظ تاریخی، متخصصان فناوری اطلاعات از لوکس زمان برخوردار بودند – مدافعان انسانی فقط باید سریع‌تر از مهاجمان انسانی حرکت می‌کردند – اما هوش مصنوعی حملات بسیار بیشتر و سریع‌تری را ممکن می‌سازد. البته، کارشناسان امنیت سایبری خود نیز از هوش مصنوعی بهره می‌برند. اسرائیل گفت: «من نمی‌گویم دنیا به آخر رسیده است»، اگرچه او نگران است. «همه ما باید ظرفیت خود را در نحوه پاسخگویی افزایش دهیم.» و عدم تقارن بین مهاجمان و مدافعان وجود دارد. اولی‌ها با بی‌قیدی از فناوری‌های جدید استفاده می‌کنند، اما شرکت‌ها و سازمان‌های دولتی تمایل دارند کندتر و محافظه‌کارتر باشند.
به عنوان مثال، بیمارستان‌ها اهداف بسیار ارزشمند و آسیب‌پذیری برای حملات سایبری هستند. آن‌ها انبوهی از سوابق پزشکی، اطلاعات پرداخت و داده‌های آزمایش‌های بالینی را ذخیره می‌کنند. مانند تاسیسات آب محلی، ممکن است فاقد منابع فناوری اطلاعات قابل توجهی نیز باشند. با توجه به خطر برای جان بیماران ناشی از یک قطعی بزرگ، کلینیک‌ها به ویژه احتمال دارد باج بپردازند. جان ریگی، مشاور ملی امنیت سایبری و ریسک در انجمن بیمارستان‌های آمریکا، به من گفت: امروز، بیمارستان‌ها «باید فرض کنند که هر چیزی که به اینترنت متصل است، به خصوص، ۱۰۰ درصد ایمن نیست.» حتی تاسیسات کوچک هزاران رایانه، تلفن و دستگاه پزشکی دارند که می‌توانند نقاط نفوذ باشند – بنابراین ریگی نه تنها به ایمن‌سازی فناوری اطلاعات آن‌ها کمک می‌کند، بلکه آن‌ها را برای کار با روش‌های آنالوگ در صورت یک هک فلج‌کننده آماده می‌کند.
علاوه بر این، بیمارستان‌ها باید در اتخاذ دفاع در برابر هوش مصنوعی بسیار محتاط باشند. ریگی گفت: یک کلینیک نمی‌تواند کد جدیدی را پیاده‌سازی کند بدون اینکه مطمئن شود ونتیلاتورها، پمپ‌های تزریق دارو، دستگاه‌های اشعه ایکس و سایر دستگاه‌های حیاتی آن را از کار نمی‌اندازد. اسکات گی، معاون مشاور ملی امنیت سایبری و ریسک AHA، به من گفت: شرکت‌های فناوری دوست دارند «سریع حرکت کنند و چیزها را خراب کنند.» «در زمینه مراقبت‌های بهداشتی، این چیزها مردم هستند. ما نمی‌توانیم سریع حرکت کنیم و آن‌ها را خراب کنیم.»
شانس هکرها برای پیشی گرفتن بهتر و بهتر می‌شود. هوش مصنوعی به آن‌ها اجازه می‌دهد تا هم سریع‌تر از آسیب‌پذیری‌ها سوءاستفاده کنند و هم یک نفوذ واقعی را خودکار کنند. آدام مایرز، معاون ارشد عملیات ضد مهاجم در کرودسترایک (Crowdstrike)، به من گفت: سازمان‌ها قبلاً یک ماه فرصت داشتند تا آسیب‌پذیری‌ها را قبل از اینکه در خطر جدی قرار گیرند، وصله کنند. او گفت: اکنون ممکن است فقط ۲۴ ساعت فرصت داشته باشند تا یک مشکل را برطرف کنند. و این می‌تواند «تا جایی کاهش یابد که شما ۳۰ دقیقه فرصت داشته باشید تا یک آسیب‌پذیری جدید را وصله کنید.» یک بیمارستان، شبکه برق، سیستم آب و در واقع هر تاسیساتی که خدمات مهم را در زمان واقعی ارائه می‌دهد، به سادگی نمی‌تواند ریسک پیاده‌سازی کد جدید را با این سرعت بپذیرد.
هنگامی که صحبت می‌کردیم، ریگی و گی تازه از یک آخر هفته که صرف کمک به بیمارستان‌ها برای محافظت از خود در برابر حملات گسترده‌ای شده بود که نقص‌های امنیتی در سیتریکس نت‌اسکیلر (Citrix NetScaler) را هدف قرار داده بودند، بازگشته بودند. ریگی به من گفت که حدود ۵۰ درصد بیمارستان‌ها از این پلتفرم استفاده می‌کنند. او گفت: نت‌اسکیلر «معادل کنترل ترافیک هوایی» برای اطلاعات دیجیتالی است که در یک بیمارستان جریان دارد. این امر این برنامه را به یک هدف اصلی برای هکرها و تعمیر آن را برای بیمارستان‌ها دشوار می‌کرد، زیرا می‌توانست «اثرات آبشاری غیرقابل پیش‌بینی داشته باشد که می‌تواند مراقبت‌های بهداشتی را تحت تأثیر قرار دهد.» ریگی گفت که مشخص نیست آیا هوش مصنوعی در توسعه این حمله استفاده شده است یا خیر – همانطور که اغلب اتفاق می‌افتد – اما کشف و بهره‌برداری سریع آن را محتمل می‌سازد.
بسیاری از سیستم‌های فناوری اطلاعات شامل دهه‌ها نرم‌افزاری هستند که روی نرم‌افزارهای قدیمی‌تر لایه‌بندی شده‌اند. ریگی گفت: این بدان معناست که حمله به تنها یک برنامه یا محصول می‌تواند اثرات غیرقابل پیش‌بینی و گسترده‌ای در سراسر یک بیمارستان یا سازمان دیگر داشته باشد. لی کلاریچ، مدیر ارشد محصول و فناوری در شرکت امنیت سایبری پالو آلتو نتورکس (Palo Alto Networks)، به من گفت: ما باید انتظار «حملات بیشتر، حملات سریع‌تر و نیاز شرکت‌ها به تحول سریع‌تر از آنچه عادت کرده‌اند» را داشته باشیم. شرکت او نیمه اول سال را صرف عجله برای راه‌اندازی محصولی برای دفاع از زیرساخت‌های حیاتی در برابر حملات پیشرفته هوش مصنوعی کرد. کلاریچ گفت: برای رفتن از ایده تا راه‌اندازی، «در پنج ماه – ما هرگز کاری را با این سرعت انجام نداده‌ایم.»
اگرچه شرکت‌ها و شهرهای کوچک ممکن است در پذیرش هوش مصنوعی برای امنیت سایبری کند باشند، اما می‌توانند در گنجاندن این فناوری در عملیات روزمره و به نوبه خود، ایجاد نقاط ضعف جدید، سریع عمل کنند. عوامل و چت‌بات‌ها ممکن است داده‌های شخصی را ذخیره و افشا کنند، یا فریب بخورند تا اعتبارنامه‌ها را به اشتراک بگذارند یا کدهای مخرب بنویسند. همانطور که مدل‌های هوش مصنوعی مولد (generative AI) توانمندتر شده‌اند، درک آن‌ها نیز کمتر شده است – اوپن‌ای‌آی اخیراً گزارش داد که مدل‌هایش تصاویر آپلود شده توسط کاربر را در وب منتشر کرده‌اند. هم برنامه‌نویسان و هم کارمندان غیرفنی در حال کدنویسی برنامه‌های جدیدی هستند که ممکن است ناامن باشند. آدام الی، که امنیت هوش مصنوعی را در چک پوینت (Check Point) رهبری می‌کند، به من گفت: «ما شاهد استفاده هکرها از هوش مصنوعی برای حمله به ربات‌های هوش مصنوعی شرکت‌ها هستیم، تا سپس از آن ربات‌های هوش مصنوعی برای حمله به شرکت‌های دیگر استفاده کنند.» این حتی حساب کاربری‌های هوش مصنوعی فردی کارمندان را که تحت نظارت شرکت نیستند، در نظر نمی‌گیرد. تاد مارلین، مدیر عامل گاردریل تکنولوژیز (Guardrail Technologies)، به من گفت: هوش مصنوعی سازمان‌ها را «تحت تهدید دائمی از داخل و خارج» قرار می‌دهد. او با برخی از بزرگترین شرکت‌های جهان قرارداد می‌بندد، اما متوجه می‌شود که آن‌ها «فقط در تلاشند تا بفهمند در خانه خودشان چه خبر است.»
لایه دیگری از عدم قطعیت وجود دارد: متخصصان امنیت سایبری در تلاشند تا برای حملات هوش مصنوعی آماده شوند، بدون اینکه به طور کامل بدانند ربات‌ها چه قابلیت‌هایی دارند. داون سانگ، استاد دانشگاه کالیفرنیا، برکلی و دانشمند محقق در متا (Meta)، گروهی را اداره می‌کند که مسئول توسعه برخی از دشوارترین و پرکاربردترین آزمایش‌ها برای قابلیت‌های هک هوش مصنوعی است. اما پیشرفت سریع مدل‌های پیشرفته، گروه او را ملزم می‌کند تا آزمایش‌های دشوارتری را با سرعت بیشتری توسعه دهد. سانگ، که به صورت شخصی صحبت می‌کرد، به من گفت: «عمر مفید معیار قبل از اشباع شدن نیز کوتاه‌تر می‌شود.» «این چالش‌های بزرگی را برای ما ایجاد می‌کند تا بتوانیم به ارزیابی مرزهای پیشرفت ادامه دهیم.»
متخصصان امنیت سایبری که با آن‌ها صحبت کردم، همگی حداقل تا حدی امیدواری خود را در مورد چگونگی استفاده از هوش مصنوعی برای تقویت امنیت ابراز کردند و تاکید کردند که زیرساخت‌های دیجیتال موجود ما از قبل مملو از نقص‌های امنیتی و کدهای بد نوشته شده است. شهرهای کوچک و شرکت‌ها، که فاقد منابع یا حتی آگاهی کافی در مورد امنیت سایبری بودند، از قبل آسیب‌پذیر بودند.
هوش مصنوعی می‌تواند هم انگیزه و هم ابزاری برای تعمیرات جدی و ساختاری که مدت‌ها به تعویق افتاده بود، فراهم کند – شناسایی و حذف آسیب‌پذیری‌ها و نظارت ۲۴ ساعته بر نفوذها. به عنوان مثال، مینه سوتا با اوپن‌ای‌آی و آنتروپیک (Anthropic) همکاری کرده است تا به پیشرفته‌ترین مدل‌های هوش مصنوعی آن‌ها برای امنیت سایبری دسترسی پیدا کند. اما حتی این حرکت نیز حاوی یک اعتراف است: فقط هوش مصنوعی می‌تواند ما را از هوش مصنوعی نجات دهد. از هر زاویه‌ای که به آن نگاه کنید، وضعیت ممکن است روزی از کنترل انسان خارج شود.