«جنگ علیه تروریسم» همزمان با ظهور اینترنت رخ داد؛ دورانی که حملات دیجیتالِ تازه نگران‌کننده، تحت عنوان «تروریسم سایبری» شناخته شدند. اکنون تهدید جدیدی پدیدار شده است: تروریسم هوش مصنوعی.
در چند سال گذشته، گزارش‌هایی از دولت‌ها، سازمان‌های بین‌المللی و اندیشکده‌ها هشدار داده‌اند که هوش مصنوعی احتمالاً سوخت فعالیت‌های تروریستی خواهد شد و نیاز به آمادگی و پاسخ‌گویی دارد. در سال ۲۰۲۱، دفتر مبارزه با تروریسم سازمان ملل متحد گزارشی مشترک درباره «استفاده مخرب از هوش مصنوعی برای اهداف تروریستی» منتشر کرد. حملات سایبری مانند بدافزارها و نفوذها، و همچنین حملات فیزیکی از طریق وسایل نقلیه خودران، جعل هویت چهره، دیپ‌فیک‌ها (deepfakes) و—در دوران اوج شیوع کرونا—سلاح‌های بیولوژیک مهندسی‌شده، بخش‌های پررنگی از این گزارش بودند. پیش‌تر نیز، در سال‌های ۲۰۱۹ و ۲۰۲۰، موسسه مطالعات بین‌الملل میدلبوری دو گزارش درباره ریسک‌هایی که مدل‌های زبانی—که هنوز عمدتاً ناشناخته بودند—برای تبلیغات و رادیکالیزاسیون ایجاد خواهند کرد، منتشر کرد. و همین هفته اخیر، گروهی از پژوهشگران مدرسه کندی دانشگاه هاروارد مقاله‌ای کاری منتشر کردند که فرض می‌کند «نخستین رویداد بزرگ تروریستی با پشتیبانی هوش مصنوعی» تهدیدی قابل اعتماد است و حدس می‌زند چگونه ممکن است رخ دهد.
تروریسم سایبری اصطلاحی گیج‌کننده بود، زیرا بخشی از دلایل آن این بود که هک کردن یا از کار انداختن زیرساخت‌های کامپیوتری ممکن است توسط بازیگران دولتی و بدون خشونت انجام شود—ویژگی‌هایی که معمولاً با تروریسم مرتبط دانسته نمی‌شوند. یکی از دلایل بسیار جزئی بد بودن تروریسم، این است که این اصطلاح تعریف ثابتی ندارد. در فرانسه انقلابی، این واژه به خشونت اعمال‌شده توسط دولت ژاکوبن اشاره داشت، که در بسیاری موارد با گیوتین اجرا می‌شد. تا اواخر قرن نوزدهم، معنای آن به خشونت غیردولتی انقلابیون آنارشیست تغییر یافت. تروریسم در قرن بیستم با جنبش‌های استقلال‌طلبی همپوشانی پیدا کرد و آن را به منازعات جدایی‌خواهانه یا جنگ چریکی نزدیک‌تر ساخت. تا اواخر قرن بیستم، انگیزه ایدئولوژیک برای تروریسم اجباری شد. تروریسم به خشونتی تعبیر می‌شد که هدفش ایجاد اثر روانی بود.
ربودن هواپیماها و بحران‌های گروگان‌گیری در دهه ۱۹۷۰ نمونه‌هایی از این هدف بازتعریف‌شده هستند. حملات داخلی نیز چنین‌اند؛ مانند حمله تیموتی مک‌وی، که در سال ۱۹۹۵ ساختمان فدرال اوکلاهاما سیتی را بمباران کرد. امروزه، یک چهارم قرن پس از حملات ۱۱ سپتامبر، واژه تروریسم اغلب بار سیاسی قضاوت‌گونه دارد به جای توصیف یک عمل یا نوعی کنشگر: تقریباً هر دشمنی ممکن است اکنون «تروریست» نامیده شود.
با توجه به لغزش معنایی این اصطلاح، هوش مصنوعی به نوعی ذاتاً تروریستی است: تهدید می‌کند شغل شما را بگیرد، پولتان را بدزدد، آموزش فرزندانتان را نابود کند، هنر و فرهنگ را از بین ببرد، مراقبت‌های بهداشتی شما را حذف کند، شهرتان را مستعمره کند، آب‌وهوا را تخریب کند و الکترونیک را برای همیشه غیرقابل‌تحمل کند. همچنین به شما گفته شده است که هوش مصنوعی اجتناب‌ناپذیر است—و تنها شرکت‌های سیلیکون‌ولی بسیار ثروتمند، که شاید توسط رهبران ضداجتماعی اداره می‌شوند، منابع و استعداد لازم برای پیشبرد آن را دارند (کاری که باید انجام دهند، حتی اگر به معنای نابودی بشریت باشد).
اما معنای قدیمی‌تر تروریسم همچنان پابرجاست. این فناوری می‌تواند علاوه بر آشوب آشنایی که هوش مصنوعی تهدید به آزاد کردنش می‌کند، تروریسم را به معنای خشونت یا اختلال اعمال‌شده توسط دولت یا غیردولتی تسهیل کند؛ مانند از کار انداختن شبکه برق شما و آزاد کردن یک سلاح بیولوژیک در محل کارتان.
افرادی که تروریسم هوش مصنوعی را مطالعه می‌کنند، نگرانی‌های متفاوتی نسبت به آنچه افشاگران داخل صنعت هوش مصنوعی مطرح می‌کنند—یا خود رهبران هوش مصنوعی—دارند. رویدادهای انقراض ناشی از هوش مصنوعی فوق‌هوشمند در صدر فهرست ریسک‌ها قرار ندارند، و عوامل هوش مصنوعی سرکش که نظری ممکن است خودمختار شوند نیز چنین‌اند. در عوض، پژوهشگران، مقامات اطلاعاتی و برنامه‌ریزان سناریو عمدتاً به روش‌هایی علاقه‌مندند که هوش مصنوعی ممکن است به بازیگران بد اجازه دهد فعالیت‌های پیچیده‌تری را با تلاش کمتری انجام دهند. برای مثال، بمب‌گذار سایبرتراک لاس‌وگاس از ChatGPT مشاوره خواست درباره اینکه چگونه مواد منفجره را detonate (منفجر) کند؛ استفاده‌ای که نشان می‌دهد تروریست‌ها علاوه بر جسور بودن، ممکن است احمق نیز باشند.
مدل‌های هوش مصنوعی مرزی امروزی قدرتمند، ارزان و به‌طور گسترده در دسترس هستند. آن‌ها می‌توانند انواع زیادی از وظایف را انجام دهند (یا کمک به انجام دهند، یا ظاهراً انجام دهند) بدون اینکه صراحتاً برای این کار طراحی شده باشند. مجرمان، تروریست‌ها و حتی دولت‌ها تمایل داشته‌اند از زیرساخت‌های موجود ارتباطی، حمل‌ونقل و صنعتی برای انجام کارهای بد استفاده کنند. هوش مصنوعی ابزار دیگری از این دست ارائه می‌دهد. این نتیجه هم منطقی است و هم کمی معمولی.
بنابراین، بیشتر گزارش‌هایی که درباره تروریسم هوش مصنوعی خوانده‌ام، در نگرانی‌های خود محافظه‌کارانه هستند. آن‌ها تأکید می‌کنند که انجام اعمال خشونت‌آمیز یا سایر حملات فیزیکی دشوار است و هوش مصنوعی نمی‌تواند به‌طور جادویی این مشکلات را حل کند. آن‌ها احتمالاً در حال پاسخ به سال‌ها اغراق در مورد تهدید تروریسم سایبری هستند؛ مشهورترین نمونه آن ایده «پرل‌هاربر الکترونیکی» است—حمله‌ای ویرانگر به زیرساخت دیجیتال که کشور را فلج می‌کند. این استعاره که حداقل از سال ۱۹۹۹ در گردش بوده، در سال ۲۰۱۲ ملموس‌تر شد، زمانی که لئون پنتا، وزیر دفاع وقت، به کنگره درباره «پرل‌هاربر سایبری» هشدار داد که «می‌تواند به اندازه حمله تروریستی ۱۱ سپتامبر ویرانگر باشد.»
بسیاری از متخصصان سیاست خارجی استدلال کرده‌اند که پرل‌هاربر سایبری یک استعاره ترکیبی و نادرست است. حمله به پرل‌هاربر یک اقدام جنگی دولتی با برنامه‌ریزی دقیق بود، نه یک عملیات سرکش. محتمل‌تر این است که حوادث کوچک‌تر امنیت سایبری به حوادث بزرگ‌تر زنجیره‌وار تبدیل شوند یا اثرات ثانویه غیرقابل پیش‌بینی ایجاد کنند. حملات سایبری واقعی و مخرب به زیرساخت‌های فیزیکی سال‌هاست که امکان‌پذیر بوده‌اند. نقش هوش مصنوعی در تروریسم سایبری احتمالاً مشابه نقش اینترنت خواهد بود: ظرفیتی تقویت‌شده برای تولید و انتشار تبلیغات، سردرگمی و دستکاری سیاسی.
پنتا هشدار درباره پرل‌هاربر سایبری را بر این اساس توجیه کرد که خطر ممکن است حتی اگر محتمل نباشد. توجیه مشابهی به نظر می‌رسد پژوهشگران مدرسه کندی هاروارد را در مقاله‌شان انگیزه می‌دهد. نویسندگان مشترک روش‌شناسی خود را «پیش‌مرگ» (pre-mortem) توصیف می‌کنند، که شامل فرض وقوع چنین رویدادی و کار کردن به عقب برای درک نحوه رخداد آن است.
من از استیون کاسپر، یکی از نویسندگان مشترک مقاله، پرسیدم آیا هوش مصنوعی قابلیت‌های فاجعه‌بار جدیدی ایجاد می‌کند یا صرفاً شرارت موجود را آسان‌تر، سریع‌تر یا ارزان‌تر می‌سازد. «بیشتر دومی»، او به من گفت. به طور خاص، مدل‌های هوش مصنوعی که اطلاعاتی درباره قابلیت‌های خطرناک دارند، مانند نحوه اختلال در زیرساخت‌ها و ساخت سلاح شیمیایی، می‌توانند به بازیگران مخرب اجازه دهند از آن‌ها برای اهداف شوم استفاده کنند. ماکس کاماچی، نویسنده مشترک دیگر، به من گفت مدل‌های جدید «بدون وجود حفاظت‌ها می‌توانند به‌طور معناداری به یک تازه‌کار در ایجاد یک تهدید بیولوژیک شدید شناخته‌شده کمک کنند.» به زبان ساده‌تر، افراد بد با نیت بد می‌توانند از هوش مصنوعی برای انجام کارهای بد استفاده کنند. مقاله جزئیات بسیار بیشتری ارائه می‌دهد، از جمله پیشنهادات منطقی درباره اینکه چگونه انواع مختلف مدل‌ها ممکن است کنترل یا تنظیم شوند تا از آسیب جلوگیری شود.
مقاله هاروارد دو کاندیدا برای نخستین رویداد بزرگ تروریسم هوش مصنوعی ارائه می‌دهد: یکی حمله سایبری‌ای که میلیاردها دلار خسارت اقتصادی ایجاد می‌کند؛ دیگری حمله سلاح بیولوژیک که بیش از ۱۰۰ نفر را می‌کشد. من از کاسپر و کاماچی پرسیدم آیا تروریسم نام مناسبی برای این دو سناریو است. مقاله این آزمون‌های سنگ‌محک را از تعاریف در قوانین اخیر ایالات متحده که توسعه و مدیریت مدل‌ها در صنعت هوش مصنوعی را تنظیم می‌کنند، استخراج کرده است. اما کاسپر اعتراف کرد که آن نتایج بد ممکن است انگیزه ایدئولوژیک نداشته باشند. «ما آن را تروریسم می‌نامیم»، او به من گفت، اما همچنین افزود که نام معادل آن «سوءاستفاده انسانی از هوش مصنوعی برای اهداف مخرب» خواهد بود. کاماچی ریسک را «سوءاستفاده مخرب فاجعه‌بار» نامید.
پیش‌بینی آینده احمقانه است و حدس زدن درباره اینکه آیا رویدادهای واقعاً وحشتناک ممکن است رخ دهند یا خیر، بدتر است. از یک طرف، کاسپر و همکارانش حق دارند درباره بدترین سناریوهایی که هوش مصنوعی ممکن است تسهیل کند، حتی به صورت غیرمستقیم، هشدار دهند. از طرف دیگر، تروریسم هوش مصنوعی خطر دارد به همان خطابه‌های ترساننده‌ای تبدیل شود که پرل‌هاربر سایبری داشت.
من کاسپر را تحت فشار گذاشتم تا نقاط را به هم وصل کند بین آنچه هوش مصنوعی ممکن می‌سازد و کدام نتایج محتمل هستند. او به تکامل شوکه‌کننده سریع قابلیت‌ها در مدل‌ها، همراه با این واقعیت که برخی شرکت‌های هوش مصنوعی مستقیماً مراکز تحقیقات بیولوژیک مبتنی بر هوش مصنوعی می‌سازند، اشاره کرد. برای مثال، Anthropic آزمایشگاه‌های تر (wet labs) برای تحقیقات DNA و پروتئین با پشتیبانی Claude ساخته است. آن آزمایشگاه‌ها ممکن است نفوذ شوند، یا وزن‌های مدل کشف‌شده در آن‌ها ممکن است به دست‌های اشتباه بیفتد. «جهان بزرگ است—افراد زیاد، گروه‌های زیاد، دولت‌های زیاد، انگیزه‌های زیاد»، کاسپر گفت. «سوءاستفاده سابقه‌دار از سیستم‌های فعلی هوش مصنوعی برای فعالیت‌های نوع تروریستی، می‌دانید، نشانه نسبتاً خوبی است.» نشانه چه چیزی؟ اینکه صنعت هوش مصنوعی تجربه‌ای خواهد داشت که کاسپر آن را «لحظه چلنجر، چرنوبیل، ۱۱ سپتامبر یا انرون» نامید.
و با این حال، آن فجایع تاریخی همه بسیار متفاوت هستند. چلنجر به دلیل نقص ساختاری که به دلیل سوءمدیریت سازمانی نادیده گرفته شده بود، محکوم به شکست بود؛ فاجعه چرنوبیل ناشی از نقص طراحی بود که توسط خطای اپراتور و بوروکراسی خفه‌کننده تشدید شد؛ ۱۱ سپتامبر حمله‌ای غیردولتی با انگیزه ایدئولوژیک بود که توسط سهولت دسترسی به تخصص تسهیل شد و به لطف اشتباهات اطلاعات ملی محقق گردید؛ رسوایی انرون تقلب حسابداری بود که توسط شکست نظارتی و همدستی حسابداران اجازه داده شد. دو مورد از مثال‌ها تصادفات صنعتی بودند، یکی نتیجه ناخواسته تخلف عمدی بود، و فقط یکی حمله تروریستی محسوب می‌شود.
ریسک‌های واقعی ایجادشده توسط هوش مصنوعی برای الهام بخشیدن به نگرانی نیازی به تروریسم ندارند، و فکر کردن به تروریسم ممکن است ما را از اتخاذ اقدامات پیشگیرانه صحیح گیج یا دور کند. چون تروریست‌ها در حاشیه جامعه عمل می‌کنند، تمایل دارند هر فناوری و زیرساختی که زندگی معاصر در دسترس می‌گذارد را تصاحب کنند. آن‌ها ابزارها، سلاح‌ها و اهداف خود را نه تنها بر اساس آنچه باعث آسیب یا جلب توجه می‌شود، بلکه بر اساس آنچه می‌توانند به دست آورند انتخاب می‌کنند. این موضوع در مورد مواد منفجره مانند دینامیت در آغاز قرن بیستم و بمب‌های خودرویی تا اواسط قرن صادق بود؛ رسانه‌های روزنامه، رادیو و تلویزیون که برای مهاجمان شهرت ایجاد می‌کردند؛ حمل‌ونقل هوایی تجاری پس از بلوغ اما قبل از ایمنی کافی؛ و سوءاستفاده‌های بانکی و شبکه‌های مالی خارج از دفاتر، از جمله ارزهای دیجیتال. هیچ‌کس مک‌وی را «تروریست وانت اجاره‌ای» یا «تروریست کود کشاورزی» نامید، اما آن دو منبع برای هدف مورد نظرش—که واقعاً تروریسم بود—مطلوب و مؤثر بودند.
در طول تاریخ، تروریسم بارها فناوری‌های غیرنظامی، به‌ویژه آن‌هایی که اثبات‌نشده یا به‌طور ناکافی مدیریت شده‌اند، را تصاحب کرده است. خوشبختانه، چنین زیرساخت‌هایی نیز تمایل دارند احساس خطر را در عموم مردم ایجاد کنند، که ترس ما از آسیب‌پذیری را تسریع می‌بخشد. مانند تروریسمی که از راه‌آهن، خودروها، هواپیماها، شهرسازی متراکم و اینترنت استفاده می‌کرد، تروریسمی که از هوش مصنوعی بهره می‌گیرد نیز ممکن و حتی محتمل است. آماده شدن برای سناریوهای احتمالی آن، اگرچه حدسی است، عاقلانه است. به این معنا، تروریسم هوش مصنوعی جدید نیست، هرچند همچنان ترسناک است.