در میان ترسهای فزاینده درباره هوش مصنوعی، یک تهدید به طور خاص هشداردهنده بوده است: احتمال اینکه بتوان از هوش مصنوعی برای ایجاد موج جدیدی از سلاحهای بیولوژیکی استفاده کرد.
در ماه آوریل، کارشناسان امنیت زیستی هشدار دادند که دریافت مشاوره از چتباتها درباره خطرناکتر کردن پاتوژنها به طرز نگرانکنندهای آسان است. در ماه ژوئن، دانشمندان و مدیران ارشد هوش مصنوعی نامهای سرگشاده امضا کردند که خواستار کنترلهای جدید بر تولید DNA بود، زیرا هوش مصنوعی اکنون میتواند طراحی سموم و ویروسها را تسریع بخشد.
در ماه اوت، دانشمندان گزارش دادند که از هوش مصنوعی برای ساخت ویروسهایی استفاده کردهاند که در طبیعت دیده نشده بودند. و روز پنجشنبه، شرکت Anthropic اعلام کرد که چندین تلاش برای استفاده از مدلهایش توسط افرادی که احتمالاً سعی در سلاحسازی پاتوژنها داشتند، مسدود کرده است.
داریو آمودئی، مدیرعامل Anthropic، در روز شنبه با فراخوانی برای کند کردن توسعه هوش مصنوعی و ارائه مجموعهای از پیشنهادات برای ایمن نگه داشتن آن، پیگیری کرد.
دکتر آمودئی نوشت که عاقلانه خواهد بود «استفاده از هوش مصنوعی برای تولید سلاحهای بیولوژیکی یا اجازه دادن به کاربران برای انجام این کار» ممنوع شود.
این تحولات ممکن است این تصور را ایجاد کند که بازیگران بدخواه اکنون میتوانند طاعونهای ناشناخته قبلی را به جهان آزاد کنند، همه به لطف هوش مصنوعی.
اما درو اندی، زیستشناس مصنوعی در دانشگاه استنفورد که سال گذشته همنویسنده گزارشی درباره امنیت زیستی بود، گفت که چتباتهای فعلی، مانند Claude متعلق به Anthropic، نماینده تغییر بنیادینی در تهدید ناشی از سلاحهای بیولوژیکی نیستند.
«از نظر تأثیر خالص بر ریسک امنیت زیستی ما در حال حاضر، آن را ناچیز میدانم»، او گفت.
او افزود که این وضعیت ممکن است تغییر کند، زیرا دانشمندان مدلهای هوش مصنوعی تخصصی در تحقیقات زیستی توسعه میدهند.
همین حالا این مدلها میتوانند ژنومهایی برای ویروسهای زندهای که در طبیعت یافت نمیشوند تولید کنند. قابل تصور است که این مدلها در نهایت بتوانند از آن ژنومهای جدید برای ساخت سلاحهای جدید استفاده کنند.
یک سلاح بیولوژیکی میتواند ویروس یا عامل بیماریزای دیگری مانند باکتری یا قارچ باشد که برای رهاسازی علیه ارتشها یا غیرنظامیان طراحی شده است. یا میتواند به شکل سموم تولید شده توسط موجودات زنده، مانند بوتولینوم از باکتریها یا ریسین از گیاهان کرچک باشد.
(سلاحهای بیولوژیکی با سلاحهای شیمیایی، مانند گاز اعصاب که دانشمندان در آزمایشگاهها سنتز میکنند، متفاوت هستند.)
تا دوران قرون وسطی، ارتشها تلاش کردند از بیماری به عنوان سلاح استفاده کنند. در سال ۱۳۴۶، مغولها اجساد کسانی را که از طاعون مرگبار جان باخته بودند روی منجنیقها بارگذاری کردند و به سمت شهر کافا در دریای سیاه پرتاب نمودند.
پنج قرن بعد، پس از اینکه دانشمندان نظریه میکروبی بیماریها را توسعه دادند، این تلاشها دقیقتر شد. در طول جنگ جهانی اول، جاسوسان آلمانی با بطریهایی حاوی باکتری وارد ایالات متحده و سایر کشورها شدند. آنها از آن برای کشتن هزاران اسب و قاطر استفاده کردند.
پروتکل ژنو جنگ بیولوژیکی را ممنوع اعلام کرد، اما قدرتهای بزرگ همچنان سلاحهای بیولوژیکی ساختند. در نهایت، ایالات متحده و اتحاد جماهیر شوروی انبارهای عظیمی از بمبهای سیاهزخم تا بالنهای پر از قارچهای کشنده گندم را نگهداری میکردند.
پس از امضای کنوانسیون سلاحهای بیولوژیکی در سال ۱۹۷۵، ایالات متحده انبارهای عظیم خود را نابود کرد اما به مطالعه سلاحهای بیولوژیکی برای توسعه دفاعیات ادامه داد. اتحاد جماهیر شوروی مخفیانه تحقیقات بیشتری را روی پاتوژنهایی مانند آبله برای نسل جدیدی از سلاحهای بیولوژیکی انجام داد.
تمام این موارد نشان میدهد که تهدید سلاحهای بیولوژیکی بسیار قبل از ظهور OpenAI و Anthropic کاملاً واقعی بود. با این حال، تا جایی که به صورت عمومی شناخته شده است، سلاحهای بیولوژیکی از زمان جنگ جهانی دوم تعداد بسیار کمی تلفات داشتهاند، دلایلی که هنوز نامشخص است.
«ما نمیدانیم چه چیزهایی امتحان شده و شکست خوردهاند، چه چیزهایی بازدارنده بودهاند، یا چه چیزهایی از نظر فنی بیش از حد چالشبرانگیز بودهاند»، دکتر توماس اینگلسبی، مدیر مرکز امنیت بهداشت دانشگاه جانز هاپکینز گفت.
شکل: سیاهزخم، که در اینجا زیر میکروسکوپ نمایش داده شده است، از زمان جنگ جهانی دوم به عنوان یک سلاح بیولوژیکی ذخیره شده است. اعتبار: Scott Camazine/Science Source
دکتر اینگلسبی افزود که این تهدید همچنان پابرجاست و اشاره کرد که کسی که امروزه سعی در ساخت سلاحهای بیولوژیکی دارد میتواند از ابزارهای قدرتمندی استفاده کند که نسلهای قبلی تنها در رؤیا میتوانستند تصورش را بکنند.
برای مثال، سنتز DNA سریع و ارزان شده است. در سال ۲۰۱۶، دانشمندان کانادایی گزارش دادند که آنها اسبآبله (horsepox)، ویروسی مرتبط با آبله که در دهههای اخیر از طبیعت ناپدید شده بود، را بازسازی کردهاند.
دانشمندان توالیهای ژنومی ویروس را به قطعاتی تقسیم کردند و آنها را برای یک شرکت تولید DNA ایمیل کردند. شرکت مولکولهای DNA را برای دانشمندان ارسال کرد و آنها آنها را به یک ژنوم ویروسی مونتاژ کردند و درون سلولها قرار دادند.
سلولهای آلوده سپس ویروسهای واقعی اسبآبله تولید کردند. در آن زمان، این امر به عنوان یک موفقیت چشمگیر، هرچند نگرانکننده، ستایش شد. اما پیشرفتها در سنتز DNA و سایر فناوریها چنین تمرینی را امروزه حتی ارزانتر و آسانتر میکند.
اکنون چتباتها ممکن است ادبیات علمی را بررسی کنند تا به سؤالاتی که یک سازنده سلاح بیولوژیکی دارد پاسخ دهند. دکتر اینگلسبی گفت که این کاری است که هوش مصنوعی در آن مهارت دارد و اطلاعات بسیار بیشتری نسبت به آنچه بازیگران بدخواه میتوانند با جستجوهای ساده وب جمعآوری کنند، فراهم میکند.
«هدف این است که اطلاعات قابل استفاده باشد»، او در مورد هوش مصنوعی گفت. «این امکان را به کاربران میدهد که تعداد نامحدودی بار رفت و برگشت کنند تا مشکلات را رفع کنند و با جزئیات بیشتر توضیح دهند، در حالی که دقیقاً منابع فنی مناسب را برای پشتیبانی ارائه میدهند.»
دکتر اندی گفت که خوشحال است میبیند Anthropic در حال اسکن کردن پرسشها برای انگیزههای خطرناک است.
«اگر حرفهایشان را باور کنم، به نظر میرسد تیم Anthropic سعی دارد شهروند خوبی باشد»، او گفت. «آنها ابزار جدیدی دارند و سعی دارند مسئولانه با آن رفتار کنند.»
مدلهای زبانی بزرگ که شرکتهایی مانند Anthropic ساختهاند، روی حجم عظیمی از متن آموزش دیدهاند، از جمله رکوردهای کار نسلهای قبلی دانشمندان.
آنها ممکن است قادر باشند آن اطلاعات را به سرعت بازیابی کنند یا ارتباطاتی بین یافتههای قبلی که نادیده گرفته شده بودند پیدا کنند. اما آنها درک عمیقی از زیستشناسی فراتر از آنچه محققان کشف کردهاند ندارند.
با این حال، دانشمندان دیگر در حال ساخت مدلهای جدید هوش مصنوعی هستند که تا حدی میتوانند خودشان زیستشناسی را یاد بگیرند. این مدلها به جای کتابها و سایر متون، روی دادههای خام درباره DNA و سلولها آموزش میبینند.
دانشمندان دانشگاه استنفورد و موسسه Arc یکی از این مدلها به نام Evo2 را ساختند که آن را روی توالیهای DNA میلیونها گونه آموزش دادند. Evo2 الگوهای پنهان در ژنها را یاد گرفت و امکان ایجاد انواع جدیدی از آنزیمها را فراهم کرد.
این موضوع باعث شد دانشمندان تعجب کنند که آیا میتوانند ژنومهای جدیدی بسازند که حیات را پشتیبانی کنند. محققان Evo2 را در یک دور اضافی آموزش روی ژنومهای یک گروه از ویروسهای خویشاوند نزدیک قرار دادند.
این ویروسها که میکروویرید (microvirids) نامیده میشوند، برای انسان بیضرر هستند و فقط باکتری اشریشیا کلی (Escherichia coli) را آلوده میکنند. Evo2 صدها هزار ژنوم جدید میکروویرید پیشنهاد داد که ۱۶ مورد از آنها منجر به ویروسهای واقعی شدند.
برای محافظت از Evo2، سازندگان آن آن را روی ویروسهایی که انسان یا گونههای مرتبط دیگر را آلوده میکنند آموزش ندادهاند. اما به طور نظری، نسخهای از Evo2 ممکن است توانایی تولید تنوعی از ویروسهای آبله را داشته باشد.
با این حال، این کار کوچکی نخواهد بود: ژنوم آبله ۳۵ برابر بزرگتر از ژنوم ویروسهای میکروویرید است. و حتی اگر تمام آن تلاش نتیجه دهد، تنها منجر به تنوعی از ویروسی میشود که در دهه ۱۹۸۰ به یک سلاح بیولوژیکی تبدیل شده بود.
با این وجود، دکتر اینگلسبی حدس زد که بدون تدابیر حفاظتی مناسب، برنامههایی مانند Evo2 میتوانند برای ساخت سلاحهای بیولوژیکی جدید مفیدتر شوند.
«با دادههای آموزشی کافی، این سیستمهای هوش مصنوعی قادر خواهند بود تنوعهای کشندهتر، مسریتر و فرارکننده از ایمنی را پیشبینی کنند»، دکتر اینگلسبی گفت.
او نگران است که روزی مدلها ویروسهایی را ارائه دهند که نه تنها تنوعهایی از ویروسهای طبیعی هستند، بلکه تفاوتهای اساسی با آنها دارند.
اخبار این هفته از Anthropic نگرانیهای فوریتری را برای کارشناسان امنیت زیستی برانگیخت: به نظر میرسد پرسشها درباره اطلاعات آنفلوانزا و سایر پاتوژنها از آزمایشگاههای دولتی آمدهاند، نه هکرهای زیستی منفرد.
«نحوه سوءاستفاده فردی یک دانشجوی دکتری از یک مدل برای آسیب رساندن تنها بخش کوچکی از مشکل است»، دکتر اینگلسبی گفت.
دکتر اندی نگران است که اگر دولتها شروع به استفاده از هوش مصنوعی برای تحقیقات جنگ بیولوژیکی کنند، ممکن است به احیای مسابقه تسلیحاتی مشابه دوران جنگ جهانی دوم کمک کنند.
«امروزه در دنیایی زندگی میکنیم که وزارت خارجه آمریکا کره شمالی و روسیه را به داشتن برنامهها متهم میکند و ایران و چین را مشکوک میداند»، او گفت. «و چین ایالات متحده و روسیه را متهم میکند. این چیزی نبود که ۱۰ سال پیش در حال وقوع بود.»
دکتر اندی و دکتر اینگلسبی موافق بودند که کارهای زیادی میتوان برای کاهش ریسک فاجعه انجام داد. ملتها در گذشته توافقنامههای سلاحهای بیولوژیکی را مذاکره کردهاند و میتوانند اکنون نیز تلاش کنند.
مدیریت بایدن قوانینی را برای شرکتهای سنتز DNA وضع کرد تا سفارشات را برای توالیهای مشکوک غربالگری کنند. مدیریت ترامپ سال گذشته آنها را تعلیق کرد و هنوز استانداردهای جدیدی صادر نکرده است.
دکتر اندی استدلال کرد که ما باید بیشتر از تلاش برای جلوگیری از استفاده از یک سلاح بیولوژیکی عمل کنیم. «ما باید از آن جلوتر برویم و زیستشناسی را ایمن کنیم»، او گفت.
این به معنای یافتن راههایی برای دفاع از خود در برابر اپیدمیهای مختلف، خواه مهندسی شده توسط انسان باشند یا از حیوانات به گونه ما منتقل شده باشند، است. او گفت فضاهای عمومی مانند بیمارستانها و مدارس باید به حسگرهایی مجهز شوند که میتوانند تهدیدات هوایی را شناسایی کنند.
«اگر ویروس هوایی را در فضایی که در آن هستم ببینم، میتوانم مطابق آن عمل کنم»، دکتر اندی گفت. «این ریسکهای زیستی جادویی نیستند.»