دولت ترامپ اعلام کرده است که ایالات متحده از زمان آغاز جنگ آمریکا و اسرائیل علیه ایران، ۱۱,۰۰۰ هدف را در این کشور مورد حمله قرار داده است. منتقدان، دقت سیستم مِیون (Maven)، سیستم هوش مصنوعی مورد استفاده ارتش برای سرعت بخشیدن به فرآیند شناسایی اهداف را زیر سؤال بردهاند.
کاترینا مانسون، خبرنگار بلومبرگ نیوز و نویسنده کتاب «پروژه مِیون: یک سرهنگ تفنگداران دریایی، تیمش و طلوع جنگ هوش مصنوعی»، میگوید: «گوگل ارث برای جنگ را تصور کنید؛ نقشهای از جنگ با نقاط سفید، که با اطلاعاتی مانند ارتفاع، مختصات، آنچه دقیقاً در آنجا وجود دارد، و اینکه آیا دوست است یا دشمن، آمیخته شده است.»
پنتاگون پروژه مِیون را در سال ۲۰۱۷ راهاندازی کرد. گوگل در ابتدا شریک این پروژه بود، اما پس از آنکه بیش از ۳,۰۰۰ کارمند گوگل نامهای را در مخالفت با این کار امضا کردند، این شرکت از پروژه خارج شد. سپس شرکت دادههای بزرگ پلنتیر (Palantir) این پروژه را بر عهده گرفت و از آن زمان تاکنون آن را اداره میکند.
همزمان با ورود جنگ آمریکا و اسرائیل علیه ایران به سی و دومین روز خود، اکنون به این میپردازیم که چگونه هوش مصنوعی در حال بازآرایی نحوه نبردهاست. دولت ترامپ میگوید ایالات متحده از زمان آغاز جنگ، ۱۱,۰۰۰ هدف را در ایران مورد حمله قرار داده است. ارتش عمدتاً به یک سیستم هوش مصنوعی موسوم به پروژه مِیون (Project Maven) متکی بوده است تا روند شناسایی اهداف را سرعت بخشد. اما منتقدان دقت این سیستم هوش مصنوعی را زیر سؤال بردهاند. پنتاگون اکنون در حال بررسی این است که آیا پروژه مِیون در حمله آمریکا به یک مدرسه دخترانه در ایران که منجر به کشته شدن بیش از ۱۷۰ نفر، عمدتاً کودکان، شد، نقش داشته است یا خیر.
پنتاگون پروژه مِیون را در سال ۲۰۱۷ راهاندازی کرد. گوگل شریک اولیه بود، اما این شرکت پس از آنکه بیش از ۳,۰۰۰ کارمند گوگل نامهای را در مخالفت با این کار امضا کردند و گفتند: «ما معتقدیم که گوگل نباید در کسبوکار جنگ باشد»، از پروژه خارج شد. سپس شرکت دادههای بزرگ پلنتیر (Palantir) این پروژه را بر عهده گرفت و از آن زمان تاکنون آن را اداره میکند. در ادامه، شیام سانکار، مدیر ارشد فناوری پلنتیر، در اوایل این ماه در بلومبرگ صحبت میکند:
شیام سانکار: عملیاتهای جاری ادامه دارند، اما فکر میکنم مردم بعدها به گذشته نگاه خواهند کرد و خواهند گفت که این اولین عملیات رزمی در مقیاس بزرگ بود که واقعاً با فناوری و هوش مصنوعی هدایت، تقویت و به طور قابل توجهی پربارتر شد... اگر به جنگ اول خلیج فارس فکر کنید – یا ببخشید، جنگ دوم خلیج فارس. در جنگ دوم خلیج فارس، ما حدود هزار هدف را مورد حمله قرار دادیم. شش ماه برنامهریزی برای تقریباً ۵۰ تا ۱۰۰ نفر طول کشید. و در این درگیری، معادل دو برابر آن کار برای دو برابر اهداف توسط یک نفر در دو هفته انجام شد. پس چگونه میتوانیم به نیروهای خدماتی خود آن «لباس آیرونمن» را بدهیم؟ ما آنها را ۵۰ برابر پربارتر از دشمن میکنیم.
اد لادلو: گفتید «لباس آیرونمن»؟
شیام سانکار: بله، لباس آیرونمن مفهومی، درست است؟ مثلاً چگونه آنها را ابرانسان کنم؟
شیام سانکار، مدیر ارشد فناوری، در ادامه، کاترینا مانسون، روزنامهنگار برنده جایزه بلومبرگ و نویسنده کتاب جدید «پروژه مِیون: یک سرهنگ تفنگداران دریایی، تیمش و طلوع جنگ هوش مصنوعی»، به ما میپیوندد.
اکنون، میتوانید توضیح دهید که پروژه مِیون چیست، شرکتهای درگیر چه کسانی هستند، و اعتراضات، مانند هزاران کارمند گوگل که مخالفت کردند، چگونه بود؟
کاترینا مانسون: پروژه مِیون در سال ۲۰۱۷ و در زمانی آغاز شد که پنتاگون به طور فزایندهای نگران قابلیتهای فناورانه بود که ارتش چین در حال توسعه آن بود – نه تنها چین در حال افزایش هزینههای دفاعی بود، در حالی که ایالات متحده البته بزرگترین بودجه دفاعی را در جهان داشت – بلکه آگاه بود که چین نقاط ضعف نظامی آمریکا را مطالعه کرده است. حامیان پروژه مِیون معتقد بودند که هوش مصنوعی میتواند راهی به سوی خودمختاری و کمک به ایالات متحده برای افزایش مقیاس و سرعت جنگ باشد. و همچنین، برای حامیانش، آنها امیدوار بودند که هوش مصنوعی بتواند دقت را فراهم کند، از غیرنظامیان و نیروهای آمریکایی و متحدان حفاظت کند.
البته، واکنش شدید از سوی فعالان به وجود آمد که فکر میکردند این کار نتیجه عکس خواهد داشت؛ اینکه هوش مصنوعی میتواند به غیرنظامیان آسیب برساند، و در چنین دوره آیندهای از جنگ، فجایع رخ دهد. آنچه در مورد این بحثها دشوار است این است که آنها عمدتاً در سطح فلسفی اتفاق میافتند. و بنابراین، من اکنون چندین سال است که تلاش میکنم نمونههای ملموسی از نحوه استفاده واقعی هوش مصنوعی ایالات متحده در میدان نبرد را بیابم، لحظاتی که الگوریتمها نتوانستهاند اشیاء را در میدان نبرد با موفقیت شناسایی کنند، اما همچنین مواردی که با تغییرات جزئی توانستهاند. و بنابراین من سعی کردهام به این تصویر از اینکه این ابزار دقیقاً چیست، برسم.
تا به امروز، ایالات متحده اعلام کرده است که از انواع ابزارهای هوش مصنوعی در عملیات خود علیه ایران استفاده میکند. من گزارش کردهام که این شامل سیستم هوشمند مِیون (Maven Smart System) نیز میشود. این پلتفرمی است، اگر گوگل ارث برای جنگ را تصور کنید، نقشهای از جنگ با نقاط سفید، آمیخته با اطلاعاتی مانند ارتفاع، مختصات، آنچه دقیقاً در آنجا وجود دارد، و اینکه آیا دوست است یا دشمن. این سیستمی است که ایالات متحده اکنون به طور گسترده، به عنوان یک پلتفرم عملیاتی مشترک، یا حتی برخی آن را کنترل ماموریت هوش مصنوعی مینامند، استفاده میکند. و تنها در ۲۴ ساعت اول عملیات ایالات متحده علیه ایران، ایالات متحده به طور عمومی اعلام کرد که هزار هدف را مورد حمله قرار داده است. البته این تنها به دلیل هوش مصنوعی نیست، اما هوش مصنوعی به بررسی دادهها، ارائه راههایی برای شناسایی و انتخاب اهداف، و سپس تطبیق آن با آنچه ایالات متحده مناسبترین سلاح میداند، کمک میکند.
شما سؤال شرکتهایی را مطرح کردید که از این پروژه حمایت کردهاند. در ابتدا، گوگل بود. پنتاگون با این مشکل مواجه بود. آنها البته به ساخت سلاحهای جنگی، با تکیه بر شرکتهای بزرگی مانند لاکهید مارتین (Lockheed Martin) و دیگران، عادت داشتند. این لحظهای بود که آن شرکتها در خط مقدم هوش مصنوعی قرار نداشتند. و پنتاگون احساس میکرد که مردم تلفن دارند، از هوش مصنوعی در زندگی روزمره خود استفاده میکنند، اما در پنتاگون از آن استفاده نمیکنند. و بنابراین آنها با چندین استارتاپ تماس گرفتند. یک استارتاپ نیویورکی که درگیر شد و در شناسایی اشیاء بسیار موفق بود. این شرکت قبلاً یک وبلاگ عروسی را اداره میکرد. دایرههای متحدالمرکز یک کیک را شناسایی میکرد. سپس به ساخت سلاحهای جنگی روی آورد. بنابراین، تلاش بزرگی برای—
اسم آن شرکت چه بود؟
کاترینا مانسون: کلاریفای (Clarifai). کلاریفای. و آنها با مشکلاتی برای نیروی کار خود مواجه شدند. چندین نفر تصمیم گرفتند که از کار بر روی این پروژه راحت نیستند. رهبران کلاریفای به من گفتند که آنها توسط یک سرهنگ آمریکایی که به عنوان رئیس پروژه مِیون آن را رهبری میکرد، متقاعد شدند. او استدلال میکرد که دقت و صحت، که به اعتقاد او هوش مصنوعی با کمک به انسانها برای انجام بهتر کار جنگ میتواند به ارمغان بیاورد، منجر به نتیجه بهتری در میدان نبرد خواهد شد. و او همچنین مرا با افراد دیگری آشنا کرد، که یکی از آنها توضیح داد که ایالات متحده مرتباً در جنگ اشتباه میکند. و بنابراین، بسیاری این بار را به دوش کشیدند و میخواستند به اهداف بهتری دست یابند.
برخی از شرکتهای دیگری که پس از خروج گوگل یا تصمیم آنها به عدم تمدید قرارداد، در این پروژه مشغول به کار شدند، پلنتیر بود که رابط کاربری «سیستم هوشمند مِیون» را میسازد. این سیستم امروز در حال استفاده است و من گزارش دادم که تا پایان سپتامبر به یک «برنامه ثبت شده» تبدیل خواهد شد، به این معنی که از کنگره یک جریان بودجه ثابت خواهد داشت و حتی گستردهتر از امروز مورد استفاده قرار خواهد گرفت. آنها بیش از ۲۵,۰۰۰ حساب کاربری در سراسر ارتش ایالات متحده در هر فرماندهی رزمی یا صحنه منطقهای دارند.
اما هوش مصنوعی واقعی توسط شرکتهایی ساخته شده است که مردم با آنها آشنا هستند: مایکروسافت (Microsoft)، خدمات وب آمازون (Amazon Web Services) و دیگران. و آنها در طول سالها، برای شناسایی صحیح آنچه واقعاً در مقابلشان است، با مشکلاتی روبرو بودهاند. در یک مورد اولیه – و البته، باید روشن کنم که یک مورد اولیه نماینده وضعیت امروز این الگوریتمها نیست، اما فکر میکنم مبارزه را نشان میدهد. در یک مورد اولیه، مایکروسافت تصمیم گرفت که شناسایی زیرکلاسها بسیار دشوار است. و در واقع، بازبینان پهپاد، که فیلمهای ویدئویی را مشاهده میکنند و میتوانند با چشم شناسایی کنند، در این زمینه بسیار بسیار مجرب هستند. آنها میتوانند تفاوت بین یک سلاح روی شانه کسی و، مثلاً، یک سبد خرید را تشخیص دهند، زیرا مدتهاست که این کار را انجام میدهند. این الگوریتمها قادر به انجام این کار نبودند. گاهی اوقات این تفاوت میتواند به اندازه تنها سه پیکسل در یک تصویر باشد. و بنابراین، مایکروسافت تصمیم گرفت: «بیایید فقط دو کلاس داشته باشیم: افراد و وسایل نقلیه.» مشکل این است که این ادعا برای دقت مطرح شده بود. هدف این بود که بتوان بین مردان، زنان و کودکان تفاوت قائل شد، و یک الگوریتم که فقط «شخص» میگفت، واضحاً ارتش ایالات متحده را به انجام آن وظیفه حیاتی طبق قوانین جنگ، یعنی تشخیص اینکه چه کسی ممکن است هدف قرار گیرد، نزدیکتر نمیکرد.
اکنون، آن الگوریتمها بهبود یافتند. و یکی از لحظات اصلی که آنها شروع به بهبود میکنند، در حمایت ایالات متحده از اوکراین است. بنابراین، در سال ۲۰۲۲، هنگامی که روسیه به اوکراین حمله میکند، تلاش گستردهای برای یافتن اشیاء روسی، اشیاء نظامی، برای هدف قرار دادن اوکراینیها صورت میگیرد. و ایالات متحده شروع به اشتراکگذاری آنچه «نقاط مورد علاقه» مینامند میکند. این شامل هر چیزی جز یک هدف است، زیرا ایالات متحده نمیخواست به عنوان یک شرکتکننده مستقیم در جنگ شناسایی شود. اما تلاش گسترده برای به اشتراکگذاری اطلاعات، به من گفته شد، در داستانی که در کتابم نقل میکنم، قادر بود پرتابگرهای موشک متحرک روسی را بسیار بهتر از اوکراینیها شناسایی کند. و در یک مورد، ایالات متحده چیزی را که میگوید یک پرتابگر موشک متحرک است، شناسایی میکند، به اوکراینیها میگوید، و ۱۸ دقیقه بعد، اوکراینیها قادر به اصابت به آن هستند.
خوان گونزالس: کاترینا مانسون، میخواستم از شما بپرسم – کل این موضوع پرستش فناوری در جنگ. هنگامی که ما در جنگ اول خلیج فارس و جنگ دوم خلیج فارس بودیم، تمام این اصابتهای بمبهای هوشمند به ما نشان داده شد که ایالات متحده اساساً در سراسر جهان منتشر کرد تا برتری سلاحهای خود را نشان دهد. از آنچه شما میتوانید بگویید، دقت پروژه مِیون در شناسایی و اصابت به اهدافی که واقعاً اهداف نظامی هستند، چقدر است؟
کاترینا مانسون: ایالات متحده زرادخانه فوقالعادهای دارد. میتواند قدرتی را به کار گیرد که هیچ کس دیگری در جهان نمیتواند. جایی که برای سالها، دههها، با مشکل مواجه بوده است، دقیقاً دانستن این است که این قدرت را کجا به کار گیرد. این تصمیم به – در اهداف سرهنگی که پروژه مِیون را به عنوان رئیس پروژه رهبری میکرد، یک کمبود اساسی اطلاعات در میدان نبرد وجود داشت. بنابراین، اگرچه توانایی زیادی برای اصابت به اهداف وجود داشت، اما این توانایی فقط به همان اندازه خوب بود که اطلاعات ورودی آن بود. و ایالات متحده مرتباً در انجام این کار با مشکل مواجه بوده است. در افغانستان، اندکی پس از ۱۱ سپتامبر، سرهنگ تفنگداران دریایی که داستانش را در کتاب نقل میکنم، به افغانستان اعزام میشود، و او داستانی را تعریف میکند که یک کامپیوتر، یک کامپیوتر بزرگ، را در صندلی کنار خود در هلیکوپتر حمل میکرد. و این واقعاً تنها ابزاری بود که او برای کمک به تیم برای درک تهدیداتی که فکر میکردند با آنها روبرو خواهند شد، در اختیار داشت. و البته، همانطور که میدانید، ایالات متحده خیلی سریع شروع به تجربه دستگاههای انفجاری دستساز کرد. و در آن جنگ نیز سابقه آسیبهای غیرنظامی وجود دارد. و بنابراین، تلاش او همیشه این بوده است که اطلاعات بهتری را به افرادی برساند که به نام امنیت ملی ایالات متحده جان خود را به خطر میاندازند و تلاش کند آسیبهای غیرنظامی را کاهش دهد. آن فرآیند آوردن اطلاعات به عملیات میدان نبرد، فرآیندی است که همچنان پیچیده است. همانطور که ایالات متحده در حال بررسی اتفاقات مربوط به حمله به مدرسه دخترانه در ایران است، فعالان و دیگران در داخل ارتش واقعاً به دنبال مسئولیتپذیری در آنجا خواهند بود، به دنبال گزارشی از آنچه اشتباه پیش رفته است، اگر یک حمله آمریکایی باشد – که هنوز به طور عمومی تأیید نشده است – و اینکه ارتش ایالات متحده از چه دادههایی استفاده کرده است.
امی گودمن: فقط ۲۰ ثانیه وقت داریم، اما همسر سرهنگ تفنگداران دریایی کوکور واقعاً با او موافق نبود.
کاترینا مانسون: او میخواست جنگ عادلانه باشد. او به عنوان یک شخص واقعاً مخالف جنگ بود. او میخواست بداند که شوهرش تلاش کرده است کار درست را انجام دهد. و او با این موضوع دست و پنجه نرم میکرد، همانطور که او نیز. و حتی او، در آخرین گفتههایش در کتاب به من، اذعان میکند که بخشهای تاریکی در این فناوری هوش مصنوعی وجود دارد، و او میخواهد ایالات متحده یک نگهبان مسئولیتپذیر آن باشد.
امی گودمن: مایلیم از شما برای حضورمان تشکر کنیم، کاترینا مانسون، نویسنده کتاب «پروژه مِیون: یک سرهنگ تفنگداران دریایی، تیمش و طلوع جنگ هوش مصنوعی». او یک روزنامهنگار برنده جایزه در بلومبرگ است.