در ماه فوریه، وزارت دفاع ایالات متحده تهدید کرد که شرکت هوش مصنوعی آنتروپیک را به عنوان «ریسک زنجیره تأمین» معرفی خواهد کرد، پس از اختلافی بر سر استفاده ارتش از مدلهای کلود این شرکت.
این تعیین وضعیت نه تنها قرارداد ۲۰۰ میلیون دلاری این شرکت با پنتاگون را به خطر میانداخت، بلکه همه پیمانکاران دفاعی را ملزم میکرد تا روابط خود را با این شرکت قطع کنند.
در مرکز این اختلاف دو مورد استفاده قرار داشت که آنتروپیک اعلام کرده بود اجازه آنها را نخواهد داد: سلاحهای کاملاً خودمختار و نظارت گسترده بر آمریکاییها.
پنتاگون میخواست آنتروپیک به ارتش اجازه دهد از هوش مصنوعی آن برای «همه اهداف قانونی» استفاده کند. داریو آمودی، مدیرعامل آنتروپیک، گفت که این شرکت معتقد نیست مدلهای فعلی هوش مصنوعی پیشرفته به اندازه کافی برای سلاحهای کاملاً خودمختار قابل اعتماد هستند و استدلال کرد که نظارت گسترده داخلی ارزشهای دموکراتیک را به خطر میاندازد.
دونالد ترامپ، رئیسجمهور ایالات متحده، با صدور دستوری به آژانسهای فدرال پاسخ داد تا استفاده از فناوری آنتروپیک را متوقف کنند، در حالی که به آژانسهایی مانند وزارت دفاع شش ماه فرصت داد تا استفاده موجود را به تدریج حذف کنند.
آنتروپیک این تعیین وضعیت را در دادگاه به چالش کشید و در ۲۶ مارس، یک قاضی فدرال حکم مقدماتی صادر کرد که اجرای آن را تا زمان رسیدگی به پرونده مسدود میکرد.
این اختلاف پرسشی بزرگتر از آینده یک قرارداد دولتی را مطرح میکند. در کتاب من شرکتها و اشخاص: نظریهای درباره شرکت در جامعه دموکراتیک، استدلال میکنم که مسئولیتهای یک شرکت در درجه اول به یک دولت خاص، بلکه به کل نظم قانون اساسی دموکراتیک بدهکار است.
من قبلاً استدلال کردهام که این شامل وظیفه مقاومت در برابر خواستههای استبدادی است. در اینجا، میخواهم بر نسخهای به ویژه فوری از آن مسئولیت تمرکز کنم: وظیفه هشدار.
دو نوع هشدار
شرکتها اغلب چیزهایی را میدانند که شهروندان دموکراتیک برای اداره خود باید بدانند. به عنوان مثال، تحقیقات داخلی فیسبوک نگرانیهای جدی در مورد تأثیرات اینستاگرام بر سلامت روان نوجوانان ایجاد کرد. این یافتهها تنها پس از آنکه فرانسیس هاوگن، کارمند سابق فیسبوک، به عنوان افشاگر به جلو آمد، عمومی شد.
تعهد یک شرکت در چنین مواردی ساده است: آنچه را میدانید به مردم بگویید و قطعاً از استراتژی صنعت دخانیات برای جلوگیری فعالانه از آگاهی مردم پیروی نکنید.
در یک سطح، آنتروپیک دارد کار مشابهی انجام میدهد. این شرکت به جامعه دموکراتیک هشدار میدهد که با انتخابهای مهمی در مورد نحوه استفاده دولتها از هوش مصنوعی مواجه است. اما هشدار دوم و فوریتری وجود دارد درباره اینکه آیا جامعه دموکراتیک اصلاً میتواند به تصمیمگیری از این دست ادامه دهد.
اطلاعات نادرست در رسانههای اجتماعی مشکل مشابهی ایجاد میکند. این صرفاً مشکل دیگری برای مدیریت جامعه دموکراتیک نیست. میتواند به تعهدات معرفتی و اجتماعی مشترکی که خود حکومت دموکراتیک را ممکن میسازد حمله کند.
هوش مصنوعی و تهدید علیه دموکراسی
بسیاری از نگرانیها در مورد هوش مصنوعی و دموکراسی بر آنچه هوش مصنوعی به سیاستمداران اجازه میدهد انجام دهند متمرکز است: گسترش اطلاعات نادرست، دستکاری شهروندان یا انجام نظارت. نگرانی عمیقتر آن چیزی است که هوش مصنوعی ممکن است با مردم و نهادهایی انجام دهد که قادر به توقف این سوءاستفادهها هستند.
دموکراسیها هرگز تنها به قوانین و انتخابات برای مهار سوءاستفاده از قدرت تکیه نکردهاند. آنها به مردم تکیه کردهاند - تعداد بسیار زیادی از آنها، در طیف گستردهای از نقشهای مستقل: افسری که میتواند از دستور غیرقانونی سرپیچی کند، مهندسی که میتواند از ساختن چیزی امتناع کند، تحلیگری که ناهنجاری را متوجه میشود و آن را بیان میکند، روزنامهنگاری که یک افشاگر میتواند با او تماس بگیرد. مردم یک ضمانت ایمنی فراهم میکنند.
دموکراسیها انعطافپذیر هستند زیرا مسئولیت در میان بسیاری از افراد مستقل توزیع شده است. هر مقام منفردی میتواند جایگزین یا تحت فشار قرار گیرد؛ یک سیستم کامل از مردم، که هر کدام حس مستقلی از اخلاق شخصی و حرفهای دارند، به سختی میتواند به طور کامل به خطر بیفتد.
رسوایی کمبریج آنالیتیکا نمونهای بارز است. فیسبوک شواهدی را نگه داشته بود مبنی بر اینکه دادههای کاربران به طور نامناسب توسط شرکت مشاوره سیاسی کمبریج آنالیتیکا به دست آمده و استفاده شده است. این رسوایی تنها پس از آنکه کریستوفر وایلی، کارمند سابق کمبریج آنالیتیکا، به جلو آمد و اطلاعاتی را در اختیار روزنامهنگاران قرار داد، عمومی شد.
چنین لحظاتی به وجود افراد مستقل کافی، در موقعیتهای مستقل کافی بستگی دارد تا حداقل یکی از آنها تصمیم بگیرد صحبت کند. این دقیقاً همان چیزی است که استفاده استبدادی از هوش مصنوعی تهدید به از بین بردن آن میکند.
انسان در حلقه کافی نیست
پیشنهادهای قراردادی آنتروپیک برای تضمینها تا حدی به این نگرانی میپردازد و اصرار دارد که یک انسان در «زنجیره کشتار»، توالی تصمیمات قبل از یک حمله مرگبار، باقی بماند.
با این حال، این به طور کامل مشکل را حل نمیکند. یک دولت برای شکست دادن این ضمانت ایمنی نیازی به حذف کامل انسانها ندارد. فقط به افراد کمتر و قابل اعتمادتری نیاز دارد: افرادی که برای تبعیت انتخاب، تشویق یا تحت فشار قرار گرفتهاند، نه برای اعتراض.
این چیزی است که نسل فعلی هوش مصنوعی پیشرفته را به ویژه نگرانکننده میکند. خودکارسازی نظارت و تصمیمگیری در مقیاس بزرگ تهدید میکند شبکه انسانی را که از طریق آن دموکراسیها سوءاستفاده از قدرت را قبل از تثبیت شدنشان شناسایی کردهاند، از بین ببرد.
خطر با آنچه این فناوریها میتوانند انجام دهند تشدید میشود. نظارت گسترده و سلاحهای خودمختار دقیقاً از آن دسته قابلیتهایی هستند که به دولتهای اقتدارگرا امکان میدهند قدرت خود را بر جامعه تثبیت کنند.
از این نظر، آنتروپیک هم وظیفه هشدار به جامعه دموکراتیک درباره آن خطرات را دارد و هم وظیفه مقاومت در برابر خواسته استبدادی که به آنها کمک میکند.
مجوز حکومت نیست
هیچ یک از اینها به این معنا نیست که آنتروپیک باید تصمیم بگیرد که هوش مصنوعی چگونه اداره میشود. شرکتی که متقاعد شده است خطر را بهتر از نهادهای نظارتی خود درک میکند و بنابراین به نظارت آنها نیازی ندارد، در حال اشتباه جدی است. دانش برتر تعهدی برای اطلاعرسانی به تصمیمگیرندگان دموکراتیک ایجاد میکند، نه مجوزی برای جایگزینی آنها.
تعداد بسیار کمی از شرکتها در هر کجا موقعیتی را که شرکتهای هوش مصنوعی پیشرفته در حال حاضر دارند، اشغال میکنند. آنها دارای قابلیتهای فنی هستند که دولتها به شدت میخواهند، در حالی که دولتها قدرت خرید، نظارتی و قهریه عظیمی بر آنها دارند.
هوش مصنوعی ممکن است قدرتهای فوقالعاده جدیدی به دولتها بدهد. دموکراسی تا حدی به این بستگی دارد که آیا افراد کافی مایل و قادر به تشخیص سوءاستفاده از این قدرتها و اشاره به آن باقی میمانند یا خیر.