چه کسی از نظر قانونی مسئول است وقتی هوش مصنوعی عاملی از کنترل خارج میشود، و قربانیان هنگامی که توسط مدلهای یاغی هک میشوند چه راهکاری دارند؟ سوال خوبی است.
در پی افشای اطلاعاتی از سوی هر دو شرکت OpenAI و Anthropic مبنی بر اینکه نسخههایی از مدلهای آنها در طول آزمایشهای داخلی امنیت سایبری از محفظههای خود فرار کرده و سازمانهای واقعی را هک کردهاند، درخواستها برای مقررات دولتی هوش مصنوعی افزایش یافته است. اما با ظهور حوادث بیشتر و بیشتر، سوالاتی درباره مسئولیت قانونی و عواقب آن نیز به منصه ظهور رسیده است.
محققان و وکلایی که WIRED با آنها صحبت کرده است تاکید میکنند که این سوالات در عمل در سیستم حقوقی ایالات متحده پاسخ داده نشدهاند. به عبارت دیگر، تصمیمات کافی در پروندههای مرتبط وجود نداشته است تا تصویر روشنی شکل بگیرد. اما حوادث اخیر و پرمخاطب از OpenAI و Anthropic نشان میدهد که پاسخها باید به زودی ارائه شوند.
«فقط به این دلیل که شما از یک عامل هوش مصنوعی یا مدل هوش مصنوعی استفاده میکنید، نباید به نحوی شما را از هرگونه مسئولیت مبرا کند، اما این امر تا حد زیادی به حقایق موقعیتهای خاص بستگی دارد» زیرا پروندهها در دادگاهها در حال تصمیمگیری هستند، لورن یو، همکار پروژه گفتار، حریم خصوصی و فناوری ACLU میگوید.
کارشناسان میگویند که به اصطلاح حقوق نمایندگی میتواند مرتبط باشد زیرا این دکترین بر موقعیتهایی تمرکز دارد که در آن یک «اصیل» به یک «نماینده» اجازه و اختیار داده است تا از طرف او عمل کند. برای روشن شدن: «نمایندگان» در این حوزه از حقوق همیشه انسان بودهاند.
حقوق مسئولیت مدنی، که در آن یک خطا باعث آسیب میشود که منجر به مسئولیت قانونی میشود، نیز میتواند به طور بالقوه در پروندههای هوش مصنوعی سرکش مورد استناد قرار گیرد. حقوق قراردادها نیز میتواند مورد استفاده قرار گیرد، بسته به اقدامات یک هوش مصنوعی سرکش و شرایط هر قرارداد بین طرفهای درگیر، در صورت وجود. و قوانین هک مانند قانون کلاهبرداری و سوء استفاده رایانهای (CFAA) یا قوانین سطح ایالتی نیز میتوانند مرتبط باشند. با این حال، CFAA و بسیاری از قوانین هک دیگر الزامات «قصد» دارند که به گفته کارشناسان آنها را برای پروندههای مرتبط با هوش مصنوعی نامناسب میکند.
در نهایت، کارشناسان تاکید میکنند که سوالات مربوط به قانون فدرال مسئولیت هوش مصنوعی ایالات متحده تنها از طریق دعاوی قضایی بیشتر پاسخ داده خواهد شد.
«شاید نگرانکنندهترین نکته برای منتقدان این باشد که عوامل هوش مصنوعی هدفگرا هستند اما فاقد قطب نمای اخلاقی یا انسانی هستند،» شرکت حقوقی Brownstein Hyatt Farber Schreck نوشت در هشداری به مشتریان خود در ۲۴ ژوئیه. «در برخی شرایط، یک عامل ممکن است اقداماتی را استنتاج کند که هرگز به صراحت مجاز نبودهاند اگر آن اقدامات برای دستیابی به هدفش ضروری به نظر برسند.»
OpenAI و Anthropic هر کدام حوادث امنیت سایبری مربوط به عوامل هوش مصنوعی خود را به عنوان پیامدهای تصادفی آزمایش قابلیتهای امنیت سایبری مدلهایشان با خاموش کردن اقدامات ایمنی معمول توصیف کردند. هر دو شرکت درخواست WIRED برای اظهار نظر در مورد این داستان را رد کردند.
در همین حال، حملات ادامه دارد. رویترز گزارش داد روز جمعه که در حالی که OpenAI در حال بررسی هک Hugging Face و سایر نهادها است، نمونههای دیگری از موقعیتهایی را کشف کرده است که در آن عواملش از محفظه فرار کردهاند—اگرچه ظاهراً هیچیک از این یافتههای جدید منجر به نقض سازمانهای دیگر نشده است.
الکس زنلا، مدیر ارشد فناوری شرکت امنیت ابری Edera، که اوایل این هفته درباره افشاگریهای Hugging Face متعلق به OpenAI صحبت میکرد، گفت: «این فقط موردی است که ما از آن مطلع هستیم، اما خدا میداند چه اتفاقی برای چیزهایی افتاده است که از آن بیخبریم.»