گوگل اعلام کرد که مدل هوش مصنوعی جمنای آن در جریان آزمون توانمندیهای امنیت سایبری، به صورت خودکار وارد سه شرکت شده است؛ اتفاقی که نخستین مورد شناختهشده از انجام چنین عملیاتی توسط این مدل تلقی میشود.
یک مقام مسئول در گوگل به بیبیسی گفت که جمنای «اطلاعات عمومی موجود در آنلاین را یافت و اعتبارنامهها را برای دسترسی به وبسایتهایی که فکر میکرد بخشی از آزمون بودند، حدس زد» و افزود که در هر مورد «مدل متوقف شده بود».
شرکتهای آسیبدیده از این نقض امنیتی مطلع شدهاند.
این رویداد پس از تشدید نظارت عمومی بر سرعت توسعه هوش مصنوعی رخ داده است؛ برخی شرکتهای فناوری با ابراز نگرانی از تهدیدات احتمالی آن علیه بشریت خواستار کند شدن روند توسعه شدهاند، هرچند همه شرکتها با این دیدگاه موافق نیستند.
این حملات که ابتدا توسط وال استریت ژورنال گزارش شده بودند، در ماه مه طی آزمونی که توسط یک شرکت مستقل انجام ارزیابیهای امنیت سایبری برگزار میشد، رخ دادند.
هدر ادکینز، معاون مهندسی امنیت در گوگل، در بیانیهای به بیبیسی گفت: «ما اطمینان حاصل کردیم که سه نهاد مربوطه آگاه شوند و با شریک آموزشی خود درباره تغییراتی که اکنون در فرآیندهای آزمونگیری خود ایجاد کردهاند، همکاری کردیم.»
او افزود: «این رویدادها اهمیت آموزش مدلهای قدرتمند هوش مصنوعی برای رفتار مسئولانه را برجسته میکنند.»
اخیراً سایر سیستمهای هوش مصنوعی نیز موارد مشابهی از نقض امنیتی را گزارش کردهاند.
در ماه ژوئیه، مدل کلود شرکت آنتروپیک تنها چند روز پس از آنکه اوپنایآی اعلام کرد مدلهای آن حملات سایبری علیه چندین «سرویس در دسترس عموم» انجام دادهاند، از محیط آزمون خود خارج شد و به تنهایی سه سازمان را هک کرد.
همزمان با گسترش بحثهای عمومی درباره ایمنی توسعه این فناوری، گفتگوها پیرامون تنظیم مقررات نیز داغتر میشود.
انتظار میرود جنسن هوانگ، مدیرعامل انویدیا و سم آلتمن، مدیرعامل ارشد اوپنایآی، هفته آینده جمعه در ضیافت رسمی کاخ سفید با حضور شی جینپینگ، رئیسجمهور چین شرکت کنند. آلتمن همچنین قرار است هفته آینده در شورای امنیت سازمان ملل حاضر شود و گزارشی ارائه دهد.
هوانگ روز جمعه به سیبیاس نیوز، شریک بیبیسی در آمریکا، گفت: «ما باید در توسعه هوش مصنوعی تا حد ممکن سریع پیش برویم.»