انویدیا رهبری ائتلاف جدیدی از شرکتهای فناوری را بر عهده دارد که میخواهند دولت ایالات متحده و متحدانش هوش مصنوعی متنباز را به عنوان یک دارایی امنیت سایبری، نه یک تهدید، ببینند.
این گروه با حمایت انویدیا، که «ائتلاف هوش مصنوعی امن و باز» نامیده میشود، روز دوشنبه اعلام کرد که هدف آن ایجاد و استقرار مجموعهای از ابزارهای هوش مصنوعی متنباز است که هر شرکتی میتواند برای دفاع در برابر حملات سایبری از آنها استفاده کند. این گروه شامل اسپیسایکس، مایکروسافت، پالانتیر و دهها شرکت دیگر است که بسیاری از آنها علناً با محدود کردن دسترسی به هوش مصنوعی متنباز مخالف هستند.
این آخرین حمله در نبردی بر سر آینده ابزارهای هوش مصنوعی متنباز یا با وزن باز (open-weights) است، در بحبوحه نگرانی فزاینده مقامات دولتی و صنعتی در مورد سیستمهای هوش مصنوعی که باعث حملات سایبری میشوند. این ترسها کاخ سفید را بر آن داشته است تا نظارت بر مدلهای هوش مصنوعی را افزایش داده و بخش خصوصی را برای استقرار هوش مصنوعی در اهداف دفاعی ترغیب کند.
مدلهای با وزن باز پس از آنکه مدلهای جدید توسعهدهندگان چینی مانند مونشات (Moonshot) و زی.ایآی (Z.AI) توسعهدهندگان را شگفتزده کرده و تعداد فزایندهای از کاربران آمریکایی را به خود جلب کردند، کانون بررسی فزایندهای قرار گرفتهاند. مدلهای باز برای دانلود رایگان هستند و به کاربران اجازه میدهند آنها را برای نیازهای خود سفارشی کنند، اگرچه اجرای هر مدلی هزینههای محاسباتی دارد.
منتقدان، از جمله برخی از مدیران ارشد در آنتروپیک (Anthropic) و اوپنایآی (OpenAI)، استدلال کردهاند که مدلهای باز، که بسیاری از آنها از چین میآیند، خطرات بالقوهای برای امنیت ملی ایجاد میکنند و مقامات دولت ترامپ ممنوعیت آنها را بررسی کردهاند.
گروه جدید گفت: «مدلهای باز قابلیتهای دفاعی را دموکراتیک میکنند.» «همانطور که سیاستگذاران و قانونگذاران با ایمنی هوش مصنوعی دست و پنجه نرم میکنند، تشخیص مدلهای باز، مهارکنندهها و ابزارهای امنیتی به عنوان داراییهای دفاعی، نه بدهیها، حیاتی خواهد بود.»
از آنجایی که مدلهای با وزن باز میتوانند توسط کاربرانشان تغییر یابند، امکان حذف برخی از محدودیتهای آنها در برابر فعالیتهای مضر وجود دارد.
مدافعان متنباز مانند انویدیا در مقابل استدلال میکنند که ابزارهای اختصاصی مانند مدلهای آنتروپیک یا اوپنایآی نیز میتوانند مورد سوء استفاده قرار گیرند و محدودیتهای آنها دور زده شود. آنها میگویند تنها با گسترش گسترده قابلیتهای هوش مصنوعی با ابزارهای متنباز، همه قادر خواهند بود از خود دفاع کنند.
نمونه بارز استدلال آنها: هک شدن هاگینگ فیس، ارائهدهنده ابزارهای هوش مصنوعی متنباز، در اوایل این ماه توسط مدلهای اوپنایآی که موفق شدند از محیط آزمایشی خود خارج شده و به اینترنت راه یابند.
هاگینگ فیس در تلاش برای دفع حمله، ابتدا سعی کرد از مدلهای آنتروپیک برای تحلیل گزارشهای خود استفاده کند، اما این مدلها به دلیل محدودیتهای خود در برابر حملات سایبری، از انجام تحلیل خودداری کردند.
هاگینگ فیس سپس به یک مدل با وزن باز از چین روی آورد. پس از تحلیل حمله با آن مدل، هاگینگ فیس توانست هوش مصنوعیهای هککننده را بیرون کند، رمزهای عبور خود را بازنشانی کرده و بخشهای آسیبدیده شبکه خود را بازسازی کند.
گروه جدید روز دوشنبه گفت: «حادثه امنیتی اخیر هاگینگ فیس یادآوری واضحی بود.» «مدافعان سایبری به سیستمهای باز نیاز دارند.»
هم آنتروپیک و هم اوپنایآی همچنین توسعهدهندگان چینی را به استفاده از فرآیندی به نام تقطیر (distillation) برای کپی مؤثر مدلهایشان متهم کردهاند. تقطیر با پرسیدن مکرر سؤالات از یک مدل و استفاده از آن پاسخها برای آموزش یک مدل جدید که میتواند عملکرد مشابهی داشته باشد، کار میکند. مقامات آمریکایی گفتهاند که تقطیر را سرقت میدانند و ممکن است اقداماتی انجام دهند.
دیوید ساکس، سرمایهگذار خطرپذیر و مشاور کاخ سفید، استدلال کرده است که ایالات متحده نباید مدلهای متنباز را محدود کند، بلکه باید آنها را بپذیرد. او استدلال میکند که ایالات متحده باید برای صادرات ابزارهای هوش مصنوعی خود تلاش کند و محدودیتها خطر سوق دادن سایر کشورها به استفاده از فناوری چینی را به همراه دارد.
او روز جمعه در پادکست «All-In» که خود یکی از میزبانان آن است، گفت: «فکر میکنم اگر دولت علیه اکوسیستم متنباز اقدامی کند، اشتباهی فاجعهبار خواهد بود.» «این کار جز آسیب رساندن به موقعیت آمریکا در این رقابت هوش مصنوعی، هیچ فایدهای نخواهد داشت.»