اشتراک
یک سیستم رایانه‌ای در مرکز جرایم سایبری ICE که در حال اسکن یک هارد دیسک برای یافتن اطلاعات است.
یک سیستم رایانه‌ای در مرکز جرایم سایبری ICE که در حال اسکن یک هارد دیسک برای یافتن اطلاعات است.
فناوری هوش مصنوعی امنیت سایبری

ادعای انثروپیک: شرکت‌های چینی از کلود برای آموزش مدل‌ها استفاده کرده‌اند

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

شرکت هوش مصنوعی آمریکایی انثروپیک، توسعه‌دهندگان هوش مصنوعی چین از جمله دیپ‌سیک، مونشوت ای‌آی، علی‌بابا، مینیمکس، استپ‌فان و زد.ای‌آی را متهم کرده است که با استفاده از تقطیر در مقیاس صنعتی، قابلیت‌های مدل‌های پیشرفته آمریکایی مانند کلود، جی‌پی‌تی، جمینای و گراک را استخراج کرده‌اند. بر اساس گزارش انثروپیک، این شرکت‌ها میلیاردها توکن را از طریق میلیون‌ها درخواست استخراج کرده و دولت چین احتمالاً از این موضوع آگاه بوده است. به گفته انثروپیک، مونشوت ای‌آی درخواست‌های کاربران را به جای کیمی به کلود ارسال می‌کرد و از شبکه‌ای متشکل از ۵۳۸۰ حساب جعلی در سنگاپور و ژاپن به عنوان پروکسی استفاده می‌نمود. آژانس امنیت ملی، آژانس امنیت سایبری و زیرساخت‌ها و دفتر تحقیقات فدرال آمریکا با صدور بیانیه‌ای مشترک به شرکت‌های آمریکایی هشدار دادند و این اقدام را استخراج سیستماتیک قابلیت‌های انحصاری تهدیدکننده رهبری فناوری آمریکا توصیف کردند. انثروپیک تقطیر را روشی مشروع دانست اما میان پژوهش شفاف و کمپین مخفیانه بدون مجوز تفاوت قائل شد. در مقابل، کارشناسان نسبت به این ادعاها ابراز تردید کرده و خواستار ارائه شواهد عینی برای تأیید مستقل شده‌اند. همچنین گزارش شده مقامات نظارتی چین پس از این اتهامات از هفت توسعه‌دهنده داخلی بازجویی کرده و سپس بر دیپ‌سیک و مونشوت متمرکز شده‌اند. انثروپیک اعلام کرد عملیات سوءاستفاده را مختل و حفاظت‌های خود را تقویت کرده است، اما این اتهامات همچنان مورد بحث است.

شرکت آمریکایی هوش مصنوعی انثروپیک، توسعه‌دهندگان هوش مصنوعی چین را به «درگیر بودن در فعالیت‌های تهاجمی، مخرب و هدفمند تقطیر (Distillation)» و سرقت از مدل‌های هوش مصنوعی آمریکا متهم کرده است.

گزارشی از انثروپیک در ماه سپتامبر اعلام کرد که برای دو سال، شرکت‌هایی مانند «دیپ‌سیک، مونشوت ای‌آی، علی‌بابا، مینیمکس، استپ‌فان و زد.ای‌آی میلیاردها توکن را از طریق میلیون‌ها تبادل/درخواست از مدل‌های پیشرفته هوش مصنوعی آمریکا، شامل نسخه‌های مختلف کلود، جی‌پی‌تی، جمینای و گراک استخراج کرده‌اند.»

این گزارش همچنین مدعی شد که دولت چین «احتمالاً از این موضوع آگاه بوده است». با این حال، گزارشی در ساوث چاینا مورنینگ پست (SCMP) نسبت به این ادعاها ابراز تردید کرده است.

آژانس امنیت سایبری و زیرساخت‌های آمریکا (CISA) این اقدام را «استخراج سیستماتیک کارکردها و قابلیت‌های انحصاری تهدیدکننده رهبری فناوری آمریکا» توصیف کرده است.

بر اساس گزارش انثروپیک، مونشوت ای‌آی درخواست‌ها را به صورت مخفیانه به جای کیمی (Kimi) به کلود ارسال می‌کند، هرچند کاربران تصور می‌کردند با کیمی تعامل دارند. «در طول یک دوره ده روزه، ما درباره ۳۰۰ هزار درخواست مشتری صحبت می‌کنیم. آن‌ها از شبکه‌ای متشکل از ۵۳۸۰ حساب جعلی در سنگاپور و ژاپن به عنوان سرویس پروکسی استفاده کردند»، بخشی از متن گزارش چنین آمده است.

آژانس امنیت ملی (NSA)، آژانس امنیت سایبری و زیرساخت‌ها (CISA) و دفتر تحقیقات فدرال (FBI) بیانیه‌ای مشترک صادر کردند تا به شرکت‌های آمریکایی درباره این فعالیت‌های ادعایی هشدار دهند. آن‌ها شرکت‌های هوش مصنوعی چین را به انجام معاملات مشکوک در مقیاس صنعتی با استفاده از عملیات قوی برای سرقت قابلیت‌ها از سیستم‌های هوش مصنوعی آمریکا متهم کردند.

اتهام به هوش مصنوعی چین برای تقطیر در مقیاس صنعتی

بیانیه دولتی، دیپ‌سیک، مونشوت ای‌آی، علی‌بابا، مینیمکس، استپ‌فان و زد.ای‌آی را به عنوان شرکت‌هایی معرفی کرد که حداقل از اواخر سال ۲۰۲۴ در کمپین‌های بزرگ تقطیر مدل مشارکت داشته‌اند.

تقطیر تکنیکی است که در آن توسعه‌دهندگان از خروجی‌های یک مدل هوش مصنوعی پیشرفته‌تر برای آموزش سیستم دیگری استفاده می‌کنند.

انثروپیک پذیرفت که تقطیر یک «روش آموزشی مشروع» است، اما تأکید کرد که تفاوتی بین پژوهش شفاف با استفاده از مدل‌های «معلم» توانمند و اجرای «کمپین مخفیانه» بدون مجوز وجود دارد.

«ما تقطیر غیرقانونی را به عنوان کمپینی مخفیانه و در مقیاس صنعتی برای استخراج قابلیت‌های یک مدل و بازتولید آن‌ها در مدلی دیگر بدون مجوز تعریف می‌کنیم»، انثروپیک توضیح داد.

آن‌ها معتقدند توسعه‌دهندگان چینی از تجمیع‌کننده‌های شخص ثالث، ارائه‌دهندگان خدمات ابری و سرویس‌های پروکسی که به عنوان «ایستگاه‌های انتقال» شناخته می‌شوند، برای دور زدن محدودیت‌های اعمال شده بر سیستم‌های هوش مصنوعی آمریکا استفاده کرده‌اند.

مشخص‌ترین اتهامات انثروپیک متوجه مونشوت ای‌آی، توسعه‌دهنده چت‌بات کیمی بود. به نظر می‌رسد علی‌بابا نیز بین مه تا ژوئیه ۲۰۲۶ در بیش از ۱۵۱ میلیون فعالیت تقطیر مشارکت داشته است.

با این حال، این ادعاها با تردیدهایی مواجه شده‌اند. زبین وانگ، مدیر سرمایه‌گذاری در شرکت JG Investment مستقر در شنژن، پرسید آیا انثروپیک شواهد کافی برای تأیید مستقل ادعاهایش ارائه کرده است یا خیر.

وانگ به SCMP گفت: «این گزارش نمونه‌های عینی کافی برای تأیید مستقل نحوه کسب یا استفاده آن شرکت‌ها از خروجی‌های مدل ارائه نمی‌دهد.»

اتهامات نگرانی‌هایی درباره داده‌های حساس چینی ایجاد می‌کند

به گفته منابع، مقامات نظارتی چین پس از اتهامات انثروپیک از توسعه‌دهندگان داخلی هوش مصنوعی بازجویی کرده‌اند. طبق گزارش SCMP، اداره فضای سایبری چین از هفت توسعه‌دهنده بازجویی کرد و سپس توجه خود را بر دیپ‌سیک و مونشوت متمرکز ساخت.

مونشوت و دیپ‌سیک به درخواست‌های SCMP برای اظهار نظر پاسخ ندادند.

در همین حال، NSA، FBI و CISA از شرکت‌های هوش مصنوعی آمریکایی خواسته‌اند سیستم‌های تشخیص را تقویت کنند، تدابیر ضدحمله هدفمند را معرفی نمایند و اطلاعات مربوط به کمپین‌های مشکوک تقطیر را به اشتراک بگذارند.

انثروپیک اعلام کرد که عملیات سوءاستفاده شناسایی شده را مختل کرده و حفاظت‌های خود را در برابر استخراج غیرمجاز قابلیت‌های کلود تقویت نموده است.

این اتهامات همچنان مورد بحث است و سؤالات مربوط به انتساب مسئولیت و نقش واسطه‌های شخص ثالث بی‌پاسخ مانده است.

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: interestingengineering.com