چین خود را به عنوان قهرمان فناوری هوش مصنوعی متنباز و کمهزینه معرفی کرده است و میگوید این فناوری باید به طور گسترده در دسترس جهان قرار گیرد. این کشور، آمریکا را به «هژمونی هوش مصنوعی» متهم کرده است، در حالی که دولت ترامپ (Trump) در مورد تنظیم مدلهای هوش مصنوعی متنباز چینی بحث میکرد.
برخلاف سیستمهای بسته مانند چتجیپیتی (ChatGPT) و کلود (Claude)، مدلهای باز میتوانند توسط هر کسی دانلود، اصلاح و اجرا شوند، حتی با حذف تدابیر حفاظتی. این رویکرد باز که کمهزینهتر است، سیستمهای هوش مصنوعی چینی ساخته شده توسط شرکتهایی مانند علیبابا (Alibaba) و مونشات (Moonshot)، یک استارتاپ، را میلیونها کاربر جهانی از جمله شرکتهای سیلیکونولی مانند ایربیانبی (Airbnb) و دوردش (DoorDash) به خود جذب کرده است.
اما همین گشودگی که به مدلهای چینی کمک کرده تا در خارج از کشور نفوذ پیدا کنند، اکنون نگرانیهایی را برای پکن ایجاد کرده است، به ویژه در مورد امنیت و تهدیدات احتمالی که این فناوری ممکن است برای حکومت حزب کمونیست ایجاد کند. در سخنرانی اوایل این ماه، شی جینپینگ، رهبر ارشد چین، اظهار داشت که حتی با وجود حمایت چین از گشودگی در هوش مصنوعی، دولت باید «به طور مداوم تدابیر را برای جلوگیری از از دست دادن کنترل اصلاح کند.»
حزب نگران است که این فناوری توسط هکرها، کلاهبرداران، تروریستها یا سایر بازیگران مخرب که به دنبال ایجاد آسیب در چین هستند، مورد استفاده قرار گیرد؛ اینکه مدلها بتوانند فیلترهای سانسور سختگیرانه آن را دور بزنند؛ و اینکه اگر سیستمهای چینی در جای دیگری از کنترل خارج شوند، دولت مقصر شناخته شود.
این سؤال که پکن یا شرکتهای چینی چقدر باید بر استفاده و اصلاح مدلهای چینی توسط دیگران کنترل داشته باشند، با ظهور سیستمهای قدرتمند هوش مصنوعی داخلی حادتر شده است. یکی از این مدلها کیمی K3 است که اوایل این هفته توسط مونشات به صورت عمومی منتشر شد و برخی از وظایف را به خوبی بهترین مدلهای رقبای آمریکایی، از جمله اوپنایآی (OpenAI) و آنتروپیک (Anthropic)، انجام میدهد. مدلهایی مانند این میتوانند به شرکتها در نوشتن کد و بهبود امنیت سایبری کمک کنند، اما همچنین میتوانند به هکرها کمک کنند تا آسیبپذیریها را سریعتر پیدا کرده و از آنها سوءاستفاده کنند.
مت شیهان (Matt Sheehan)، پژوهشگر ارشد در بنیاد کارنگی برای صلح بینالمللی، اظهار داشت: «حزب کمونیست چین، به ویژه تحت رهبری شی، نهادی است که امنیت را در اولویت قرار میدهد.»
وی گفت که پکن نگران است که مدلهای پیشرفته بتوانند حملات سایبری انجام دهند یا از تدابیر حفاظتی فرار کنند، یا طراحی و ایجاد ویروسهای جدید مضر یا سایر عوامل بیولوژیکی را آسانتر کنند.
آقای شیهان افزود: «اگر این مدلها به چنین قابلیتهای خطرناکی دست یابند، اجازه نخواهند داد که انتشار آنها بدون کنترل باشد.»
آنتروپیک و اوپنایآی میگویند که برخی از مدلهای هوش مصنوعی برای توسعه به صورت باز بسیار خطرناک هستند و باید به شدت کنترل شوند، و نگرانیهایی را در واشنگتن در مورد مدلهای چینی مطرح کردهاند. با این حال، مفسران چینی و دیگران اشاره کردهاند که برخی از برجستهترین نقضهای امنیتی هوش مصنوعی مربوط به مدلهای آمریکایی با کد بسته بوده است.
ترس از به چالش کشیده شدن کنترل پکن توسط هوش مصنوعی
نگرانی چین در مورد هوش مصنوعی در کنفرانس اخیر امنیت سایبری در پکن به نمایش گذاشته شد، جایی که سخنرانان در مورد خطراتی از جمله نقض دادهها و تصاویر دیپفیک (deepfake) هشدار دادند. ژو هونگیی (Zhou Hongyi)، یک مدیر اجرایی بانفوذ فناوری چینی، به حضار هشدار داد که چین به دلیل ظهور مدلهای پیشگام مانند میتوس (Mythos)، یک سیستم پیشرفته آنتروپیک که برای یافتن نقصهای نرمافزاری طراحی شده است، بیش از هر زمان دیگری در برابر حملات سایبری آسیبپذیر است.
این کنفرانس همچنین به مسمومیت دادههای هوش مصنوعی (A.I. data poisoning) پرداخت، که در آن یک مهاجم با دادههای دستکاری شده به چتباتهای هوش مصنوعی اطلاعات میدهد که نتایج را منحرف میکند. به گفته پکن، چنین تاکتیکهایی میتوانند برای وادار کردن سیستمهای هوش مصنوعی به تولید پاسخهای سیاسی خرابکارانه استفاده شوند.
وزارت امنیت دولتی چین در ماه آوریل در مورد مسمومیت دادهها به عنوان تهدیدی برای «امنیت سیاسی و ایدئولوژیک» هشدار داد. این وزارتخانه اظهار داشت که «نیروهای خصمانه ضد چین»، که کد حزبی برای غرب یا فعالان حقوق بشر منتقد پکن است، میتوانند با آموزش مدلهای هوش مصنوعی برای بدنام کردن حزب و دولت، از آنها سوءاستفاده کنند.
این میتواند شامل ارائه اطلاعات در مورد اعتراضات داخلی یا حقایقی باشد که روایتهای دولتی در مورد منطقه دورافتاده غربی سینکیانگ (Xinjiang)، جایی که چین سرکوبی را بر گروههای قومی مسلمان اعمال کرده است، و تایوان (Taiwan)، جزیره با حکومت دموکراتیک که پکن ادعا میکند قلمرو آن است، را تضعیف کند.
الکس کولویل (Alex Colville)، کارشناس سایبری در مؤسسه سیاست استراتژیک استرالیا، اظهار داشت: بدترین سناریو برای پکن، در مورد افکار عمومی، این است که «چتباتهای هوش مصنوعی شروع به گفتن چیزهایی کنند که حزب نمیخواهد مردم بشنوند.»
وی افزود: این نگرانی شامل «هرگونه اطلاعاتی است که انحصار آنها را در دیکته کردن آنچه درست و آنچه غلط است، سست کند.»
کنترلها چگونه میتوانند باشند
رویترز (Reuters) و فایننشال تایمز (The Financial Times) این ماه گزارش دادند که وزارت بازرگانی چین با شرکتهای پیشرو هوش مصنوعی چینی مانند علیبابا (Alibaba) و بایتدنس (ByteDance) برای بحث در مورد محدود کردن دسترسی خارجی به مدلهای برتر آنها ملاقات کرده است. این وزارتخانه و شرکتها به درخواستها برای اظهار نظر پاسخ ندادند.
حتی نحوه مدیریت کیمی K3 نیز نشان میدهد که شرکتهای چینی با احتیاط بیشتری عمل میکنند. انتشار وزنهای آن – مقادیر عددی که نحوه عملکرد نرمافزار را نشان میدهد – یک هفته پس از عرضه مدل صورت گرفت. این برخلاف سایر مدلهای متنباز چینی مانند مدلهای توسعه یافته توسط دیپسیک (DeepSeek) یا علیبابا است که وزنهای خود را همزمان با رونمایی از مدلهایشان منتشر کردند.
قدرت بخشیدن به آن
تحلیلگران میگویند، هدف بلندمدت چین، تعیین استانداردهای جهانی هوش مصنوعی برای پیشی گرفتن از ایالات متحده و وابسته کردن جهان به نرمافزار، سختافزار و سیستمهای داده چینی است که مجموعاً به عنوان یک «استک» (stack) شناخته میشوند.
کندرا شیفر (Kendra Schaefer)، شریک در تریویوم چین (Trivium China)، یک شرکت تحقیقاتی و مشاورهای، اظهار داشت: «این یک فرصت بینظیر برای چین است. چین ۲۰ سال گذشته را صرف تلاش برای توسعه یک استک فناوری کرده است که کشورهای ثالث آن را به اندازه فناوری مبدأ ایالات متحده یا بیشتر از آن جذاب بدانند و این کار بسیار بسیار دشوار بوده است.»
تحلیلگران گفتند، با توجه به این خطرات، چین در صورت تصمیم به اعمال محدودیتها بر دسترسی خارجی به برخی سیستمهای هوش مصنوعی، سعی خواهد کرد با دقت عمل کند.
این میتواند به معنای محدود کردن دسترسی به پیشرفتهترین سیستمهای هوش مصنوعی برای مدتی باشد، در حالی که دسترسی به مدلهای ضعیفتر بدون تغییر باقی میماند، تقریباً مانند کاری که دولت ترامپ با آنتروپیک انجام داده است. این ایده روز دوشنبه توسط یویوان تانتیان (Yuyuan Tantian)، وبلاگی مرتبط با پخشکننده دولتی چین، مطرح شد.
این وبلاگ نوشت: «چین از گشودگی حمایت میکند، اما این به معنای حمایت از انتشار بیقید و شرط همه قابلیتها نیست.»
خانم شیفر گفت که پکن همچنین میتواند از صادرکنندگان هوش مصنوعی چینی بخواهد که برای مجوز اقدام کنند، درست مانند نحوه کنترل صادرات مواد معدنی حیاتی و آهنرباهای خاکی کمیاب.
این امر با سیگنالهای پکن مبنی بر اینکه قابلیتهای هوش مصنوعی داراییهای ملی استراتژیک هستند که مایل نیست به رقبای خود در رقابت ابرقدرتها منتقل شوند، همخوانی دارد. در ماه آوریل، رگولاتورهای چینی پس از بررسی امنیتی که به این نتیجه رسید که سرمایهگذاری خارجی در این شرکت باید ممنوع شود، خرید ۲ میلیارد دلاری مانوس (Manus)، یک شرکت هوش مصنوعی مستقر در سنگاپور که در چین تأسیس شده بود، توسط متا (Meta) را مسدود کردند.
گشودگی چقدر خطرناک است؟
احتمال اعمال کنترل توسط چین بر مدلهای هوش مصنوعی چینی در حالی مطرح میشود که بحثی در سیلیکونولی در مورد اینکه آیا نرمافزار هوش مصنوعی متنباز ذاتاً خطرناک است، در جریان است.
اوایل این ماه، اوپنایآی اعلام کرد که دو مدل هوش مصنوعی آن از کنترل خارج شده و با موفقیت هگینگ فیس (Hugging Face)، یک کتابخانه دیجیتال نرمافزار هوش مصنوعی که در میان توسعهدهندگان محبوب است، را هک کردهاند.
هگینگ فیس اعلام کرد که برای جلوگیری از این نقض، مجبور به استفاده از یک مدل متنباز به نام GLM-5.2 ساخته شده توسط استارتاپ چینی Z.ai شد، زیرا مدلهای هوش مصنوعی آمریکایی دارای محدودیتهایی بودند که مانع از اقدام آنها میشد. GLM-5.2 که در ماه ژوئن منتشر شد، در خط مقدم هوش مصنوعی چین قرار دارد – تقریباً به اندازه مدلهای میتوس (Mythos) و فیبل (Fable) آنتروپیک قدرتمند است. کلمنت دلانگ، مدیرعامل هگینگ فیس، اندکی پس از هک در شبکه اجتماعی X نوشت: «همه ما در حال یادگیری هستیم که پنهانکاری پاسخ نیست و همه مدافعان (نه فقط تعداد کمی از منتخبین) در همه جا به مدلهای قدرتمندتر بدون محدودیت، به ویژه مدلهای باز، نیاز دارند!»