- رقیبان خارجی در حال دسترسی به سیستمهای هوش مصنوعی آمریکایی برای آموزش فناوریهای رقیب هستند - فرآیندی که تقطیر نامیده میشود - و نسخههای تقلبی را با قیمت پایینتر میفروشند.
- آنتروپیک تلاش میکند تا روی آنچه که شیوههای غیرقانونی شامل استفاده از وب تاریک و سرقت مالکیت فکری میداند، برخورد کند.
- «اکوسیستم غیرقانونی کاملی وجود دارد که سعی در کسب دسترسی به کلود و سایر مدلها دارد»، جیکوب کلین، رئیس هوش تهدیدات آنتروپیک، گفت.
جیکوب کلین، رئیس هوش تهدیدات آنتروپیک، میگوید شرکتش از رقابت استقبال میکند. اما آنچه از بازار چین خارج میشود، چیزی بسیار نزدیک به سرقت است، به گفته او.
دشمنان خارجی، به گفته کلین، به مدلهای کلود آنتروپیک دسترسی پیدا میکنند - فرآیندی که تقطیر نامیده میشود - تا فناوریهای رقیب را آموزش دهند و نسخههای تقلبی را با قیمت پایینتر بفروشند. اگرچه تقطیر میتواند به صورت قانونی انجام شود، اما کلین میگوید که اینجا چنین اتفاقی نمیافتد.
«اکوسیستم غیرقانونی کاملی وجود دارد که سعی در کسب دسترسی به کلود و سایر مدلها دارد»، کلین به CNBC گفت. «این اکوسیستم از هر وسیلهای برای دور زدن کنترلهای ما استفاده میکند تا بتوانند حسابها را در مقیاس عظیم راهاندازی کنند.»
تقطیر به یک موضوع بحثبرانگیز در سراسر منظر هوش مصنوعی تبدیل شده است. بسته به نحوه انجام آن، این عمل میتواند به توسعهدهنده مدل اجازه دهد تا از خروجی فناوری شرکت دیگری برای ایجاد محصولی رقابتی با کسری ناچیز از هزینه استفاده کند. در ایالات متحده، برخی گروهها در بخش فناوری خواستار سیاستگذاران شدهاند تا از مقرراتگذاری پرهیز کنند تا بهترین و مقرونبهصرفهترین هوش مصنوعی پیروز شود، در حالی که دیگران لابیگری برای سرکوب آنچه که سرقت مالکیت فکری میدانند، انجام میدهند.
در یک بیانیه در آوریل، دولت ترامپ نوشت که تقطیری که تحقیقات و اطلاعات انحصاری آمریکا را تضعیف میکند، «غیرقابل قبول» است و گفت که این دولت «مجموعهای از اقدامات» را برای مسئولسازی بازیگران خارجی بررسی خواهد کرد.
این تهدید در لحظهای حساس برای آنتروپیک در حال تشدید است. این شرکت پنج ساله به ارزشگذاری خصوصی نزدیک به یک تریلیون دلار رسیده و انتظار میرود تا اکتبر به صورت عمومی وارد بازار شود، همانطور که CNBC گزارش داده است.
آنتروپیک آزمایشگاه هوش مصنوعی چینی موشنشوت AI را به عنوان یکی از شرکتهایی که طبق ادعای آن از فناوری آنتروپیک سوءاستفاده میکند، هدف قرار داده است. مدل کیمی K3 موشنشوت در جولای با ارائه هوش مصنوعی سطح پیشرفته و ارزانتر، جهان فناوری را شوکه کرد. این مدل به لطف قیمت پایینتر و توانایی شرکتها برای سفارشیسازی آسانتر آن، در سیلیکون ولی به طور گسترده مورد پذیرش قرار گرفته است.
کلین گفت که کیمی K3 به صورت غیرقانونی بر اساس جدیدترین نسخه کلود آموزش دیده است.
«ما نمونههای زیادی از این رفتار از چین دیدهایم»، کلین گفت. «این چیزی است که صنعت به طور کلی با آن دست و پنجه نرم میکند.»
اوایل امسال، آنتروپیک ادعا کرد که موشنشوت و دو آزمایشگاه هوش مصنوعی چینی دیگر - دیپسیک و مینیمکس - مدلهای پیشرفته هوش مصنوعی آن را تقطیر کردهاند. آنتروپیک همچنین علیبابا را که خانواده مدلهای کوئن را تولید میکند، به انجام یک «حمله تقطیر» گسترده برای به دام انداختن غیرقانونی قابلیتهای کلود متهم کرده است. اوپنایآی و گوگل نیز گزارشهایی درباره تقطیر منتشر کرده و مدعی هستند که با همین مشکل دست و پنجه نرم میکنند.
علیبابا، دیپسیک، موشنشوت و مینیمکس به درخواستهای نظرخواهی پاسخی ندادند.
'روشهای تقلبآمیز'
کارشناسان امنیت سایبری به CNBC گفتند که علاوه بر چین، تهدید از کشورهایی مانند ایران، روسیه و کره شمالی نیز ناشی میشود، جایی که استفاده از کلود، جیمینی گوگل و چتجیپیتی اوپنایآی به دلیل تحریمها توسط شرکتها محدود شده است.
کلین گفت که بسیاری از آزمایشگاهها در آن مناطق «از روشهای غیرقانونی و تقلبآمیز برای کسب دسترسی به یک مدل استفاده میکنند.»
یکی از راههایی که مردم برای دور زدن این محدودیتها استفاده میکنند، مراجعه به وب تاریک است، جایی که میتوانند بازارهایی از اطلاعات کارتهای اعتباری دزدی و حسابهای هوش مصنوعی نفوذ یافته پیدا کنند. کلین گفت که شرکتهایی مانند موشنشوت «دهها هزار، اگر نه صدها هزار حساب تقلبآمیز راهاندازی میکنند.»
پس از اینکه به سیستمهای آنتروپیک دسترسی پیدا میکنند، میتوانند از مدلها سوال بپرسند و پاسخها را جمعآوری کنند که سپس میتوانند برای آموزش مدل خود، که اغلب «دانشجو» نامیده میشود، استفاده کنند، به گفته کلین.
نشانه واضحی از وقوع تقطیر این است که یک کاربر ممکن است هزاران سوال بپرسد، نه چند ده سوال، و حتی ممکن است هزاران حساب برای انجام همین کار ایجاد کند که سناریویی شبیه به بازی «ضربه به خرگوش» را برای آزمایشگاههای هوش مصنوعی ایجاد میکند، به گفته کلین.
«توقف کامل این مشکل بسیار دشوار است، اما فکر میکنم کند کردن آن خوب و ارزشمند است»، کلین گفت و افزود که شرکتهای خارجی میتوانند از این فناوری با حداقل ضوابط ایمنی استفاده کنند.
او به ترسهایی مانند نظارت و احتمال استفاده در برنامه سلاحهای بیولوژیکی اشاره کرد و کمپین خاصی را که توسط یک نهاد مستقر در چین انجام شده بود و جاسوسی در مقیاس بزرگ با استفاده از فناوری آنتروپیک را هدف قرار داده بود، یادآور شد.
«نگرانی امنیتی ملی در میان است اگر بازیگران مخرب یا بدخواهی که به آنها اعتماد نداریم، از طریق عمل تقطیر به مدلهای قدرتمندتری نسبت به آنچه در غیر این صورت امکانپذیر بود، دسترسی پیدا کنند.»
تراویس لنهام، مدیر فناوری شرکت امنیت سایبری آرمادین و مهندس سابق گوگل، گفت که بازیگران بدخواه اغلب شناسایی نمیشوند زیرا شرکتهای هوش مصنوعی تحت فشار هستند تا پلتفرمهای خود را تا حد امکان در دسترس قرار دهند، در حالی که با رقبا مسابقه میدهند.
«این شرکتها میلیاردها درخواست را پردازش میکنند»، لنهام درباره آزمایشگاههای بزرگ هوش مصنوعی گفت. «میلیونها درخواست در مقایسه با همه چیز نسبتاً کوچک است و فقط سعی میکنند وارد شوند و مانند بقیه جمعیت به نظر برسند.»
کلین میپذیرد که برای آنتروپیک، رقابت گسترده مورد انتظار است و روشهای قانونی تقطیر وجود دارد. این معمولاً به معنای کسب مجوزها و رعایت قوانین در مواردی مانند مالکیت فکری و کنترلهای صادراتی است.
«فکر میکنم رقابت عالی است»، کلین گفت. «نگرانی اینجا این است که اگر شما مدل ما را بردارید، از طریق روشهای تقلبآمیز تقطیر کنید، میلیونها حساب جعلی با استفاده از کارتهای اعتباری دزدی و زیرساختهای دزدی ایجاد کنید تا سپس مدلی را تولید کنید که ضوابط ایمنی در آن اعمال نشده باشد.»
تماشا کنید: آنتروپیک به دنیای فیزیکی قدم میگذارد
