شرکت NVIDIA رهبری بازار تراشههای هوش مصنوعی را بر عهده دارد. با این حال، به دلیل محدودیتهای سختافزاری ایالات متحده بر چین و ظهور GPUهای غیر NVIDIA، برخی از مشاغل ممکن است به دنبال کاهش وابستگی خود به محصولات NVIDIA باشند.
تیمی مرتبط با دانشگاه Tsinghua چین با انتشار یک چارچوب جدید هوش مصنوعی (AI) متنباز به نام Chitu به این تلاش پیوسته است که تحت مجوز Apache-2.0 در دسترس قرار گرفته است.
Chitu یک چارچوب استنتاجی با عملکرد بالا برای مدلهای زبانی بزرگ است که بر کارایی، انعطافپذیری و در دسترس بودن تمرکز دارد. با انتشار اولیه خود، از مدلهای مختلف زبانی بزرگ رایج، از جمله DeepSeek، سری LLama، Mixtral و غیره پشتیبانی میکند.
گزارش South China Morning Post بیان میکند که این چارچوب میتواند روی تراشههای ساخته شده در چین کار کند و سلطه واحدهای پردازش گرافیکی (GPU) سری Hopper NVIDIA را به چالش بکشد. این اطلاعات از بیانیه مشترکی در روز جمعه توسط استارتآپ Qingcheng.AI و تیمی به رهبری Zhai Jidong، استاد علوم کامپیوتر در دانشگاه Tsinghua، گرفته شده است.
این استارتآپ در سال ۲۰۲۳ توسط Jidong و دانشجویانش از دانشگاه Tsinghua تأسیس شد و او به عنوان دانشمند ارشد در آن فعالیت میکند. این گزارش بیان میکند که توسط صندوق شهرداری پکن برای صنعت هوش مصنوعی پشتیبانی میشود.
در صفحه GitHub این چارچوب ذکر شده است: "ما نه تنها بر روی GPUهای محبوب NVIDIA تمرکز میکنیم، بلکه به انواع محیطهای سختافزاری، از جمله GPUهای قدیمی، GPUهای غیر NVIDIA و CPUها توجه ویژهای داریم. هدف ما ارائه یک چارچوب همهکاره برای مواجهه با الزامات مختلف استقرار است."
در این گزارش آمده است که این شرکت ادعا میکند که در مقایسه با چارچوبهای متنباز خارجی، به افزایش ۳۱۵ درصدی در سرعت استنتاج مدل دست یافته و در عین حال مصرف GPU را تا ۵۰ درصد کاهش داده است. این بر اساس آزمایش با DeepSeek-R1 با استفاده از GPUهای A800 NVIDIA است.
این تیم بیان میکند که این چارچوب آماده و برای تولید در دنیای واقعی مستقر شده است.