IIT Madras و بنیاد فناوری IITM Pravartak با Ziroh Labs واقع در کالیفرنیا برای تأسیس مرکز تحقیقات هوش مصنوعی (CoAIR) به منظور حل چالشهای دسترسی به محاسبات هند با استفاده از مدلهای هوش مصنوعی بهینه شده برای CPUها و دستگاههای لبه همکاری کردهاند.
این اعلامیه در طی رویدادی که در IIT Madras برگزار شد، صورت گرفت. در این رویداد، Ziroh Labs از اولین نسخه Kompact AI، یک پلتفرم هوش مصنوعی که مدلهای پایه را قادر میسازد تا بر روی CPUها ساخته و ارائه شوند و نیاز به GPUها را از بین میبرد، رونمایی کرد.
این همکاری با ماموریت «هوش مصنوعی برای همه» هند همسو است. Kompact AI توسط دانشمندان و مهندسان هندی توسعه یافته است و در حال حاضر قادر به اجرای 17 مدل بهینه شده، از جمله DeepSeek، Qwen و Llama بر روی CPUها است. این مدلها از نظر عملکرد و دقت با همکاری IIT Madras مورد ارزیابی قرار گرفتهاند.
Madhusudhanan Baskaran، مشاور اصلی بنیاد فناوری IITM Pravartak، گفت: «با اجرای مدلهای هوش مصنوعی بر روی CPUها، ما پتانسیل هوش مصنوعی را بدون هزینههای سنگین زیرساختی که معمولاً با GPUها همراه است، آزاد میکنیم. از طریق CoAIR، ما مدلهای هوش مصنوعی خاص و عملی ایجاد خواهیم کرد که میتوانند در مقیاس بزرگ مستقر شوند و به نفع مردم در مناطق روستایی و محروم باشند.»
V Kamakoti، مدیر IIT Madras، گفت که این ابتکار نشاندهنده یک رویکرد الهام گرفته از طبیعت است. «آنها پلتفرمی را ارائه میدهند که از مدلهای سفارشی و آموزشدیده خاص دامنه برای ارائه استنتاجهای دقیق بر روی ماشینهای محاسباتی متعارف مقرون به صرفه استفاده میکند. این یک گام بزرگ در جلوگیری از شکاف احتمالی هوش مصنوعی بین کسی است که میتواند سیستمهای مدرن هایپرسکیل را تهیه کند و کسی که نمیتواند.»
Ziroh Labs قابلیتهای Kompact AI را در این رویداد به نمایش گذاشت. در این رویداد، مقامات برجستهای از جمله Whitfield Diffie، برنده جایزه تورینگ، Scott McNealy، یکی از بنیانگذاران Sun Microsystems، و دیگرانی از دانشگاه و صنعت حضور داشتند. این پلتفرم از عملکرد آفلاین پشتیبانی میکند و برای استقرار در مناطق دورافتاده با دسترسی محدود به اینترنت مناسب است.
Hrishikesh Dewan و Igneta DSouza، بنیانگذاران Ziroh Labs، اظهار داشتند: «برای اینکه هوش مصنوعی به نفع همه باشد، باید قابل دسترس، مقرون به صرفه و سازگار با شرایط دنیای واقعی باشد. Kompact AI برای چنین نیازهایی طراحی شده است و به طور موثر بر روی CPUها کار میکند و برای برنامههای کاربردی خاص بهینه شده است.»
Kompact AI شامل یک کتابخانه مدل است که متن، گفتار، بینایی و مدلهای چندوجهی را در بر میگیرد و همگی برای اجرا بر روی CPU تنظیم شدهاند. این پلتفرم همچنین یک محیط زمان اجرا - Common AI-Language Runtime (ICAN) - ارائه میدهد که از بیش از 10 زبان برنامهنویسی برای توسعهدهندگان برای کار با این مدلها پشتیبانی میکند.
این پلتفرم به طور خاص مدلهایی با کمتر از 50 میلیارد پارامتر را هدف قرار میدهد و استنتاج و تنظیم دقیق را بدون به خطر انداختن کیفیت بهینه میکند. در این اطلاعیه آمده است: «هر چیزی که میتوان بر روی GPU محاسبه کرد، میتوان بر روی CPU نیز محاسبه کرد.» Kompact AI از معایب رایج مدلهای کوانتیزه شده و تقطیر شده، که معمولاً دقت را با کارایی معامله میکنند، اجتناب میکند.
Sowmya Narayanan Sadagopan، مدیر سابق IIIT بنگلور، خاطرنشان کرد: «Kompact AI با ترکیب در دسترس بودن ابزارهای توسعه و استقرار هوش مصنوعی با استفاده از CPUها، ثابت میکند که هند میتواند نوآوری اقتصادی را در لبه فناوری انجام دهد. چنین راه حلی با استفاده از انرژی الکتریکی بسیار کمتر پایدار است.»
در همین حال، Apoorv Iyer، معاون اجرایی HCLTech، گفت که این شرکت با Ziroh Labs در این ابتکار همکاری خواهد کرد. «ما راهاندازی هوش مصنوعی CPU توسط Ziroh Labs را تبریک میگوییم، که نوید افزایش چشمگیر دسترسی به هوش مصنوعی را میدهد.»
CoAIR قصد دارد با استقرار مدلهای کوچکتر و خاص وظیفه بر روی دستگاههای متعارف، از موارد استفاده خاصی مانند کشاورزی، آموزش و بهداشت روستایی پشتیبانی کند.
درباره نویسنده
سیدارت جیندا
سیدارت فارغ التحصیل رشته رسانه است که عاشق کاوش در فناوری از طریق روزنامه نگاری و ارائه ایدههایی است که ارزش تفکر در مورد آنها را در عصر هوش مصنوعی دارند.