کامپایل مولد از چهار برابر مدل های بیشتر پشتیبانی می کند، زمان پیاده سازی را به میزان قابل توجهی کاهش می دهد.
شرکت آنتدر هوش مصنوعی (Untether AI®)، پیشرو در زمینه شتابدهی استنتاج هوش مصنوعی متمرکز بر انرژی، امروز از پیشرفتی در پشتیبانی از مدلهای هوش مصنوعی و سرعت توسعهدهندگان برای کاربران کیت توسعه نرمافزار (SDK) imAIgine® خبر داد. با استفاده از یک فناوری کامپایلر مولد پیشگامانه، نسخه آتی SDK imAIgine از 4 برابر مدلهای هوش مصنوعی بیشتری نسبت به نسخههای قبلی پشتیبانی خواهد کرد. علاوه بر این، برای شبکههای عصبی جدیدی که کاربران ممکن است طراحی کنند، کامپایلر مولد بهطور خودکار هستههای جدیدی را برای این لایهها ایجاد میکند و زمان توسعه را فقط به چند دقیقه کاهش میدهد و سرعت توسعهدهندگان را به میزان قابل توجهی افزایش میدهد.
فناوری کامپایلر مولد، توسعه را برای استقرار واقعی با فشار یک دکمه سرعت می بخشد
کامپایلرهای مبتنی بر هسته به برنامه های c/c++ کدگذاری شده دستی برای هر لایه در یک شبکه عصبی نیاز دارند. با هزاران هسته احتمالی مورد نیاز برای پشتیبانی از تعداد فزاینده شبکه های عصبی، این هسته ها به یک گلوگاه در کاهش شبکه های عصبی به پیاده سازی سخت افزاری تبدیل می شوند. برای حل این گلوگاه، آنتدر هوش مصنوعی فناوری کامپایلر مولد را توسعه داده است که شبکه های عصبی را دریافت می کند و یک سری تبدیل های تخصصی کامپایلر را اعمال می کند که عملگرهای شبکه عصبی سطح بالا را به ابتدایی ترین عناصر محاسباتی کاهش می دهد. سپس این عناصر اولیه در یک نمایش بهینه شده برای سخت افزار دوباره ترکیب می شوند و توان عملیاتی را به حداکثر می رسانند، تأخیر را به حداقل می رسانند و کارایی را در معماری محاسباتی در حافظه آنتدر هوش مصنوعی افزایش می دهند. با فشار یک دکمه، شبکه های عصبی می توانند در عرض چند ثانیه به دستگاه ها و کارت های speedAI® آنتدر هوش مصنوعی کاهش یابند.
این فناوری جدید به طور پیش فرض تعداد مدل های پشتیبانی شده توسط SDK imAIgine را به بیش از 300 مدل افزایش می دهد که شامل شبکه های عصبی است که تشخیص شی، تقسیم بندی معنایی، طبقه بندی، تشخیص خطا و بسیاری از عملکردهای دیگر را انجام می دهند. این گستره پشتیبانی بر اساس عملکرد معتبر و مزایای بهره وری انرژی آنتدر هوش مصنوعی که در آخرین ارسالی های استنتاج MLPerf نشان داده شده است، بنا شده است.
برای شبکههای عصبی جدید یا لایههای اصلاحشده شبکههای عصبی، کامپایلر مولد میتواند هستههای جدیدی را به صورت لحظهای ایجاد کند که برای بیش از 1400 پردازنده RISC-V و عناصر پردازشی محاسباتی در حافظه در راهکارهای شتابدهی استنتاج مبتنی بر speedAI بهینه شدهاند.
بهینه سازی های مبتنی بر هسته برای حداکثر عملکرد در دسترس هستند
کامپایلر جدید توانایی استفاده از هسته های بهینه شده و دست ساز را حفظ می کند. کامپایلر این گزینه را دارد که از هسته های موجود استفاده کند، اما اگر هسته ای در کتابخانه وجود نداشته باشد، از فناوری مولد برای ساخت هسته های جدید به صورت لحظه ای استفاده می شود. این توانایی ترکیب و تطبیق هسته های از پیش موجود و بهینه شده با هسته های تولید شده، سرعت زمان پیاده سازی شبکه های عصبی با عملکرد بالا را افزایش می دهد.
الکس گربیچ، دکتر و معاون مهندسی نرم افزار در آنتدر هوش مصنوعی گفت: "این فناوری کامپایلر جدید، نهایت بهره وری و انعطاف پذیری را فراهم می کند." "با معرفی فناوری کامپایلر مولد خود، مشتریان مسیری سریعتر به بازار به دست میآورند و به سرعت به استقرار شبکههای عصبی خود بر روی معماری آنتدر هوش مصنوعی دست مییابند."
این فناوری کامپایلر مولد جدید در نسخه 25.04 SDK imAIgine خواهد بود که برای دسترسی در اوایل آوریل 2025 برنامه ریزی شده است. برای به دست آوردن دسترسی زودهنگام به SDK، لطفاً به https://www.untether.ai/imaigine-sdk-early-access-program/ مراجعه کنید.