کنفرانس KubeCon اروپا: نحوه مدیریت Kubernetes بر 6G، مدل‌های زبانی بزرگ و فضای عمیق

لندن - سخنرانی‌های اصلی نهایی آخرین روز KubeCon + CloudNativeCon Europe تأکید کرد که Kubernetes در آینده بسیار نزدیک باید از چه چیزی پشتیبانی کند.

حتی در میان کسانی که هنوز با استقرار Kubernetes و مدیریت زیرساخت‌های کانتینری عظیم دست و پنجه نرم می‌کنند - که اغلب در محیط‌های جغرافیایی مختلف گسترش یافته‌اند - آینده مجموعه جدیدی از چالش‌ها را به همراه دارد. راه حل‌هایی برای بسیاری از این چالش‌ها در حال حاضر در حال توسعه هستند.

حمایت جامعه همچنان در توسعه منبع باز برای حمایت از بزرگترین پروژه بنیاد محاسبات ابری بومی (Cloud Native Computing Foundation) ضروری است.

همانطور که در بحث‌های اصلی روز جمعه نشان داده شد، دامنه وسیع زیرساخت Kubernetes در حال گسترش است تا از موارد استفاده پیشرفته پشتیبانی کند. این شامل استقرارهای Telco برای زیرساخت فعلی 5G و در حال ظهور 6G، و همچنین کاهش تأخیر در توکنایزه کردن و پیاده‌سازی مدل‌های زبانی بزرگ (LLM) در محیط‌های Kubernetes است.

در مورد اخترفیزیکدانانی که در حال مطالعه فضای بیرونی هستند، زیرساخت مورد استفاده برای تجزیه و تحلیل داده‌ها باید از نظر تئوری قادر به انجام تعداد تقریباً بی‌نهایتی از محاسبات باشد.

بالانس بار همیشه نیاز به بهبود دارد، اما LLMها روی Kubernetes حتی مشکلات تأخیر بیشتری را برای انتقال داده ارائه می‌دهند.

در طول سخنرانی "بالانس بار آگاه از LLM در Kubernetes: عصر جدیدی از کارایی"، مهندس برجسته گوگل، کلیتون کولمن، و مهندس Bytedance، جیاکسین شان، در مورد افزونه استنتاج API گیت‌وی Kubernetes (Kubernetes Gateway API Inference Extension) بحث کردند. کولمن گفت که این افزونه، گیت‌وی‌های Kubernetes را به گیت‌وی‌های استنتاج تبدیل می‌کند و به تیم‌های پلتفرم بزرگ و کوچک سود می‌رساند.

این افزونه که از آزمایش‌ها در گوگل و Bytedance به دست آمده است، به تغییر از مدل‌های اختصاصی به مدل‌های باز می‌پردازد و بر مبادله بین مدل‌های بزرگ و پیشرفته و مدل‌های کوچکتر و کارآمدتر تأکید می‌کند. کولمن گفت که چالش‌های اصلی شامل بار GPU غیرقابل پیش‌بینی، مدل‌های فشرده از نظر منابع و ناهمگونی سخت‌افزار است.

کولمن گفت: «اجرای مدل‌های بزرگ در حال تبدیل شدن به بخش اساسی زیرساخت برنامه است و در سال‌های آینده، این یک عمل استاندارد خواهد بود. برای آماده شدن برای این موضوع، باید APIها و مؤلفه‌هایی را که می‌توان استانداردسازی و استفاده مجدد کرد، شناسایی کنیم. همچنین به یک چارچوب مشترک نیاز داریم که آخرین تحقیقات و محیط‌های تولید را به هم متصل کند و از انتقال روان از نوآوری به استقرار اطمینان حاصل کند. اگر یک بالانسر بار استاندارد، پویا و قابل توسعه وجود داشته باشد، باید به تکامل خود ادامه دهد تا این نیازها را برآورده کند.»

در طول سخنرانی "تکامل بومی ابری در مخابرات: 5G، 6G و فراتر از آن!"، یک پنل با حضور Faseela K از Ericsson، Tom Kivlin از Vodafone، Philippe Ensarguet از Orange و Joel Studler از Swisscom در مورد نقش حیاتی منبع باز بومی ابری در شبکه‌های 5G و نقشی که در آینده ایفا خواهد کرد، بحث کردند.

استودلر گفت که Swisscom برای GitOps به ابزارهایی مانند Flux و برای اتوماسیون به Kubernetes متکی است و زمان استقرار را از هفته‌ها به چند دقیقه کاهش می‌دهد. استودلر گفت که پراکسی‌های CNCF در "سفر تحول شبکه ما" ضروری هستند.

استودلر گفت: «در مخابرات، ما هنوز عادت داریم که از نظر راه حل‌های فیزیکی و جعبه سیاه فکر کنیم. یک باور پایدار وجود دارد که ما نیاز به مجازی‌سازی سیستم‌های سنتی داریم که برخلاف رویکرد باز و ساده شده فناوری‌های بومی ابری است.»

ابزارهای بومی ابری Swisscom شامل موارد زیر است:

• Flux برای استقرارهای CNS.
• NetConf برای مدیریت سیستم.
• Cert-Manager با PKI خود.
• ExternalDNS برای اتوماسیون مدیریت DNS با استفاده از ExternalDNS.

استودلر گفت: «با هماهنگ‌سازی همه چیز از طریق مدل منبع Kubernetes (KRM)، ما به دستاوردهای بهره‌وری قابل توجهی دست می‌یابیم - زمان‌های فرآیند را از هفته‌ها و روزها به ساعت‌ها و دقایق کاهش می‌دهیم.»

کارولینا لیندکویست، متخصص سیستم در موسسه فناوری فدرال سوئیس لوزان (EPFL)، تحت چتر پروژه Square Kilometre Array (SKA)، توضیح داد که چگونه واحد مرکز منطقه‌ای SKA سوئیس (CHSRC) در شبکه جهانی مرکز منطقه‌ای SKA (SRCNet) به Kubernetes به عنوان یک صفحه مدیریت سرویس متکی است تا از موارد استفاده نجومی با داده و محاسبات فشرده پشتیبانی کند.

لیندکویست گفت که SKA سالانه تا 600PB داده دریافت خواهد کرد که نیاز به ذخیره‌سازی و توزیع جهانی دارد. این پروژه شامل 12 تیم همکار و ایالت‌های شریک مختلف است. این داده‌ها برای تحقیق در مورد موضوعاتی مانند حوزه کیهانی و فیزیک خورشیدی استفاده خواهد شد. لیندکویست گفت که سایت سوئیس از یک زیرساخت بومی ابری، از جمله یک ابررایانه، برای پردازش و توزیع داده‌ها استفاده می‌کند.

در طول یک دمو، لیندکویست یک گردش کار نجومی را ارائه کرد. این شامل گرفتن یک تصویر از فضا با یک تلسکوپ و سپس پردازش آن برای تجزیه و تحلیل بود.