اعلام در دسترس بودن عمومی NVIDIA Secure AI
با توجه به اینکه بسیاری از شرکتها به سمت اجرای آموزش یا استنتاج هوش مصنوعی بر روی دادههای خود حرکت میکنند، دادهها و کد باید محافظت شوند، به ویژه برای مدلهای زبانی بزرگ (LLM). بسیاری از مشتریان نمیتوانند به دلیل حساسیت دادهها، خطر قرار دادن دادههای خود در فضای ابری را بپذیرند. چنین دادههایی ممکن است حاوی اطلاعات شناسایی شخصی (PII) یا اطلاعات اختصاصی شرکت باشد و مدل آموزش دیده دارای مالکیت معنوی (IP) ارزشمندی است.
محاسبات محرمانه NVIDIA (CC) بهترین راه حل برای محافظت از مدلها و دادههای بزرگ هوش مصنوعی است. با NVIDIA CC، شرکتها نیازی به مصالحه بین عملکرد و امنیت ندارند. NVIDIA CC را در سال 2023 منتشر کرد و همچنان با شرکای CPU، ارائه دهندگان ابر و فروشندگان مستقل نرم افزار (ISV) همکاری میکند تا اطمینان حاصل شود که تغییر از حجمهای کاری شتابیافته سنتی به حجمهای کاری محرمانه و شتابیافته روان و شفاف خواهد بود.
این پست آخرین نسخه برای Secure AI یا Protected PCIe را در NVIDIA HGX H100 8-GPU و NVIDIA HGX H200 8-GPU توضیح میدهد. این شامل:
- حالت Protected PCIe (PPCIE): PPCIE از multi-GPU با هشت GPU و چهار سوئیچ در ماشین مجازی محرمانه محافظت میکند. این حالت با یک GPU واحد با CC که با استفاده از حالت CC پیکربندی شده است، متفاوت است.
- حذف رمزگذاری NV Link: برای بهبود عملکرد.
- تغییرات Attestation: برای اندازهگیری پیکربندی GPU و سوئیچ در حال اجرا در حالت PPCIE.
اهمیت امنیت
امنیت در دنیای متصل امروزی بسیار مهم است. مقادیر زیادی از دادههای تولید شده، پتانسیل عظیمی برای کسب و کارها دارد و میتواند بر کل آینده هر صنعت تأثیر بگذارد. سالها بود که حفاظت از دادههای در حال انتقال (مانند انتقال دادهها از طریق اینترنت) و دادههای در حالت استراحت (مانند رمزگذاری دادههای ذخیره شده) از طیف گستردهای از فروشندگان که چشم انداز امنیتی را در بر میگیرند، در دسترس بود.
با این حال، بسیاری از این فروشندگان نمیدانستند که دادههای در حال استفاده ممکن است در متن واضح باشند، در معرض دید باقی بمانند و در برابر حملات آسیب پذیر باشند. CC نیاز به ایمن سازی دادههای در حال استفاده را برطرف میکند و از دسترسی یا اصلاح غیرمجاز دادهها توسط کاربران غیرمجاز جلوگیری میکند.
سخت افزار و نرم افزار امنیتی برای پردازندههای گرافیکی NVIDIA
این بخش جزئیات سخت افزار و نرم افزاری را که برای شروع به کار با PPCIE در پردازندههای گرافیکی NVIDIA نیاز دارید، شرح میدهد.
سخت افزار
PPCIE به سیستمی با پردازندههای گرافیکی NVIDIA H100 Tensor Core یا NVIDIA H200 Tensor Core در سیستم HGX 8-GPU نیاز دارد. این سیستم همچنین باید دارای CPU باشد که از یک محیط اجرای مورد اعتماد (TEE) پشتیبانی میکند.
فناوری CPU CC
- AMD SEV-SNP
- Intel TDX
CPU های پشتیبانی شده
- AMD Milan (EPYC 7XX3) یا AMD Genoa (EPYC 9XX4)
- Intel Emerald Rapids (مقیاس پذیر Xeon نسل پنجم) و Intel Granite Rapids (مقیاس پذیر Xeon نسل ششم)
پردازندههای گرافیکی پشتیبانی شده
- همه حفاظتها و فایروالهای GPU در معماری NVIDIA Hopper، از جمله NVIDIA HGX H100 8-GPU 80 GB و سیستمهای HGX H200 NVL فعال شدهاند.
نرم افزار
- درایور NVIDIA: درایور مرکز داده CUDA 12.8 (r570) یا بالاتر
- NVIDIA firmware 1.7.0 یا بالاتر
- هایپروایزرهای پشتیبانی شده: Microsoft Azure Hyper-V، KVM
- سیستم عاملهای پشتیبانی شده
- AMD: Ubuntu 25.04
- Intel: Ubuntu 24.04 با پچها
شروع شدن
پشتیبانی از PPCIE اکنون به طور کلی در CUDA 12.8 در دسترس است. اکنون میتوانید LLMهای خود را با PPCIE اجرا کنید تا از عملکرد کامل 8-GPU با آخرین امنیت سخت افزاری استفاده کنید.
برای راهنمای استقرار و مستندات مربوطه برای Secure AI (Protected PCIe)، به راهنمای استقرار NVIDIA مراجعه کنید. برای بررسی پیشنهادات امنیتی اضافی، از جمله محاسبات محرمانه NVIDIA، به راه حلهای محاسبات مورد اعتماد NVIDIA مراجعه کنید.