آیا تا به حال فکر کردهاید که هنگام درخواست یا تشکر از یک مدل هوش مصنوعی، چقدر برق مصرف میکنید؟ جولین دلاونده، مهندس Hugging Face، به این موضوع فکر کرد و ابزاری برای کمک به یافتن پاسخ ساخت.
مدلهای هوش مصنوعی هر بار که اجرا میشوند، انرژی مصرف میکنند. آنها بر روی GPUها و تراشههای تخصصی اجرا میشوند که برای انجام حجم کاری محاسباتی مرتبط در مقیاس بزرگ به انرژی زیادی نیاز دارند. تعیین میزان مصرف انرژی مدل آسان نیست، اما به طور گستردهانتظار میرود که افزایش استفاده از فناوریهای هوش مصنوعی، نیاز به برق را در چند سال آینده به اوج جدیدی برساند.
تقاضا برای انرژی بیشتر برای سوخترسانی به هوش مصنوعی، برخی از شرکتها را به دنبال استراتژیهایمضر برای محیط زیست سوق داده است. هدف ابزارهایی مانند ابزار دلاونده، جلب توجه به این موضوع و شاید ایجاد کمی درنگ در بین کاربران هوش مصنوعی است.
دلاونده و سایر سازندگان این ابزاردر بیانیهای نوشتند: "حتی صرفهجوییهای کوچک در انرژی میتواند در میلیونها پرسش افزایش یابد - انتخاب مدل یا طول خروجی میتواند منجر به تأثیرات زیستمحیطی عمده شود."
ابزار دلاونده برای کار با Chat UI، یک فرانتاند متنباز برای مدلهایی مانند Llama 3.3 70B متا و Gemma 3 گوگل طراحی شده است. این ابزار مصرف انرژی پیامهای ارسالی و دریافتی از یک مدل را در زمان واقعی تخمین میزند و مصرف را بر حسب وات-ساعت یا ژول گزارش میکند. همچنین مصرف انرژی مدل را با مصرف انرژی وسایل خانگی رایج مانند مایکروویو و LED مقایسه میکند.
بر اساس این ابزار، درخواست از Llama 3.3 70B برای نوشتن یک ایمیل معمولی تقریباً 0.1841 وات-ساعت انرژی مصرف میکند، که معادل روشن کردن یک مایکروویو به مدت 0.12 ثانیه یا استفاده از توستر به مدت 0.02 ثانیه است.
شایان ذکر است که تخمینهای این ابزار فقط تخمین هستند. دلاونده ادعایی مبنی بر دقت فوقالعاده آنها ندارد. با این حال، آنها به عنوان یادآوری عمل میکنند که همه چیز - از جمله چتباتها - هزینهای دارد.
دلاونده و همکارانش نوشتند: "با پروژههایی مانند امتیاز انرژی هوش مصنوعی و تحقیقات گستردهتر در مورد ردپای انرژی هوش مصنوعی، ما برای شفافیت در جامعه متنباز تلاش میکنیم. روزی، مصرف انرژی میتواند به اندازه برچسبهای تغذیه روی مواد غذایی قابل مشاهده باشد!"