آنتروپیک در حال انتشار کلود فیبل ۵، یک مدل هوش مصنوعی نسل بعدی مبتنی بر میتوس، برای عموم با تدابیر حفاظتی است.
فیبل ۵ برای پرسشهای حساس مرتبط با امنیت سایبری یا تحقیقات بیولوژیک به مدل قدیمیتر اوپوس ۴.۸ بازخواهد گشت و قابلیتهای خطرناک را حذف میکند.
مدل کامل میتوس که فیبل ۵ بر اساس آن ساخته شده است، دولت ترامپ را وادار کرد تا سیاست هوش مصنوعی خود را بازنگری کند.
آنتروپیک در حال انتشار یک مدل نسل بعدی «کلاس میتوس» برای عموم با تدابیر حفاظتی است که قابلیتهای خطرناک مرتبط با حوزههایی مانند امنیت سایبری و تحقیقات بیولوژیک را حذف میکند.
این مدل زبان بزرگ که کلود فیبل ۵ نام دارد، در بیشتر موارد به کاربران اجازه میدهد تا از میتوس، که این شرکت قبلاً آن را برای انتشار عمومی بسیار خطرناک میدانست، پرسش کنند. با این حال، اگر کاربران از فیبل در مورد مسائل حساس مانند سلاح بیولوژیک یا بهرهبرداری از یک نقص نرمافزاری سوال کنند، آنها را به نسخه قدیمیتر ربات چت کلود، یعنی اوپوس ۴.۸، بازمیگرداند.
دیان پن، رئیس مدیریت محصول، تحقیق و آزمایشگاههای آنتروپیک، گفت: فیبل ۵ گرانتر از اوپوس ۴.۸ خواهد بود، اما کارهای مرتبط با حافظه را نیز بهتر انجام میدهد. این امر آن را برای تکمیل کارهای بزرگ و پیچیده با دستورالعملهای کمتر، کارآمدتر میکند.
او گفت: «ما میخواستیم بتوانیم این سطح از هوش را به شیوهای ایمن برای کاربران عمومی فراهم کنیم.»
هکرها احتمالاً تلاش خواهند کرد تا میتوس را با وجود کنترلهای آنتروپیک، برای پاسخ به این پرسشها فریب دهند – فرآیندی که به عنوان «جیلبریک کردن» یا دور زدن محدودیتها شناخته میشود – اما این شرکت میگوید آزمایشهای گستردهای را برای دشوارتر کردن این کار انجام داده است.
از زمان اعلام آن در آوریل، میتوس باعث شده است که دولت ترامپ سیاست هوش مصنوعی خود را بازنگری کند و کارشناسان امنیت سایبری را نگران کرده است، بسیاری از آنها میگویند که میتوس و سایر مدلهای پیشرفته هوش مصنوعی اکنون انبوهی از گزارشهای اشکال را تولید میکنند.
آنتروپیک از به اشتراک گذاشتن مدل کامل میتوس خود با جهان خودداری کرده است. در حال حاضر، حدود ۲۰۰ سازمان به این فناوری دسترسی دارند، از جمله شرکتهای فناوری مانند ورایزن و مایکروسافت. آنها در تلاشند تا سیستمها و محصولات خود را از نظر امنیتی آزمایش کنند پیش از آنکه هکرها به فناوریهای مشابه دسترسی پیدا کنند.
آنتروپیک همچنین در حال ارتقاء مدل در دسترس برای این شرکای دسترسی اولیه، از میتوس پریویو به میتوس ۵ است. این شرکت قصد دارد با گذشت زمان دسترسی به این مدل را از طریق «یک برنامه دسترسی مورد اعتماد سیستماتیکتر» گسترش دهد.
پن گفت: وقتی قیمت به ازای هر توکن محاسبه شود، فیبل ۵ دو برابر اوپوس ۴.۸ هزینه خواهد داشت، اما چون برای انواع خاصی از وظایف از توکنهای کمتری استفاده میکند، ممکن است برای انواع خاصی از کارها مقرونبهصرفهتر باشد.