انتروپیک با اعلام اینکه کاربران را از رفتار توهین‌آمیز «مداوم و بی‌دلیل» علیه هوش مصنوعی خود منع می‌کند، تعجب‌برانگیز ظاهر شده است.
سازنده کلود روز پنجشنبه گفت که سیاست استفاده خود را به‌روزرسانی کرده تا ابزارهایش بتوانند تعاملاتی را که در آن مردم «بی‌رحم» هستند، پایان دهند؛ اقدامی که به گفته این شرکت، پیش‌تر نیز در موارد «نادر» انجام شده بود.
اکنون این مورد به فهرست رفتارهای غیرمجاز اضافه می‌شود که شامل قلدری با دیگران، ترویج خودآزاری و تولید تصاویر صمیمی بدون رضایت نیز هست.
اگرچه انتروپیک گفت که این سیاست تنها در «موارد افراطی» آزار مکرر اعمال خواهد شد، اما بحث درباره نحوه ارتباط ما با ابزارهای هوش مصنوعی را دوباره شعله‌ور کرده است.
این شرکت گفت که این قانون شامل «نسخه‌های رایج سرخوردگی کاربر، مخالفت، تم‌های خلاقانه تاریک، یا آزمایش و تحقیق مدل» نخواهد شد؛ پیشنهادی که نشان می‌دهد تنها در موارد عمدی و آشکار اعمال می‌شود.
اما آنچه انتروپیک «رفتار توهین‌آمیز یا بی‌رحمانه» علیه مدل‌های خود می‌داند، همچنان مبهم است.
اسکرین‌شات‌های سیاست جدید به طور گسترده در شبکه‌های اجتماعی به اشتراک گذاشته و مورد بحث قرار گرفت؛ برخی آن را ارتقای ادب یا «رفاه مدل‌ها» دانستند و ستایش کردند.
اما دیگران این طرح را نقد کردند؛ یکی آن را «عمیقاً اشتباه» خواند و دیگری پیشنهاد داد که ممکن است آزار علیه انسان‌ها و حیوانات را تضعیف کند.
«نمی‌توانید نسبت به اعداد و ریاضیات بی‌رحم باشید،» دکتر بری اسکَنِل، شریک فناوری در دفتر حقوقی ایرلندی ویلیام فرای، در لینکدین نوشت.
«این سطح از انسان‌نمایی (anthropomorphisation) هوش مصنوعی مضر است. باعث می‌شود مردم باور کنند چیزی است که نیست.»
مصطفی سلیمان، مدیر هوش مصنوعی مایکروسافت، که در ماه سپتامبر رقیب خود یعنی انتروپیک را به دلیل برخورد با هوش مصنوعی مانند انسان نقد کرده بود، به به‌روزرسانی انتروپیک با یک ایموجی صورت آب‌شونده واکنش نشان داد.
این تغییرات، که ابتدا توسط رسانه فناوری The Verge گزارش شد، پس از بازبینی سالانه سیاست استفاده در این شرکت انجام گرفت.
همچنین برای مقابله با ریسک‌های جدید یا نوظهور در سایر حوزه‌ها به‌روزرسانی شد؛ از جمله ممنوعیت استفاده از کلود برای «کمپین‌های فریبکارانه» یا شفاف‌سازی اینکه، با نزدیک شدن انتخابات میان‌دوره‌ای آمریکا، نمی‌توان از آن برای «فریب رأی‌دهندگان یا اختلال در انتخابات» استفاده کرد.
انتروپیک همچنین روز پنجشنبه گفت که سیاست استفاده قبلی آن، استفاده از ابزارهایش برای توسعه سلاح‌ها را ممنوع می‌کرد.
اما هیچ‌یک از این به‌روزرسانی‌ها به اندازه حرکت این شرکت برای ممنوع کردن آزار کاربران به چت‌بات‌هایش، توجه و نظارت را جلب نکرد.
این موضوع همچنین به پرسش بسیار بحث‌برانگیزی دست یافت که آیا باید هنگام استفاده از ابزارهای هوش مصنوعی مولد، خشک و رسمی باشیم یا مؤدب؟
برخی کارشناسان می‌گویند نوشتن یا گفتن «لطفاً» یا «متشکرم» به ابزارهایی مانند ChatGPT غیرضروری است و توکن‌ها را هدر می‌دهد؛ توکن‌هایی که مدل‌های زبانی بزرگ (LLM) قدرت‌بخش ابزارهای هوش مصنوعی مولد برای پردازش و پاسخ به شما استفاده می‌کنند.
دیگران استدلال می‌کنند که ادب می‌تواند منجر به پاسخ‌ها یا واکنش‌های باکیفیت‌تر شود.
وقتی یک کاربر ایکس (X) در سال گذشته درباره هزینه‌های برق ناشی از پاسخ ChatGPT به پیام‌های «لطفاً» و «متشکرم» کاربران پرسید، سام آلتمن، رئیس OpenAI گفت که «ده‌ها میلیون دلار پول خوب خرج شده - هرگز نمی‌دانید چه اتفاقی می‌افتد».
در همین حال، دیکشنری کالینز در نوامبر سال گذشته ظهور مجدد اصطلاح «کلنکر» (clanker) را برای اشاره تحقیرآمیز به ابزارهای هوش مصنوعی برجسته کرد.
این اصطلاح که از اواسط دهه ۲۰۰۰ میلادی برای توصیف ربات‌ها در بازی‌ها و فیلم‌های جنگ ستارگان استفاده می‌شد، پس از آنکه در ژوئیه گذشته بسیاری از کاربران در تیک‌تاک از سرخوردگی خود نسبت به ماشین‌های مجهز به هوش مصنوعی شکایت کردند، به فهرست کوتاه واژگان بازتاب‌دهنده حال‌وهوای سال ۲۰۲۵ راه یافت.
برخی کارشناسان همچنین این فرضیه را مطرح کرده‌اند که بی‌ادبی با چت‌بات‌های هوش مصنوعی می‌تواند بر ارتباطات انسانی تأثیر منفی بگذارد، زیرا به نحوه صحبت کردن و رفتار ما با دیگران نفوذ می‌کند.