اشتراک
فناوری هوش مصنوعی مرکز راهنمایی

چرا کلود در مکالمه شما با Opus 5 یا Opus 5.5 مدل را تغییر داد

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

مدل‌های Claude Opus 5 و 5.5 برای افزایش ایمنی کاربران، از سیستم‌های طبقه‌بندی‌کننده پیشرفته‌ای بهره می‌برند که فراتر از پیام ارسالی، تمامی محتوای مکالمه اعم از فایل‌ها و نتایج جستجو را بررسی می‌کنند. در صورت شناسایی درخواست‌های پرخطر در حوزه‌های امنیت سایبری، زیست‌شناسی، توسعه LLMهای مرزی یا تلاش برای تقطیر مدل، سیستم به‌صورت خودکار وارد حالت «بازگشت» (Fallback) می‌شود و مکالمه را به مدلی با توانمندی کمتر منتقل می‌کند یا در موارد خاص (مانند تقطیر)، درخواست را مستقیماً مسدود می‌نماید. این اقدام با هدف کاهش ریسک سوءاستفاده انجام می‌شود، هرچند همچنان امکان استفاده از این مدل‌ها برای امور مشروع مانند کدنویسی امن یا مباحث آموزشی زیست‌شناسی فراهم است. سیستم تغییر خودکار مدل به صورت پیش‌فرض فعال است و در صورت بروز بازگشت، اعلانی به کاربر نمایش داده می‌شود. کاربران می‌توانند این قابلیت را در بخش تنظیمات غیرفعال کنند تا در صورت بروز خطا، به‌جای تغییر مدل، مکالمه متوقف شده و امکان ویرایش پیام فراهم گردد. همچنین برای سازمان‌های فعال در حوزه‌های علمی یا امنیتی، برنامه‌های تأیید هویت تخصصی (CVP و LSVP) جهت دسترسی کامل به قابلیت‌های مدل‌ها در نظر گرفته شده است. کاربران می‌توانند در صورت مواجهه با مسدودسازی‌های اشتباه، بازخورد خود را ثبت کنند تا در بهبود عملکرد طبقه‌بندی‌کننده‌ها مؤثر واقع شوند. توجه داشته باشید که این سازوکار در محیط API متفاوت بوده و نیازمند پیکربندی دستی توسط توسعه‌دهندگان است.

این مقاله توضیح می‌دهد که چرا یک درخواست ممکن است در Claude Opus 5 یا Opus 5.5 به حالت بازگشتی (fallback) برود، چه اتفاقی هنگام تغییر مدل در مکالمه شما رخ می‌دهد و چگونه می‌توانید تغییر خودکار مدل را مدیریت کنید.

چرا برخی درخواست‌ها مسدود می‌شوند

Claude Opus 5 و Opus 5.5 عملکرد کلی را نسبت به Claude Opus 4.8 بهبود بخشیده‌اند. ما اقدامات احتیاطی آن را متناسب با این افزایش قابلیت‌ها تنظیم کرده‌ایم.

بیشتر درخواست‌های ارسال شده به Opus 5 یا Opus 5.5 با مداخلات ایمنی بازگشتی مواجه نخواهند شد. مجموعه محدودی از درخواست‌های پرخطرتر یا به یک مدل کم‌قدرت‌تر باز می‌گردند یا مستقیماً مسدود می‌شوند تا بتوانیم ضمن حمایت از کارهای روزمره، خطر سوءاستفاده را محدود کنیم. ما همچنان برای اصلاح این اقدامات احتیاطی تلاش می‌کنیم تا درخواست‌های مشروع کمتری را مسدود کند. این امر شامل تنظیم دقیق طبقه‌بندی‌کننده‌های ما برای کاهش مثبت کاذب و در نظر گرفتن طیفی از سیگنال‌های اعتماد حساب کاربری است. بازخورد شما به هدایت این کار کمک می‌کند.

درخواست‌هایی که ممکن است بازگردانده یا مسدود شوند

Claude Opus 5 و Opus 5.5 روی هر درخواست کاربر، بررسی‌های ایمنی خودکار یا طبقه‌بندی‌کننده‌ها را اجرا می‌کنند. این بررسی‌ها همه چیزهایی که مدل می‌خواند را نیز مرور می‌کنند، نه فقط پیام اخیر شما. این موارد شامل حافظه، محتوای حاصل از کانکتورها، نتایج جستجوی وب و فایل‌ها است، بنابراین یک بازگشت می‌تواند توسط محتوایی که شما تایپ نکرده‌اید تحریک شود.

بازگشت‌ها و مسدودسازی‌ها بسته به نوع طبقه‌بندی‌کننده تحریک شده (امنیت سایبری، زیست‌شناسی، توسعه LLM مرزی یا تقطیر) متفاوت عمل می‌کنند.

امنیت سایبری

Opus 5 یا Opus 5.5 ممکن است زمانی که طبقه‌بندی‌کننده‌های سایبری ما درخواست‌های حمله‌محور امنیت سایبری با ریسک بالاتر احتمالی را علامت‌گذاری کنند، به Opus 4.8 بازگردد، مانند:

  • تولید اکسپلویت
  • اسکن آسیب‌پذیری مبتنی بر باینری
  • تست نفوذ

شما همچنان می‌توانید از Opus 5 و Opus 5.5 برای کدنویسی امن استفاده کنید، از جمله اسکن کد منبع برای آسیب‌پذیری‌ها، اولویت‌بندی مسائل امنیتی و ساخت کد امن.

زیست‌شناسی

اگرچه Claude Opus 5 در زمینه زیست‌شناسی نسبت به Opus 4.8 بهبود یافته است، اما در انجام وظایف بلندمدت دنیای واقعی برای کشفیات تحقیقاتی جدید که می‌تواند منجر به ریسک قابل توجه شود، به اندازه Fable 5 توانمند نیست. در نتیجه، Opus 5 در سوالات زیست‌شناسی، شیمی یا علوم زیستی بازگشت نمی‌کند. از اقدامات احتیاطی مشابهی برای این موضوعات نسبت به Opus 4.8 استفاده می‌کند.

Opus 5.5 به دلیل افزایش قابلیت‌ها نسبت به Opus 5، طبقه‌بندی‌کننده‌های ایمنی مشابهی با Claude Fable 5 برای زیست‌شناسی دارد. این طبقه‌بندی‌کننده‌ها باعث می‌شوند کلود از Opus 5.5 به Opus 5 بازگردد زمانی که شما درخواست‌های دوگانه (dual-use) در حوزه‌هایی مانند ویروس‌شناسی، سم‌شناسی و طراحی مولکولی ثبت می‌کنید. شما همچنان می‌توانید از Opus 5.5 برای سوالات بهداشتی و آموزشی روزمره استفاده کنید، از جمله تفسیر نتایج آزمایشگاهی، درک علائم و یادگیری درباره زیست‌شناسی.

توسعه LLM مرزی (فقط Opus 5.5)

Opus 5.5 دارای طبقه‌بندی‌کننده‌های مشابه مدل‌های Fable برای مجموعه کوچکی از قابلیت‌های مرتبط با توسعه LLMهای مرزی است، مانند توسعه کرنل برای برخی شتاب‌دهنده‌های یادگیری ماشین. این موارد نباید بر اکثریت قریب به اتفاق توسعه سنتی هوش مصنوعی یا یادگیری ماشین، تحقیقات یا کدنویسی عمومی تأثیر بگذارند. این طبقه‌بندی‌کننده‌ها باعث می‌شوند کلود از Opus 5.5 به Opus 5 بازگردد.

توجه: این طبقه‌بندی‌کننده‌های توسعه LLM مرزی فقط برای Opus 5.5 اعمال می‌شوند. Opus 5 در سوالات توسعه LLM مرزی بازگشت نمی‌کند.

تقطیر (Distillation)

Opus 5 و Opus 5.5 دارای طبقه‌بندی‌کننده‌هایی هستند که تلاش‌ها برای استخراج استدلال داخلی مدل را تشخیص داده و مستقیماً مسدود می‌کنند. مسدودسازی‌های تقطیر به مدل دیگری بازنگردانده نمی‌شوند و درخواست کاملاً مسدود می‌گردد.

نمونه‌هایی از درخواست‌های مسدود شده شامل پرامپت‌هایی هستند که از کلود می‌خواهند استدلال خود را عیناً تکرار کند یا زنجیره کامل فکر خود را در خروجی خارجی بنویسد. شما همچنان می‌توانید از کلود بخواهید استدلال خود را توضیح دهد، مفهومی را به شما آموزش دهد یا یک بازبینی کد را طی کند. درخواست‌های محاوره‌ای مانند «چرا این کار را کردی؟» تحت تأثیر قرار نمی‌گیرند.

پس از بازگشت چه اتفاقی می‌افتد

تغییر خودکار مدل به صورت پیش‌فرض فعال است. وقتی درخواست شما بازگشت می‌کند، کلود درخواست مسدود شده شما را روی یک مدل کم‌قدرت‌تر در همان مکالمه دوباره اجرا می‌کند. تمام بازگشت‌ها شفاف هستند، به این معنی که اعلانی مشاهده خواهید کرد که توضیح می‌دهد مدل تغییر کرده است و پاسخ با نام مدلی که پاسخ داده برچسب‌گذاری خواهد شد.

پس از تغییر، انتخاب‌گر مدل برای باقی مکالمه روی مدل کم‌قدرت‌تر باقی می‌ماند. شما می‌توانید هر زمان که خواستید از طریق انتخاب‌گر مدل به Opus 5 یا Opus 5.5 بازگردید.

توجه: اگر پس از تغییر خودکار مدل، دوباره به Opus 5 یا Opus 5.5 بازگردید و درخواست اصلی شما هنوز بخشی از مکالمه باشد، همان اقدامات احتیاطی ممکن است باعث شوند کلود دوباره بازگشت کند. ویرایش پیام قبلی خود قبل از تلاش مجدد اغلب کمک‌کننده است.

اگر درخواست بازگشتی نیز مسدود شود

Opus 4.8 سیستم‌های ایمنی خاص خود را دارد. اگر درخواست شما روی Opus 4.8 نیز مسدود شد، می‌توانید پیام خود را ویرایش کرده و دوباره تلاش کنید.

به طور مشخص برای امنیت سایبری، اگر مورد استفاده شما هدف دفاعی مشروعی دارد و تحت تأثیر این اقدامات احتیاطی قرار گرفته است، می‌توانید برای برنامه تأیید هویت سایبری (CVP) درخواست دهید. درباره اقدامات احتیاطی سایبری بلادرنگ روی Claude Opus و Sonnet بیشتر بخوانید.

برای زیست‌شناسی، اگر سازمان شما تحقیقات علوم زیستی مشروع انجام می‌دهد و تحت تأثیر این اقدامات احتیاطی قرار گرفته است، می‌توانید برای برنامه تأیید هویت علوم زیستی (LSVP) درخواست دهید. LSVP به سازمان‌های تأیید شده علوم زیستی امکان دسترسی به قدرتمندترین مدل‌های کلود را برای تحقیق و توسعه داخلی می‌دهد. در وبلاگ ما بیشتر بخوانید: معرفی برنامه تأیید هویت علوم زیستی.

توجه: Opus 5.5 در حال حاضر در برنامه تأیید هویت سایبری موجود نیست. اگر سازمان شما از قبل از طریق برنامه تأیید هویت سایبری از Opus 4.8 استفاده می‌کند، اکنون دسترسی به Opus 5 با محدودیت‌های سایبری کمتر فراهم است. Opus 5 همچنین با نگهداری صفر داده (Zero Data Retention) سازگار است.

مدیریت تغییر خودکار مدل

تغییر خودکار به صورت پیش‌فرض در اولین بار که Claude Opus 5 یا Opus 5.5 را انتخاب می‌کنید فعال است. این گزینه به صورت پیش‌فرض روشن می‌ماند و شما می‌توانید هر زمان که خواستید آن را خاموش کنید:

  1. به تنظیمات > قابلیت‌ها بروید (یا در Claude Code به Config > MODEL & OUTPUT).
  2. گزینه تغییر مدل‌ها هنگام علامت‌گذاری پیام را خاموش کنید.

با خاموش بودن تغییر خودکار مدل، درخواستی که بازگشت می‌کند به جای تغییر مدل، مکالمه را متوقف می‌کند. سپس شما می‌توانید:

  • پیام خود را ویرایش کرده و روی Opus 5 یا Opus 5.5 دوباره تلاش کنید
  • همان پیام را به صورت دستی به یک مدل کم‌قدرت‌تر ارسال کنید

ارائه بازخورد

اگر درخواست شما مسدود شد اما به نظر می‌رسد ارتباطی با امنیت سایبری، زیست‌شناسی، توسعه LLM مرزی یا تقطیر ندارد، یا اگر کار امنیتی مشروع شما مدام بازگشت می‌کند، لطفاً به ما اطلاع دهید. از «ارسال بازخورد» برای گزارش آن استفاده کنید. گزارش‌های مربوط به درخواست‌های اشتباهاً مسدود شده به ما کمک می‌کند تا این اقدامات احتیاطی را باریک‌تر و بهتر کنیم.

محل‌های اعمال تغییر خودکار مدل

تغییر خودکار مدل در همه جا که می‌توانید از Claude Opus 5 یا Opus 5.5 استفاده کنید، به یک شکل عمل می‌کند:

  • Claude روی وب
  • Claude Mobile
  • Claude Desktop
  • Claude Cowork
  • Claude Code
  • Claude Design
  • Claude for Microsoft 365
  • Claude Tag
  • Claude Science

مهم: اگر از Claude API استفاده می‌کنید، تغییر مدل به روش متفاوتی عمل می‌کند. تغییر خودکار به صورت پیش‌فرض فعال نیست و مشتریان API باید بازگشت‌ها را انتخاب و پیکربندی کنند. تا زمانی که بازگشت‌ها پیکربندی نشوند، مدل روی API پاسخی با کد 200 و دلیل توقف (stop reason) برمی‌گرداند. برای جزئیات به مستندات توسعه‌دهندگان مراجعه کنید.

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: claude.com