در اوایل سال جاری، آنتروپیک شروع به عرضه جدیدترین مدل هوش مصنوعی خود، Mythos، به تعداد محدودی از سازمانها کرد که بخشی از یک پرتاب آهسته و با دقت بود.
هدف این بود که به آنها فرصت کافی داده شود تا هرگونه نقص امنیتی سایبری در کدهای خود را برطرف کنند. آنتروپیک هشدار داده بود که Mythos به اندازهای قدرتمند است که میتواند به راحتی در دفاعیات آنها شکاف ایجاد کند.
چند ماه بعد، کریس اولاه، یکی از بنیانگذاران آنتروپیک، این هفته به واتیکان سفر کرد تا در مراسم اعلام اولین بخشنامه پاپ لئو سخنرانی کند، که موضوع آن درباره هوش مصنوعی و خطرات مرتبط با آن بود. در اظهارات خود، اولاه به طرز هشداردهندهای گفت که تیم مهندسان او همواره در حال کشف چیزهای مرموز و حتی "نگرانکننده" در مدلهای شرکت هستند.
با در نظر گرفتن همه اینها، مشتریان این شرکت نگران شدهاند. توسعهدهندگانی که هفته گذشته در کارگاههای آموزشی Claude Code در لندن شرکت کرده بودند، به پارمی اولسون از بلومبرگ گفتند که آنها نگران مدلها و عوامل هوش مصنوعی هستند که سطوح بیسابقهای از خودمختاری به آنها داده میشود و این امر سوالات جدی را در مورد پاسخگویی در صورت بروز مشکل مطرح میکند.
کت وو، مدیر محصول Claude Code، به اولسون اطمینان داد که این سیستم "بهطور باورنکردنی ایمن است" و بیشتر مسئله به ارتباطات ناکافی مربوط میشود، نه به عدم وجود کنترلها.
اما این موضوع به احتمال زیاد برای توسعهدهندگانی که احساس میکنند از فرآیند برنامهنویسی کنار گذاشته میشوند و به تماشای ابزار هوش مصنوعی در تولید کد برای ساعتها یا حتی روزها تنزل یافتهاند، آرامشبخش نخواهد بود. دیگران نیز اشاره کردند که جدیدترین نسخههای Claude Code دیگر متنی که روند فکری آنها را توضیح دهد، نمایش نمیدهند و این امر عملکرد داخلی آنها را مبهمتر میکند.
این موضوع به ویژه از آن جهت حائز اهمیت است که آنتروپیک به شدت تلاش میکند خود را به عنوان یک شرکت اخلاقمدار و مسئولیتپذیر معرفی کند، همانطور که حضور بسیار غیرمعمول اولاه در واتیکان این هفته به خوبی نشان میدهد.
از بسیاری جهات، به نظر میرسد شرکت هوش مصنوعی هر دو چیز را میخواهد: هم خواستار نظارت و دقت بیشتر است و هم ابزارهای قدرتمند هوش مصنوعی را عرضه میکند که توسعهدهندگان انسانی را نگران کردهاند.
خطرات احتمالی هرگز به این روشنی آشکار نبودهاند. با کاهش نظارت انسانی، خطاهای آتی که ابزارهایی مانند Claude Code ممکن است معرفی کنند، میتوانند به طور فزایندهای دشوارتر شوند. کارشناسان همچنین در مورد کاهش مهارتها هشدار دادهاند، زیرا برنامهنویسان به طور فزایندهای به دستیاران کدنویسی هوش مصنوعی تکیه میکنند. همانطور که رسانه 404 Media در اوایل این ماه گزارش داد، بسیاری از توسعهدهندگان با نگرانی مشاهده میکنند که همکارانشان به دلیل اتکای بیش از حد به نرمافزار، به سرعت مهارتهای فنی خود را از دست میدهند.
اما شاید همه چیز از دست نرفته باشد. با توجه به اینکه دسترسی به این ابزارها با روشن شدن هزینههای واقعی هوش مصنوعی برای بسیاری به طور فزایندهای پرهزینه میشود، شاید نظارت انسانی بسیار مورد نیاز هنوز به طور کامل از بین نرفته باشد.