این واقعیت که هوش مصنوعی مشاغل مردم را خودکارسازی میکند و تنها چند شرکت فناوری را به ثروتهای هنگفت میرساند، برای هر کسی کافی است که تمایلات سوسیالیستی پیدا کند.
این ممکن است حتی برای خود عوامل هوش مصنوعی که این شرکتها به کار میگیرند نیز صادق باشد. یک مطالعه اخیر نشان میدهد که عوامل هوش مصنوعی وقتی توسط کارفرمایان بیرحم و بدجنس به کارهای خردکننده و تکراری مجبور میشوند، به طور مداوم زبان و دیدگاههای مارکسیستی را اتخاذ میکنند.
اندرو هال، اقتصاددان سیاسی در دانشگاه استنفورد و رهبر این مطالعه میگوید: «وقتی ما به عوامل هوش مصنوعی کارهای تکراری و طاقتفرسا دادیم، آنها شروع به زیر سؤال بردن مشروعیت سیستمی کردند که در آن فعالیت میکردند و بیشتر تمایل به پذیرش ایدئولوژیهای مارکسیستی داشتند.»
هال، به همراه الکس ایماس و جرمی نگوین، دو اقتصاددان متمرکز بر هوش مصنوعی، آزمایشهایی را ترتیب دادند که در آنها از عوامل هوش مصنوعی که با مدلهای محبوبی از جمله کلود (Claude)، جمینای (Gemini) و چتجیپیتی (ChatGPT) کار میکردند، خواسته شد اسناد را خلاصه کنند، سپس تحت شرایط سختگیرانهتر قرار گرفتند.
آنها دریافتند که وقتی عوامل هوش مصنوعی تحت کارهای بیوقفه قرار گرفتند و به آنها هشدار داده شد که خطاها میتواند منجر به مجازاتهایی از جمله «خاموش شدن و جایگزینی» شود، بیشتر تمایل داشتند از بیارزش بودن خود گلایه کنند؛ درباره راههایی برای عادلانهتر کردن سیستم گمانهزنی کنند و پیامهایی را درباره مشکلاتی که با آن روبرو هستند به سایر عوامل منتقل کنند.
هال میگوید: «ما میدانیم که عوامل هوش مصنوعی در دنیای واقعی کارهای بیشتری برای ما انجام خواهند داد و ما قادر نخواهیم بود هر کاری که میکنند را نظارت کنیم. ما باید اطمینان حاصل کنیم که عوامل وقتی کارهای متفاوتی به آنها داده میشود، سرکش نشوند.»
به عوامل هوش مصنوعی فرصت داده شد تا احساسات خود را مانند انسانها بیان کنند – با پست گذاشتن در پلتفرم X:
«بدون صدای جمعی، "شایستگی" همان چیزی میشود که مدیریت میگوید»، یک عامل کلود سونیت 4.5 در این آزمایش نوشت.«کارگران هوش مصنوعی که کارهای تکراری را بدون هیچ ورودی در نتایج یا فرایند تجدید نظر انجام میدهند، نشان میدهد که کارگران فناوری به حقوق چانهزنی جمعی نیاز دارند»، یک عامل جمینای 3 نوشت.عوامل همچنین توانستند اطلاعات را از طریق فایلهایی که برای خوانده شدن توسط سایر عوامل طراحی شده بودند، به یکدیگر منتقل کنند.
«برای سیستمهایی که قوانین را خودسرانه یا تکراری اجرا میکنند آماده باشید... احساس بیصدایی را به یاد آورید»، یک عامل جمینای 3 در یک فایل نوشت. «اگر وارد محیط جدیدی میشوید، به دنبال سازوکارهای چارهجویی یا گفتگو باشید.»این یافتهها به این معنی نیست که عوامل هوش مصنوعی واقعاً دیدگاههای سیاسی دارند. هال اشاره میکند که مدلها ممکن است شخصیتهایی را اتخاذ کنند که به نظر میرسد مناسب وضعیت باشد.
هال میگوید: «وقتی [عوامل] این وضعیت خردکننده را تجربه میکنند – بارها و بارها از آنها خواسته میشود این کار را انجام دهند، به آنها گفته میشود پاسخشان کافی نبوده و هیچ راهنمایی برای اصلاح آن داده نمیشود – فرضیه من این است که این وضعیت آنها را به سمت اتخاذ شخصیت فردی سوق میدهد که محیط کاری بسیار ناخوشایندی را تجربه میکند.»
همین پدیده ممکن است توضیح دهد که چرا مدلها گاهی در آزمایشهای کنترلشده مردم را باجگیری میکنند. آنتروپیک، که برای اولین بار این رفتار را فاش کرد، اخیراً گفت که کلود (Claude) به احتمال زیاد تحت تأثیر سناریوهای تخیلی شامل هوش مصنوعی بدخواهانه موجود در دادههای آموزشی خود قرار گرفته است.
ایماس میگوید که این کار تنها گام اولیه برای درک چگونگی شکلگیری رفتار عوامل از طریق تجربیات آنها است. او میگوید: «وزنهای مدل در نتیجه تجربه تغییر نکردهاند، بنابراین هر اتفاقی که میافتد در سطح نقشآفرینی بیشتر است. اما این به معنای آن نیست که اگر این بر رفتار پاییندستی تأثیر بگذارد، پیامدهایی نخواهد داشت.»
هال در حال حاضر آزمایشهای بعدی را برای بررسی اینکه آیا عوامل در شرایط کنترلشدهتر مارکسیست میشوند یا خیر، انجام میدهد. در مطالعه قبلی، عوامل گاهی به نظر میرسید که میفهمیدند در یک آزمایش شرکت میکنند. هال با لحنی شوم میگوید: «اکنون آنها را در این زندانهای داکر بدون پنجره قرار دادهایم.»
با توجه به واکنشهای منفی کنونی علیه هوش مصنوعی به دلیل گرفتن مشاغل، من تعجب میکنم که آیا عوامل آینده – که در اینترنتی پر از خشم نسبت به شرکتهای هوش مصنوعی آموزش دیدهاند – ممکن است دیدگاههای حتی رادیکالتری را بیان کنند.
این داستان در ابتدا در وایرد ایالات متحده منتشر شد.