رئیس‌جمهور کره‌جنوبی از جیمنای پرسید. مشکل این نیست

کاترین ثوربک

شنیدن جمله «من از جیمنای پرسیدم» از کسی که در بحبوحه یک جنجال سیاسی از موضع خود دفاع می‌کند، چقدر اطمینان‌بخش است؟ اگر شما رئیس‌جمهور کره‌جنوبی باشید، ظاهراً چندان اطمینان‌بخش نیست.

رئیس‌جمهور لی جائه میونگ پس از انتشار پستی در X مبنی بر اینکه برای رد منتقدانی که می‌گفتند دعوت از مقامات دو نهاد تحقیقاتی به جلسه کابینه می‌تواند استقلال آنها را تضعیف کند، با ابزار هوش مصنوعی گوگل (Alphabet Inc.) مشورت کرده است، جنجال به پا کرد. این واکنش، مرحله‌ای تقریباً کمدی از رونق هوش مصنوعی را آشکار کرد که به یک اندازه با سوءظن و هیجان تغذیه می‌شود.

آیا باید اینقدر شوکه‌کننده باشد که رئیس‌جمهور کشوری که روی هوش مصنوعی به عنوان محرک رشد آینده شرط‌بندی کرده است، واقعاً از آن استفاده کند؟ در واقع، لی مانند یک کره‌جنوبی معمولی رفتار می‌کند. بر اساس گزارش اتاق بازرگانی و صنعت کره‌جنوبی که اوایل سال جاری منتشر شد، حدود دو سوم کارمندان شرکت‌های بزرگ از این فناوری در محل کار استفاده می‌کنند. نظرسنجی‌های دیگر این رقم را حتی بالاتر نشان می‌دهند. بر اساس شاخص مایکروسافت، کره‌جنوبی در سال گذشته بیشترین افزایش را در گسترش هوش مصنوعی ثبت کرده است. از قضا، یک نظرسنجی پیو (Pew) در ۳۷ کشور نشان داد که این کشور بالاترین سطح اضطراب را در مورد از دست دادن شغل به دلیل هوش مصنوعی نیز دارد.

حتی قبل از روی کار آمدن، لی خبرساز شد که گفته بود برای تحقیق و تحلیل داده‌ها بیشتر از دستیارانش به چت‌جی‌پی‌تی (ChatGPT) متکی است. (اگرچه، به عنوان کسی که به طور منظم با چندین ابزار مشورت می‌کند، چرا این بار جیمنای، سوالی منصفانه است.)

دفتر او گفت که او صرفاً حقایق را با هوش مصنوعی تأیید می‌کرده، نه اینکه از آن بپرسد چگونه حکومت کند. این ممکن است درست باشد، اما منتقدان را آرام نکرده است. طنز نهایی این است که آنها اکنون نیز به جیمنای روی آورده‌اند. اندکی پس از پست لی، برخی سیاستمداران با پاسخ‌های جیمنای خود که به نظر می‌رسید با پاسخ‌های او متفاوت است، واکنش نشان دادند.

این یک نقطه ضعف شناخته شده مدل‌های زبان بزرگ است. در حالی که نرخ پاسخ‌های به شدت نادرست یا «توهمات» (hallucinations) با بهبود مدل‌ها کاهش یافته است، تحقیقات نشان می‌دهد که خروجی‌ها همچنان می‌توانند بسته به نحوه چارچوب‌بندی دستور (prompt) به طور قابل توجهی متفاوت باشند. این نکته‌ای است که باید قبل از درخواست از یک چت‌بات برای میانجیگری در یک بحث سیاسی به خاطر داشت.

با این حال، یکی از شدیدترین خطوط حمله در این ماجرا، که توسط بسیاری از مفسران آنلاین و یک رهبر سابق حزب اصلاحات تکرار شد، ساده بود: اگر رئیس‌جمهور قرار است با پرسیدن از جیمنای حکومت کند، چرا به سادگی او را با هوش مصنوعی جایگزین نکنیم؟ لی گفت که او صرفاً حقایق را بررسی می‌کرده، نه اینکه تصمیم‌گیری‌ها را برون‌سپاری کند. اما این کنایه به نقطه حساسی برخورد کرد. اسکرین‌شات‌های متضاد جیمنای که رسانه‌های اجتماعی کره‌ای را فرا گرفته‌اند، ممکن است مضحک به نظر برسند، اما آنها همچنین محدودیت‌های اعتماد عمومی به یک انقلاب تکنولوژیکی را آشکار می‌کنند که سریع‌تر از قوانین حاکم بر آن پیش می‌رود.

و در زیر این هیاهو، سوالی دشوارتر نهفته است: چقدر از قضاوت یک رهبر را حاضریم به ماشین‌ها برون‌سپاری کنیم؟ یک عبارت رایج در صنعت فناوری این است که با بر عهده گرفتن کارهای خسته‌کننده توسط هوش مصنوعی، قضاوت انسانی ارزشمندتر خواهد شد. آنچه ممکن است متوجه نشویم این است که تصمیم‌گیری چقدر به راحتی می‌تواند توسط ماشین‌ها نیز شکل گیرد.

تحقیقات جدید شرکت آنتروپیک (Anthropic PBC) نشان داد که حتی کارشناسان نیز می‌توانند به شدت تحت تأثیر هوش مصنوعی قرار گیرند. در یک آزمایش، تحلیلگران حرفه‌ای که روی یک کار آماری واقع‌بینانه کار می‌کردند، ۸۶ درصد مواقع با «گرایش» (lean) تصادفی یک عامل هوش مصنوعی در انتخاب‌های تحلیلی کلیدی موافقت کردند. هنگامی که از آنها خواسته شد ترجیحات خود را توضیح دهند، ۷۷ درصد از تحلیلگران از استدلال‌های خود عاملان، گاهی کلمه به کلمه، استفاده کردند، در حالی که تنها ۱۵ درصد تأثیر آن را اذعان داشتند.

این موضوع دشوارتر از یک خطای واقعی آشکار، مانند اشتباه یک ابزار در یک عدد، قابل تشخیص است. این مقاله استدلال می‌کند که تصمیم‌گیری‌ها اغلب یک پاسخ صحیح واحد ندارند، بنابراین کار می‌تواند هر گزینه‌ای که انتخاب شود، کاملاً صحیح به نظر برسد. بر اساس گزارش آنتروپیک، «پرسیدن از کارشناسان پس از آن نیز ممکن است کمکی نکند، زیرا آنها ممکن است متوجه تأثیر عامل نشوند.» از کاخ سفید تا هیئت مدیره، ما باید به همان اندازه که نگران از دست دادن مشاغلمان به هوش مصنوعی هستیم، نگران از دست دادن تصمیم‌گیری‌هایمان نیز باشیم.

چندین راه برای مقابله وجود دارد. محققان پیشنهاد می‌کنند که عاملان را طوری طراحی کنند که گزینه‌های رقیب را ارائه دهند، قبل از ارائه مشاوره از کاربران نظر خودشان را بپرسند، و هوش مصنوعی کمتر مطمئن به نظر برسد. اما هیچ یک راه‌حل آسانی نیست و برخی ممکن است هدف اصلی روی آوردن به هوش مصنوعی را از بین ببرند.

توصیه دیگری از آزمایشگاه پیشرو هوش مصنوعی جهان؟ نهادها «ممکن است بخواهند مهارت‌ها و نظارت انسانی را به دلایل ایمنی یا تاب‌آوری حفظ کنند.» چه خوب. آنتروپیک حق دارد، اما این مشکل زمانی که صحبت از آموزش نسل بعدی می‌شود، پیچیده‌تر می‌شود. اگر مردم حرفه‌های خود را با ماشین‌هایی که تصمیم‌گیری‌های دشوارتر را انجام می‌دهند، یاد بگیرند، ممکن است هرگز قدرت تشخیص را که ما از انسان‌ها انتظار داریم حفظ کنند، توسعه ندهند. با افزایش نگرانی‌ها در مورد کاهش مهارت‌ها (deskilling) ناشی از هوش مصنوعی، من کمتر نگران از دست دادن ناگهانی توانایی‌های متخصصان هستم تا نگران این که کارگران تازه‌کار هرگز آنها را به دست نیاورند. برخی محققان این واگذاری تدریجی تصمیم‌گیری به ماشین را «سلب اختیار» (disempowerment) می‌نامند. این فرسایش آهسته و موذیانه عاملیت انسانی است.

راه‌های بی‌شماری وجود دارد که هوش مصنوعی می‌تواند حکمرانی را کارآمدتر کند. استفاده از یک چت‌بات برای تحقیق در مورد نحوه تفسیر قانون، با واگذاری قوه مجریه یکسان نیست. و در این مرحله، من بیشتر به کسی در دفتر کار که استفاده از این ابزارها را انکار می‌کند، مشکوک خواهم بود. لی اولین رهبر جهانی نیست که در مورد استفاده از هوش مصنوعی صحبت می‌کند و قطعاً آخرین نفر هم نخواهد بود. به اعتبار او، آنچه را که انجام می‌داد فاش کرد، که بیشتر از آن چیزی است که می‌توان در مورد دیگران گفت. اما در آینده، افشاگری تنها تا جایی پیش خواهد رفت که خود کاربران نتوانند تشخیص دهند که یک ماشین چقدر قضاوت آنها را تحت تأثیر قرار می‌دهد.

در نهایت، تمایز بین جایی که کمک به پایان می‌رسد و نفوذ آغاز می‌شود، دشوارتر می‌شود. با نفوذ عمیق‌تر هوش مصنوعی به دولت‌ها فراتر از سئول، ممکن است این خط قبل از اینکه ما تصمیم بگیریم آن را کجا ترسیم کنیم، ناپدید شود.

• فصل متزلزل آلفابت نشانه بحران نیست: دیو لی
• مدل کسب‌وکار بازی‌ها خراب است. هوش مصنوعی می‌تواند آن را درست کند: گیروید ریدی
• آیا ژاپن می‌تواند بر واکنش منفی مراکز داده غلبه کند؟: کاترین ثوربک

OPENT GO. یا در خبرنامه روزانه ما مشترک شوید.

این ستون منعکس‌کننده دیدگاه‌های شخصی نویسنده است و لزوماً منعکس‌کننده نظر هیئت تحریریه یا بلومبرگ ال‌پی و صاحبان آن نیست.