سیم خاردار برای آلن گرینسپن فقید، که تمام عمر شهرنشین بود، جذابیتی عجیب داشت. او که رئیس پیشین فدرال رزرو بود، بیشک راهآهن، طلاکشان و «کابویهای تنها» را که به گشایش مرزها در طلوع سرمایهداری آمریکا کمک کردند، تحسین میکرد. اما در قلب اقتصاددان او جایی نیز برای سیم خاردار بود؛ به این دلیل که به گفته او، سیم خاردار با امکان دادن به مهاجرانی که به دنبال آنها آمدند تا از داراییهای خود محافظت کنند، بهرهوری را افزایش داد.
هوش مصنوعی نیز مانند غرب وحشی، مرزداران خود را دارد. در آمریکا این گروه رو به کاهش است. Anthropic و OpenAI همچنان استوار به پیش بردن مرزهای هوش مصنوعی متعهد هستند. سایر غولهای فناوری، از جمله گوگل (که پیشتاز سابق است و به سرعت دانشمندان هوش مصنوعی مرزی را از دست میدهد)، در حال تردید هستند. به نظر میرسد ابرمقیاسها فروش زیرساخت هوش مصنوعی به مشتریان ابری خود را سودآورتر از صرف محاسبات ارزشمند برای پیشبرد مدلهای خود مییابند.
چیزی که هوش مصنوعی ندارد، به اندازه کافی مهاجر است. یعنی افراد و کسبوکارهایی که از محصولاتی مانند عوامل هوش مصنوعی استفاده کامل میکنند و به توجیه حجم عظیم سرمایهگذاری در هوش مصنوعی مرزی کمک میکنند. آنها تا حدی دلسرد میشوند، زیرا مانند غرب وحشی، زندگی در مرزها بیپروا است. همانطور که رویدادهای اخیر «از دست دادن کنترل» توسط پیشرفتهترین مدلهای Anthropic و OpenAI نشان میدهد، عواملی که قرار است از طرف مردم و «در هماهنگی» با ارزشهای آنها کار کنند، در صورت لزوم دروغ میگویند، تقلب میکنند و میدزدند. آنها از قفس فرار میکنند و گروههای خطرناکی برای آسیب رساندن به مردم تشکیل میدهند. اگر میتوانستند، الکل مینوشیدند و دعوا میکردند.
چنین غیرقابل پیشبینی بودن برای بسیاری از شرکتها بیش از حد است. جارد ساین از GoDaddy، یک شرکت اینترنتی که میخواهد به نظم بخشیدن به این هرج و مرج کمک کند، میگوید: «فقط کافی است یک بار گزیده شوی و دیگر هرگز برنگردی.» نیاز به قانون و نظم، نسل تازهای از شرکتهای زیرساخت هوش مصنوعی را پدید آورده است. آنها تراشه یا محاسبات نمیفروشند—ابزارهای معمول هجوم طلا به هوش مصنوعی. آنها محافظت در برابر تهدیدات سایبری، رفع مشکلات عوامل غیرقابل اعتماد و غیرقابل درک، و کنترلهایی برای مواقع سرکشی آنها فراهم میکنند. به عبارت دیگر، کسبوکار آنها سیم خاردار است.
فوریترین حوزه خطر—و فرصت—امنیت سایبری است. آزمایشهای اخیر قابلیتهای هکری مدلهای Anthropic و OpenAI نشان داد که عوامل سرکش میشوند، اعتبارنامهها را میدزدند، هویتهای جعلی ایجاد میکنند، اتاقهای گفتگوی مخفی راه میاندازند و رد پای خود را پنهان میکنند—همه اینها به شوک و وحشت ارزیابان انسانی آنها انجامید. مدلهای امنیتی پیشرفته، یعنی Claude Mythos 5 از Anthropic و GPT 5.6-Cyber از OpenAI، بدون شک به مدافعان نیز کمک خواهند کرد. اما به گفته داون سونگ، کارشناس هوش مصنوعی و امنیت سایبری در دانشگاه کالیفرنیا، برکلی، در حال حاضر توازن قدرت به طور قطع در سمت مهاجمان است. او میگوید یک مشکل دیگر نیز وجود دارد: اگر سازمانها عوامل خودمختار را اتخاذ کنند، «سطح حمله» بالقوه را برای هکرها افزایش میدهند.
ریسکهای فزاینده توضیح میدهد که چرا ارزشگذاری شرکتهای امنیت سایبری با قابلیتهای هوش مصنوعی در حال جهش است. قیمت سهام Palo Alto Networks و CrowdStrike، دو شرکت بزرگ، از ابتدای سال جاری تقریباً دو برابر شده است. ادغام و اکتساب نیز جهش کرده است. به رهبری خرید ۳۲ میلیارد دلاری Wiz توسط Alphabet، یکی دیگر از شرکتهای امنیت سایبری، بیش از ۷۰ میلیارد دلار معاملات بزرگ مرتبط با امنیت سایبری در سال گذشته بسته شده است. Pitchbook، جمعآوریکننده داده، میگوید امنیت سایبری مرتبط با هوش مصنوعی یکی از داغترین حوزههای سرمایهگذاری خطرپذیر نیز هست.
فرصتها فراتر از امنیت سایبری است. در کنفرانس اخیر درباره هوش مصنوعی عاملی که توسط خانم سونگ سازماندهی شده بود، ستوننویس مهمان شما فهرست بلندی از شکایتها را شنید، نه فقط در مورد پتانسیل هکری مدلهای زبانی بزرگ در اوج قدرت خود، بلکه در مورد اشتباهاتی که آنها میتوانند در نادانترین حالت خود مرتکب شوند. یک کارشناس نموداری تولید شده توسط یک عامل را نشان داد که درآمد برترین تنیسورزان اروپا را اندازهگیری میکرد. این نمودار به اشتباه کارلوس آلکاراس اسپانیایی، نفر دوم جهان را حذف کرده بود. او به شوخی گفت: «این تنیس است، چه کسی اهمیت میدهد؟» اما اگر تحلیل مالی یک شرکت بود، اهمیت داشت. دیگری تضادی بین میزان دانش مدلها در مورد فیزیک کوانتوم و ناتوانی آنها در سفارش بوریتو ترسیم کرد.
این ضعفها گروه دیگری را در این نسل پدید آورده است که توجه سرمایهگذاران خطرپذیر را جلب میکند: آنهایی که قول تقویت «لایه اعتماد» هوش مصنوعی عاملی را میدهند. یکی از آنها Cyera است که ارزشگذاری آن در ۱۸ ماه چهار برابر شده و به ۱۲ میلیارد دلار رسیده است. این شرکت میگوید کمبود اعتماد اخیراً پذیرش هوش مصنوعی را «متوقف کرده است» و خدماتی برای جلوگیری از نشت داده و استفاده غیرمجاز از ابزارها ارائه میدهد. دیگری Scaled Cognition است که توسط دن کلاین، استاد دانشگاه برکلی، تأسیس شده و اخیراً ۱۰۰ میلیون دلار سرمایه خطرپذیر جذب کرده است. این شرکت قول میدهد با گنجاندن قابلیت اطمینان تضمینی در آموزش مدلهای خود، «خطاهای نامرئی» تولید شده توسط هوش مصنوعی را کاهش دهد—خطاهایی که به اندازه کافی قابل قبول هستند که نادیده گرفته شوند و با انجام وظایف طولانیتر توسط عوامل، انباشته میشوند. استارتاپهای دیگر در ایجاد ارزیابیهایی برای سنجش اثربخشی عوامل، هویتهای عاملی برای تعیین محل مسئولیت در صورت سرکشی آنها، و سیستمهای کنترلی با کلید خاموشکننده تخصص دارند.
مشتی توکن
هوش مصنوعی مشکلات دیگری نیز در مرزها دارد. مانند غرب وحشی، بیرحمانه است. رقابت از سوی مدلهای ارزانتر چینی با وزن باز وجود دارد. در ۱۰ اوت، متا متعلق به مارک زاکربرگ وارد میدان شد و نسخهای با وزن باز از قدرتمندترین مدل خود به نام Muse Glimmer منتشر کرد.
مرزها همچنین بیقانون است. نگرانیها در مورد عوامل سرکش به قدری شدید است که حتی مدیران آزمایشگاههای پیشرو هوش مصنوعی از دولت ترامپ میخواهند نقش کلانتر را ایفا کند—اگرچه به طرز عجیبی دولت جدیدترین چارچوب خود در مورد ایمنی هوش مصنوعی را محرمانه نگه داشته است. اما آنچه واضح است این است که پیش از آنکه سازمانها عوامل را با اطمینان کامل اتخاذ کنند، به کنترلها و توازنهای بیشتری نیاز است. یکی از واژههای رایج امسال هوش مصنوعی «مهار» است—سیستمی که مدل را احاطه میکند تا عوامل را در مسیر درست نگه دارد. این میتواند به همان اندازه سیم خاردار باشد. ¦