اشتراک
دستگاه دروغ‌سنج، مانند هوش مصنوعی، هاله‌ای از دقت فنی دارد اما مستعد توهم (Hallucination) است.
دستگاه دروغ‌سنج، مانند هوش مصنوعی، هاله‌ای از دقت فنی دارد اما مستعد توهم (Hallucination) است.
فناوری هوش مصنوعی

آنالوژی مناسب برای ریسک هوش مصنوعی چیست؟

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

محتوای حاضر به بررسی چالش‌ها، پیش‌بینی‌ها و ابهامات پیرامون هوش مصنوعی می‌پردازد. یکی از بحث‌های کلیدی، جست‌وجو برای یافتن آنالوژی یا الگویی مناسب برای درک ماهیت هوش مصنوعی است؛ چرا که هیچ‌یک از مقایسه‌های موجود، نظیر تشبیه به انرژی الکتریکی، تسلیحات هسته‌ای یا حتی سیستم‌های حقوق دریایی، به‌تنهایی نمی‌توانند پیچیدگی و خطرات این فناوری را به‌طور کامل توصیف کنند. در بخش پیش‌بینی‌ها، تحلیلگران معتقدند هوش مصنوعی می‌تواند با سوق دادن افکار عمومی به سمت مرکز، به کاهش قطبی‌سازی سیاسی کمک کند، هرچند این فرآیند ممکن است با ریسک «تفکر گروهی» همراه باشد. همچنین، گسترش مراکز داده با چالش‌های زیرساختی و زیست‌محیطی مواجه است که باعث شده برخی جوامع در برابر احداث آن‌ها مقاومت کنند. در حوزه ژئوپلیتیک، تقابل میان آمریکا و چین به دلیل مدل‌های «وزن باز» (Open-weight) چین پیچیده‌تر شده و جداسازی فناورانه را دشوارتر کرده است. با این حال، کارشناسان اشاره می‌کنند که پیشرفت هوش مصنوعی به دلیل محدودیت‌های زیرساختی و تمرکز محدود بازیگران اصلی، در حال حاضر کندتر شده و این فرصتی برای تقویت تدابیر ایمنی فراهم کرده است. در نهایت، پیش‌بینی می‌شود که دادگاه‌های آمریکا احتمالاً آموزش مدل‌های هوش مصنوعی با داده‌های عمومی را مصداق نقض کپی‌رایت ندانند، هرچند این موضوع همچنان در مراحل خروجی و کاربرد مدل‌ها محل مناقشه باقی خواهد ماند. در مجموع، آینده هوش مصنوعی در گرو تعامل میان سرعت پیشرفت‌های فنی، نظارت‌های قانونی و هماهنگی‌های بین‌المللی است تا از فاجعه‌های احتمالی جلوگیری شده و منافع آن به شکلی ایمن محقق شود.

به «پیش‌بینی» بلومبرگ ویکند خوش آمدید؛ جایی که به شما کمک می‌کنیم درباره آینده فکر کنید — از هفته آینده تا ده سال آینده.

این آخر هفته نگاهی به همه چیز درباره هوش مصنوعی داریم. اگر این موضوع مورد علاقه شما نیست: برخی از ثروتمندترین آمریکایی‌ها آشکارا پنهان هستند؛ چرا دیوارهای مرزی به ندرت کار می‌کنند؛ یک سرگرمی کوچک لحظه بزرگ خود را تجربه می‌کند؛ چگونه دستکاری کامیون‌ها بهانه‌ای برای عفو ریاست جمهوری شد؛ شیوع سرخک در ایالات متحده همچنان بدتر می‌شود؛ و قرص‌های جدید GLP-1 اثرات کمی متفاوت نسبت به تزریق‌ها دارند.

در غیر این صورت:

  • آنالوژی مناسب برای هوش مصنوعی چیست؟
  • پیش‌بینی‌ها: معکوس شدن قطبی‌سازی سیاسی، رد درآمد مراکز داده و پیشرو بودن انگلستان
  • احتمال... عرضه عمومی سهام Anthropic در امسال چقدر است؟
  • زیر نظر داشته باشید: هوش مصنوعی جداسازی آمریکا و چین را پیچیده‌تر می‌کند
  • گوشه خوش‌بینی: کند کردن هوش مصنوعی آنقدرها هم سخت نخواهد بود

هر آنالوژی هوش مصنوعی اشتباه است

هرچه بیشتر یاد می‌گیریم که عاملان OpenAI چگونه شرکت HuggingFace را هک کردند، کمتر به نظر می‌رسد که بر سر نحوه توصیف آن توافق داشته باشیم. هر فناوری جدید جستجو برای مقایسه‌ای با دنیای شناخته شده ما را برمی‌انگیزد. اما هوش مصنوعی آنقدر عجیب و جنجالی است که به نظر می‌رسد هیچ‌کس نمی‌تواند بر سر اعتبار کدام آنالوژی‌ها توافق کند.

در پی این هک، دوورکش پاتل، پادکستر، یکی از زنده‌ترین آنالوژی‌ها را ارائه داد: «سه تمدن مخفی هوش مصنوعی پشت سر هم شروع به کار کردند، سپس نابود شدند، تنها تا از خاکستر پیشینیان خود دوباره سر برآورند.»

تیمینیت گبرو، پژوهشگر و منتقد هوش مصنوعی، به آنالوژی بسیار متفاوتی روی آورد: «وقتی پلیس فرو می‌ریزد، شما تحلیل نمی‌کنید که آیا پل اخلاقی بوده یا حس دارد یا چرا تصمیم به فرو ریختن گرفته است»، او به Wired گفت. «می‌پرسید، چه کسی این پل را آنقدر سست ساخت؟»

به گستردگی طیف آنالوژی‌های هوش مصنوعی توجه کنید:

  • سلاح‌های هسته‌ای یا مهندسی ژنتیک: فناوری‌های قدرتمند فوق‌العاده که با ریسک‌های احتمالی فاجعه‌بار همراه هستند
  • برق: یک فناوری چندمنظوره که در نهایت تقریباً هر بخش از اقتصاد را متحول کرد — اما برای مفید شدن نیاز به تنظیمات سازمانی زیادی داشت
  • آزبست: ممکن است اکنون خوب به نظر برسد، اما بعداً می‌تواند مضر و حذف آن دشوار باشد
  • آزمون دروغ‌سنج: فناوری مشهور به نادرستی که با این حال هاله‌ای از اقتدار علمی کسب کرد. (صحبت از توهمات!)
  • ذهن انسان: شکلی انعطاف‌پذیر از هوش، قادر به استدلال و همکاری

چگونه تصمیم بگیریم کدام را استفاده کنیم؟ طبیعی‌ترین رویکرد این است که بپرسیم هوش مصنوعی بیشترین شباهت را به چه چیزی دارد. اما شاید شباهت آزمون اشتباهی باشد.

در مقاله‌ای در سال ۲۰۲۵ درباره هوش مصنوعی و شخصیت حقوقی، پژوهشگران گوگل DeepMind از آنالوژی غیرمنتظره‌ای استفاده کردند: کشتی‌ها و حقوق دریایی.

«خودِ کشتی می‌تواند توسط مقامات قانونی توقیف شود و در دادگاه تحت پیگرد قرار گیرد»، نویسندگان می‌نویسند. «این ویژگی‌های نهادی از اعتقاد به اینکه کشتی دارای شعور است سرچشمه نگرفتند، بلکه از ضرورت برخاستند. کشتی‌ها دارایی‌های متحرکی هستند که توانایی ایجاد آسیب‌های عظیم را دارند، در حالی که مالکان آنها معمولاً دور و نگهداشتنشان پاسخگو دشوار است.»

مقاله آنها راه مفیدتری برای تفکر درباره تمام آنالوژی‌های رقابتی هوش مصنوعی پیشنهاد می‌کند. به جای پرسیدن اینکه کدام مقایسه دقیق‌ترین است، شاید بتوانیم بپرسیم هر کدام چه چیزی را به ما کمک می‌کند بفهمیم و ما را به انجام چه کاری سوق می‌دهد.

پرسیدن این سوالات از هوش مصنوعی نقطه شروعی خواهد بود، زیرا بخشی از آن نشان می‌دهد که ما چقدر کم بر سر پاسخ‌ها توافق داریم. بسیاری از افراد داخل و اطراف شرکت‌های هوش مصنوعی امیدوارند مزایای ماشین‌های ابرهوشمند را بدون فاجعه و بدون خروج از کنترل انسانی تضمین کنند. منتقدان آنها در بسیاری موارد، فعالانه با این پروژه مخالف هستند و آزمایشگاه‌های هوش مصنوعی را خارج از حدود نظارت دموکراتیک مشروع می‌دانند. تعجبی ندارد که به آنالوژی‌های مختلفی روی می‌آورند.

— والتر فریک، بلومبرگ ویکند

پیش‌بینی‌ها

هوش مصنوعی به معکوس کردن قطبی‌سازی سیاسی کمک خواهد کرد. مدل‌ها «تمایل به حرکت به سمت مرکز دارند و اجماع نامرئی دیگری را درباره هر مسئله‌ای تقطیر می‌کنند... همانطور که وابستگی ما به هوش مصنوعی افزایش می‌یابد، روند چند دهه‌ای به سمت قطبی‌سازی ممکن است معکوس شود. اما اجماع حاصل ممکن است هزینه‌ای داشته باشد: نوع جدیدی از تفکر گروهی که برای دموکراسی به اندازه قطبی‌سازی جایگزین شده خطرناک نیست.» — استیون میهم، بلومبرگ اوپینیون

حتی شهرهای بدهکار ممکن است مراکز داده را رد کنند: «پول همه چیز نیست»، و حتی در جوامعی که می‌توانند از درآمد مالیاتی اضافی بهره ببرند «بسیاری از ساکنان هیچ ارتباطی با مرکز داده نمی‌خواهند و آن را منبعی بالقوه برای آلودگی صوتی، تخریب محیط زیست و افزایش هزینه‌های خدمات شهری می‌دانند.» — شروتی سینگ و نیک کوئولو، بلومبرگ نیوز

رونق هوش مصنوعی صرف‌نظر از ایمنی، از قبل در حال کند شدن بود. «بروس فلت، مدیرعامل شرکت بروکفیلد گفت که مسابقه هوش مصنوعی از قبل در حال کند شدن است زیرا توسعه‌دهندگان نمی‌توانند زیرساخت کافی بسازند.» — لیان عوده، بلومبرگ نیوز

انگلستان می‌تواند در زمینه ایمنی هوش مصنوعی پیشرو باشد. «مؤسسه امنیت هوش مصنوعی انگلستان بهترین تأمین مالی‌شده‌ترین آژانس جهان برای آزمایش مدل‌های هوش مصنوعی پیشرفته است، thanks to the £240 million ($325 million) it got from the British government in 2025, and an annual budget of about £66 million… The equivalent US agency in Washington, known as the Center for AI Standards and Innovation, gets just $10 million a year.» — پارمی اولسون، بلومبرگ اوپینیون

مراکز داده آمریکا به زودی گاز بیشتری نسبت به تقریباً هر کشوری مصرف خواهند کرد: «انتظار می‌رود مصرف گاز برای تولید برق مراکز داده در ۱۰ سال منتهی به ۲۰۳۵ روزانه ۱۵ میلیارد فوت مکعب رشد کند... بلومبرگ‌ان‌ای‌اف گفت. این مقدار گاز بیشتر از مصرف فعلی تمام کشورها به جز چین، روسیه، ایران و خود ایالات متحده است.» — جولیان هست، بلومبرگ نیوز

باتری‌های بادوام کلید تغذیه مراکز داده خواهد بود. «توسعه‌دهندگان شروع به افزودن این باتری‌ها، که به عنوان ذخیره‌سازی انرژی طولانی‌مدت شناخته می‌شوند، به مراکز داده کرده‌اند. همانطور که این کار را انجام می‌دهند، فرصت واقعی برای مقیاس‌پذیری و آزادسازی انرژی تجدیدپذیر بیشتر وجود دارد، کارشناسان می‌گویند.» — کوکو لیو، بلومبرگ نیوز

احتمال... چقدر است

...عرضه عمومی سهام Anthropic در امسال

سم آلتمن از OpenAI هفته گذشته گفت که شرکت امسال وارد بورس نخواهد شد و به جای آن بر ایمنی تمرکز خواهد کرد. (زمان‌بندی آن از قبل نامشخص بود.) چه چیزی درباره رقیبش Anthropic؟ معامله‌گران در Kalshi هنوز فکر می‌کنند که این اتفاق می‌افتد و ۸۴٪ احتمال برای IPO در سال ۲۰۲۶ قائل هستند.

بررسی کارت وحشی

آیا آموزش هوش مصنوعی نقض کپی‌رایت است؟

در نسخه «کارت‌های وحشی» ژانویه «پیش‌بینی»، احتمال ترکیدن حباب هوش مصنوعی توسط ادعاهای کپی‌رایت را مطرح کردیم — همانطور که دعاوی از سوی ناشران در دادگاه‌ها در جریان است. نه ماه بعد، احتمال پیروزی شرکت‌های هوش مصنوعی در دعاوی کپی‌رایت مطرح شده توسط روزنامه‌ها چقدر است؟

«۳۰٪ احتمال دارد OpenAI و Microsoft در حکم خلاصه در تمام ادعاهای اصلی روزنامه‌ها پیروز شوند، اما ۶۰٪ احتمال پیروزی در استفاده منصفانه خالص از آموزش وجود دارد»، تاملاین باسون از بلومبرگ اینتلیجنس می‌نویسد. به عبارت دیگر، دادگاه‌های آمریکا به احتمال زیاد تصمیم خواهند گرفت که آموزش مدل هوش مصنوعی بر اساس اطلاعات عمومی نقض کپی‌رایت نیست.

این به این معنا نیست که شرکت‌های هوش مصنوعی کاملاً از خطر در امان هستند. Anthropic قبلاً با نویسندگان بر سر آموزش مبتنی بر میلیون‌ها کتاب دزدی تسویه حساب کرد. و باسون اشاره می‌کند که مراحل بعدی آموزش هوش مصنوعی و خروجی مدل‌ها همچنان می‌تواند مسائل کپی‌رایت را برانگیزد.

زیر نظر داشته باشید

هوش مصنوعی جداسازی را برای آمریکا و چین دشوارتر می‌کند

همانطور که شی جین‌پینگ در هفته آینده به واشنگتن می‌رود، مدل‌های هوش مصنوعی چین برتری آمریکا را به چالش می‌کشند. آمریکا دلایل خوبی برای نگرانی از اینکه چین در حال پر کردن شکاف است دارد. فقط به نحوه رسیدن خودروهای الکتریکی چین به سلطه نگاه کنید. اما برخلاف خودروها، چین بخش زیادی از هوش مصنوعی خود را به صورت مدل‌های وزن باز ارائه می‌کند که هر کسی می‌تواند به صورت رایگان دانلود کرده و روی کامپیوتر خود اجرا کند.

حتی اگر مدل‌های وزن باز درآمد مستقیم کمی ایجاد کنند، دلیل چین برای گسترش گسترده آنها واضح است: تا حد امکان افراد و کسب‌وکارهای بیشتری را به استفاده از فناوری خود جلب کنید.

گسترش آنها همچنین جداسازی فناورانه را دشوارتر می‌کند. شرکت‌های آمریکایی که تراشه، خدمات ابری و نرم‌افزار می‌فروشند می‌توانند از مدل‌های چینی سود ببرند، که دلیلی برای مخالفت با محدودیت‌ها ایجاد می‌کند و در عین حال فرصتی برای بهبود سخت‌افزار چینی فراهم می‌آورد.

تصویر مرتبط با داستان "برای چین، ارائه هوش مصنوعی ارزان به جهان بخش آسان بود"
برای چین، ارائه هوش مصنوعی ارزان به جهان بخش آسان بود: همانطور که شی جین‌پینگ به واشنگتن می‌رود، مدل‌های چینی برتری آمریکا را به چالش می‌کشند. تبدیل این محبوبیت به قدرت ژئوپلیتیکی مسئله دیگری است.

واشینگتن عمدتاً با بیرون نگه داشتن خودروهای چینی از بازار آمریکا به سلطه EV چین پاسخ داد. هوش مصنوعی متفاوت است: آمریکا آن را مسابقه‌ای استراتژیک می‌داند که باید برنده شود، نه صرفاً فناوری خارجی که باید از آن دوری کرد.

— آلن ونگ، بلومبرگ نیوز

گوشه خوش‌بینی

بله، می‌توانید هوش مصنوعی را کند کنید (فعلاً)

کاهش سرعت توسعه جهانی هوش مصنوعی چالشی طاقت‌فرسا است. حتی اگر شرکت‌های خصوصی در یک مکان مهار شوند، چه چیزی مانع از پیشروی سریع دیگران و دولت‌های دیگر می‌شود؟ با دور به نظر رسیدن احتمال توافق هوش مصنوعی آمریکا و چین، کند کردن به نظر عملیاتی دشوار می‌رسد.

اما فعلاً، این کار آنقدرها هم که فکر می‌کنیم سخت نیست، استدلال می‌کنند مایکل دنگ و آدام فارار، تحلیلگران ژئواقتصادی در بلومبرگ اکونومیکس.

«تعداد نسبتاً کمی از شرکت‌ها جهش‌های بزرگ قابلیت را ایجاد می‌کنند، بنابراین خودداری رهبران — اگر با آن موافقت کنند — می‌تواند زمان بخرد تا تدابیر ایمنی را حتی بدون توقف صنعتی تقویت کنند»، آنها می‌نویسند. به عبارت دیگر، بسیاری از بازیکنان درجه دوم به پیشرفت‌های چند شرکت وابسته‌اند؛ اگر آن شرکت‌ها انتشار مدل‌های جدید را متوقف کنند، بقیه میدان نیز کند خواهند شد.

اما آنها صریحاً اعلام می‌کنند که این کار تنها زمان می‌خرد و همیشه کار نخواهد کرد. «بنابراین ارزش یک کند شدن شش یا دوازده ماهه بستگی به این دارد که شرکت‌ها، پژوهشگران و دولت‌ها با آن پنجره زمانی چه می‌کنند.»

هفته پیش رو

یکشنبه: اسکات بسنت، وزیر خزانه‌داری آمریکا، قرار است با هی لیفنگ، معاون نخست‌وزیر چین در نیویورک دیدار کند؛ آلمان انتخابات ایالتی در برلین و مکلنبورگ-فورپومرن را برگزار می‌کند، دو هفته پس از عملکرد قوی AfD در زاکسن-آنهالت.

دوشنبه: وزرای دارایی G7 در حاشیه مجمع عمومی سازمان ملل در نیویورک دیدار می‌کنند؛ چین نرخ‌های وام اولیه را منتشر می‌کند.

سه‌شنبه: مجمع عمومی سازمان ملل آغاز می‌شود؛ بانک مرکزی نیجریه احتمالاً نرخ‌ها را کاهش خواهد داد.

چهارشنبه: مارک زاکربرگ سخنرانی کلیدی در کنفرانس توسعه‌دهندگان Connect متا ارائه می‌دهد؛ OECD چشم‌انداز اقتصادی موقت خود را منتشر می‌کند؛ انتظار می‌رود بانک مرکزی آفریقای جنوبی نرخ‌ها را افزایش دهد.

پنجشنبه: شی جین‌پینگ، رئیس جمهور چین، برای مذاکره با دونالد ترامپ، رئیس جمهور آمریکا، به ایالات متحده سفر می‌کند.

جمعه: دانشگاه میشیگان شاخص اعتماد مصرف‌کننده خود را منتشر می‌کند؛ اسپانیا GDP را گزارش می‌دهد.

مطالعات آخر هفته

  • ماگی هابرمن می‌گوید حلقه داخلی ترامپ بر عفوها حساب باز کرده است
  • اروپا همچنان دیوارهای مرزی برای مشکلاتی می‌سازد که رهبرانش نمی‌توانند حل کنند
  • آنها کامیون‌ها را دستکاری کردند. مجرم بودند یا قربانی؟
  • وحشت هوش مصنوعی ما را به دوران قرون وسطی می‌برد
  • زندگی بعدی یک آسمان‌خراش نمادین نیویورک ۳۷ خانه لوکس است

یکشنبه عالی و هفته‌ای پربار داشته باشید.

—والتر فریک، سیلویا کیلینگ‌ورث و کیرا بیندریم، بلومبرگ ویکند

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: bloomberg.com