نقشه قطب‌نمای اخلاقی هوش مصنوعی توسط Anthropic

صبح بخیر، علاقه‌مندان به هوش مصنوعی. شرکت Anthropic به تازگی از قطب‌نمای اخلاقی هوش مصنوعی پرده برداشته است — رونمایی از اولین نقشه ارزش‌های واقعی کلود (Claude) بر اساس صدها هزار مکالمه واقعی.

با توجه به اینکه سیستم‌های هوش مصنوعی به طور فزاینده‌ای تصمیمات ما (و اکنون حتی قوانین) را شکل می‌دهند، شکستن کد هم‌سویی پشت قطب‌نمای اخلاقی مدل‌ها از همیشه مهم‌تر شده است.

در خلاصه اخبار هوش مصنوعی امروز:

• Anthropic ارزش‌های کلود را ترسیم می‌کند
• امارات متحده عربی قصد دارد به هوش مصنوعی اجازه نوشتن قوانین را بدهد
• تحقیق با قابلیت کشف وب NotebookLM
• هسبیس: هوش مصنوعی می‌تواند به تمام بیماری‌ها پایان دهد
• ۴ ابزار جدید هوش مصنوعی و ۴ فرصت شغلی

خلاصه خبر: شرکت Anthropic به تازگی مطالعه‌ای منتشر کرده است که در آن صدها هزار مکالمه واقعی هوش مصنوعی را تجزیه و تحلیل کرده تا درک کند که مدل‌هایی مانند کلود چگونه قضاوت‌های اخلاقی انجام می‌دهند — ساخت اولین نقشه در مقیاس بزرگ از ارزش‌های مدل در تعاملات روزمره.

جزئیات:

• محققان بیش از 300,000 مکالمه واقعی (اما ناشناس) را تجزیه و تحلیل کردند تا 3,307 ارزش منحصربه‌فرد بیان شده توسط هوش مصنوعی را پیدا و دسته‌بندی کنند.
• آنها 5 نوع ارزش (عملی، مرتبط با دانش، اجتماعی، محافظتی، شخصی) را یافتند که ارزش‌های عملی و مرتبط با دانش رایج‌ترین بودند.
• ارزش‌هایی مانند مفید بودن و حرفه‌ای بودن بیشتر از همه ظاهر شدند، در حالی که ارزش‌های اخلاقی در هنگام مقاومت در برابر درخواست‌های مضر رایج‌تر بودند.
• ارزش‌های کلود نیز بر اساس زمینه تغییر می‌کرد، به عنوان مثال تاکید بر "مرزهای سالم" در مشاوره روابط در مقابل "عاملیت انسانی" در بحث‌های اخلاق هوش مصنوعی.

چرا مهم است: هوش مصنوعی به طور فزاینده‌ای تصمیمات و روابط دنیای واقعی را شکل می‌دهد، و درک ارزش‌های واقعی آنها را مهم‌تر از همیشه می‌کند. این مطالعه همچنین بحث هم‌سویی را به سمت مشاهدات ملموس‌تر سوق می‌دهد و نشان می‌دهد که اخلاق و ارزش‌های هوش مصنوعی ممکن است زمینه‌ای و موقعیتی‌تر از یک دیدگاه ایستا باشد.

خلاصه خبر: امارات متحده عربی برنامه‌هایی را برای تبدیل شدن به اولین کشوری که هوش مصنوعی را مستقیماً در فرآیند قانون‌گذاری خود ادغام می‌کند، اعلام کرد و یک واحد دولتی جدید برای نظارت بر تحول نحوه نوشتن، بررسی و به‌روزرسانی قوانین ایجاد کرد.

جزئیات:

• یک دفتر اطلاعات نظارتی جدید این ابتکار را رهبری خواهد کرد که هدف آن کاهش 70 درصدی زمان توسعه قانون‌گذاری از طریق پیش‌نویس و تجزیه و تحلیل به کمک هوش مصنوعی است.
• این سیستم از پایگاه داده‌ای استفاده می‌کند که قوانین فدرال و محلی، تصمیمات دادگاه و داده‌های دولتی را ترکیب می‌کند تا قوانین و اصلاحیه‌ها را پیشنهاد دهد.
• این طرح بر سرمایه‌گذاری‌های عمده امارات متحده عربی در هوش مصنوعی، از جمله یک صندوق زیرساختی 30 میلیارد دلاری متمرکز بر هوش مصنوعی از طریق پلتفرم سرمایه‌گذاری MGX خود، استوار است.
• این اقدام با واکنش‌های متفاوتی روبرو شد و کارشناسان در مورد قابلیت اطمینان، تعصب و مسائل تفسیری موجود در داده‌های آموزشی هشدار دادند.

چرا مهم است: در حالی که بسیاری از دولت‌ها قبلاً شروع به ادغام هوش مصنوعی در رده‌های خود کرده‌اند، این یکی از اولین نمونه‌های دادن قدرت قانون‌گذاری به آن به نوعی است. با رسیدن سیستم‌ها به سطوح فوق‌بشری از اقناع، استدلال و موارد دیگر، استفاده از آنها در سیاست، سؤالات وجودی در مورد هوش مصنوعی در مقابل قضاوت انسانی در قانون‌گذاری را مطرح می‌کند.

خلاصه خبر: در این آموزش، یاد خواهید گرفت که چگونه از ویژگی جدید "کشف منابع" NotebookLM برای یافتن و افزودن منابع وب مرتبط به دفترچه یادداشت خود تنها با چند کلیک استفاده کنید و کل فرآیند تحقیق را ساده کنید.

گام به گام:

1. از NotebookLM بازدید کنید و یک دفترچه یادداشت جدید ایجاد کنید.
2. روی دکمه "کشف" در پنل منابع کلیک کنید و یک موضوع خاص را وارد کنید.
3. منابع انتخاب شده‌ای که ظاهر می‌شوند را بررسی کنید و مرتبط‌ترین آنها را با یک کلیک به دفترچه یادداشت خود اضافه کنید.
4. از ویژگی‌های NotebookLM با منابع جدید خود استفاده کنید: اسناد توجیهی ایجاد کنید، از طریق چت سؤال بپرسید یا نمای کلی صوتی ایجاد کنید.

نکته حرفه‌ای: هرچه شرح موضوع شما خاص‌تر باشد، توصیه‌های منبع شما مرتبط‌تر خواهند بود. سعی کنید دقیقاً آنچه را که نیاز دارید یاد بگیرید توصیف کنید به جای استفاده از اصطلاحات گسترده.

خلاصه خبر: دمیس هسبیس (Demis Hassabis)، برنده جایزه نوبل و مدیرعامل گوگل دیپ‌مایند (Google DeepMind)، در برنامه 60 Minutes مصاحبه شد، جایی که او بینش‌هایی را در مورد جدول زمانی AGI (هوش مصنوعی عمومی)، پیشرفت و پتانسیل هوش مصنوعی در پزشکی ارائه داد، در حالی که دستیار "پروژه آسترا" (Project Astra) دیپ‌مایند را نیز به نمایش گذاشت.

جزئیات:

• هسبیس گفت که کشف دارو مبتنی بر هوش مصنوعی می‌تواند جدول زمانی پزشکی را از سال‌ها به هفته‌ها کاهش دهد و به طور بالقوه تمام بیماری‌ها را در عرض یک دهه از بین ببرد.
• نمایش پروژه آسترا او شامل شناسایی نقاشی‌ها، خواندن احساسات و حتی یک نسخه تعبیه شده در عینک بود که ویژگی‌های زنده را با درک بصری به نمایش می‌گذاشت.
• هسبیس گفت که AGI در 5-10 سال آینده وارد خواهد شد — و در حالی که او معتقد نیست که هوش مصنوعی امروز آگاه است، گفت که می‌تواند در آینده به شکلی ظاهر شود.
• نمایش دیگری یک سیستم رباتیک آزمایشی با استدلال را پیش‌نمایش کرد که توانایی درک مفاهیم انتزاعی مانند ترکیب رنگ را نشان می‌داد.

چرا مهم است: تفسیر هسبیس، که از رئیس برنده جایزه نوبل دیپ‌مایند می‌آید، فقط تبلیغات نیست، بلکه سیگنالی از اعتقاد شدید از سوی یک بازیگر کلیدی در این زمینه است. در حالی که اهداف والایی مانند پایان دادن به بیماری و "فراوانی رادیکال" شبیه یک رویا به نظر می‌رسند، 5-10 سال رشد نمایی مقیاسی است که درک آن دشوار است.