آنتروپیک اکنون میتواند عملکرد داخلی عجیب یک مدل زبان بزرگ را ردیابی کند
این نسخه امروز خبرنامه «دانلود» است، خبرنامه روزانه ما که دوزی روزانه از آنچه در دنیای فناوری میگذرد را ارائه میدهد.
خبر: شرکت هوش مصنوعی آنتروپیک راهی برای نگاه کردن به درون یک مدل زبان بزرگ (LLM) و مشاهده آنچه در هنگام ارائه پاسخ انجام میدهد، توسعه داده است که بینشهای کلیدی جدیدی را در مورد نحوه عملکرد این فناوری آشکار میکند. نتیجه کلیدی: مدلهای زبان بزرگ حتی عجیبتر از آن چیزی هستند که فکر میکردیم.
چرا اهمیت دارد: بر کسی پوشیده نیست که مدلهای زبان بزرگ به روشهای مرموزی کار میکنند. روشن کردن نحوه عملکرد آنها، نقاط ضعفشان را آشکار میکند و نشان میدهد چرا اطلاعات نادرست تولید میکنند (توهم میزنند) و میتوان آنها را فریب داد تا از مسیر خارج شوند. این امر به حل اختلافات عمیق در مورد اینکه این مدلها دقیقاً چه کاری میتوانند و چه کاری نمیتوانند انجام دهند کمک میکند. و همچنین نشان میدهد که چقدر قابل اعتماد هستند (یا نیستند).
سیگنال چیست؟ توضیحاتی در مورد این اپلیکیشن پیامرسان
با انتشار خبر اخیر مبنی بر اینکه سردبیر ارشد آتلانتیک به طور تصادفی به یک گروه چت سیگنال برای رهبران آمریکایی که در حال برنامهریزی بمباران در یمن بودند اضافه شده است، بسیاری از مردم میپرسند: سیگنال چیست؟ آیا امن است؟ اگر قرار نیست مقامات دولتی از آن برای برنامهریزی نظامی استفاده کنند، آیا به این معنی است که من هم نباید از آن استفاده کنم؟
پاسخ این است: بله، شما باید از سیگنال استفاده کنید، اما مقامات دولتی که مکالمات فوق سری دارند، نباید از سیگنال استفاده کنند. برای یافتن دلیل آن، داستان کامل را بخوانید.
این داستان بخشی از مجموعه MIT Technology Review Explains ما است که در آن نویسندگان ما دنیای پیچیده و آشفته فناوری را باز میکنند تا به شما در درک آنچه در آینده رخ خواهد داد کمک کنند.
«بدنهای» انسانی یدکی زنده ممکن است اندامهایی برای پیوند به ما ارائه دهند
این هفته، MIT Technology Review مقالهای درباره بدنوارهها (bodyoids) — بدنهای زندهای که نمیتوانند فکر کنند یا درد را حس کنند — منتشر کرد. در این مقاله، سه دانشمند استدلال میکنند که پیشرفتها در بیوتکنولوژی به زودی به ما امکان میدهد بدنهای انسانی «یدکی» ایجاد کنیم که میتوانند برای تحقیقات یا تأمین اندام برای اهدا استفاده شوند.
اگر در این مرحله پوستتان مورمور میشود، تنها نیستید. این یک ایده ترسناک است، مستقیماً از گوشههای وحشتناکتر داستانهای علمی تخیلی. اما بدنوارهها میتوانند برای اهداف خوب استفاده شوند. و اگر واقعاً ناآگاه و ناتوان از تفکر باشند، استفاده از بدنوارهها از «خطوط اخلاقی اکثر مردم» عبور نخواهد کرد، همانطور که نویسندگان استدلال میکنند.
من چندان مطمئن نیستم.
این مقاله برای اولین بار در The Checkup، خبرنامه هفتگی بیوتکنولوژی MIT Technology Review منتشر شد. برای دریافت آن در صندوق ورودی خود هر پنجشنبه و خواندن مقالاتی مانند این، اینجا ثبتنام کنید.