این «مکانیک» هوش مصنوعی می‌تواند به جعبه سیاه شبکه‌های عصبی دیگر نفوذ کند

پژوهشگران از یک مدل هوش مصنوعی برای خواندن و دستکاری کارکردهای داخلی یک شبکه هوش مصنوعی دیگر استفاده کرده‌اند — راهکاری جدید برای نگاه کردن به درون «جعبه سیاه» هوش مصنوعی.

دانشمندان رایانه معمولاً مدل‌ها را با آموزش‌های جزئی و مرحله‌به‌مرحله یا با ساخت آن‌ها از صفر بهبود می‌بخشند. تیمی در مؤسسه فناوری ماساچوست (MIT) در کمبریج نشان داده است که چگونه یک مدل هوش مصنوعی به نام GPT-6 Astra می‌تواند مقادیر خام داخلی برخی مدل‌های دیگر را تا حدی تفسیر کند که عملکرد بخش‌های مختلف سیستم را پیش‌بینی نماید. سپس می‌تواند مدل‌ها را برای ایجاد بهبودها — از جمله تقویت توانایی‌های ریاضی آن‌ها — ویرایش کند. نویسندگان یافته‌های خود را در یک پیش‌چاپ¹ در تاریخ ۲ نوامبر گزارش کردند.

ریکیا تاکهی، محقق یادگیری ماشین در MIT و نویسنده همکار این مقاله، می‌گوید مدل‌های پیشرفته هوش مصنوعی «جرقه‌های اولیه» توانایی برخورد با شبکه‌های عصبی به عنوان فایل‌هایی را نشان می‌دهند که می‌توان آن‌ها را خواند، درباره‌شان استدلال کرد و تغییر داد.

این نتایج به این معنا نیست که آسترا، توسعه‌یافته توسط شرکت OpenAI در سان‌فرانسیسکو، کالیفرنیا، می‌تواند نحوه کارکرد یک شبکه هوش مصنوعی خاص را توضیح دهد یا درک کند. اما یافته‌ها پیشنهاد می‌کنند که مدل‌های هوش مصنوعی چندمنظوره — مانند ChatGPT یا Claude — ممکن است بتوانند شبکه‌ها را به روش‌های مفیدی تغییر دهند؛ درست مانند مکانیکی که می‌تواند مشکلات موتور را شناسایی و برطرف کند، در حالی که نه آن را طراحی کرده و نه کاملاً آن را می‌شناسد.

پژوهشگران از قبل تلاش می‌کنند تا بفهمند اجزای مختلف یک شبکه چگونه خروجی‌های آن را تولید می‌کنند. این پیش‌چاپ نشان می‌دهد که خودکارسازی برخی از این روش‌های «تفسیرپذیری» امکان‌پذیر است، به گفته فزل بارز، محقق ایمنی هوش مصنوعی در دانشگاه آکسفورد انگلستان.

پژوهشگران امیدوارند که درک بهتر مدل‌ها به این شیوه، به ایجاد سیستم‌های هوش مصنوعی ایمن‌تر کمک کند، اگرچه بارز هشدار می‌دهد که این فرضیه «عملاً آزمایش نشده» است.

هنوز مشخص نیست که آیا آسترا فراتر از اعمال اطلاعات و تکنیک‌های آموخته‌شده در دوران آموزش خود عمل می‌کند یا خیر. بارز می‌گوید اگر آسترا بتواند مدل‌ها را به روش‌هایی بخواند و تفسیر کند که فراتر از توانایی‌های فعلی انسان باشد، شگفت‌زده خواهد شد.

با این حال، مارینکا زیتنیک، دانشمند رایانه و بیوانفورماتیست در دانشگاه هاروارد در کمبریج، ماساچوست، می‌گوید اگر چنین توانایی برنامه‌ریزی مجدد مدل‌ها بیشتر توسعه یابد، می‌تواند دارایی ارزشمندی در توسعه هوش مصنوعی برای علوم باشد. او مثلاً اشاره می‌کند که این قابلیت می‌تواند به شناسایی خطاها در یک مدل پیش از آزمایش در دنیای واقعی کمک کند.

سیستم‌های پیشرفته هوش مصنوعی بر پایه شبکه‌های عصبی عظیم بنا شده‌اند — معماری‌های الهام‌گرفته از مغز که در آن‌ها لایه‌هایی از واحدهای پردازشی، یا نورون‌ها، توسط میلیاردها «وزن» به هم متصل هستند؛ مقادیری که قدرت اتصالات داخل مدل را نشان می‌دهند. قدرت هر وزن در حین آموزش به آرامی تنظیم می‌شود تا مدل در کارهایی مانند پیش‌بینی ساختار پروتئین یا کلمه بعدی در یک جمله بهتر شود.

پیچیدگی ارتباط بین ویژگی‌های یک مدل و خروجی‌های آن باعث می‌شود اغلب از آن‌ها به عنوان جعبه سیاه توصیف شوند. محققان تفسیرپذیری آزمایش‌هایی انجام می‌دهند تا مشخص کنند، برای مثال، کدام وزن‌ها تحت شرایط خاصی فعال می‌شوند. پژوهشگران قبلاً نیز مدل‌های سفارشی‌سازی‌شده‌ای توسعه داده‌اند که می‌توانند یاد بگیرند مدل‌های دیگر را ویرایش کنند².