اشتراک
تصویر: مارک زاکربرگ
تصویر: مارک زاکربرگ
هوش مصنوعی فناوری شبکه‌های اجتماعی

فیسبوک مدل هوش مصنوعی Llama 4 خود را به راست متمایل می‌کند و می‌خواهد «هر دو طرف» را ارائه دهد

مدل Llama 4 متا نگران سوگیری چپ‌گرایانه در داده‌ها است و می‌خواهد بیشتر شبیه Grok ایلان ماسک باشد

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

فیسبوک مدل هوش مصنوعی Llama 4 خود را که تحت تأثیر سوگیری‌های چپ‌گرایانه است، به سمتی راست‌گرا متمایل می‌کند و هدف آن ارائه دیدگاه‌های متنوع‌تر است. این شرکت اعلام کرده که سوگیری در سیستم‌های هوش مصنوعی یک مسئله جدی است و تلاش برای رفع این مشکل دارند. فیسبوک معتقد است حتی مدل‌های زبان بزرگ مانند Llama 4 نیز ممکن است به دلیل داده‌های آموزشی در دسترس در اینترنت به سمت دیدگاه‌های چپ‌گرایانه سوگیری داشته باشند. به این ترتیب، متا در تلاش است تا دیدگاه‌های هر دو طرف را در سیستم‌های هوش مصنوعی خود بگنجاند تا تعادل و بی‌طرفی بیشتری را ایجاد کند. این اقدام برخلاف تحقیقات متعددی است که نشان می‌دهد سیستم‌های هوش مصنوعی ممکن است به تبعیض علیه اقلیت‌ها بر اساس نژاد، جنسیت و ملیت تمایل داشته باشند. هدف فیسبوک از این حرکت، ایجاد تعادل در دیدگاه‌ها و جلوگیری از تبعیض است. این نگرانی‌ها در خصوص سوگیری هوش مصنوعی، با توجه به داده‌های آموزشی موجود در اینترنت که گاهی ممکن است به سمت خاصی متمایل باشند، افزایش یافته است. فیسبوک هدف دارد تا با تغییر رویکرد خود در طراحی مدل‌های هوش مصنوعی، این گونه سوگیری‌ها را کاهش دهد و از انعکاس دقیق‌تر و واقع‌بینانه‌تر جامعه اطمینان حاصل کند.

سوگیری در سیستم‌های هوش مصنوعی، یا این واقعیت که مدل‌های زبانی بزرگ، تشخیص چهره و مولدهای تصویر هوش مصنوعی فقط می‌توانند اطلاعات موجود در داده‌هایی را که این فناوری‌ها بر اساس آن آموزش داده شده‌اند، دوباره ترکیب و بازتولید کنند، یک واقعیت اثبات‌شده است که محققان و دانشگاهیان از زمان آغاز به کار این فناوری‌ها در مورد آن هشدار داده‌اند.

در یک پست وبلاگی درباره انتشار Llama 4، مدل هوش مصنوعی با وزن باز متا، این شرکت به وضوح بیان می‌کند که سوگیری مشکلی است که آنها در تلاش برای حل آن هستند، اما برخلاف انبوه تحقیقاتی که ثابت کرده‌اند سیستم‌های هوش مصنوعی بیشتر احتمال دارد بر اساس نژاد، جنسیت و ملیت علیه اقلیت‌ها تبعیض قائل شوند، متا به طور خاص نگران این است که Llama 4 دارای سوگیری سیاسی چپ‌گرایانه باشد.

متا در وبلاگ خود گفت: «این موضوع به خوبی شناخته شده است که همه LLMهای برتر در مورد سوگیری مشکل داشته‌اند—به طور خاص، آنها از لحاظ تاریخی زمانی که صحبت از موضوعات سیاسی و اجتماعی مورد بحث به میان می‌آید، به چپ متمایل بوده‌اند.» «این به دلیل انواع داده‌های آموزشی موجود در اینترنت است.»

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: 404media.co