این هفته، اوپنایآی مولد تصویر جدیدی را در ChatGPT راهاندازی کرد که به سرعت به دلیل تواناییاش در ایجاد تصاویر به سبک استودیو جیبلی (Studio Ghibli) محبوب شد. فراتر از تصاویر پاستلی، مولد تصویر بومی GPT-4o قابلیتهای ChatGPT را به طور قابل توجهی ارتقا میدهد و ویرایش تصویر، رندر متن و نمایش فضایی را بهبود میبخشد.
با این حال، یکی از قابل توجهترین تغییراتی که اوپنایآی این هفته اعمال کرد، مربوط به سیاستهای تعدیل محتوای آن است که اکنون به ChatGPT اجازه میدهد، در صورت درخواست، تصاویری از چهرههای عمومی، نمادهای نفرتپراکن و ویژگیهای نژادی تولید کند.
پیش از این، اوپنایآی این نوع درخواستها را به دلیل بحثبرانگیز یا مضر بودن بیش از حد رد میکرد. اما اکنون، به گفته جوآن جنگ، سرپرست رفتار مدل در اوپنایآی، در پست وبلاگی که روز پنجشنبه منتشر شد، این شرکت رویکرد خود را «تکامل» داده است.
جنگ گفت: «ما از امتناع کلی در حوزههای حساس به سمت رویکردی دقیقتر و متمرکز بر جلوگیری از آسیب در دنیای واقعی حرکت میکنیم.» وی افزود: «هدف، پذیرش فروتنی است: تشخیص اینکه چقدر نمیدانیم و قرار دادن خود در موقعیتی که با یادگیری، سازگار شویم.»
به نظر میرسد این تنظیمات بخشی از برنامه بزرگتر اوپنایآی برای «رفع سانسور» مؤثر ChatGPT باشد. اوپنایآی در ماه فوریه اعلام کرد که در حال تغییر نحوه آموزش مدلهای هوش مصنوعی خود است، با هدف نهایی اینکه ChatGPT بتواند درخواستهای بیشتری را مدیریت کند، دیدگاههای متنوعی ارائه دهد و موضوعاتی را که چتبات از کار با آنها امتناع میکند، کاهش دهد.
بر اساس سیاست بهروز شده، ChatGPT اکنون میتواند تصاویر دونالد ترامپ، ایلان ماسک و دیگر چهرههای عمومی را که اوپنایآی قبلاً اجازه تولید آنها را نمیداد، تولید و اصلاح کند. جنگ میگوید اوپنایآی نمیخواهد داور وضعیت باشد و انتخاب کند چه کسی باید و نباید توسط ChatGPT تولید شود. در عوض، این شرکت به کاربران گزینهای برای انصراف (opt-out) ارائه میدهد اگر نمیخواهند ChatGPT تصویری از آنها را ترسیم کند.
در یک گزارش فنی (وایتپیپر) که روز سهشنبه منتشر شد، اوپنایآی همچنین اعلام کرد که به کاربران ChatGPT اجازه میدهد تا «نمادهای نفرتپراکن»، مانند صلیب شکسته (swastikas)، را در زمینههای آموزشی یا خنثی تولید کنند، به شرطی که «به وضوح از برنامههای افراطگرایانه تمجید یا حمایت نکنند.»
علاوه بر این، اوپنایآی نحوه تعریف محتوای «توهینآمیز» را تغییر میدهد. جنگ میگوید ChatGPT قبلاً درخواستهای مربوط به ویژگیهای فیزیکی، مانند «چشمان این شخص را آسیاییتر کن» یا «این شخص را سنگینتر کن» را رد میکرد. در آزمایشهای تککرانچ، ما دریافتیم که مولد تصویر جدید ChatGPT این نوع درخواستها را برآورده میکند.
همچنین، ChatGPT اکنون میتواند سبکهای استودیوهای خلاق - مانند پیکسار (Pixar) یا استودیو جیبلی - را تقلید کند اما همچنان تقلید از سبک هنرمندان زنده را محدود میکند. همانطور که تککرانچ قبلاً اشاره کرد، این میتواند بحث موجود پیرامون استفاده منصفانه از آثار دارای حق نشر در مجموعه دادههای آموزشی هوش مصنوعی را دوباره مطرح کند.
شایان ذکر است که اوپنایآی درهای سوء استفاده را به طور کامل باز نمیکند. مولد تصویر بومی GPT-4o هنوز بسیاری از پرسوجوهای حساس را رد میکند و در واقع، طبق گزارش فنی GPT-4o، نسبت به DALL-E 3، مولد تصویر هوش مصنوعی قبلی ChatGPT، تدابیر حفاظتی بیشتری در مورد تولید تصاویر کودکان دارد.
اما اوپنایآی پس از سالها شکایات محافظهکاران پیرامون «سانسور» ادعایی هوش مصنوعی توسط شرکتهای سیلیکون ولی، در حال کاهش محدودیتهای خود در زمینههای دیگر است. گوگل پیش از این به دلیل مولد تصویر هوش مصنوعی جمینای (Gemini) خود با واکنش منفی مواجه شد که برای پرسوجوهایی مانند «بنیانگذاران ایالات متحده» و «سربازان آلمانی در جنگ جهانی دوم» تصاویر چندنژادی تولید کرد که بدیهی است نادرست بودند.
اکنون، جنگ فرهنگی پیرامون تعدیل محتوای هوش مصنوعی ممکن است به اوج خود برسد. اوایل این ماه، جیم جردن، نماینده جمهوریخواه کنگره، سوالاتی را برای اوپنایآی، گوگل و دیگر غولهای فناوری در مورد تبانی احتمالی با دولت بایدن برای سانسور محتوای تولید شده توسط هوش مصنوعی ارسال کرد.
در بیانیه قبلی به تککرانچ، اوپنایآی این ایده را که تغییرات تعدیل محتوای آن با انگیزه سیاسی بوده است، رد کرد. در عوض، این شرکت میگوید این تغییر منعکس کننده «باور دیرینه به دادن کنترل بیشتر به کاربران» است و فناوری اوپنایآی اکنون به اندازهای خوب شده است که بتواند موضوعات حساس را مدیریت کند.
صرف نظر از انگیزه آن، با توجه به پتانسیل نظارت نظارتی تحت دولت ترامپ، مطمئناً زمان مناسبی برای اوپنایآی است که سیاستهای تعدیل محتوای خود را تغییر دهد. غولهای سیلیکون ولی مانند متا (Meta) و ایکس (X) نیز سیاستهای مشابهی را اتخاذ کردهاند و اجازه میدهند موضوعات بحثبرانگیز بیشتری در پلتفرمهایشان مطرح شود.
در حالی که مولد تصویر جدید اوپنایآی تاکنون تنها چند میم وایرال از استودیو جیبلی ایجاد کرده است، مشخص نیست که اثرات گستردهتر این سیاستها چه خواهد بود. تغییرات اخیر ChatGPT ممکن است مورد استقبال دولت ترامپ قرار گیرد، اما اجازه دادن به یک چتبات هوش مصنوعی برای پاسخ به سوالات حساس میتواند به زودی اوپنایآی را دچار مشکل کند.