گزارش شده است که ChatGPT یک مرد بی‌گناه را به قتل فرزندانش متهم کرده است

بیش از دو سال از زمانی که ChatGPT به شهرت جهانی رسید می‌گذرد و در حالی که

، هنوز موانع زیادی وجود دارد. یکی از بزرگترین مسائل، ، یا بیان اطلاعات نادرست به عنوان واقعیت است. اکنون، گروه مدافع اتریشی Noyb به دلیل چنین توهماتی ثبت کرده و به یک نمونه خاص اشاره کرده است که در آن ChatGPT ظاهراً - و به اشتباه - اظهار داشت که یک مرد نروژی یک قاتل است.

برای بدتر شدن اوضاع، زمانی که این مرد از ChatGPT پرسید که درباره او چه می‌داند، گزارش شده است که پاسخ داد او به ۲۱ سال زندان به دلیل کشتن دو فرزندش و تلاش برای قتل فرزند سومش محکوم شده است. این توهم همچنین با اطلاعات واقعی، از جمله تعداد فرزندان، جنسیت آنها و نام شهر زادگاهش همراه بود.

Noyb ادعا می‌کند که این پاسخ OpenAI را در نقض GDPR قرار داده است. یوآکیم سودربری، وکیل حفاظت از داده Noyb

: "GDPR روشن است. داده‌های شخصی باید دقیق باشند. و اگر اینطور نیست، کاربران حق دارند آن را تغییر دهند تا حقیقت را منعکس کند. نشان دادن یک سلب مسئولیت کوچک به کاربران ChatGPT مبنی بر اینکه ربات چت می‌تواند اشتباه کند، کافی نیست. شما نمی‌توانید فقط اطلاعات نادرست را پخش کنید و در پایان یک سلب مسئولیت کوچک اضافه کنید که هر آنچه گفتید ممکن است درست نباشد."

نمونه‌های قابل توجه دیگر از توهمات ChatGPT شامل متهم کردن یک مرد به

، یک گزارشگر دادگاه به و یک استاد حقوق به است، همانطور که توسط چندین نشریه گزارش شده است.

به OpenAI در مورد توهمات، در ، بر تاریخ تولد نادرست یک شخصیت عمومی متمرکز بود (بنابراین قتل نبود، اما هنوز نادرست بود). OpenAI درخواست شاکی برای پاک کردن یا به روز رسانی تاریخ تولد خود را رد کرد و ادعا کرد که نمی‌تواند اطلاعاتی را که قبلاً در سیستم وجود دارد تغییر دهد، فقط می‌تواند استفاده از آن را در برخی از درخواست‌ها مسدود کند. ChatGPT در پاسخ‌های خود به این نکته اشاره می‌کند که "می‌تواند اشتباه کند."

بله، یک ضرب المثل وجود دارد که همه اشتباه می‌کنند، به همین دلیل است که پاک‌کن روی مدادها می‌گذارند. اما، وقتی صحبت از یک ربات چت مبتنی بر هوش مصنوعی بسیار محبوب می‌شود، آیا این منطق واقعاً صدق می‌کند؟ خواهیم دید که OpenAI چگونه به آخرین شکایت Noyb پاسخ می‌دهد.