هجوم «علم بی‌ارزش» ساخته شده توسط هوش مصنوعی به گوگل اسکولار، محققان هشدار می‌دهند

تحقیقات تولید شده توسط هوش مصنوعی یک تهدید است، هم از نظر دانش جامعه و هم اعتماد عمومی به علم. این نتیجه‌گیری توسط محققان دانشکده علوم کتابداری و اطلاع‌رسانی سوئد، دانشگاه بوراس، سوئد، که اخیراً بیش از صد مقاله مشکوک تولید شده توسط هوش مصنوعی را در موتور جستجوی گوگل اسکولار شناسایی کردند، به دست آمد.

تحقیقاتآنها گزارش می‌دهد که مقالات علمی جعلی تولید شده توسط هوش مصنوعی موتور جستجوی گوگل اسکولار را پر کرده است. یافته‌های این مطالعه در مورد علم بی‌ارزش ساخته شده توسط هوش مصنوعی به این معنی است که علم جعلی در دسترس قرار گرفته و می‌تواند به طور گسترده و با هزینه بسیار کمتری برای عوامل مخرب گسترش یابد. این کار در مجله Harvard Kennedy School Misinformation Review منتشر شده است.

به گفته جوتا هایدر و بیورن اکستروم از دانشکده علوم کتابداری و اطلاع رسانی سوئد، که به همراه کریستوفر سودرستروم در دانشگاه لوند و مالته رادل در دانشگاه علوم کشاورزی سوئد این مطالعه را انجام داده‌اند، این موضوع خطری برای جامعه و جامعه تحقیقاتی است.

افزایش خطر هک شواهد

یکی از نگرانی‌های عمده در مورد تحقیقات تولید شده توسط هوش مصنوعی، افزایش خطر هک شواهد است—اینکه از تحقیقات جعلی می‌توان برای دستکاری‌های استراتژیک استفاده کرد.

اکستروم، که دارای مدرک دکترا در رشته کتابداری و علوم اطلاعات است، گفت: «خطر آنچه ما «هک شواهد» می‌نامیم، زمانی که تحقیقات تولید شده توسط هوش مصنوعی در موتورهای جستجو پخش می‌شود، به طور قابل توجهی افزایش می‌یابد. این می‌تواند عواقب ملموسی داشته باشد زیرا نتایج نادرست می‌تواند بیشتر به جامعه نفوذ کند و احتمالاً به حوزه‌های بیشتری نیز راه پیدا کند.»

محققان پشت این مطالعه قبلاً دیده‌اند که این مقالات مشکل‌ساز به بخش‌های دیگر زیرساخت تحقیقاتی در وب، در بایگانی‌های مختلف، رسانه‌های اجتماعی و موارد مشابه نیز راه یافته است. گسترش سریع است و گوگل اسکولار مقالات مشکل‌ساز را قابل مشاهده می‌کند. حتی اگر مقالات پس گرفته شوند، این خطر وجود دارد که قبلاً زمان کافی برای گسترش داشته باشند و به این کار ادامه دهند.

علاوه بر این، تحقیقات تولید شده توسط هوش مصنوعی برای سیستم بررسی همتای تحت فشار نیز مشکلاتی ایجاد می‌کند.

این واقعیت که تحقیقات تولید شده توسط هوش مصنوعی در پایگاه داده‌های موتور جستجو در حال گسترش است، تقاضاهای بیشتری را بر کسانی که به صورت آنلاین در تحقیقات شرکت می‌کنند، وارد می‌کند.

هایدر، استاد کتابداری و علوم اطلاعات، گفت: «اگر نتوانیم به تحقیقاتی که می‌خوانیم اعتماد کنیم، این خطر وجود دارد که بر اساس اطلاعات نادرست تصمیم‌گیری کنیم. اما به همان اندازه که این مسئله‌ای در مورد تخلف علمی است، مسئله‌ای در مورد رسانه و سواد اطلاعاتی است.»

وی خاطرنشان می‌کند که گوگل اسکولار یک پایگاه داده دانشگاهی نیست. این موتور جستجو کاربرد آسان و سریعی دارد اما فاقد رویه‌های تضمین کیفیت است. این در حال حاضر مشکلی در نتایج معمول گوگل است، اما هنگام دسترسی به علم، مشکل‌آفرین‌تر نیز می‌شود.

هایدر نتیجه گرفت: «توانایی مردم برای تصمیم‌گیری در مورد اینکه کدام مجلات و ناشران—بیشتر—تحقیقات بررسی شده با کیفیت را منتشر می‌کنند، برای یافتن و تعیین اینکه چه چیزی تحقیقات قابل اعتمادی را تشکیل می‌دهد، مهم است و برای تصمیم‌گیری و شکل‌گیری عقیده از اهمیت زیادی برخوردار است.»