در دوران رشد، این یک کلیشه رایج بود که فرهنگ‌هایی که امروزه با فقر، خشونت و سرکوب مرتبط می‌دانیم، زمانی در ترویج رفاه و پیشرفت اخلاقی و همچنین عمل اصیل انسانیِ اختراع، پیشرو جهانی بودند. این باور رایج در نهایت نه از میل صادقانه به ترویج آگاهی از حقایق تجربی درست اما نادیده‌گرفته‌شده نشأت می‌گرفت. در عوض، توسط حکایت‌ها و نقل‌قول‌هایی با قابلیت اطمینان و ارتباط مشکوک، توسط دانشی که اغراق‌آمیز یا جعلی از آب درآمده، و توسط ترویج این موارد در رسانه‌های عامه‌پسند پشتیبانی می‌شد.
مورد مورد علاقه من در این زمینه مربوط به اختراع بسیاری از اختراعاتی است که به اصطلاح عصر طلایی اسلامی نسبت داده شده‌اند، توسط یک ویرایشگر یاغی ویکی‌پدیا.
آیا تا به حال نام «Jagged_85» را شنیده‌اید؟ اگر علاقه‌مند به تاریخ هستید، احتمالاً حداقل برخی از ادعاهای او را شنیده‌اید. برای مثال:
مسلمانان قیف و الک را اختراع کردند
الرازی مواد حل‌کننده و تصعید را اختراع کرد
جابر بن حیان چسب پنیر را اختراع کرد
ابن سهل اولین بار آینه سهمی را توصیف کرد
یک ساعت آبی اسلامی از قرن دوازدهم دارای اولین لوله‌های مسی بود
ابن‌سینا تکانه را به صورت وزن ضربدر سرعت فرموله کرد
اخوان‌الصفا در قرن دهم یک جهان خورشیدمرکز را پیشنهاد کردند
داروین از کار ابن مسکویه برای توسعه نظریه تکامل استفاده کرد
غزالی مستقیماً بر کار فلسفی بعدی دکارت تأثیر گذاشت
ادعاهای بسیار دیگری نیز وجود دارد که می‌توانم به این فهرست اضافه کنم: تقی‌الدین در دهه ۱۵۷۰ تلسکوپ را اختراع کرد؛ ابن‌سینا میکروارگانیسم‌ها را کشف کرد؛ محمد بن موسی جاذبه بین سیارات را کشف کرد؛ البیرونی مدارهای بیضوی سیارات را کشف کرد؛ الجزری تنظیم‌کننده‌های جریان و کنترل بازخورد را اختراع کرد؛ رقه یک کارخانه شیشه‌سازی بزرگ داشت که در آن ۳۰۰ دستور مختلف شیشه استفاده می‌شد، یا — شگفت‌انگیزتر از همه — البتانی یک هزاره قبل از اینشتین نسبیت را کشف کرد.
Jagged_85 هزاران مقاله را خراب کرد و در فاصله بین شروع در سال ۲۰۰۵ تا دستگیری در سال ۲۰۱۲ بیش از ۸۷٬۰۰۰ ویرایش در ویکی‌پدیا انجام داد. آن ویرایش‌ها منجر به صدها ادعای نادرست شد که به نادرست به کتاب‌ها و مقالات تاریخی نسبت داده شد، و اکنون، آن ادعاها در اینترنت زنده هستند، بی‌دقت تکرار می‌شوند و به عنوان حقیقت ترویج می‌شوند، در حالی که هیچ چیز جز این نیستند. چندین مورد از این ادعاها حتی به ادبیات علمی نفوذ کرده‌اند، و اکنون به لطف تکرار توسط دانشمندانی که توسط آنچه در مقالات ویکی‌پدیای Jagged_85 خوانده بودند گمراه شده‌اند، تا حدودی به عنوان حقایق واقعی اعتبار کسب کرده‌اند!
چگونه ادعاهای نادرست به ویکی‌پدیا راه می‌یابند؟
روش کار یک ادعای Jagged_85 ساده است. او به ندرت ادعاها را کاملاً جعل می‌کرد و همیشه نوعی سند منبع به آن‌ها ضمیمه بود، که از آن معمولاً می‌شد تا حدودی منظور او را فهمید. به عنوان مثال، ادعای اینکه مسلمانان بین سال‌های ۷۲۱ و ۹۲۵ قیف و الک را اختراع کردند را در نظر بگیرید. Jagged_85 منبعی را ذکر کرده بود، فقط آن منبع چیزی را که برای آن ذکر شده بود نمی‌گفت. آنچه واقعاً به خوانندگان ارائه می‌داد فهرستی از تجهیزات آزمایشگاهی مورد استفاده دانشمندان مسلمان بود که در میان آن‌ها می‌شد قیف و الک پیدا کرد. مسئله حیاتی این است که هرگز گفته نشده بود که آن‌ها اینها را اختراع کردند، و در واقع، نشان می‌داد که اینها از دوران باستان توسط دانشمندان رومی و یونانی استفاده می‌شدند. آن نکته آخر در جاهایی که به آن کار استناد شده بود، ذکر نشد.
درباره ادعای اینکه الرازی مواد حل‌کننده را اختراع کرد و تصعید را کشف کرد چه؟ برای این ادعا نیز منبعی ذکر شده بود، اما آنچه می‌گفت این بود که الرازی عملیات آن‌ها را توصیف کرد، نه اینکه آن‌ها را کشف کرده باشد. آن دستاورد به یونانیان نسبت داده شده بود. اختراع چسب پنیر توسط جابر بن حیان؟ به سندی استناد شده بود که می‌گفت او یک دستور قرون وسطایی را ترجمه کرده است؛ منابع دیگر به ما نشان می‌دهند که چسب‌های از این نوع در مصر باستان استفاده می‌شدند. اختراع آینه سهمی توسط ابن سهل؟ این از منبعی آمده بود که بسیاری از محققان قبلی را ذکر کرده بود. و خنده‌دار اینکه وقتی Jagged_85 آن استناد را انجام داد، نفهمید درباره چه چیزی صحبت می‌کند، زیرا آینه را «شکست‌دهنده» نامید، نه «بازتاب‌دهنده».
ویرایش‌های ارائه‌شده توسط Jagged_85 ظاهری کاملاً علمی داشتند، اما استنادها با این حال کشیده و اغراق‌آمیز بودند، و گاهی با چیزهایی که برای گفتن آن‌ها استناد شده بودند در تناقض بودند. این در سال ۲۰۱۰ در یک مورد برجسته مورد توجه قرار گرفت، جایی که Jagged_85 مفهوم منطق ابن‌سینایی را اختراع کرد و سپس ابن‌سیناگرایی را با آن مفهوم درهم آمیخت:
مقاله درباره «ابن‌سیناگرایی» می‌گوید که «منطق ابن‌سینایی بر منطق‌دانان اروپایی اوایل قرون وسطی مانند آلبرتوس ماگنوس تأثیر گذاشت». با این حال، ایده‌ای که بیشترین تأثیر را بر این دانشمندان، از جمله آلبرت، گذاشت، تمایز ابن‌سینا بین ماهیت و وجود بود، که یک نوآوری اصیل و انحراف از ارسطو بود. این ایده تأثیر عمیقی، به روش‌های مختلف، بر آکویناس، ژیل رومی، هنری گنت، اسکوتوس و در نهایت اوکام گذاشت. اما این یک ایده متافیزیکی است، نه منطقی. تا آنجا که من می‌دانم، هیچ نویسنده قرون وسطایی درباره منطق ابن‌سینا بحث نمی‌کند (برخلاف تفسیر او بر متافیزیک، که مکرراً به آن استناد می‌کنند). اثر بزرگ نیل، توسعه منطق، دو بار از ابن‌سینا نام می‌برد، هیچ‌کدام در ارتباط با منطق. بوچنسکی اصلاً از او نام نمی‌برد. هیچ‌یک از مقالات در منابع ثانویه اصلی درباره فلسفه قرون وسطی از منطق ابن‌سینا نام نمی‌برد (اگرچه درباره سایر دستاوردهای او به تفصیل بحث می‌کنند).
[این] ضعف آشکاری را در «اصل تأییدپذیری» ویکی‌پدیا اثبات می‌کند. [... Jagged_85 مکرراً از] آثار علمی که در اینترنت در دسترس نیستند استفاده می‌کرد. بیشتر ویرایشگران ویکی‌پدیا آماتورهایی هستند که به کتابخانه دانشگاهی دسترسی ندارند. بنابراین نمی‌توانند منبعی از یک مجله، یا یک کتاب قدیمی یا مبهم که فقط در کتابخانه یافت می‌شود را بررسی کنند.
با وجود این، اگر امروز منطق ابن‌سینایی یا ابن‌سیناگرایی را جستجو کنید، می‌توانید مفاهیم تحریف‌شده‌ای از آنچه ابن‌سیناگرایی است پیدا کنید، و افراد زیادی که درباره منطق ابن‌سینایی صحبت می‌کنند، گویی یک چیز واقعی است، با نسبت‌هایی به منابعی که Jagged_85 استفاده کرده بود. اما این نسبت‌ها نادرست هستند؛ منابع از ادعاهایی که دانشمندان درباره آن‌ها کرده‌اند پشتیبانی نمی‌کنند، و چون به روش‌هایی که Jagged_85 استناد کرده بود به نادرست استناد شده‌اند، می‌دانیم که پشتوانه خود را از ویرایش‌های ویکی‌پدیای او گرفته‌اند.
چگونه ادعاهای نادرست به سایر دانشمندان راه می‌یابند؟
دانشمندان، در یک کلمه، تنبل هستند. اما دلیل این امر مشکل خاصی با دانشمندان نیست، بلکه بازتاب این واقعیت است که بیشتر انسان‌ها تنبل هستند. اگر می‌توانید یک خلاصه ویکی‌پدیا را بخوانید تا اطلاعات خود را به دست آورید، چرا این کار را نکنید؟ این بسیار آسان‌تر و کم‌پیچیده‌تر از رفتن به منابع ثانویه‌ای است که ویکی‌پدیا به آن‌ها استناد می‌کند، و آسان‌تر از رفتن به منابع اولیه‌ای است که آن منابع ثانویه به آن‌ها استناد می‌کنند. در برخی موارد، استفاده از ویکی‌پدیا و کپی کردن بخش کتابشناسی آن آسان‌تر از دسترسی به آثار مربوطه است. اگر به یک استناد نیاز دارید، این یک مسیر رایج است، متأسفانه.
تعجب‌آور نیست که بسیاری از دانشمندان سخنان جعلی Jagged_85 را طوطی‌وار تکرار کرده‌اند.
تأثیر علمی این ادعاهای نادرست از نظر دانشگاهیان دور نمانده است. مقالات و نوشته‌هایی وجود دارند که به طور خاص تأثیر Jagged_85 را بر ادبیات گسترده‌ای از جمله روانشناسی و پزشکی ذکر کرده‌اند. در عجیب‌ترین موارد، دانشمندان توسط Jagged_85 به نادرست معرفی می‌شوند و سپس ادعاهای خود را برای حمایت از آن معرفی‌های نادرست به‌روزرسانی می‌کنند.
پروفسور بازنشسته دانشگاه منچستر، سلیم الحسنی، نگهدارنده پروژه ۱۰۰۱ اختراع و وب‌سایت MuslimHeritage.com را در نظر بگیرید. در مقاله‌ای به تاریخ ۲۰۰۴ — بسیار قبل از شروع ویرایش‌های Jagged_85 — او کارکردهای داخلی ساعت فیل، تنظیم جریان، عملیات حلقه بسته و غیره را توصیف کرد، اما هیچ‌جا نگفت که اینها اولین ظهور این مفاهیم بودند. در سال ۲۰۰۷، Jagged_85 ویکی‌پدیا را ویرایش کرد تا ادعا کند که مسلمانان این چیزها را با ساعت فیل اختراع کردند، و به الحسنی استناد کرد. اندکی بعد، در سال ۲۰۰۸، الحسنی مقاله دیگری منتشر کرد که همان نوع ادعاها را با عبارات مشابه مطرح می‌کرد! این خطاها سپس به طور گسترده بازنشر شدند، از جمله توسط کسب‌وکارهایی که هنوز این ادعاها را دارند.
چگونه ادعاهای نادرست به شما می‌رسند؟
ادعاهای نادرست شسته‌شده از ویکی‌پدیا به محافل دانشگاهی و فراتر از آن به روح زمانه راه می‌یابند، زیرا به مردم درباره چیزهایی که می‌توانند بگویند و باید باور کنند، اطلاع می‌دهند. آن‌ها فراتر از این می‌روند زیرا باور می‌شوند، و در این موارد، قابل قبول هستند — به لطف پذیرش دانشگاهی، حضور در ویکی‌پدیا، اعتبار علمی و غیره — و مردم می‌خواهند آن‌ها را باور کنند؛ مد روز است که درباره یک عصر طلایی مسلمانان اغراق‌شده و دوران اختراع صحبت کنیم. مسلمانان تازه به جوامع غربی معرفی می‌شوند، بنابراین همانطور که کریستف کلمب شروع به تجلیل شد تا ایتالیایی‌ها را به آمریکا خوش‌آمد بگوید، اکنون ما ارزشمند می‌دانیم که درباره اینکه چگونه دانشمندان غربی و نوابغ تاریخی در واقع از مسلمانان در اعصار گذشته، فراموش‌شده و شاید حتی عمداً پنهان‌شده الهام گرفته‌اند، صحبت کنیم.
گسترده‌ترین ایده‌های نادرست از طریق آموزشی شدن به برجستگی می‌رسند: آن‌ها اکنون از جمله حقایقی هستند که مردم باید بدانند، نه فقط ابهامات دانشگاهی. برای مثال، سلیم الحسنی نمایشگاهی در موزه علم لندن برپا کرد، و روزنامه‌نگار لندنی اولیویا استرنز نمایشگاه را دید و تصمیم گرفت درباره آن برای CNN بنویسد. مقاله شامل ادعای نادرستی بود که در نهایت از Jagged_85 سرچشمه می‌گرفت، مبنی بر اینکه میل‌لنگ توسط الجزری در قرن دوازدهم اختراع شد.
در یک نمایش ضعیف و ویروسی مشابه، شان کارول ظاهراً از ویکی‌پدیا برای فهمیدن اینکه چه کسی تکانه را ابداع کرده استفاده کرد، و در این کار، خطایی را نقل کرد که از ویرایش‌های Jagged_85 سرچشمه می‌گرفت. او آن را به ابن‌سینا نسبت داد، با استفاده از عباراتی برگرفته از Jagged_85. همانطور که مشخص شد، ابن‌سینا به نادرست استناد شده بود، و این اولین بار نبود. ممکن است افراد از طریق توضیحات Google Books، فهرست‌های موجود در سایت‌هایی مانند Booktopia و Goodreads و غیره نیز در معرض ویرایش‌های Jagged_85 درباره ابن‌سینا قرار گرفته باشند، که همگی شامل توصیف‌های نادرست از ترجمه‌های قانون پزشکی ابن‌سینا بوده‌اند، و ادعا می‌کنند که نویسنده — ابن‌سینا — کارآزمایی‌های تصادفی کنترل‌شده و تحلیل عوامل خطر را اختراع کرده است.
آنچه داستان Jagged_85 به ما نشان می‌دهد این است که با کمی جسارت، هر کسی می‌تواند محیط اطلاعاتی مشترک ما را با زباله پر کند. آن‌ها می‌توانند دروغ‌ها و اغراق‌هایی داشته باشند که هزاران دانشمند، برنامه‌ها و جزوه‌های آموزشی، نمایشگاه‌های موزه، روزنامه‌نگاران و موتورهای جستجو به آن‌ها استناد کنند، زیرا هیچ‌کس بررسی نمی‌کند و مردم تنبل می‌شوند.
چه کسی می‌داند چند ویرایش Jagged_85 در آگاهی عمومی زنده مانده است و باعث می‌شود مردم به اشتباه درباره اسلام و جهان مسلمان «مطلع» احساس کنند؟ با دانستن فقط چند ده مورد از آن‌ها، شخصاً می‌توانم شهادت دهم که آن‌ها را چندین بار در سال می‌بینم. من همچنین گاهی از سایر ادعاهای نادرست مشهور برگرفته از ویکی‌پدیا مطلع می‌شوم، مانند آن‌هایی درباره مخترع توستر برقی آلن مک‌مسترز — که هرگز وجود نداشت با وجود حضور در چندین برنامه BBC —، آن‌هایی درباره اتاق‌های گاز ناموجود در ورشو (اتاق‌های گاز واقعی جای دیگری بودند)، یا مقالات مختلف درباره تبعیدهای چینی و معادن نقره ناموجود در تاریخ روسیه که توسط ویرایشگر ژماو اختراع شده‌اند. چه کسی می‌داند چقدر ادبیات، چند برنامه تلویزیونی، چند «واقعیت جالب» چیزی جز اختراع یک ویکی‌پدیایی ناخوشایند نیستند؟
این یک پست زمان‌دار بود. روش کار اینها این است که اگر بیش از یک ساعت طول بکشد تا پست را کامل کنم، یک اپلت که ساخته‌ام همه چیزهایی که تاکنون نوشته‌ام را حذف می‌کند و من پست را رها می‌کنم. می‌توانید پست زمان‌دار قبلی من را اینجا پیدا کنید.
پیامی از حامی مالی من، Mechanize:
ما در حال استخدام مهندسان نرم‌افزار برای ساخت محیط‌ها و ارزیابی‌هایی هستیم که آزمایشگاه‌های هوش مصنوعی پیشرو از آن‌ها برای آموزش عوامل کدنویسی استفاده می‌کنند.
برای درک بهتر کاری که انجام می‌دهیم، می‌توانید GBA Eval را بررسی کنید، جایی که ما مدل‌ها را وادار کردیم شبیه‌سازهای Game Boy Advance را از ابتدا بسازند و عملکرد آن‌ها را امتیازدهی کردیم.
حقوق پایه از ۳۰۰٬۰۰۰ دلار در سال برای مهندسان نرم‌افزار جوان شروع می‌شود، با بیشتر برای نقش‌های ارشد، به علاوه سهام و پاداش‌های عملکردی. اینجا درخواست دهید.
با ظهور LLMها، این مشکل تشدید شده است. LLMها به جعلیات مبتنی بر ویکی‌پدیا استناد می‌کنند گویی که بازنمایی‌های دقیقی از منابع خود هستند. برای اطمینان از اینکه گمراه نشوید، باید واقعاً بدانید چیزی در مورد آنچه LLM به شما می‌گوید اشتباه است. من نوشته‌ام که معتقدم این مسئله اصلی استفاده از LLMها برای تحقیق است.