اشتراک
علم و دانشگاه فناوری سیاست و اخلاق

چگونه از آسیب هوش مصنوعی به ریاضیات جلوگیری کنیم

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

پیشرفت‌های سریع هوش مصنوعی مولد، چالش‌های جدی و نوظهوری را برای جامعه علمی و به‌ویژه رشته ریاضیات ایجاد کرده است، از جمله افت کیفیت پژوهش‌ها، کنترل فرآیندهای علمی توسط شرکت‌های بزرگ فناوری و پیامدهای اخلاقی ناشی از کاربردهای مخرب این فناوری. در واکنش به این وضعیت، «اعلامیه لیدن در مورد هوش مصنوعی و ریاضیات» توسط جمعی از متخصصان تدوین شده و تاکنون مورد حمایت هزاران دانشمند قرار گرفته است. این اعلامیه با تأکید بر ارزش‌های بنیادین ریاضیات نظیر شفافیت، یکپارچگی علمی، دانش مبتنی بر شایستگی و خودمختاری پژوهشگران، خواستار تعامل هوشمندانه و اخلاقی با هوش مصنوعی است. نویسندگان این سند هشدار می‌دهند که ورود ابزارهای هوش مصنوعی نباید منجر به تضعیف تخصص انسانی، شکاف‌های اجتماعی یا آسیب به سیستم‌های آموزشی شود. در نتیجه، از ریاضیدانان خواسته شده است که مسئولیت‌پذیری اخلاقی خود را در انتخاب ابزارها و تعامل با صنعت حفظ کنند، بر اصالت و نویسندگی انسانی تأکید ورزند، استفاده از هوش مصنوعی را شفاف‌سازی کنند و با پایبندی به استانداردهای سخت‌گیرانه، اطمینان حاصل نمایند که فناوری در خدمت پیشرفت علم و توسعه بینش‌های انسانی قرار می‌گیرد، نه عاملی برای زوال استقلال و تخصص این رشته.

علم، آن‌گونه که می‌شناسیم، در معرض تهدید پیشرفت‌های سریع هوش مصنوعی قرار دارد. هوش مصنوعی مولد (Generative AI) باعث افزایش ارسال مقالات پژوهشی بی‌کیفیت شده که با کمک چت‌بات‌ها نوشته شده‌اند. همچنین، شرکت‌های فناوری قدرتمندترین مدل‌ها را کنترل می‌کنند. با شتاب گرفتن سرمایه‌گذاری‌ها در هوش مصنوعی برای علم، ممکن است زمان زیادی طول نکشد تا شرکت‌های فناوری عملاً سؤالاتی را که پژوهشگران مطرح می‌کنند، شکل دهند.

ریاضیات به طور خاص تحت تأثیر قرار گرفته است، زیرا این رشته در قلب سیستم‌های هوش مصنوعی قرار دارد. کار بسیاری از پژوهشگران ریاضی نیز به قلمرو اخلاقی کشیده می‌شود. مدل‌های هوش مصنوعی می‌توانند برای جنگ یا نظارت گسترده و دامن زدن به ناآرامی‌های سیاسی استفاده شوند. استفاده از هوش مصنوعی همچنین از طریق تقاضای سیستم‌ها برای انرژی و آب، بر محیط زیست تأثیر می‌گذارد.

به همین دلیل، من به همراه ۱۵ همکارم، «اعلامیه لیدن در مورد هوش مصنوعی و ریاضیات» را نوشتیم. این اعلامیه از همه ریاضیدانان – به عنوان افراد و به عنوان یک جامعه – می‌خواهد که اطمینان حاصل کنند ادغام هوش مصنوعی در این رشته، مزایایی به همراه دارد، نه آسیب‌های جبران‌ناپذیر. هوش مصنوعی باید فرآیندها را تسریع بخشد یا به پژوهشگران کمک کند تا بینش‌هایی به دست آورند؛ نباید تخصص را از بین ببرد، شکاف‌هایی در جامعه ایجاد کند یا سیستم آموزشی را تضعیف کند. این اعلامیه در ۲ ژوئن منتشر شد. از آن زمان، تقریباً ۳۰۰۰ دانشمند، که بیشتر آنها ریاضیدانان پژوهشگر هستند، آن را امضا کرده‌اند و مورد توجه سازمان‌های ریاضی و مطبوعات قرار گرفته است.

با این حال، من فکر می‌کنم بسیاری از اعضای جامعه فوریت موضوع را درک نمی‌کنند. ترنس تائو، ریاضیدان و برنده مدال فیلدز در سال ۲۰۰۶، در تأیید این اعلامیه اظهار داشت که جامعه باید سال‌ها پیش بحث در مورد پیامدهای هوش مصنوعی را آغاز می‌کرد. دیگران نیز با این نظر موافقند.

این اعلامیه نتیجه یک کارگاه آموزشی در سپتامبر ۲۰۲۵ در لیدن، هلند، است که حدود ۶۰ ریاضیدان، دانشمند کامپیوتر، مورخ، فیلسوف و دانشمند علوم اجتماعی را گرد هم آورد تا در مورد مکانیزه شدن پژوهش‌های ریاضی بحث کنند.

همه شرکت‌کنندگان موافقت کردند که با وجود طیف وسیعی از دیدگاه‌ها و پیش‌بینی‌ها در مورد معنای هوش مصنوعی برای این رشته، اقدام فوری لازم است. من بخشی از یک گروه نماینده ۱۶ نفره بودم که روی ترسیم مسیری برای این حوزه کار می‌کردند.

این اعلامیه ارزش‌های اصلی ریاضیات را مشخص می‌کند: شفافیت، یکپارچگی علمی و انتساب صحیح کارهای قبلی با قرار دادن پژوهش‌های جدید در ادبیات موجود. همچنین استانداردهای مبتنی بر شایستگی را تعیین می‌کند: توانایی یادگیری و کار در ریاضیات بر اساس مهارت‌ها، نه هر نوع امتیازی. و بر خودمختاری تأکید می‌کند: به عنوان یک جامعه، ریاضیدانان باید نقش بزرگی در جهت‌گیری این حوزه داشته باشند.

این سند از ریاضیدانان می‌خواهد که اطمینان حاصل کنند کارشان صحیح است، به علم باز پایبند باشند و اطلاعات کافی را ارائه دهند تا دست‌نوشته‌ها به طور کامل بررسی شوند. آنها باید بر نویسندگی انسانی اصرار ورزند و استفاده از هوش مصنوعی را افشا کنند. و باید تصمیمات اخلاقی آگاهانه‌ای در مورد ابزارهایی که استفاده می‌کنند و اینکه آیا با صنعت همکاری کنند، اتخاذ نمایند.

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: nature.com