هوش مصنوعی (AI) تقریباً در هر جنبهای از زندگی ما نقش دارد، از خودروهای خودران گرفته تا جاروبرقیهای هوشمند و مدلهای کامپیوتری که میتوانند مسیر یک بیماری اپیدمی را پیشبینی کنند. مهم نیست که این سیستمهای هوش مصنوعی چقدر پیشرفته هستند، همیشه درجهای از غیرقابل پیشبینی بودن در مورد آنها وجود دارد.
تام بادینگز روش جدیدی را برای گنجاندن این عدم قطعیت در الگوریتمهای پیشبینی توسعه داده است تا بتوان به یک راه حل ایمن دست یافت. دفاع از پایاننامه دکتری وی در ۲۷ مارس در دانشگاه رادبود انجام میشود.
وقتی یک مدل هوش مصنوعی به خوبی کار میکند، به نظر میرسد همه چیز بدون زحمت اجرا میشود: خودرو به مقصد میرسد، پهپاد بدون سقوط پرواز میکند و پیشبینیهای اقتصادی کاملاً درست از آب در میآیند. اما در عمل، سیستمهای کنترلشده توسط هوش مصنوعی با عدم قطعیتهای متعددی روبرو میشوند. پهپاد باید پرندگان و باد را در نظر بگیرد و خودروی خودران باید بتواند از افرادی که ناگهان از جاده عبور میکنند و کارهای جادهای اجتناب کند. بنابراین، چگونه اطمینان حاصل میکنید که همه چیز همچنان "بدون زحمت" اجرا میشود؟
مدلهای مارکوف
بادینگز توضیح میدهد: «به همین دلیل است که من و همکارانم روشهایی را برای تضمین دقت و قابلیت اطمینان سیستمهای پیچیده با درجات بالای عدم قطعیت ایجاد کردیم. بسیاری از روشهای موجود در برخورد با این عدم قطعیت مشکل دارند. آنها به محاسبات زیادی نیاز دارند یا به فرضیات محدودکننده متکی هستند، به این معنی که عدم قطعیت به درستی در نظر گرفته نمیشود. روش ما یک مدل ریاضی از آن عدم قطعیت ایجاد میکند، به عنوان مثال، بر اساس دادههای تاریخی، به طوری که یک پیشبینی دقیق میتواند بسیار سریعتر انجام شود.»
روش بادینگز مبتنی بر مدلسازی سیستمها در قالب مدلهای مارکوف است، یک دسته موجود از مدلها که اغلب در مهندسی کنترل، هوش مصنوعی و نظریه تصمیمگیری استفاده میشود. «در یک مدل مارکوف، ما میتوانیم به طور صریح عدم قطعیت را در پارامترهای خاص، به عنوان مثال، برای سرعت باد یا وزن یک پهپاد، وارد کنیم. سپس مدل عدم قطعیت، مانند یک توزیع احتمال بر روی این پارامترها، را به مدل مارکوف متصل میکنیم.
با استفاده از تکنیکهای مهندسی کنترل و علوم کامپیوتر، میتوانیم ثابت کنیم که آیا این مدل با وجود قطعیت در مدل، به طور ایمن رفتار میکند یا خیر. به این ترتیب، میتوانید یک پاسخ دقیق به این سوال دریافت کنید که احتمال برخورد پهپاد شما با یک مانع چقدر است، بدون اینکه مجبور باشید هر سناریو را جداگانه شبیهسازی کنید.»
پذیرش عدم قطعیت
هدف نهایی حذف عدم قطعیت نیست، بلکه پذیرش آن است. شما میدانید که هر کاری که انجام میدهید شامل عدم قطعیت است، اما با مدلسازی آن به این روش، آن را بخشی از تجزیه و تحلیل خود قرار میدهید. بنابراین، نتایجی که میگیرید، به طور قوی آن عدم قطعیت را به گونهای در نظر میگیرند که بسیار کاملتر از روشهای موجود است.»
بادینگز در مورد محدودیتهای این رویکرد هشدار میدهد: «اگر وضعیتی با پارامترهای زیادی دارید، گنجاندن همه عدم قطعیتها همچنان پرهزینه است. شما هرگز نمیتوانید آن عدم قطعیت را به طور کامل از بین ببرید، بنابراین همچنان باید فرضیاتی را برای به دست آوردن نتایج معنادار در نظر بگیرید. فرض نکنید که میتوانید از یک مدل برای عبور پهپاد خود از هر منطقه در جهان استفاده کنید، بلکه در ابتدا مدل خود را به محتملترین محیطها محدود کنید.»
به گفته بادینگز، هنگام تجزیه و تحلیل سیستمها با هوش مصنوعی، استفاده از تکنیکهای حوزههای تحقیقاتی مختلف مهم است. «بیش از حد به نتایجی که از یک مدل هوش مصنوعی مانند ChatGPT میگیرید، تکیه نکنید، بلکه از بینشهای مهندسی کنترل، علوم کامپیوتر و هوش مصنوعی برای رسیدن به یک راه حل قوی و ایمن استفاده کنید.»
ارائه شده توسط دانشگاه رادبود
نقل قول: این مدل هوش مصنوعی نسبت به عدم قطعیت، اطمینان بیشتری دارد (۲۰۲۵، ۲۰ مارس) بازیابی شده در ۲۰ مارس ۲۰۲۵ از https://techxplore.com/news/2025-03-ai-uncertainty.html