پژوهشگران مرکز هوش مصنوعی اسکولتک (Skoltech AI Center) به همراه همکارانی از موسسه مشکلات انتقال اطلاعات آکادمی علوم روسیه، روشی را توسعه دادهاند که به شبکههای عصبی امکان میدهد «اطمینان» خود به پیشبینیها را با دقت بیشتری ارزیابی کنند.
این روش از مجموعهای ویژه از دادههای آموزشی آگاه از اطمینان استفاده میکند و هدف آن بهبود قابلیت اطمینان مدلهای شبکه عصبی در وظایف پرخطر، به عنوان مثال، در پزشکی یا تولید است.
نتایج در کنفرانس بینالمللی زمستانی کاربردهای بینایی کامپیوتر (WACV-2025) و در مجموعه مقالات کنفرانس ارائه شده است.
مدلهای شبکه عصبی مدرن اغلب دقت بالایی نشان میدهند، اما گاهی اوقات در پیشبینیهای خود بیش از حد مطمئن هستند، حتی در شرایطی که دادهها مبهم هستند یا حاوی نویز میباشند. این مسئله میتواند در حوزههایی مانند پزشکی، ایمنی صنعتی یا سیستمهای خودران حیاتی باشد. رویکرد توسعهیافته با کنترل دقیقتر رفتار مدلها در سناریوهای پیچیده و مرزی، میتواند قابلیت اطمینان آنها را افزایش دهد.
روش جدید به شبکه عصبی کمک میکند تا مواردی را که ممکن است پیشبینی آن نیاز به تأیید انسانی داشته باشد، شناسایی کند. تیم تحقیقاتی این فناوری را بر روی دادههای دنیای واقعی، از جمله وظایف تشخیص پزشکی برای تعیین گروه خونی، آزمایش کردند و افزایش قابل توجهی در دقت ارزیابی عدم قطعیت در وظایف طبقهبندی و بخشبندی به دست آوردند.
برخلاف رویکردهای کلاسیک که در نمونههای آموزشی فقط از برچسبهای باینری (دودویی) (۰ یا ۱) استفاده میشود، روش جدید علاوه بر آن، «برچسبهای نرم» - مقادیری بین ۰ تا ۱ که منعکسکننده اطمینان کارشناسان به دقت نشانهگذاری دادهها است - را معرفی میکند. این امر به مدل کمک میکند تا استراتژی تصمیمگیری محتاطانهتری بسازد و به موقعیتهایی با درجه بالایی از عدم قطعیت، مؤثرتر پاسخ دهد.
همچنین، این روش امکان در نظر گرفتن دو نوع عدم قطعیت را فراهم میکند: عدم قطعیت معرفتی (اپیستمیک - epistemic) که با ناکافی بودن و ناقص بودن دادههای آموزشی مرتبط است و عدم قطعیت تصادفی (آلیاتوریک - aleatory) که ناشی از نویز طبیعی یا ابهام در خود دادهها است.
الکساندر یوگای، مهندس پژوهشگر جوان در مرکز هوش مصنوعی اسکولتک گفت: «روش ما به شبکه عصبی کمک میکند تا بفهمد کجا باید محتاط باشد. در عمل، این امر خطر اطمینان بیش از حد آن را هنگام کار با موارد پیچیده یا مرزی کاهش میدهد. ما این روش را روی دادههای واقعی آزمایش کردیم و اثربخشی آن را در تخمین عدم قطعیت تأیید کردیم.»
فناوری جدید میتواند در حوزههای حیاتی که قابلیت اطمینان هوش مصنوعی در آنها اهمیت دارد، از جمله سیستمهای تشخیص پزشکی، اتوماسیون صنعتی، سیستمهای کنترل فنی و راهحلهای خودران به کار گرفته شود.
الکسی زایتسف، دانشیار اسکولتک و رئیس آزمایشگاه تحقیقات کاربردی اسکولتک-اسبربانک، اظهار داشت: «ما بر آموزش مدل تمرکز کردیم تا نه تنها تصمیمگیری کند، بلکه مواردی را که خطر خطا در آنها به ویژه بالا است، شناسایی نماید. به لطف استفاده از نشانهگذاری اطمینان، راهحل ما از راهحلهای موجود متمایز است. ارزیابی 'احتیاط' برای تصمیمگیری در پزشکی و سایر حوزهها با هزینه بالای خطا، حیاتی است.»