قابلیت توضیح‌پذیری هوش مصنوعی و تاثیر فوری آن بر فناوری حقوقی – دیدگاه‌های بحث کارشناسان

هفته گذشته، کارشناسان برجسته از دانشگاه، صنعت و حوزه‌های نظارتی گرد هم آمدند تا درباره پیامدهای حقوقی و تجاری قابلیت توضیح‌پذیری هوش مصنوعی، با تمرکز ویژه بر تاثیر آن در خرده‌فروشی، بحث کنند. این پنل که توسط پروفسور شلومیت یانیسکی راوید از دانشکده حقوق ییل و دانشکده حقوق فوردهام میزبانی شد، رهبران فکری را گرد هم آورد تا به نیاز روزافزون به شفافیت در تصمیم‌گیری‌های مبتنی بر هوش مصنوعی بپردازند و بر اهمیت اطمینان از فعالیت هوش مصنوعی در چارچوب‌های اخلاقی و قانونی و نیاز به "باز کردن جعبه سیاه" تصمیم‌گیری هوش مصنوعی تاکید کردند.

تونی پورتر، کمیسر سابق دوربین‌های نظارتی در وزارت کشور بریتانیا، بینش‌هایی را در مورد چالش‌های نظارتی پیرامون شفافیت هوش مصنوعی ارائه کرد. او بر اهمیت ISO 42001، استاندارد بین‌المللی برای سیستم‌های مدیریت هوش مصنوعی که چارچوبی برای حکمرانی مسئولانه هوش مصنوعی ارائه می‌دهد، تاکید کرد. پورتر گفت: «مقررات به سرعت در حال تحول هستند، اما استانداردهایی مانند ISO 42001 یک رویکرد ساختاریافته برای متعادل کردن نوآوری با پاسخگویی در اختیار سازمان‌ها قرار می‌دهند.» پنل به رهبری پروفسور یانیسکی راوید شامل نمایندگانی از شرکت‌های پیشرو هوش مصنوعی بود که به اشتراک گذاشتند که چگونه سازمان‌هایشان شفافیت را در سیستم‌های هوش مصنوعی، به ویژه در کاربردهای خرده‌فروشی و حقوقی، پیاده‌سازی می‌کنند.

الکس زیلبرمن از Chamelio، یک پلتفرم اطلاعات حقوقی که به طور انحصاری برای تیم‌های حقوقی داخلی ساخته شده است، به نقش هوش مصنوعی در عملیات حقوقی شرکت‌ها پرداخت. Chamelio نحوه عملکرد تیم‌های حقوقی داخلی را از طریق یک عامل هوش مصنوعی که دانش حقوقی ذخیره شده در مخزن قراردادها، سیاست‌ها، اسناد انطباق، سوابق شرکت، پرونده‌های نظارتی و سایر اسناد حقوقی مهم تجاری را یاد می‌گیرد و استفاده می‌کند، تغییر می‌دهد.

عامل هوش مصنوعی Chamelio وظایف اصلی حقوقی مانند استخراج تعهدات مهم را انجام می‌دهد، بررسی قراردادها را ساده می‌کند، انطباق را نظارت می‌کند و بینش‌های عملی را ارائه می‌دهد که در غیر این صورت در هزاران صفحه سند دفن می‌شدند. این پلتفرم با ابزارهای موجود ادغام می‌شود و با دانش حقوقی یک تیم سازگار می‌شود.

زیلبرمن گفت: «اعتماد، اولین شرط برای ساختن سیستمی است که متخصصان بتوانند از آن استفاده کنند. این اعتماد با ارائه حداکثر شفافیت ممکن به دست می‌آید. راه‌حل ما به کاربران اجازه می‌دهد تا درک کنند که هر توصیه از کجا می‌آید و اطمینان حاصل کنند که می‌توانند هر بینشی را تأیید و بررسی کنند.»

Chamelio با اجازه دادن به متخصصان حقوقی برای ردیابی استدلال پشت توصیه‌های تولید شده توسط هوش مصنوعی، از مدل "جعبه سیاه" اجتناب می‌کند. به عنوان مثال، هنگامی که سیستم با حوزه‌هایی از یک قرارداد مواجه می‌شود که آن را تشخیص نمی‌دهد، به جای حدس زدن، عدم قطعیت را علامت‌گذاری می‌کند و درخواست ورودی انسانی می‌کند. این رویکرد به متخصصان حقوقی کمک می‌کند تا تصمیمات مهم را کنترل کنند، به ویژه در سناریوهای بی‌سابقه مانند بندهایی که هیچ سابقه یا اصطلاحات حقوقی متضادی ندارند.

پینی اوشا از Buffers.ai بینش‌هایی را در مورد بهینه‌سازی موجودی مبتنی بر هوش مصنوعی، یک کاربرد مهم در خرده‌فروشی، به اشتراک گذاشت. Buffers.ai به برندهای متوسط تا بزرگ خرده‌فروشی و تولیدی، از جمله H&M، P&G و توشیبا، کمک می‌کند و به خرده‌فروشان – به ویژه در صنعت مد – در مقابله با چالش‌های بهینه‌سازی موجودی مانند پیش‌بینی، تکمیل و برنامه‌ریزی مجموعه کمک می‌کند. این شرکت کمک می‌کند تا اطمینان حاصل شود که مقادیر مناسب محصول به مکان‌های صحیح تحویل داده می‌شوند و موارد کمبود سهام و موجودی اضافی را کاهش می‌دهد.

Buffers.ai یک افزونه کامل SaaS ERP ارائه می‌دهد که با سیستم‌هایی مانند SAP و Priority ادغام می‌شود و ROI را در عرض چند ماه ارائه می‌دهد. اوشا گفت: «شفافیت کلیدی است. اگر کسب‌وکارها نتوانند درک کنند که هوش مصنوعی چگونه نوسانات تقاضا یا خطرات زنجیره تامین را پیش‌بینی می‌کند، در تکیه بر آن مردد خواهند بود.»

Buffers.ai ابزارهای توضیح‌پذیری را ادغام می‌کند که به مشتریان اجازه می‌دهد تا پیش‌بینی‌های مبتنی بر هوش مصنوعی را تجسم و تنظیم کنند و به اطمینان از همسویی با عملیات تجاری و روندهای بازار در زمان واقعی کمک می‌کند. به عنوان مثال، هنگام قرار دادن یک محصول جدید بدون داده‌های تاریخی، سیستم روندهای محصول مشابه، ویژگی‌های فروشگاه و سیگنال‌های تقاضای محلی را تجزیه و تحلیل می‌کند. اگر یک شعبه از نظر تاریخی تقاضای زیادی برای اقلام قابل مقایسه نشان داده باشد، سیستم ممکن است مقدار بیشتری را بدون هیچ داده موجود برای محصول جدید توصیه کند. به طور مشابه، هنگام تخصیص موجودی بین شعب و فروشگاه‌های آنلاین، سیستم عواملی مانند عملکرد فروش منطقه‌ای، الگوهای ترافیک مشتری و نرخ تبدیل آنلاین را برای توضیح توصیه‌های خود شرح می‌دهد.

متان نوگا از Corsight AI درباره نقش توضیح‌پذیری در فناوری تشخیص چهره بحث کرد که به طور فزاینده‌ای برای امنیت و بهبود تجربه مشتری در خرده‌فروشی استفاده می‌شود. Corsight AI در تشخیص چهره در دنیای واقعی تخصص دارد و راه حل‌های خود را به اجرای قانون، فرودگاه‌ها، مراکز خرید و خرده‌فروشان ارائه می‌دهد.

فناوری این شرکت برای کاربردهایی مانند هشدار فهرست مراقبت، یافتن افراد گمشده و تحقیقات قانونی استفاده می‌شود. Corsight AI با تمرکز بر سرعت بالا و تشخیص در زمان واقعی به روش‌هایی که با قوانین حفظ حریم خصوصی در حال تحول و دستورالعمل‌های اخلاقی هوش مصنوعی مطابقت دارد، خود را متمایز می‌کند. این شرکت با دولت و مشتریان تجاری خود برای ترویج پذیرش مسئولانه هوش مصنوعی همکاری می‌کند و بر اهمیت توضیح‌پذیری در ایجاد اعتماد و اطمینان از استفاده اخلاقی تاکید می‌کند.

دافنه تاپیا از ImiSight بر اهمیت توضیح‌پذیری در هوش تصویر مبتنی بر هوش مصنوعی، به ویژه در کاربردهای پرمخاطره مانند امنیت مرزی و نظارت زیست‌محیطی تاکید کرد. ImiSight در ادغام و تجزیه و تحلیل چند حسگر تخصص دارد و از الگوریتم‌های AI/ML برای شناسایی تغییرات، ناهنجاری‌ها و اشیاء در بخش‌هایی مانند تجاوز به زمین، نظارت زیست‌محیطی و نگهداری زیرساخت‌ها استفاده می‌کند. تاپیا گفت: «توضیح‌پذیری هوش مصنوعی به معنای درک این است که چرا یک شی یا تغییر خاص شناسایی شده است. ما قابلیت ردیابی و شفافیت را در اولویت قرار می‌دهیم تا اطمینان حاصل کنیم که کاربران می‌توانند به خروجی‌های سیستم ما اعتماد کنند.» ImiSight به طور مداوم مدل‌های خود را بر اساس داده‌های دنیای واقعی و بازخورد کاربران اصلاح می‌کند. این شرکت با آژانس‌های نظارتی همکاری می‌کند تا اطمینان حاصل کند که هوش مصنوعی آن با استانداردهای انطباق بین‌المللی مطابقت دارد.

این پنل بر نقش مهم توضیح‌پذیری هوش مصنوعی در تقویت اعتماد، پاسخگویی و استفاده اخلاقی از فناوری‌های هوش مصنوعی، به ویژه در خرده‌فروشی و سایر صنایع پرمخاطره تاکید کرد. سازمان‌ها با اولویت‌بندی شفافیت و نظارت انسانی می‌توانند اطمینان حاصل کنند که سیستم‌های هوش مصنوعی هم موثر و هم قابل اعتماد هستند و با استانداردهای نظارتی در حال تحول و انتظارات عمومی همسو هستند.

تماشای جلسه کامل اینجا