اشتراک
فناوری سیاست علم

پنتاگون ۳۰ میلیون دلار برای ساخت دروغ‌سنج مبتنی بر هوش مصنوعی می‌خواهد

در یک نگاه چکیدهٔ خودکار موتور هوش مصنوعی افق آبی

پنتاگون قصد دارد در پنج سال آینده ۳۰.۳ میلیون دلار برای توسعه نوعی پیشرفته از دروغ‌سنج هزینه کند. برنامه «پالی‌گراف پلاس» بر الگوریتم‌های امتیازدهی مبتنی بر هوش مصنوعی و یادگیری ماشین و فناوری «حس‌گری از راه دور» برای ثبت خوانش‌های فیزیولوژیک بدون اتصال به بدن متمرکز است. این پروژه که توسط آژانس ضداطلاعات و امنیت دفاعی اجرا می‌شود، با هدف نوسازی فناوری‌های پالی‌گراف فدرال و بهبود دقت آن‌ها طراحی شده، اما منتقدان آن را تلاشی نابجا برای تقلیل امری پیچیده می‌دانند. این اقدام در شرایطی صورت می‌گیرد که پنتاگون به‌شدت به آزمون‌های پالی‌گراف روی آورده تا منابع افشای اطلاعات را شناسایی کند؛ از جمله آزمون حدود ۵۰ افسر پس از انتشار اخباری درباره کاهش ذخایر تسلیحاتی. فناوری کنونی پالی‌گراف از دهه ۱۹۲۰ تقریباً بدون تغییر مانده و بر اندازه‌گیری فشار خون، نبض، تنفس و تعریق اتکا دارد، اما اتکاپذیری آن بارها به چالش کشیده شده و نتایجش به‌ندرت در دادگاه قابل استناد است. پژوهش‌ها نشان می‌دهد حتی با دقت ادعایی ۸۰ تا ۹۴ درصد، در مقیاس وزارت دفاع با ۲.۸ میلیون کارمند، ممکن است ده‌ها هزار نفر به ناحق متهم شوند. تفسیر ذهنی نتایج، سوگیری علیه گروه‌های اقلیت و امکان آموزش دور زدن آزمون از دیگر مشکلات است. به گفته کارشناسان، بزرگ‌ترین اثر پالی‌گراف بازدارندگی است، نه دقت علمی. راهبردهای جدید مانند دوربین‌های حرارتی، ردیاب‌های مردمک و اسکن‌های مغزی نیز هیچ‌یک بیرون از آزمایشگاه اتکاپذیری لازم را نداشته‌اند، زیرا نشانه واحد و قطعی برای دروغ وجود ندارد. هوش مصنوعی از نظر نظری می‌تواند با یافتن الگوهای پنهان در داده‌ها یا ترکیب چندوجهی اندازه‌گیری‌ها پالی‌گراف را بهبود دهد، اما منتقدان می‌گویند ترکیب هوش مصنوعی و پالی‌گراف «بدترین حالت هر دو جهان» است، چون بر بی‌اعتباری و عدم قطعیت می‌افزاید و نمی‌تواند الگوها را به‌طور اتکاپذیر به دروغ گره بزند. برخی کارشناسان بیم آن دارند که این فناوری بیشتر به‌عنوان ابزار تهدید و اعتراف‌گیری به کار رود تا ابزاری علمی برای کسب اطلاعات معتبر.

بر اساس درخواست بودجه وزارت دفاع، دولت آمریکا می‌خواهد در پنج سال آینده ۳۰.۳ میلیون دلار برای نوع بهبودیافته‌ای از دروغ‌سنج هزینه کند. این برنامه که «پالی‌گراف پلاس» یا «پالی‌گراف نکست» نام دارد، بر الگوریتم‌های امتیازدهی مبتنی بر هوش مصنوعی و یادگیری ماشین و نیز فناوری‌ای به نام «حس‌گری از راه دور» متمرکز خواهد بود؛ یعنی توانایی ثبت خوانش‌های فیزیولوژیک بدون اتصال دستگاه به بدن فرد.

بر اساس جزئیات این سند بودجه که نخستین بار اینساید دیفنس آن را منتشر کرد، این پروژه «فناوری‌های پالی‌گراف فدرال و ارزیابی اعتبار را نوسازی می‌کند» تا دقت و اتکاپذیری آن‌ها بهبود یابد. اما این پروژه ممکن است تنها آخرین حلقه از زنجیره‌ای طولانی از تلاش‌های ناکام برای استفاده از فناوری در تشخیص دروغ باشد. کایری کوتسوگلو، پژوهشگر حقوق در دانشگاه نورثامبریا در بریتانیا که کاربرد پالی‌گراف در نظام قضایی را مطالعه می‌کند، می‌گوید: «این تلاشی نابجاست برای تقلیل امر پیچیده به چیزی ملموس.»

این اقدام در شرایطی صورت می‌گیرد که تنش در وزارت دفاع بالا گرفته است. پنتاگون تحت ریاست پیت هگست، وزیر دفاع، بیش از پیش به آزمون‌های پالی‌گراف روی آورده تا منابع افشای اطلاعات به مطبوعات را بیابد. در سپتامبر، نیویورک تایمز گزارش داد که پس از انتشار اخباری درباره کاهش ذخایر تسلیحاتی آمریکا در جنگ با ایران، حدود ۵۰ افسر در ستاد مشترک تحت آزمون پالی‌گراف قرار گرفتند.

پالی‌گراف پلاس توسط آژانس ضداطلاعات و امنیت دفاعی (DCSA) اجرا خواهد شد؛ نهادی که بررسی‌های پیشینه برای دولت فدرال را انجام می‌دهد. بر اساس این سند بودجه که هنوز کنگره آن را تصویب نکرده است، فناوری جدید برای بررسی صلاحیت کارمندان آینده و «شناسایی تهدیدهای داخلی» به کار خواهد رفت. هنوز روشن نیست که دقیقاً از چه فناوری‌هایی استفاده می‌شود و آژانس ضداطلاعات و امنیت دفاعی به درخواست اطلاعات بیشتر پاسخ نداد.

اما تلاش‌های دیگر پنتاگون سرنخ‌های بالقوه‌ای ارائه می‌دهد. در سال ۲۰۲۳، واحد نوآوری دفاعی وزارت دفاع (DIU) فرایندی برای پذیرش پیشنهادهای آزاد برگزار کرد تا شرکت‌هایی را بیابد که محصولاتشان می‌تواند برای تشخیص فریب به کار رود.

این واحد دو شرکت را برای ساخت نمونه اولیه انتخاب کرد: پرساژ تکنولوجیز که مدعی است می‌تواند ضربان قلب و سرعت تنفس را با دوربین‌های معمولی اندازه بگیرد، و آل‌تک ریسرچ، شرکتی در حوزه حس‌گرهای پزشکی که اکنون به فناوری‌های حس‌گری غیرتماسی روی آورده است. تصویری از فناوری نمونه اولیه آل‌تک که واحد نوآوری دفاعی منتشر کرده، نشان می‌دهد که این فناوری حرکت سر، دمای پوست صورت و فعالیت منافذ را ردیابی می‌کند. پرساژ تکنولوجیز و آل‌تک ریسرچ به درخواست‌ها برای اظهارنظر پاسخ ندادند. واحد نوآوری دفاعی نیز از اظهارنظر خودداری کرد.

فناوری کنونی تشخیص دروغ از زمان اختراع پالی‌گراف در دهه ۱۹۲۰ تقریباً بدون تغییر مانده است. بازرسان برای تشخیص دروغ به اندازه‌گیری فشار خون، نبض، تنفس و تعریق اتکا می‌کنند. آنان درباره صحت پاسخ‌های فرد بر پایه تفاوت واکنش فیزیولوژیک او به پرسش‌های پایه مانند «آیا آسمان آبی است؟» و پرسش‌های هدف مانند «آیا هرگز مرتکب جرم شده‌ای؟» داوری می‌کنند.

دولت فدرال هر سال ده‌ها هزار آزمون از این نوع را در جریان بررسی صلاحیت کارمندان انجام می‌دهد، اما اتکاپذیری این فناوری بارها به چالش کشیده شده و نتایج آن به‌ندرت در دادگاه قابل استناد است. در سال ۱۹۸۳، دفتر ارزیابی فناوری کنگره نتیجه گرفت شواهد بسیار محدودی برای استفاده از پالی‌گراف در بررسی صلاحیت کارمندان وجود دارد و در سال ۲۰۰۳، شورای ملی پژوهش آمریکا (NRC) اعلام کرد شواهد اثربخشی آن «در خوش‌بینانه‌ترین حالت ضعیف» است.

پژوهش‌ها نشان می‌دهد انسان‌ها بدون هیچ کمک فنی فقط کمی بیش از نیمی از مواقع می‌توانند دروغ را تشخیص دهند. انجمن پالی‌گراف آمریکا مدعی است دقت پالی‌گراف بین ۸۰ تا ۹۴ درصد است. اما گزارش سال ۲۰۰۳ شورای ملی پژوهش اشاره کرد آزمون غربالی با این سطح از دقت نیز می‌تواند به اشتباهات فراوانی منجر شود. وزارت دفاع ۲.۸ میلیون کارمند دارد؛ نظامی ناقص که در این مقیاس به کار رود، ممکن است در نهایت ده‌ها هزار نفر را به ناحق متهم کند.

مشکلات دیگری هم وجود دارد. تفسیر نتایج پالی‌گراف اغلب ذهنی است: بازرسان مختلف به نتایجی بسیار متفاوت می‌رسند و احتمال اینکه افراد متعلق به گروه‌های اقلیت فریبکار ارزیابی شوند بیشتر است. علاوه بر این، افراد با آموزش می‌توانند شگردهای متعددی برای دور زدن آزمون بیاموزند؛ مثلاً ممکن است با فشار دادن سنجاقی پنهان در کفش، واکنش فیزیولوژیک خود به پرسش‌های پایه را به‌طور مصنوعی تشدید کنند.

سوفی فان در زی، دانشیار دانشگاه اراسموس روتردام که فریب را مطالعه می‌کند، می‌گوید: «اگر بدانید این دستگاه چگونه کار می‌کند، می‌توانید آن را شکست دهید.» به گفته او، بزرگ‌ترین اثر این دستگاه بازدارندگی است؛ اغلب افراد پیش از آغاز آزمون اعتراف می‌کنند. او یادآور می‌شود: «اما این فقط زمانی کار می‌کند که مردم فکر کنند پالی‌گراف کارآمد است.»

در طول دهه‌ها، راهبردهای جدید گوناگونی برای تشخیص دروغ آزموده شده است؛ از دوربین‌های حرارتی تا ردیاب‌های مردمک چشم و اسکن‌های مغزی. هیچ‌یک از آن‌ها بیرون از آزمایشگاه به نتایج اتکاپذیری نرسیده است. مشکل این است که هیچ نشانه واحد و قطعی‌ای برای دروغ گفتن وجود ندارد که برای همه و در همه زمان‌ها صادق باشد. فان در زی می‌گوید: «هنوز بینی پینوکیو وجود ندارد.»

هوش مصنوعی از نظر نظری می‌تواند پالی‌گراف را بهبود دهد، اگر بتواند الگوهایی در داده‌ها بیابد که بازرسان از یافتنشان ناتوان‌اند. همچنین احتمال بیشتری وجود دارد که الگوریتم‌های هوش مصنوعی برای تشخیص فریب «چندوجهی» به کار روند؛ رویکردی که می‌کوشد چند اندازه‌گیری را در یک «امتیاز» کلی فریب ترکیب کند که دستکاری آن برای افراد دشوارتر است. به گفته فان در زی، سه چیز در زیر سطح رخ می‌دهد که تشخیص دروغ می‌کوشد به آن‌ها دست یابد: فشار فیزیولوژیک، بار شناختی و تلاش‌های آگاهانه فرد برای پنهان کردن دروغ. فناوری کنونی پالی‌گراف فقط یکی از این‌ها را هدف می‌گیرد.

فان در زی می‌گوید: «هرچه بتوانید روش‌های ترکیبی بیشتری داشته باشید که از این سه زاویه متفاوت به موضوع نزدیک شوند، موفق‌تر خواهید بود.» این مفهوم تازه‌ای نیست؛ در دهه ۲۰۰۰، پژوهشگران دانشگاه متروپولیتن منچستر در بریتانیا نظامی به نام سایلنت تاکر ساختند که از تصاویر ویدئویی امتیاز فریب تولید می‌کرد. این نظام بعدها در آی‌بوردرکنترل ادغام شد؛ برنامه آزمایشی‌ای با بودجه اتحادیه اروپا. در آمریکا نیز پروژه‌ای به نام آواتار ردیابی چشم، تحلیل صدا و تشخیص حرکت بدن را در ابزاری برای استفاده در گذرگاه‌های مرزی ترکیب کرد. همه این پروژه‌ها بی‌سروصدا از میان رفتند.

کوتسوگلو می‌گوید ترکیب هوش مصنوعی و پالی‌گراف «بدترین حالت هر دو جهان» است، زیرا بر بی‌اعتباری، عدم قطعیت نیز می‌افزاید. حتی اگر هوش مصنوعی یا یادگیری ماشین بتواند الگوهای پیش‌تر دیده‌نشده‌ای در داده‌های فیزیولوژیک بیابد، نمی‌تواند آن‌ها را به‌طور اتکاپذیر به دروغ گره بزند، چون حقیقت مبنایی واقعی وجود ندارد.

ماریون اسوالد، استاد حقوق که همراه کوتسوگلو درباره کاربرد پالی‌گراف در نظام قضایی نوشته است، می‌گوید: «حتی اگر همه سوابق آزمون‌های پالی‌گراف جهان را در اختیار داشته باشید، نمی‌دانید آن آزمون‌ها درست بوده‌اند یا نه.» او بیم آن دارد که شکل‌های جدید تشخیص دروغ، مانند خود پالی‌گراف، بیشتر به‌عنوان تکیه‌گاه روانی تا ابزار علمی به کار روند.

اسوالد می‌گوید: «به‌نظر می‌رسد این اقدام بیش از هر چیز پاسخی به نگرانی دولت کنونی درباره افشای اطلاعات و وفاداری ناکافی است. [تشخیص دروغ] به‌عنوان ابزار تهدید به کار می‌رود تا مردم را بترساند و به اعتراف وادار کند، نه چیزی که واقعاً اطلاعات معتبر به دست دهد.»

اشتراک:
این گزارش ترجمه و بازنویسی خبری با موتور هوش مصنوعی افق آبی است و برای خوانندهٔ فارسی‌زبان بازتنظیم شده. منبع اصلی: technologyreview.com