گسترش هوش مصنوعی در ابزارهای اجرای قانون، از قبل باعث نگرانی کارشناسان آزادیهای مدنی شده است. یکی از آنها گفت: «وقتی نتایج حاصل از هوش مصنوعی را دارید، شفاف نیستند. اغلب نمیتوانید ردیابی کنید که یک نتیجهگیری از کجا آمده است یا بر چه اطلاعاتی استوار است. هوش مصنوعی توهم میزند.»
به گفته اعلامیه ماه گذشته این شرکت، سلبرایت، شرکتی که فناوری هک و پزشکی قانونی تلفن تقریباً فراگیر را میسازد که توسط افسران پلیس در سراسر جهان استفاده میشود، قابلیتهای هوش مصنوعی را در محصولات خود معرفی کرده است، از جمله خلاصه کردن گزارشهای گفتگو یا پیامهای صوتی از تلفنهای همراه توقیف شده.
ورود هوش مصنوعی به ابزاری که اساساً نحوه تجزیه و تحلیل شواهد علیه متهمان جنایی را کنترل میکند، از قبل باعث نگرانی کارشناسان آزادیهای مدنی شده است.
جنیفر گرانیک، مشاور نظارت و امنیت سایبری در پروژه سخنرانی، حریم خصوصی و فناوری اتحادیه آزادیهای مدنی آمریکا (ACLU)، در ایمیلی به 404 مدیا گفت: «وقتی نتایج حاصل از هوش مصنوعی را دارید، شفاف نیستند. اغلب نمیتوانید ردیابی کنید که یک نتیجهگیری از کجا آمده است یا بر چه اطلاعاتی استوار است. هوش مصنوعی توهم میزند. اگر همیشه آن را با دادههایی از پروندههایی آموزش دهید که در آنها محکومیت وجود دارد، هرگز پروندههایی را که نباید کیفرخواست صادر شود، درک نخواهد کرد.»