این مقاله با همکاری Court Watch، یک رسانه مستقل که سوابق دادگاهی نادیده گرفته شده را کشف میکند، تولید شده است. برای عضویت در اینجا کلیک کنید.
پس از اینکه گروهی از وکلا ماه گذشته به دلیل استفاده از هوش مصنوعی برای استناد به پروندههایی که در واقع در مدارک دادگاه وجود نداشتند، دستگیر شدند، به وکیل دیگری دستور داده شد 15000 دلار برای توهمات هوش مصنوعی خود که در چندین خلاصه ظاهر شد، پرداخت کند.
وکیل رافائل رامیرز، که نماینده شرکتی به نام HoosierVac در پروندهای بود که در آن صندوق بهداشت و رفاه مهندسین عامل مرکزی ادعا میکند که این شرکت اجازه نمیدهد اتحادیه یک ممیزی کامل از دفاتر و سوابق خود داشته باشد، در اکتبر 2024 خلاصهای را ارائه کرد که به پروندهای استناد میکرد که قاضی قادر به یافتن آن نبود. به به گفته قاضی مارک دینسمور، قاضی دادگستری ایالات متحده برای منطقه جنوبی ایندیانا، رامیرز "اذعان کرد که استناد ذکر شده اشتباه بوده است"، استناد را پس گرفت و "از دادگاه و وکیل مخالف برای این سردرگمی عذرخواهی کرد". اما این پایان کار نبود. یک "بررسی جامع" از سایر پروندههای رامیرز در این پرونده نشان داد که او پروندههای ساختگی را نیز در دو خلاصه دیگر گنجانده است.
قاضی دینسمور در مدارک دادگاهی که هفته گذشته ارائه شد نوشت: "آقای رامیرز توضیح داد که قبلاً از هوش مصنوعی برای کمک به امور حقوقی، مانند پیش نویس توافقنامهها، استفاده کرده است و نمیدانست که هوش مصنوعی قادر به تولید پروندهها و استنادهای ساختگی است." آقای رامیرز ادعا کرد، شامل گزیدههای متنی بود که به نظر معتبر میرسید. به این ترتیب، آقای رامیرز هیچ تحقیق دیگری انجام نداد و تلاشی برای تأیید وجود استنادهای تولید شده نکرد. آقای رامیرز گزارش داد که از آن زمان در دورههای آموزش مداوم حقوقی در مورد موضوع استفاده از هوش مصنوعی شرکت کرده است و به استفاده از محصولات هوش مصنوعی که به او اطمینان داده شده است که "استنادهای توهم زا" تولید نمیکنند، ادامه میدهد."
اما این توضیح و قول رامیرز برای آموزش خود در مورد استفاده از هوش مصنوعی کافی نبود و قاضی او را به دلیل عدم انجام تحقیق قبل از تشکیل پرونده سرزنش کرد. "کاملاً واضح است که آقای رامیرز تحقیق معقول لازم را در مورد قانون انجام نداده است. اگر او حتی حداقل تلاش را برای انجام این کار انجام داده بود، متوجه میشد که پروندههای تولید شده توسط هوش مصنوعی وجود ندارند. این که گزیدههای تولید شده توسط هوش مصنوعی برای آقای رامیرز معتبر به نظر میرسید، او را از وظیفهاش برای انجام یک تحقیق معقول معاف نمیکند." قاضی دینسمور ادامه داد، قبل از اینکه توصیه کند رامیرز به مبلغ 15000 دلار تحریم شود.
قاضی نوشت که او "قصد ندارد بگوید که هوش مصنوعی ذاتاً بد است یا اینکه استفاده از آن توسط وکلا باید ممنوع شود" و اشاره کرد که او یک مدافع صریح برای استفاده از فناوری در حرفه حقوقی است. او نوشت: "با این وجود، درست مانند یک اره زنجیری یا سایر ابزارهای مفید [اما] بالقوه خطرناک، باید ابزارهایی را که استفاده میکنید درک کنید و با احتیاط از آن ابزارها استفاده کنید." "بدیهی است که هرگونه استفاده از هوش مصنوعی باید با تعهدات اخلاقی و حرفهای وکیل سازگار باشد. به عبارت دیگر، استفاده از هوش مصنوعی باید با اعمال هوش واقعی در اجرای آن همراه باشد."
در ژانویه، به عنوان بخشی از یک پرونده جداگانه علیه یک سازنده هاوربرد و والمارت که به دنبال خسارت برای یک باتری لیتیومی ظاهراً معیوب بودند، وکلا مدارک دادگاهی را ارائه کردند که به مجموعهای از پروندههایی استناد میکرد که وجود ندارند. در فوریه، قاضی منطقه ایالات متحده، کلی، از آنها خواست توضیح دهند که چرا نباید به دلیل ارجاع به هشت پرونده غیر موجود، تحریم شوند. وکلا با پشیمانی اعتراف کردند که از هوش مصنوعی برای تولید پروندهها بدون تشخیص خطاها استفاده کردهاند و آن را "داستانی عبرت آموز" برای بقیه دنیای حقوقی نامیدند.
هفته گذشته، قاضی رانکین طبق سوابق جدید، تحریمهایی را علیه آن وکلا صادر کرد، از جمله لغو پذیرش یکی از وکلا به عنوان وکیل موقت (یک اصطلاح حقوقی به این معنی که یک وکیل میتواند به طور موقت در حوزهای که مجوز ندارد، وکالت کند) و او را از این پرونده حذف کرد و سه وکیل دیگر در این پرونده بین 1000 تا 3000 دلار جریمه شدند.