مدیرعامل یک اپلیکیشن خرید مبتنی بر هوش مصنوعی پس از استفاده از نیروی انسانی با اتهام کلاهبرداری مواجه شد
شرکت Nate یک اپلیکیشن خرید مبتنی بر هوش مصنوعی بود که وعده خودکارسازی فرآیند پرداخت را میداد. وزارت دادگستری ایالات متحده میگوید که کارگران در فیلیپین تراکنشها را به صورت دستی انجام میدادند.
نوشته توماس ماکسول | منتشر شده در آوریل 11, 2025
وزارت دادگستری ایالات متحده یک بنیانگذار را به جرم فریب سرمایهگذاران متهم کرده است، زیرا ظاهراً کشف شده است که اپلیکیشن خرید مبتنی بر هوش مصنوعی او چیزی بیش از یک مشت افراد عادی نبوده است. شرکت Nate یک اپلیکیشن موبایل ارائه میداد که به کاربران تجربه پرداخت تککلیکی را در هر وبسایت تجارت الکترونیکی "بدون دخالت انسانی" وعده میداد، که عملاً به این معنی بود که آنها میتوانستند اطلاعات کارت اعتباری و حمل و نقل خود را به جای وارد کردن در هر وبسایت، در Nate ذخیره کنند. اما دادستانها میگویند این شرکت تقریباً به طور کامل به کارگران انسانی برای تکمیل پرداختها متکی بوده است. اوه!
براساس کیفرخواست، نرخ اتوماسیون واقعی Nate عملاً صفر بوده است. در عوض، این شرکت برای تکمیل تراکنشها به صدها پیمانکار انسانی در یک مرکز تماس واقع در فیلیپین متکی بوده است. شاید منظور این شرکت از "هوش مصنوعی"، در واقع "هوش آسیایی" بوده است. شرکت Nate بین سالهای 2018 و 2021 بیش از 50 میلیون دلار سرمایه جمعآوری کرد.
نشریه The Information برای اولین بار در سال 2022 گزارشهایی را در مورد اتهامات وارده به Nate و مدیرعامل آن، آلبرت سانیگر منتشر کرد. در اینجا گزیدهای از این گزارش آمده است:
به گفته دو نفر که دانش مستقیمی از این فناوری دارند، برای پردازش خودکار تراکنشها در سایتهای خردهفروشی بدون کمک انسان، نرمافزار Nate باید نحوه یافتن دکمههای خاص در صفحه، مانند دکمهای که یک کالا را به سبد خرید اضافه میکند، را بدون مسدود شدن توسط ردیابهای موجود در سایت که به دنبال رباتهای خودکار هستند، تشخیص دهد. این کار دشوار بود.
در نتیجه، در طول سال 2021، سهم تراکنشهایی که Nate به صورت دستی انجام میداد بین 60 تا 100 درصد متغیر بود.
هنگامی که پل هادسون از شرکت Glade Brook با استفاده از سیستم پرداخت Nate قصد داشت یک شلوار جین Levi’s از وبسایت این شرکت تولیدکننده جین سفارش دهد، سانیگر در یک کانال Slack شرکتی به نام "vip-notificaitons-for-albert" نوشت تا به همکاران اطلاع دهد که یک تراکنش باید فوراً پردازش شود.
بسیاری از شرکتها در زمینه هوش مصنوعی هنوز تا حدودی به انسان متکی هستند، به ویژه برای تأیید دادههایی که توسط یک الگوریتم تولید شدهاند، با این امید که هوش مصنوعی به زودی بتواند به طور کامل جایگزین انسان شود. استارتآپهای داغی مانند Scale AI به دلیل اتکا به مزارع نیروی کار ارزان برای برچسبگذاری دادهها و تصحیح خروجیهای مدلهای هوش مصنوعی بدنام هستند. گزارش شده است که EvenUp، یک استارتآپ که میگوید از هوش مصنوعی برای خودکارسازی فرآیند نوشتن ادعاهای حقوقی استفاده میکند، تا اواخر سال گذشته برای تصحیح متون تولید شده توسط هوش مصنوعی به انسانها متکی بوده است. موفقترین استارتآپهای هوش مصنوعی تا به امروز، شرکتهایی هستند که ابزار میسازند، و پذیرش گسترده هوش مصنوعی توسط شرکتها به دلیل نگرانی در مورد قابلیت اطمینان، یک علامت سوال باقی مانده است.
به نظر میرسد Nate به دلیل این ادعای صریح که تقریباً هرگز از انسان در فرآیند پرداخت استفاده نمیشود، به دردسر افتاده است. شاید این شرکت فکر میکرد میتواند "تظاهر کند تا به هدفش برسد" و به سادگی فرصت کافی برای به کار انداختن محصول طبق برنامه را نداشته است. اما این شرکت همچنین وارد یک فضای فوقالعاده شلوغ شده بود، جایی که آمازون بر تجارت الکترونیک تسلط داشت و شرکتهای دیگری مانند Shopify محصولات پرداخت تککلیکی خود را معرفی میکردند. همچنین دشوار است که تصور کنیم Nate چگونه میتواند یک کسبوکار را حول یک ویژگی نسبتاً ساده توسعه دهد. شرکتهای مشابهی مانند Bolt، یکی دیگر از استارتآپهای پرداخت تککلیکی، تنها موفق شدهاند مقدار بسیار کمی درآمد تولید کنند.
شرکت Nate، که ظاهراً هنوز وجود دارد، برای تلاش برای رشد اپلیکیشن خود، به شدت به کمیسیونها متکی بود و به اینفلوئنسرها این امکان را میداد تا لیستهایی از محصولات مورد علاقه خود را در اپلیکیشن ایجاد کنند و درصدی از هر فروش را دریافت کنند.
به اندازه کافی خندهدار است، با این حال، Nate ممکن است با محصول خود به نکتهای پی برده باشد. آمازون، OpenAI و گوگل از جمله شرکتهایی هستند که اخیراً "ایجنتهایی" را معرفی کردهاند که آنها را به عنوان قادر به انجام خودکار وظایفی از جمله خرید آنلاین برای کاربران به بازار عرضه میکنند. این محصولات هنوز نوپا هستند و کاربران شکایت کردهاند که کند، گران و پر از باگ هستند. آنها پتانسیلهایی را برای خودکارسازی وظایف دشوار و دسترسی بیشتر به محاسبات برای گروههای جمعیتی مانند سالمندان ارائه میدهند.
سانیگر با یک فقره کلاهبرداری اوراق بهادار و یک فقره کلاهبرداری از طریق سیم مواجه است که هر دو میتوانند منجر به حداکثر بیست سال زندان شوند.