به نظر میرسد چشمانداز بزرگ سام آلتمن برای دموکراتیزه کردن هوش مصنوعی، طبق یک مطالعه جدید، شامل یک علامت ستاره زشت است: حداقل تا حدی، توسط رباتهای اسپم که وب را با زبالههای تولید شده توسط هوش مصنوعی پر میکنند، کسب درآمد میکند.
به گزارش شرکت امنیت سایبری SentinelOne، کلاهبرداران بهینهسازی موتور جستجو (SEO) برای ماهها بدون شناسایی فعالیت میکردند و از ابزاری که کارشناسان شرکت «AkiraBot» مینامند، استفاده میکردند. این ابزار یک ابزار "مدولار و پیچیده" بود که قادر بود به راحتی CAPTCHAها و سایر فیلترهای تشخیص هرزنامه را دور بزند. همانطور که SentinelOne توضیح داد، این ربات به دلیل هیچ ارتباطی با گروه باجافزار Akira نامگذاری نشده است، بلکه به این دلیل است که این نام، که در ژاپنی به معنای "روشن" است، در بسیاری از دامنههای وابسته به سازندگان استفاده میشود.
به نظر میرسد هدف اصلی AkiraBot هدایت ترافیک به طرح مشکوک سئو خود است - و با GPT-4o-mini، این فرآیند به نظر میرسد در مقیاس وسیع خودکار شده است. با تلاش برای ارسال هرزنامه به تقریباً 420,000 سایت و موفقیت در عبور زبالههای خود به حدود 80,000 سایت، انسانهای پشت AkiraBot تقریباً مطمئناً برای دسترسی به API شرکت OpenAI هزینه میپرداختند - و ما برای تأیید با شرکت تحت مدیریت آلتمن تماس گرفتهایم.
بر اساس تحقیقات SentinelOne، اهداف اصلی این ربات، مشاغل کوچک و متوسط بودند - و به طور خاص، فرمهای تماس و ویجتهای گفتگو در وبسایتهای این شرکتها. اسپمرها با استفاده از GPT-4o-mini برای ساخت قالبها بر اساس هر نوع ماژول تماس در حال اجرا، پیامهای منحصربهفردی را برای هر وبسایت به گونهای سفارشی میکردند که حداقل تا حدی از فیلترهای هرزنامه عبور میکردند.
سازندگان رباتها با شروع دستورالعملهایی که به مقرونبهصرفهترین مدل پیشرفته OpenAI میگوید که مانند یک "دستیار مفید که پیامهای بازاریابی تولید میکند" عمل کند، برای ماهها قبل از اینکه SentinelOne از کلاهبرداری هرزنامه خود آگاه شود، فعالیت میکردند.
در یک نمونه از پیام AkiraBot از بخش نظرات یک شرکت شمعسازی هدف، یک نماینده خدمات مشتری جعلی به نام "Megan" خدمات سئو را تبلیغ میکرد که طبق بررسیهای خشمگینانه در صفحه trustpilot "Akira" وجود نداشت.
این پیام هرزنامه میخواند: "نام من مگان است، از تیم آکیرا - من فقط وبسایت شما را از طریق لیست وبسایت Entireweb شما مشاهده کردم و میخواستم فوراً با شما تماس بگیرم." "ما امروز یک پیشنهاد ویژه برای وبسایت شما داریم، و آن رتبهبندی صفحه اول در تمام موتورهای جستجوی اصلی (یعنی گوگل، یاهو و بینگ) + تبلیغات رسانههای اجتماعی و تجاری ویدیویی است که فقط از 29.99 دلار شروع میشود که من کاملاً مطمئن هستم که به نفع وبسایت و تجارت شما خواهد بود. با آوردن مشتریان جدید بسیار بسیار سریع."
محققان SentinelOne پس از کشف و تجزیه و تحلیل این رباتها و خروجی آنها، به OpenAI هشدار دادند - و به اعتبار شرکت، بلافاصله تحقیق کرد و در نهایت حساب سازندگان را غیرفعال کرد.
با این حال، بین سپتامبر 2024 و فوریه 2025، زمانی که AkiraBot گرفتار شد، به طور جدی اجرا شد - و هیچ راهی برای دانستن اینکه سازندگان آن، که نامشان فاش نشد، چه مدت برای دسترسی به API آن به OpenAI پول پرداخت کردهاند، وجود ندارد.
بیشتر در مورد کلاهبرداریهای هوش مصنوعی: یک سایت "علمی" هوش مصنوعی جعلی با انتشار تصاویر جعلی از موشکهای SpaceX، نشریات واقعی را در نتایج گوگل شکست داده است