چگونه خانواده خود را از جعل کنندگان هوش مصنوعی پس از شبیه‌سازی صدای روبیو محافظت کنیم؟

این مقاله برای اولین بار در سال 2023 منتشر شد. اکنون به‌روزرسانی شده است.

دن وودز یک پروتکل ایمنی خانوادگی در برابر مجرمانی دارد که کابوس هر پدر و مادری را به واقعیت تبدیل می‌کنند.

این افسر سابق اجرای قانون و اطلاعات، با دخترانش یک کلمه رمز تمرین کرده است تا اگر آنها برای کمک با پدرشان تماس گرفتند، وودز بداند که این واقعاً خودشان هستند و نه یک جعل‌کننده که وانمود به ربودن یا یک وضعیت اضطراری دیگر برای درخواست پول می‌کند.

همانطور که واشنگتن پست سه‌شنبه گزارش داد، فناوری‌های هوش مصنوعی ایجاد جعل صدای باورپذیر از عزیزان شما یا شخصیت‌های معروف از جمله مارکو روبیو، وزیر امور خارجه، را آسان کرده‌اند.

آیا همه ما باید از وودز پیروی کنیم و با دوستان و خانواده کلمه رمز ضد جعل‌کننده تعیین کنیم؟ یا این یک اقدام افراطی برای یک خطر ترسناک اما نادر است – مانند همیشه کلاه ایمنی پوشیدن در صورت افتادن آوار؟

من چند نکته تخصصی را برای راهنمایی برنامه‌ریزی ایمنی شما در برابر فریب‌های احتمالی صدای هوش مصنوعی به اشتراک خواهم گذاشت.

همچنین شایان ذکر است که خطرات هوشیاری بیش از حد، به ویژه برای کودکان، و اینکه آیا شبیه‌سازی صدای هوش مصنوعی نیاز به تنظیم دارد تا خطر سوءاستفاده تنها مسئولیت شما نباشد، نیز باید در نظر گرفته شود.

احتمالاً این موارد نادر هستند، اما نمی‌توانیم با اطمینان بدانیم.

بر اساس گزارش کمیسیون تجارت فدرال، دسته‌بندی وسیعی از کلاهبرداری‌های جعل هویت، متداول‌ترین نوع کلاهبرداری گزارش شده در ایالات متحده در سال گذشته بود.

بیشتر این کلاهبرداری‌ها شامل کسی است که خود را به جای یک کسب‌وکار یا سازمان رسمی مانند سازمان تامین اجتماعی یا یک شرکت آب و برق جا می‌زند تا پول یا اطلاعات شخصی را درخواست کند.

افراد توسط شبیه‌سازی‌های صدای هوش مصنوعی نیز فریب می‌خورند. یک زوج هفتاد ساله پس از اینکه کلاهبرداران از هوش مصنوعی برای ایجاد صدایی شبیه نوه آنها برای درخواست پول وثیقه استفاده کردند، هزاران دلار از دست دادند.

اف‌بی‌آی (پلیس فدرال آمریکا) نیز در مورد استفاده مجرمان از بخش‌های صوتی صدای افراد که ممکن است آنلاین در دسترس باشند، برای ایجاد صداهای مشابه با هوش مصنوعی در تماس‌ها با بانک به منظور سرقت پول شما هشدار داده است.

هر چقدر هم که این موضوع وحشتناک باشد، بیشتر کلاهبرداری‌ها با فناوری پیشرفته نیستند. می‌تواند یک پیامک یا تماس ساده از یک "وکیل" باشد که می‌گوید برادرتان در تعطیلات دستگیر شده و به پول وثیقه نیاز دارد.

ترس است که یک فریب را قوی می‌کند، نه پیچیدگی فناوری.

بسیاری از کلاهبرداری‌ها گزارش نمی‌شوند، بنابراین تعداد واقعی افراد آسیب‌دیده مشخص نیست. (شما می‌توانید کلاهبرداری‌ها را به کمیسیون تجارت فدرال در اینجا گزارش دهید، از جمله برای جعل‌کنندگان تولید شده توسط هوش مصنوعی.)

وودز و سایر کارشناسان می‌گویند کلمه ایمنی خانواده شما می‌تواند یک سوال، عبارت یا الگوی خاص باشد که عزیزتان آن را می‌داند اما یک مجرم که از هوش مصنوعی استفاده می‌کند، نمی‌تواند آن را حدس بزند یا از طریق جستجوهای آنلاین پیدا کند. از جوک‌ها یا خاطرات عجیب خانواده‌تان استفاده کنید.

به عنوان مثال، وودز گفت وقتی دخترش پنج ساله بود، وانمود می‌کرد با یک چوب جادو او را به توله سگ تبدیل می‌کند. سوال "با چوب جادو چکار کردی؟" می‌تواند یک جزئیات شخصی باشد که او می‌داند اما یک جعل‌کننده نمی‌تواند آن را حدس بزند یا از طریق جستجوهای آنلاین پیدا کند.

سپس اگر در مورد یک عزیز در خطر با شما تماس گرفته شد، می‌توانید از کلاهبردار – یا عزیزتان، اگر واقعاً خودش است – کلمه رمز ایمنی را بپرسید.

وودز گفت خانواده‌اش کلمات رمز خود را به عنوان بخشی از مکالمات گسترده‌تر در مورد ایمنی تمرین می‌کنند.

مرکز منابع سرقت هویت غیرانتفاعی گفت (و وودز نیز موافقت کرد) که شک و تردید بهترین محافظت شما در برابر فریب‌ها، از جمله جعل صدای هوش مصنوعی است.

اگر کسی می‌گوید عزیزتان در خطر است و به پول نیاز دارد، یا به نظر می‌رسد عزیزتان برای کمک با شما تماس گرفته است، یک نفس عمیق بکشید.

اوا ولاسکز، رئیس و مدیر اجرایی ITRC، گفت سعی کنید مستقیماً با عزیزتان یا از طریق یکی از اعضای خانواده یا دوستتان تماس بگیرید. هرگز در پاسخ به یک تماس تلفنی تهدیدآمیز پول ارسال نکنید یا کارت هدیه نخرید.

این نکات در صورتی که عزیزتان در یک وضعیت اضطراری واقعی کلمه رمز را به یاد نیاورد، نیز مفید هستند.

به یاد داشته باشید که نمی‌توانید به شماره تماس گیرنده اعتماد کنید. مجرمان می‌توانند شماره تلفن را جعلی کنند تا به نظر برسد تماس از طرف خواهرتان یا پلیس محلی است.

هیچ یک از این توصیه‌ها آسان نیست. اگر فکر می‌کنید شخصی که به او اهمیت می‌دهید در خطر است، غریزه شما این است که سریع عمل کنید.

ولاسکز گفت: "مهمترین چیزی که باید به خاطر بسپارید این است که بیش از حد واکنش نشان ندهید." "به خاطر سپردن عبارت 'به منبع مراجعه کنید' راه آسانی برای اطمینان از این است که قبل از انجام هر اقدامی، اطلاعات ورودی را تأیید کنید."

آزاردهنده است که از ما انتظار می‌رود خودمان را در برابر افراد بدکاری که ممکن است از فناوری‌های جعل صدای هوش مصنوعی به طور گسترده در دسترس استفاده کنند، دفاع کنیم.

یک راهنمای سیاست‌گذاری از Consumer Reports در سال جاری رویکرد متفاوتی را پیشنهاد کرد: خطرات فناوری صدای هوش مصنوعی آنقدر زیاد است که شاید این فناوری نباید به طور گسترده در دسترس عموم قرار گیرد. این امر می‌تواند شبیه به مقررات سخت‌گیرانه‌تری باشد که برخی شهرها، ایالت‌ها و کشورها در مورد هوش مصنوعی برای شناسایی افراد از تصاویر اعمال کردند.

با این حال، در غیاب مقررات موثر در ایالات متحده، مسئولیت محافظت در برابر جعل‌کنندگان صدا عمدتاً بر عهده شماست.

احتمال تماس‌های جعلی پریشان‌کننده موضوعی است که باید با خانواده‌تان در مورد آن صحبت کنید – همراه با اینکه آیا تنظیم کلمات رمز زیاده‌روی است که به ویژه کودکان خردسال را بی‌دلیل می‌ترساند. شاید تصمیم بگیرید که تنظیم و تمرین یک کلمه رمز ارزش آرامش خاطر را دارد.