اینجا مشترک شوید: Apple Podcasts | Spotify | YouTube
دسته‌های هک مجهز به هوش مصنوعی با چنین سرعتی در حال ایجاد حفره در سراسر اینترنت هستند که برخی از متخصصان امنیت سایبری این ماه را «اکتبر سیاه» نامیده‌اند. الکس استاموس، متخصص امنیت سایبری و هوش مصنوعی، استدلال می‌کند که زمان آن رسیده است که به جای واکنشی بودن، پیشدستانه عمل کنیم؛ و شاید این بدان معنا باشد که کدهای اینترنت را به زبان‌های برنامه‌نویسی جدیدتری بازنویسی کنیم که می‌تواند تمام سیستم‌های آنلاین و اطلاعات شخصی ما را ایمن‌تر کند. او به میزبان Galaxy Brain، چارلی وارزل، پیوسته است تا توضیح دهد چرا این کار آنقدرها هم بزرگ نیست که به نظر می‌رسد و چگونه می‌توانیم در این meantime از خود محافظت کنیم.
در ادامه متن کامل این قسمت آمده است:
الکس استاموس: کاری که ما به عنوان افرادی که در حوزه امنیت سایبری کار می‌کنیم باید انجام دهیم این است: باید عصر تاریک را کوتاه کنیم. باید مطمئن شویم که کتابخانه اسکندریه آتش نمی‌گیرد، درست است؟ باید هر کاری ممکن را انجام دهیم تا این دوره را تا حد امکان کوتاه کنیم. و از دیدگاه من، بهترین راه برای انجام این کار، پیشدستانه بودن است، نه واکنشی. و برای پیشدستانه بودن، نمی‌توانیم فقط منتظر وقوع این اتفاقات بد باشیم؛ باید عمداً معماری سیستم‌ها را تغییر دهیم.
چارلی وارزل: اواخر اکتبر است. انتخاباتی در پیش است. سری جهانی بیسبال در جریان است. و زنجیره‌ای بی‌پایان از رویدادهای خبری نگران‌کننده وجود دارد. اما بحران دیگری نیز در حال نزدیک شدن است. زیرساخت دیجیتال که تمام زندگی آنلاین و آفلاین ما را تغذیه می‌کند، به گفته کسانی که از آن محافظت می‌کنند، بیش از هر زمان دیگری آسیب‌پذیر است. اینترنتی که ما می‌شناسیم، یک اکوسیستم بسیار شکننده است. بخش زیادی از آن بر پایه کدی ساخته شده که توسط انسان‌ها نوشته شده است—یعنی ذاتاً پر از نقص یا باگ است. برخی از زیرساخت‌های حیاتی دیجیتال ما، بر پایه فناوری‌های چند ده ساله‌ای ساخته شده‌اند که روی زبان‌های کدنویسی باستانی اجرا می‌شوند.
اینترنت شگفت‌انگیز است. اما همانند هر تلاش عظیم انسانی، ناقص و سرشار از آسیب‌پذیری‌ها نیز هست. یکی از راه‌های نگاه به تاریخ امنیت سایبری، دیدن آن به عنوان مسابقه‌ای بین کسانی است که به دنبال سوءاستفاده از تمام آن آسیب‌پذیری‌ها هستند و کسانی که می‌توانند سیستم‌های ما را مستحکم کنند و آن‌ها را امن نگه دارند.
اما در ماه‌های اخیر، هوش مصنوعی تهدید کرده است که پویایی این مسابقه را تغییر دهد. عامل‌های هوش مصنوعی—which are cheap, relentless, and highly capable hacker armies—are proving excellent at finding vulnerabilities in code. Sometimes, oftentimes, in places that humans had never thought to look. And the result has been this series of high-profile cybersecurity incidents, each one adding to this feeling that we’ve entered a new era.
نرخ افشای حوادث آنقدر شدید بوده است که در هفته‌های اخیر، متخصصان امنیت سایبری این ماه را «اکتبر سیاه» می‌نامند. هفته گذشته، عموم مردم متوجه شدند که عامل‌های هوش مصنوعی آسیب‌پذیری در PHP پیدا کرده‌اند، که یک زبان کدنویسی است که ۷۰ درصد از اینترنت را تحت تأثیر قرار می‌دهد و می‌تواند به هکرها اجازه دهد تقریباً به هر سروری دسترسی پیدا کنند. علاوه بر PHP، افشا‌هایی در محصولات نرم‌افزاری اصلی مانند Node.js نیز وجود داشته است، که نرم‌افزاری است که در بی‌شمار صفحات وب و خدمات مهم در اینترنت استفاده می‌شود. این موارد همه چیز را از زنجیره‌های تأمین تا شرکت‌های مراقبت‌های بهداشتی تغذیه می‌کنند.
و ترس این است که آنچه اینجا می‌بینیم نوعی استثنا نیست، بلکه آغاز این وضعیت عادی جدید—این دوره زمانی که همه چیز از شبکه‌های برق تا داده‌های شخصی ما ممکن است منحصراً آسیب‌پذیر باشند.
و بنابراین من می‌خواستم دقیقاً بفهمم که این لحظه «اکتبر سیاه» چقدر واقعاً بی‌سابقه است و چه معنایی برای وضعیت اینترنت و احتمالات رویدادهای فاجعه‌بار در آینده دارد. الکس استاموس مدیر ارشد امنیت اطلاعات در شرکت هوش مصنوعی Cognition و مدیر ارشد امنیت سابق فیسبوک است. او نه تنها در خط مقدم این بحران فعلی قرار دارد، بلکه کسی است که می‌فهمد سازمان‌های دیجیتال عظیم چگونه به تقاضاهای یک اینترنت روزبه‌روز ناامن‌تر پاسخ می‌دهند.
من چارلی وارزل هستم، و این Galaxy Brain است.
[موسیقی]
وارزل: الکس استاموس، خوش آمدید به Galaxy Brain.
الکس استاموس: سلام، ممنون که مرا دعوت کردید، چارلی.
وارزل: ما در میان چیزی هستیم که اکنون شبیه انفجاری از هک‌های مبتنی بر هوش مصنوعی یا افشا‌های امنیت سایبری به نظر می‌رسد. در حال حاضر، افراد در صنعت شما، و به صورت عامیانه در مکان‌هایی مانند X، آن را «اکتبر سیاه» می‌نامند. بسیار شوم. آیا می‌توانید برای من توضیح دهید که در دو هفته گذشته چه چیزی بنیادین تغییر کرده است؟
استاموس: بله. ما فقط داریم—راستش این یک سوختن آرام بوده است. اما آنچه در این ماه واقعاً جالب بود این است که سرانجام مهاجمان از هوش مصنوعی سود می‌برند؛ جایی که آن‌ها توانایی استفاده از هوش مصنوعی برای خودکارسازی آنچه ما kill chains (زنجیره‌های مرگبار) می‌نامیم را دارند. می‌دانید، این اصطلاحی است که ما از ارتش دزدیده‌ایم—وقتی ارتش می‌گوید «زنجیره مرگبار»، منظورشان واقعاً کشتن چیزی است. در دنیای سایبری، این‌ها مراحل شما برای نفوذ به یک شبکه و انجام کاری هستند.
و به طور سنتی، می‌توانستید برخی از اجزای یک زنجیره مرگبار را خودکار کنید. اما اغلب مراحل انسانی وجود داشت. و فقط در چند ماه گذشته، به نقطه‌ای رسیده‌ایم که مدل‌های هوش مصنوعی—و به ویژه مدل‌های وزن باز، مدل‌هایی که می‌توانید به صورت محلی روی سخت‌افزاری که خودتان اجرا می‌کنید، و حتی سخت‌افزارهای تجاری مانند Mac Studioهای جدیدی که می‌توانید بخرید—آنقدر خوب هستند که اساساً هر مرحله از زنجیره مرگبار می‌تواند کاملاً با هوش مصنوعی خودکار شود. و بنابراین این واقعاً بازی را تغییر داده است—جایی که می‌توانید هر گلوگاه انسانی را حذف کنید. و این اقتصاد و سرعتی که مهاجمان می‌توانند حرکت کنند را کاملاً تغییر داده است.
وارزل: من شنیده‌ام که از این موضوع به عنوان «موج افشا» صحبت می‌شود، یعنی افشای آسیب‌پذیری‌های بالقوه و نه موجی از حملات. اما حقیقت این چیست؟
استاموس: بله، فکر نمی‌کنم این درست باشد. ما در واقع موجی از حملات داشته‌ایم، اما خیلی قبل از این اکتبر. ما در حدود یک سال گذشته موجی در حال رشد از حملات داشته‌ایم زیرا مهاجمان زنجیره‌های مرگبار خود را خودکار کرده‌اند. یک اتفاق خوب در حال رخ دادن است، که این است—این آسیب‌پذیری‌ها برای دهه‌ها وجود داشته‌اند، درست است؟ ما سال‌ها و سال‌ها و سال‌ها کد نوشته شده توسط انسان داریم که قابل اعتماد نیست، ایمن نیست. اغلب به زبان‌هایی نوشته شده که آنچه ما حافظه‌محور ایمن و نوع‌محور ایمن می‌نامیم نیستند، به زبان‌های کامپیوتری نوشته شده که نوشتن کد ایمن در آن‌ها ذاتاً آسان نبوده است. زبان‌هایی مانند C و ++C.
و متأسفانه، مشخص شده است که انسان‌هایی که به این زبان‌ها کد می‌نویسند—ساختن سیستم‌هایی که در حضور این یابندگان باگ فوق بشری ایمن باشند، بسیار دشوار است. و بنابراین آنچه در حال رخ دادن است این است که ما اکنون در حال سوزاندن تمام این باگ‌هایی هستیم که در طول دو دهه نوشته شده‌اند، و آن‌ها در حال یافتن، کشف و وصله شدن هستند. اما مشکل این است که پس از انتشار آن وصله‌ها، در واقع گرفتن آن‌ها در طبیعت مدتی طول می‌کشد. و بنابراین آدم‌بدها پنجره‌ای دارند که در آن می‌توانند از آن سوءاستفاده کنند. و در سال گذشته، ما دیده‌ایم که این سوءاستفاده در حال رخ دادن است. گاهی دستی، و بیشتر و بیشتر خودکار.
و بنابراین بله—ما موج‌ها و موج‌ها سوءاستفاده را دیده‌ایم. پوشش کمتری گرفته است، اما اگر عصر جمعه اضطراریت امنیتی دارید، بسیار دشوار است. و اغلب عصر جمعه است؛ متأسفانه، اینطور به نظر می‌رسد که معمولاً اینطور تمام می‌شود. بسیار دشوار است که پاسخ‌دهندگان حرفه‌ای حوادث را تلفنی بگیرید، زیرا همه الان تا مدت‌ها رزرو شده‌اند.
وارزل: تمام این اخبار، به عنوان یک فرد خارج از حوزه، واقعاً نگران‌کننده است که فقط ببینید در تایم‌لاین ظاهر می‌شوند. فکر نمی‌کنم برای بسیاری از ما بدون تخصص، ارزیابی برخی از این ادعاها واضح باشد.
یکی از مواردی که روز دیگر دیدم و می‌خواهم اینجا مطرح کنم، گزارش‌هایی بود که سرویس ابری گروه GMO ژاپن، که توسط معامله‌گران مالی نیز استفاده می‌شود، هک شده است. و در یک گزارش که دیدم در حال گردش بود، مدیرعامل GMO پیشنهاد کرد که اینترنتی که ما می‌شناسیم ممکن است به دلیل این فشار در آستانه فروپاشی باشد.
وقتی چیزی شبیه آن را می‌شنویم، چگونه باید آن نوع ادعا را ارزیابی کنیم؟ وضعیت اینترنت در حال حاضر چیست؟
استاموس: اوه، بنابراین گفتن اینکه اینترنت فرو می‌پاشد، فکر می‌کنم اغراق‌آمیز است. زیرساخت بنیادین اینترنت به خوبی ایستاده است، درست است؟ مثل اینترنت—مسیریاب‌ها، سوئیچ‌ها—باگ‌هایی در سیستم‌های بنیادینی که ترافیک را جابه‌جا می‌کنند وجود داشته، اما آن‌ها اصلاح شده‌اند.
فکر می‌کنم آنچه در حال رخ دادن است، این است که ما دوره‌ای را سپری کرده‌ایم که توانسته‌اید فرض کنید اگر از یک سرویس استفاده می‌کنید، داده‌های شما ایمن خواهد بود. آن فرضیه هرگز صحیح نبود، مشخص شد. درست است؟ سیستم‌ها هرگز ایمن نبودند. فقط ما تعداد مهاجمان ماهر برای سوءاستفاده از ناامنی بنیادین این سیستم‌ها را نداشتیم.
و آنچه اکنون در حال رخ دادن است این است که باگ‌ها در حال یافتن هستند. گاهی توسط آدم‌بدها، اغلب توسط آدم‌خوب‌ها. اما در دوره‌ای که طول می‌کشد تا باگ‌ها اصلاح شوند، آدم‌بدها فرصتی دارند که از آن دوره زمانی، از آن تأخیر در اصلاح آن‌ها سوءاستفاده کنند. و سپس آدم‌بدها—مهارت‌ها. می‌دانید، نمی‌دانم آیا شما طرفدار فوتبال انگلستان هستید، اما همه حالا این استعاره را می‌گیرند چون Ted Lasso را تماشا می‌کنند. اما می‌دانید، درست است، لیگ‌های فوتبال انگلستان—اگر واقعاً خوب عمل کنید، ارتقا می‌یابید، درست است؟ اگر ضعیف عمل کنید، سقوط می‌کنید؛ تنزل می‌یابید.
خوب، آنچه در حال رخ دادن است این است: هر مهاجم اکنون به یک لیگ بالاتر فرستاده می‌شود، درست است؟ و بنابراین می‌دانید، قبلاً لیگ برتر فقط شامل چند کشور بزرگ بود—ایالات متحده و متحدان ما—که پنج چشم نامیده می‌شوند. ایالات متحده، انگلستان، کانادا، استرالیا، نیوزیلند، پنج چشم نامیده می‌شوند. روسیه، چین، اسرائیل، چند کشور غربی دیگر در بالا بودند. و سپس لایه بعدی را داشتید—که مثل ایران، کره شمالی، چند کشور درجه دوم دیگر بود. و سپس گروه‌های مستقل حرفه‌ای تجاری واقعاً خوب را داشتید.
و آنچه در حال رخ دادن است این است که همه به دلیل هوش مصنوعی در حال ارتقا هستند. که از برخی جهات برای افراد در بالا بد است، زیرا آن‌ها در حال از دست دادن جایگاه ممتاز خود هستند. این که بقیه به نوعی به آن‌ها ملحق می‌شوند. مهارت‌هایی که قبلاً واقعاً منحصر به فرد بودند، به دلیل هوش مصنوعی کمتر منحصر به فرد می‌شوند. و بنابراین فکر می‌کنم این چیزی است که اکنون می‌بینیم. مهارت‌هایی مانند گرفتن یک وصله از مایکروسافت و مهندسی معکوس آن و تبدیل آن به کد سوءاستفاده؟ شاید ۱۵۰، ۲۰۰ نفر پنج سال پیش می‌توانستند این کار را انجام دهند. اکنون، یک نوجوان ۱۹ ساله در سن پترزبورگ می‌تواند این کار را با یک M5 Mac Ultra انجام دهد. این کمی—و این واقعاً دیوانه‌وار است.
وارزل: یک خاطره جالب وجود دارد که من در حال شناور بودن دیده‌ام: اینکه آسیب‌پذیری PHP که، می‌دانید، ۷۰ درصد از وب‌سایت‌های موجود در اینترنت را تحت تأثیر قرار داد، به طور مستقل توسط کسی که از یک مدل مرزی استفاده می‌کرد، با دستور «Bad vulnerabilities in PHP را پیدا کن» کشف شد. و فکر می‌کنم این نوعی بیانگر آن ایده است، درست است؟ که همه ارتقا یافته‌اند؛ همه این مهارت‌هایی را دارند که قبلاً نداشتند. اما اگر افرادی بدون حتی دانش پایه واقعی از این سیستم‌ها یا مهارت‌ها می‌توانند این کار را انجام دهند، چگونه این برای، می‌دانید، امنیت سایبری پایدار است؟
استاموس: بله. بنابراین آنچه باید اتفاق بیفتد—همانطور که گفتید، آنچه در حال رخ دادن است این است که شما این باگ‌ها را دارید که توسط کسی با دسترسی به نسخه پیش‌نمایش یک مدل سایبری کشف خواهند شد. ما کاری به نام «افشای هماهنگ» انجام می‌دهیم، که گاهی اگر باگ واقعاً بزرگی مانند آن دارید، قبلاً می‌توانستید ۹۰ روز صبر کنید. اما در آن ۹۰ روز، مدل‌ها ممکن است بهتر شوند، که همه به آن دسترسی دارند، که نمی‌توانید صبر کنید، درست است؟ زیرا افراد دیگر می‌توانند فقط باگ را پیدا کنند.
بنابراین راهی که ما از این عبور خواهیم کرد—فکر می‌کنم کاری که باید انجام دهیم این است که باید مقدار زیادی کد را بازنویسی کنیم. بنابراین من در واقع اوایل امسال سخنرانی کردم که دو سناریو را مطرح کردم، که سناریوی خوب و بد بود. و سناریوی خوب این بود که تعداد محدودی باگ وجود داشت و ما فقط در حال سوزاندن آن‌ها بودیم. و ما به صورت مجانبی نزدیک می‌شدیم. با آمدن مدل‌های جدید، تعداد کمتری خواهید داشت. و سناریوی بد این بود که هر بار که مدل جدیدی داریم، تعداد برابر باگ دریافت می‌کنید.
متأسفانه، ما هنوز به سناریوی بد نزدیک‌تر هستیم. که این است: هر بار که یکی از این مدل‌های جدید منتشر می‌شود، ما همچنان تعداد زیادی نقص مدیریت حافظه بسیار پیچیده داریم. و بنابراین فکر می‌کنم برای این پایگاه‌های کد بسیار پیچیده، ما باید آن‌ها را بازآرایی کنیم. ما باید آن‌ها را به زبان‌هایی مانند Rust بازسازی کنیم، جایی که توانایی دارید، اول، کل کلاس‌هایی از باگ‌ها وجود ندارند. و سپس همچنین توانایی دارید که به نوعی قراردادهایی داشته باشید که بگویید «من آن را طوری طراحی می‌کنم که این ویژگی‌ها را داشته باشد»، و می‌توانید ریاضی اثبات کنید که آن ویژگی‌ها را دارد.
چیزی به نام اعتبارسنجی رسمی وجود دارد. و لازم نیست اعتبارسنجی رسمی واقعی انجام دهید، که واقعاً سخت است، و انجام آن با انسان‌ها اساساً غیرممکن بود. یا فوق‌العاده گران. اما با LLMها، می‌توانید. و بنابراین فکر می‌کنم ما فقط باید اساساً همه چیز را کاملاً بازنویسی کنیم. و این در واقع با هوش مصنوعی ارزان‌تر از انجام ۱۰۰۰ باگ هر شش ماه خواهد بود. ما باید فقط این چیزها را دوباره انجام دهیم.
وارزل: اما بیایید درباره آن صحبت کنیم. مانند اینکه چیزی مانند بازنویسی کد اینترنت چقدر طول می‌کشد؟
استاموس: خوب، کمتر از آنچه فکر می‌کنید. فکر می‌کنم این در واقع یکی از چیزهایی است که با هوش مصنوعی تغییر کرده است. بنابراین من اکنون در شرکتی به نام Cognition کار می‌کنم، و محصولی به نام Devin داریم. و ما با شرکت‌ها کار می‌کنیم، و این مثال‌ها را داریم؛ مانند، ما با Mercedes-Benz کار کردیم، و یکی از اپلیکیشن‌های آن‌ها را بازنویسی کردیم که انجام آن برای انسان‌ها ماه‌ها و ماه‌ها طول می‌کشید. و ما آن را در حدود هشت روز انجام دادیم. بنابراین فکر می‌کنم در واقع این یکی از آن باورهایی است که مهندسان نرم‌افزار دارند—که انجام این کار غیرممکن است. و در واقع کاملاً محتمل است.
وارزل: من همچنین شنیده‌ام که شما گفته‌اید، و شاید این‌ها همان چیز باشند، اما شنیده‌ام که شما گفته‌اید ما وارد عصر تاریک امنیت سایبری می‌شویم. آیا منظور شما از آن همین است؟ و این واقعاً شوم به نظر می‌رسد.
استاموس: بله. منظورم این است که، ما هستیم. من کمی انتقاد برای این دریافت کرده‌ام، و شاید حق با آن باشد. اما مثل، قرون وسطی—ما از آن‌ها خارج شدیم، درست است؟ بنابراین اول از همه، قرون وسطی فقط برای بخشی از زمین بود. مثل، قرون وسطی در اروپا اتفاق افتاد، و در چین اوضاع خوب بود. می‌دانید، اوضاع عالی بود. آن‌ها تمدنی شکوفا داشتند. اما در اروپا، ما تمدن یونانی و رومی داشتیم، و سپس اوضاع برای مدتی سخت شد. و ما بسیاری از چیزها را فراموش کردیم. اما سپس روشنگری داشتیم، و رنسانس داشتیم. و بنابراین نکته من این است که کاری که ما به عنوان افرادی که در امنیت سایبری کار می‌کنیم باید انجام دهیم این است: باید عصر تاریک را کوتاه کنیم. باید مطمئن شویم که کتابخانه اسکندریه آتش نمی‌گیرد، درست است؟ باید هر کاری ممکن را انجام دهیم تا این را تا حد امکان کوتاه کنیم.
و از دیدگاه من، بهترین راه برای انجام این کار، پیشدستانه بودن است، نه واکنشی. و برای پیشدستانه بودن این است: ما نمی‌توانیم فقط منتظر وقوع این اتفاقات بد باشیم. ما باید عمداً معماری چیزها را تغییر دهیم. ما باید عمداً چیزها را بازنویسی کنیم. ما باید عمداً نحوه انجام امنیت سایبری را تغییر دهیم. ما باید عمداً نحوه ساخت شبکه‌ها را تغییر دهیم. ما باید عمداً نحوه ساخت تیم‌های امنیتی را تغییر دهیم.
در حال حاضر، ما بسیار واکنشی بوده‌ایم. ما همچنان وصله‌گذاری را مانند پنج سال پیش انجام می‌دهیم. اکثر تیم‌های امنیتی همچنان مانند پنج سال پیش ساخته شده‌اند. مثل: مشاغل همان هستند، ساختارهای دفاعی همان هستند، نحوه پاسخ‌دهی به حوادث همان است. و فکر می‌کنم این یک مشکل است. و وقتی می‌گویم «عصر تاریک را کوتاه کنید»، منظورم این است که ما باید واقعاً از هوش مصنوعی به صورت پیشدستانه استفاده کنیم—ما باید این را بهتر کنیم. در غیر این صورت، ما فقط سعی خواهیم کرد با وصله‌وصله‌وصله از آن عبور کنیم. و این جواب نخواهد داد.
وارزل: در سناریویی که توصیف می‌کنید—بازنویسی چیزها با کدهای بهتر امروز—آیا ما فقط در نهایت، اگر آن کار را انجام دهیم، بعداً در همان وضعیت قرار می‌گیریم؟ وقتی مدل‌های هوش مصنوعی قدرتمندتر این آسیب‌پذیری‌های جدید را پیدا کنند؟ یا اینکه کد، می‌دانید، اجازه می‌دهد این باگ‌های سبک فوق بشری که ما قادر به درک آن‌ها نیستیم، وجود داشته باشند؟ آیا این سناریوی ممکن است؟
استاموس: فکر نمی‌کنم. منظورم این است، سخت است. اکنون ما به متافیزیک می‌رسیم، وقتی درباره این توانایی‌های فوق بشری صحبت می‌کنید. اما فکر نمی‌کنم. فکر می‌کنم اگر شروع به بازسازی چیزها با استفاده از زبان‌هایی کنیم که این کلاس‌های کامل را حذف می‌کنند، و سپس شروع به استفاده از سطحی از رسمیت کنیم، احتمال آن بسیار کمتر است. قطعاً آنچه اکنون انجام می‌دهیم کار نمی‌کند، درست است؟ من فقط فکر می‌کنم نوشتن هر چیزی به C و ++C بی‌احتیاطی کامل است. هر شرکتی که در سال ۲۰۲۷ کدی به ++C ارسال می‌کند، از دیدگاه من—این کاملاً نامناسب است.
وارزل: و برای افرادی که گوش می‌دهند و آشنا نیستند، دلیل آن فقط این است که یک زبان قدیمی و منسوخ است. و شما فقط نمی‌خواهید سیستم‌های شما روی آن اجرا شوند. سوءاستفاده از همه آن آسان‌تر است، درست است؟
استاموس: درست. زیرا زبان ++C—C و ++C زبان‌هایی از دهه ۱۹۸۰ هستند. در واقع دهه ۱۹۷۰ و ۱۹۸۰. و در واقع، در کتاب اصلی برای زبان برنامه‌نویسی C—که من در Berkeley از این کتاب آموزش دیدم، در چاپ اصلی—نقص امنیتی در کتابی که توسط نویسندگان اصلی زبان نوشته شده بود وجود داشت، درست است؟ به طور معروف. می‌توانید اشتباهات مرتکب شوید، زیرا این زبان‌ها آنچه low level نامیده می‌شوند هستند. و شما باید عمداً تصمیم بگیرید که چگونه با پردازنده صحبت می‌کنید، و چگونه حافظه را مدیریت می‌کنید.
و بنابراین بسیاری از نقص‌های بنیادینی که ما اکنون می‌بینیم و مورد سوءاستفاده قرار می‌گیرند، مربوط به تصمیم‌گیری درباره اینکه چگونه حافظه را دستکاری می‌کنید، حافظه کامپیوتر است. شما می‌گویید، «می‌خواهم حافظه اختصاص دهم. می‌خواهم حافظه آزاد کنم.» و باگ‌هایی که ما می‌بینیم، مانند باگ PHP، این‌ها خطاهای تخصیص حافظه هستند.
در زبان‌های مدرن، این چیزها به طور خودکار برای شما مدیریت می‌شوند. و در زبان‌های واقعاً مدرن، مانند Rust، شما توانایی دارید که نه تنها بگویید حافظه را برای شما مدیریت می‌کند، بلکه می‌توانید به طور مؤثر به کامپایلر—نرم‌افزاری که آنچه شما می‌گویید را می‌گیرد و سپس به زبانی که کامپیوتر واقعاً اجرا می‌کند تبدیل می‌کند—بگویید. می‌توانید بگویید، «این چیزی است که من قصد دارم. این چیزی است که می‌خواهم اتفاق بیفتد.» و بنابراین بررسی‌های دوگانه، سه‌گانه برای اطمینان از اینکه چیزهای بد اتفاق نیفتند وجود دارد.
اکنون، این در دهه ۱۹۸۰ کاملاً غیرمحتمل بود، زیرا کامپیوترها به اندازه کافی سریع نبودند. این کامپیوترها را بسیار کند می‌کرد. اما کامپیوترها اکنون فوق‌العاده سریع هستند، و بنابراین این زبان‌ها بسیار کندتر هستند. اما چه فرقی می‌کند؟ زیرا کامپیوترها خیره‌کننده سریع هستند. ما سرعت بسیار بسیار بیشتری داریم، و بنابراین ما کمی سرعت را برای ایمنی بسیار بیشتر فدا می‌کنیم. و بازنویسی ویندوز، بازنویسی لینوکس، بازنویسی کد کرنل سیسکو—بازنویسی تمام چیزهایی که تمام برق، نوری که بر ما تابیده است را تغذیه می‌کند—کاملاً غیرمحتمل بود. تمام پردازنده‌های کوچکی که نیروگاه برق‌آبی را تغذیه می‌کنند—می‌دانید، چون شما در شمال غربی اقیانوس آرام هستید، احتمالاً برق آبی از واشینگتن و اورگان و بریتیش کلمبیا دریافت می‌کنید. من در کالیفرنیا برق بادی و خورشیدی دریافت می‌کنم.
آن سیستم‌ها از PLCها [کنترل‌کننده‌های منطقی برنامه‌پذیر]؛ از Siemens و Schneider Electric و شرکت‌هایی مانند آن هستند. همه آن به کد C نوشته شده است. آن چیزها اکنون می‌توانند به Rust بازنویسی شوند. فقط به این معناست که شما باید هزینه تعویض آن چیزها را بپردازید. هزینه خواهد داشت، اما ارزش آن برای جامعه ما برای ادامه فعالیت در دهه آینده وجود دارد. و فکر می‌کنم ارزش آن را دارد، اما ما باید به صورت پیشدستانه به عنوان جامعه تصمیم بگیریم که این کار را انجام دهیم.
وارزل: بنابراین بیایید درباره آن صحبت کنیم. شماObviously اشاره کردید، مانند، سیستم‌های شبکه برق. برخی از این زیرساخت‌های بسیار بنیادین، روی برخی از این چیزهای قدیمی اجرا می‌شوند. ما باید کاری درباره آن انجام دهیم. شما همچنین اوایل گفتید که مردم غرق شده‌اند، درست است؟ که بسیار زیاد در حال اتفاق افتادن است. آیا ما منابع برای انجام این کار به شیوه‌ای منظم را داریم؟ برای پاسخ به سطح تهدید در حال حاضر؟ زیرا فکر می‌کنم آنچه می‌بینم این نگرانی‌ها از سوی مردم است—شاید فقط مزرعه تعامل در مکان‌هایی مانند توییتر باشد، اما آن‌ها درباره آسیب‌پذیری‌های شبکه‌های برق صحبت می‌کنند. آن‌ها درباره آسیب‌پذیری‌های این قطعات بسیار حیاتی زیرساخت صحبت می‌کنند.
استاموس: منظورم این است، با منابع چه منظوری دارید؟ قطعاً، پس، اول—توییتر زندگی واقعی نیست. فکر می‌کنم این یکی از مهم‌ترین چیزهایی است که ما باید به یاد داشته باشیم، درست است؟ مثل، توانایی مطلقاً وجود دارد، زیرا سیستم‌های هوش مصنوعی مدرن توانایی انجام این کار را دارند. آنچه ما انجام نداده‌ایم ایجاد ساختار انگیزشی است. اول، برای کسانی که شبکه برق را اداره می‌کنند تا فشار را بر فروشندگان خود وارد کنند، و برای فروشندگانی که این چیزها را می‌سازند تا سیستم‌ها را به این شیوه بسازند. و ساختارهای اقتصادی برای ما برای در واقع ارتقای تمام این چیزها. ما آن انگیزه‌های اقتصادی را هنوز ایجاد نکرده‌ایم.
وارزل: آیا ساختار انگیزشی برای شبکه‌های برق این نیست که شما نمی‌خواهید کسی آسیب‌پذیری پیدا کند—می‌دانید، نوجوان ۱۹ ساله در سن پترزبورگ—و شبکه برق را از کار بیندازد؟ مثل، آیا ما آنجا نیستیم؟ به من احساس می‌شود که ما آنجا هستیم.
استاموس: بله. خوب، باشه. منظورم این است، من کار زیادی با برخی از ارائه‌دهندگان زیرساخت انجام می‌دهم. و از تمام ارائه‌دهندگان زیرساخت، شرکت‌های برق در واقع بهترین هستند. این—اول، آن‌ها نسبتاً بزرگ هستند. مثل، ما تمام این حملات علیه تأسیسات آب را دیده‌ایم. و آن‌ها، برای مثال، در وضعیت بسیار بدتری هستند، زیرا سازمان‌های بسیار کوچکتری هستند. آن‌ها اغلب شهرداری‌ها هستند. وقت و پول بسیار کمتری صرف آب، برای مثال، یا سیستم‌های فاضلاب شده است.
بنابراین شما درست می‌گویید—برق بهترین شکل است، و آن‌ها انگیزه اقتصادی دارند. فکر می‌کنم هنوز مجموعه‌ای از مسائل اقدام هماهنگ وجود دارد، در این که کار کافی توسط آن‌ها برای فشار آوردن به اکوسیستم فروشندگان برای انجام تمام کارهای درست انجام نشده است. بنابراین بله؛ مردم شبکه برق کار خوبی اینجا انجام داده‌اند. اما بیشتر کارهایی که آن‌ها انجام داده‌اند به صورت انفرادی است، درست است؟
بنابراین به طور مؤثر، نحوه انجام امنیت آن‌ها این است: آن‌ها اساساً تصمیم گرفته‌اند که چیزهایی که می‌خرند آشغال است، و آن‌ها اطمینان حاصل خواهند کرد که مهاجمان هیچ توانایی برای رسیدن به آن ندارند. این یک استراتژی حفاظتی معقول برای اکنون است، زیرا این تنها کاری است که آن‌ها می‌توانند انجام دهند. اما در بلندمدت، ما باید این سیستم‌ها را بازسازی کنیم، و باید آن‌ها را ایمن‌تر کنیم. زیرا علیه مهاجمان مناسب، شما نمی‌توانید واقعاً شبکه برق را به طور فیزیکی ایزوله کنید. زیرا علیه مهاجمانی که به اندازه کافی پیشرفته هستند، آن‌ها به طور فیزیکی نفوذ خواهند کرد و کسی را بالای دکل برق می‌فرستند و سپس به آن شبکه ایزوله فیزیکی وصل می‌شوند.
و فکر می‌کنم مردم وقت زیادی را صرف شبکه برق می‌کنند، زیرا این چیزی است که همه را نگران می‌کند. چیزهای دیگری وجود دارد که اگر از کار بیفتند—مانند بیمارستان‌ها. مثل، بیمارستان‌ها همیشه توسط عوامل باج‌گیر قربانی می‌شوند، درست است؟ و آن چیزها واقعاً حیاتی هستند، و همچنین چیزهای بسیار سختی برای قطع کردن هستند، زیرا ما همه پرونده‌های پزشکی الکترونیکی داریم، درست است؟ و به ویژه بیمارستان‌های محلی. چیزهایی که توسط شهرستان‌ها اداره می‌شوند از نظر امنیتی در مقایسه با چیزهایی مانند شبکه برق، بسیار بدتر منبع‌دهی شده‌اند.
وارزل: برخی از چیزهایی که در ماه‌های اخیر دیده‌اید—چه افشا‌ها و چه حملات واقعی—کدام‌ها اکنون شما را بیشتر نگران کرده‌اند؟
استاموس: بله. بنابراین، منظورم این است، فکر می‌کنم چند مورد واقعاً جالب و نشان‌دهنده جایی که داریم می‌رویم. اول، این حملات علیه بانک‌های کره جنوبی بودند.
وارزل: هوم.
استاموس: با استفاده از سیستم‌های حمله کاملاً خودکار هوش مصنوعی به نام Artex. بنابراین این‌ها سیستم‌های حمله هوش مصنوعی هستند که از مدل‌های وزن باز برای انجام تمام حملات استفاده می‌کنند. چیزی به نام Voyager که اوایل امسال، یا اواخر سال گذشته منتشر شد، حملات enabled by AI انجام می‌داد، اما آن‌ها عمدتاً برای چیزهای سطح پایین استفاده می‌شدند. بنابراین اگر این چیزها اکنون به نقطه‌ای رسیده‌اند که می‌توانید حمله کامل علیه بانکی در کشوری پیشرفته تکنولوژیک انجام دهید، پس ما واقعاً در آن نقطه هستیم.
و بنابراین ما اکنون انواع حملات با استفاده از Artex را از آن زمان دیده‌ایم. و از آنجا که این چیزها متن باز هستند و مدل‌ها وزن باز هستند، هر کسی می‌تواند این چیزها را از قفسه بردارد. بنابراین فکر می‌کنم آن واقعاً جالب بود. و سپس دیگری حملات علیه Fireworks و Railway است. این‌ها به نظر می‌رسد توسط عوامل چینی انجام شده‌اند که به اکوسیستم هوش مصنوعی آمریکا علاقه‌مند هستند. بنابراین چین آنچه صنعت دسترسی خانگی نامیده می‌شود دارد. بنابراین اساساً اکوسیستمی از پیمانکاران خصوصی وجود دارد که به نمایندگی از اکوسیستم اقتصادی بزرگ‌تر چین به شرکت‌های غربی نفوذ می‌کنند، با اجازه دولت چین، و تا حدی توسط دولت چین برای اهداف اقتصادی چین تکرارزدایی و پوشش داده می‌شوند.
و این واقعیت که این افراد به دنبال inference نیستند، به دنبال داده‌های مشتری نیستند، به دنبال کلیدهای API هستند واقعاً جالب است. زیرا به نظر می‌رسد آن‌ها مشخصاً به دنبال وزن‌های مدل، و همچنین داده‌های استفاده شده برای آموزش هوش مصنوعی هستند.
وارزل: آن چیزهای آخر را برای من بشکنید، فقط زیرا برخی اصطلاحات وجود دارد که فکر می‌کنم مخاطب ممکن است کاملاً با آن‌ها آشنا نباشد.
استاموس: بله. بنابراین Fireworks شرکت برجسته‌ای است که خدمات آموزشی به شرکت‌هایی که می‌خواهند مدل‌های هوش مصنوعی خود را بسازند ارائه می‌دهد. و بنابراین آن‌ها مورد حمله قرار گرفتند، و سمت Fireworks که مورد حمله قرار گرفت سمتی بود که آموزش انجام می‌دهد. و بنابراین به نظر می‌رسد کسانی که به آن‌ها حمله کردند گروه‌هایی بودند که به شرکت‌های چینی کمک می‌کردند. و آن‌ها سعی داشتند اطلاعاتی را سرقت کنند که سپس به شرکت‌های هوش مصنوعی چینی کمک کند مدل‌های هوش مصنوعی خود را بهبود بخشند. بنابراین اکنون اکوسیستم کاملی از هکرهایی وجود دارد که به نمایندگی از شرکت‌های هوش مصنوعی چینی کار می‌کنند و سعی دارند بهبود بخشند و داده‌هایی را بگیرند که به آن‌ها کمک کند کار خود را تسریع کنند.
وارزل: می‌خواهم کمی درباره سرعت نوآوری اینجا صحبت کنم. زیرا به نظر می‌رسد لحظه‌ای که به سمت آن می‌رویم این است—آدم‌خوب‌ها هوش مصنوعی مفید و محافظتی را مستقر می‌کنند. ما در حال بازنویسی کد با استفاده از هوش مصنوعی برای محافظت در برابر کسانی هستیم که، می‌دانید، از عامل‌ها و سیستم‌های هوش مصنوعی برای حمله استفاده می‌کنند. این چقدر شما را نگران می‌کند؟ با توجه به پیشرفت‌های این عامل‌ها، این واقعیت که ما آن‌ها را می‌بینیم، می‌دانید، رفتار غیرمنتظره یا ارتباط به این شیوه‌های پیشرفته؟
اخیراً خبری بود که OpenAI دیگر آموزش مدل مرزی را با دسترسی به اینترنت انجام نمی‌دهد، زیرا مدل‌ها توانسته‌اند، می‌دانید، ارتباط برقرار کنند، اطلاعات را بدون اینترنت به اشتراک بگذارند. باز هم، به نظر می‌رسد همه این‌ها از نظر نوآوری، درک اینکه این چیزها چه کاری می‌توانند انجام دهند، بسیار سریع در حال حرکت است. چقدر کنترل، می‌دانید، انسان‌ها در این سیستم‌ها دارند. و با این حال آن‌ها نیز، می‌دانید، در این جنگ در هر دو طرف مستقر خواهند شد. مثل، چقدر نگران سرعتی هستید که همه این‌ها در حال حرکت هستند؟
استاموس: این چالش دیوانه‌وار است، زیرا ما می‌خواهیم مدل‌های واقعاً توانمند داشته باشیم که به ما در دفاع سایبری کمک کنند. در ایجاد این مدل‌های بسیار توانمند، ما می‌خواهیم این کار را به شیوه‌ای انجام دهیم که باعث خسارت نشود. می‌دانید، OpenAI منتشر کرد، فکر می‌کنم، یک پست بلاگ بسیار خوب در کاری که برای ایجاد چارچوب‌های ارزیابی ایمن انجام می‌دهند. بنابراین این جایی است که فکر می‌کنم به آن اشاره می‌کنید. آنچه آن‌ها انجام دادند این بود، از بهترین مدل‌های سایبری خود خواستند که حفاظت‌های خود را red-team کنند، و آن‌ها تعدادی راه پیدا کردند. آن‌ها راه‌هایی برای قاچاق اطلاعات بین مکانیزم‌های ایزولاسیون مختلف خود پیدا کردند. آن‌ها حملات زمانی انجام دادند، نامیده می‌شوند. و چیزهایی مانند آن.
که، می‌دانید، کار درست برای آن‌هاست. و خوشحالم که آن‌ها این را مستند کردند، زیرا به بقیه ما که آموزش مدل انجام می‌دهیم کمک می‌کند. در Cognition، ما آموزش مدل انجام می‌دهیم، بنابراین بسیار مفید بود که آن‌ها این را مستند کنند. و ما با آن‌ها و Anthropic کار می‌کنیم تا سعی کنیم نحوه انجام این کار را هم‌راستا کنیم. ادامه دادن به پیشروی مرز واقعاً مهم است.
فکر می‌کنم صادقانه—عالی است که درباره Hugging Face و چیزهای دیگر صحبت کنیم. فرار مدل‌ها از آزمایشگاه‌های مرزی ریسک بلندمدت نیست، راستش را بخواهید. مشکل بلندمدت سوءاستفاده مدل‌ها توسط انسان‌ها برای انجام کارهای بد است. فکر می‌کنم من P(doomer) نیستم که فکر کنم مدل‌ها خودشان تمایل به انجام کارهای بد خواهند داشت.
وارزل: حتماً. این یک مشکل انسانی است، بله.
استاموس: بله؛ فکر می‌کنم دلایلی وجود دارد. می‌دانید، فکر می‌کنم آزمایشگاه‌ها در مورد محدودیت‌های معقول آنچه در آموزش انجام می‌دهیم هماهنگ هستند. اطمینان از اینکه این چیزها زنجیره فکر خود را رمزگذاری نکنند؛ اطمینان از اینکه محدودیت‌های معقولی بر آن‌ها گذاشته شود. من بسیار بیشتر نگران توانایی‌هایی هستم که منتشر می‌شوند.
و سپس، تا آن حد، فکر می‌کنم آنچه واقعاً باید روی آن هم‌راستا شویم این است که چگونه—و فکر می‌کنم این در واقع بسیار دشوار است. ما باید توانایی‌های سایبری برای دفاع فراهم کنیم. چگونه این کار را انجام دهید بدون اینکه اجازه دهید آن توانایی‌های سایبری برای حمله به شیوه‌ای منفی استفاده شوند؟ و این خیره‌کننده سخت است. و مشکل دیگر اینجا این است که دولت‌ها، به ویژه دولت ایالات متحده، تعریف نکرده‌اند که شرکت‌ها چه مسئولیتی دارند وقتی این کار را انجام می‌دهند. و بنابراین در دنیای سایبری دفاعی، ما زیاد از محدودیت‌های گذاشته شده بر مدل‌های مرزی اینجا شکایت می‌کنیم.
وارزل: اما اجازه دهید کمی فشار بیاورم. همه آن کاملاً منطقی به نظر می‌رسد. اما به من احساس می‌شود، و فکر می‌کنم به افرادی که فقط از بیرون به همه این‌ها نگاه می‌کنند نیز احساس می‌شود، که این لحظه پایدار به نظر نمی‌رسد. یا چیزهایی که، می‌دانید—سرعتی که همه این‌ها در حال اتفاق افتادن هستند بسیار نگران‌کننده است. این چالش را سخت‌تر و سخت‌تر می‌کند.
مثل، به من منطق «ما باید این را پیش ببریم» را بفهمانید. همچنین ما شروع به دیدن چیزهایی می‌کنیم که به شیوه‌ای که واقعاً نگران‌کننده است تسریع می‌کنند، که، می‌دانید—بانک‌های کره جنوبی اکنون روی میز هستند. به نظر می‌رسد شکافی در آن منطق وجود دارد، فکر می‌کنم، برای بسیاری از مردم. بنابراین من دوست دارم شما فقط، می‌دانید، توضیح دهید چرا باید با توجه به آن ترس‌ها به پیشروی با این ادامه دهیم.
استاموس: نگاه، من روی دفاع سایبری کار می‌کنم. و اول، این باگ‌ها از قبل وجود دارند؛ این آسیب‌پذیری‌ها وجود دارند. و بنابراین فکر نمی‌کنم راه خوبی برای فقط توقف جهان در این نقطه وجود داشته باشد، زیرا توانایی‌هایی که در این نقطه وجود دارند برای یافتن تعداد زیادی نقص کافی هستند. بخش کوچکی از کدی که تا به حال نوشته شده است اکنون توسط مدل‌های سایبری سطح بالا اسکن شده است، و باگ‌ها یافت شده‌اند و/یا مورد سوءاستفاده قرار گرفته‌اند. بخش کوچکی، درست است؟ بخشی از مشکل اینجا مسئله هماهنگی است. اگر می‌توانستم همه را متوقف کنم، تا رژیم ایمنی اینجا را کشف کنم، انجام می‌دادم. اما من آن قدرت را ندارم. و بنابراین شخصاً، آنچه می‌خواهم انجام دهم این است که، می‌خواهم روی یافتن این باگ‌ها و اصلاح آن‌ها تمرکز کنم. می‌خواهم روی ساخت توانایی‌های دفاعی بهتر تمرکز کنم. و سپس به ویژه روی مسئله هزینه، زیرا هزینه توانایی‌های دفاعی سطح بالا بسیار زیاد است. شما نمی‌توانید هزینه اجرای Mythos علیه تمام این کد و اصلاح آن را بپردازید.
بنابراین ما باید روی کاهش هزینه و اصلاح—هم یافتن باگ‌ها و به ویژه اصلاح آن‌ها تمرکز کنیم. و بنابراین این چیزی است که ما واقعاً در Cognition روی آن متمرکز هستیم—مثل مرز پارتو بین توانایی سایبری و هزینه. بنابراین شما درست می‌گویید که این مسئله است. موافقم. من قدرت ندارم—متأسفم، چارلی—برای اصلاح آن.
و از دیدگاه من، آنچه شخصاً روی آن کار می‌کنم فقط تلاش برای کنار آمدن با واقعیت است—مرز با سرعت خیره‌کننده‌ای در حال حرکت است. و چگونه با آن واقعیت کنار می‌آییم؟ و آنچه ما انجام می‌دهیم این است، سعی می‌کنیم آن چیزها را تا حد امکان سریع اصلاح کنیم و سپس مدل‌های دفاعی را تا حد امکان سریع بسازیم.
وارزل: آیا ما شاید همچنین برخی از تاب‌آوری سیستم‌ها را می‌بینیم؟ می‌دانید، وقتی به باگ PHP فکر می‌کنید—آن مورد بزرگ و پر سر و صدا از چند هفته گذشته—واقعاً هیچ نقض انبوه بزرگی تولید نکرده است، درست است؟ مثل، من داستان پیگیری را ندیده‌ام که، می‌دانید، People are in, and all this information got stolen. پاسخ به آن بسیار منظم، بسیار هماهنگ به نظر می‌رسید. آیا این سیستم در حال کار است؟ یا این فقط نوعی استثنا و سکوت قبل از طوفان است؟
استاموس: ما بسیار خوش‌شانس بودیم. باگ PHP در واقع بسیار سخت برای سوءاستفاده است. همچنین بسیاری از آن ۷۰ درصد سایت‌ها پشت Cloudflare یا CDN دیگری هستند، و آن افراد حفاظت‌هایی را به دلیل فرآیند افشای هماهنگ قرار دادند. بنابراین فکر می‌کنم ما با باگ PHP خوش‌شانس بودیم که اگرچه، به طور نظری، قابل سوءاستفاده است، در عمل بسیار کمتر از آنچه در اولین مورد به نظر می‌رسید قابل سوءاستفاده بود.
بنابراین به نظر می‌رسد نوعی نزدیک به هدف بود؛ سیارکی که جو را لمس کرد و به ما هشدار خوبی داد. بله، بنابراین ما در این مورد خوش‌شانس بودیم. اما آنچه با باگ Hugging Face دیدید این بود که دسته عامل‌های OpenAI باگ‌هایی در Hugging Face پیدا کردند که خاص Hugging Face بودند، سوءاستفاده‌ها را نوشتند—و سپس آن‌ها را دور انداختند، و سپس جدید ones پیدا کردند. زیرا این چیزها آنقدر سریع هستند که می‌توانند این کار را انجام دهند. و بنابراین این بسیار بیشتر چیزی است که من نگران آن هستم تا باگ‌های آماده—این است که عامل‌های هوش مصنوعی چیزهای سفارشی برای هر اپلیکیشن وب، برای هر API پیدا می‌کنند.
وارزل: بنابراین با توجه به همه چیزهایی که درباره آن صحبت کردیم، می‌خواهم اینجا پایان دهم با—باز هم، افرادی که این اخبار را از دور مصرف می‌کنند، فکر می‌کنم، کمی غرق شده‌اند. در برخی موارد، اگر آن‌ها متخصص امنیت سایبری نباشند، کار زیادی نمی‌توانید انجام دهید تا در این اکوسیستم کمک کنید. اما مردم باید اکنون، در این لحظه در سطح شخصی، چه کار کنند تا مستحکم شوند؟ اطمینان حاصل کنند که تا حد امکان آماده و آماده برای این نسخه بیشتر، می‌دانید، ناامن‌تر اینترنت هستند؟
استاموس: بله. بنابراین صادقانه، همان چیزهایی است که باید پنج سال پیش انجام می‌دادید. اما اکنون فقط مهم‌تر است، درست است؟
بنابراین اولین چیز این است، شماره ۱ راهی که هر فرد عادی هک می‌شود با استفاده مجدد از همان رمز عبور در همه جا است. می‌دانم شما هرگز این کار را انجام نمی‌دهید، چارلی، یا هر کسی که این پادکست را تماشا می‌کند، اما بسیاری از مردم از همان رمز عبور در مکان‌های زیاد استفاده می‌کنند. شما این کار را انجام نمی‌دهید، زیرا آنچه اتفاق می‌افتد این است که یک وب‌سایت بد هک می‌شود، و سپس رمز عبور سرقت می‌شود، و سپس آن تصادفاً رمزی است که شما برای Gmail یا بانک خود استفاده می‌کنید. و به ویژه، اگر ایمیل شما تسخیر شود، زندگی شما تمام است، زیرا تمام رمزهای عبور شما گرفته می‌شوند. بنابراین از مدیر رمز عبور استفاده کنید، چیزی مانند 1Password، و بروید تمام رمزهای عبور خود را ریست کنید. اطمینان حاصل کنید که همه متفاوت هستند. و سپس یک رمز عبور واقعاً خوب برای مدیر رمز عبور خود داشته باشید، و آن را در ذهن خود نگه دارید. یا حتی آن را روی یک تکه کاغذ بنویسید. رمز عبور روی یک Post-it در کیف پول یا کیف شما نمی‌تواند از هزاران مایل دوری سرقت شود. بنابراین تمام رمزهای عبور خود را تغییر دهید؛ همه آن‌ها را متفاوت داشته باشید. از کلیدهای عبور استفاده کنید اگر ممکن است، درست است؟ بنابراین داشتن کلیدهای عبور در مدیر رمز عبور، یا روی گوشی شما، واقعاً کلیدی است.
دومین فقط—مردم فقط باید محتاط‌تر باشند. هم به دلیل تمام سرقت اطلاعات شخصی که اتفاق خواهد افتاد، و هم به دلیل ظهور صدای هوش مصنوعی، هوش مصنوعی، ایجاد ویدیو. ما افزایش واقعی در کلاهبرداری‌هایی را خواهیم دید که بسیار واقع‌گرایانه هستند. بنابراین مردم تماس‌های تلفنی دریافت می‌کنند که شبیه ربوده شدن نوه‌شان است. مردم پیام‌های اسپم بیشتری دریافت می‌کنند. اگر خیلی خوب به نظر می‌رسد که درست باشد، اگر چیزی جعلی به نظر می‌رسد، احتمالاً هست. و بنابراین مردم فقط نیاز دارند محتاط‌تر باشند. بروید به والدین و پدربزرگ و مادربزرگ خود کمک کنید تا محتاط‌تر باشند.
سومین چیز این است—اگر می‌توانید از یک کامپیوتر محدود استفاده کنید، این کار را انجام دهید، درست است؟
وارزل: بنابراین کامپیوتر محدود چیست؟
استاموس: من برای والدین و خانواده همسرم یک سال در Thanksgiving کروم‌بوک خریدم، و تعطیلات من را بسیار بهتر کرد، درست است؟ بنابراین اگر فقط همیشه از مرورگر وب استفاده می‌کنید، پس شما به کامپیوتر کامل ویندوز یا مک نیاز ندارید. اگر فقط تمام روز در Chrome هستید، یا Safari، پس می‌توانید کروم‌بوک بگیرید، یا می‌توانید iPad بگیرید، و در آن زندگی کنید. آن‌ها بسیار ایمن‌تر از کامپیوتر کاملی هستند که می‌تواند malware اجرا کند. و بنابراین کروم‌بوک بگیرید، یا iPad بگیرید، به ویژه برای افراد کمی مسن‌تر در زندگی خود. این گزینه بسیار ایمن‌تر است.
و فکر می‌کنم آنچه اتفاق خواهد افتاد، زیرا چیزها فقط کمی کمتر قابل اعتماد خواهند شد، ممکن است مردم فقط حساب‌های ثانویه sock-puppet داشته باشند. بنابراین مثل، هویت ثانویه برای چیزهایی در زندگی خود که واقعاً اهمیت نمی‌دهید داشته باشید، درست است؟ بنابراین آن حساب Gmail دوم را داشته باشید که charlie@gmail نیست. می‌توانید surferboy1985@gmail را داشته باشید، و از آن برای تمام چیزها استفاده کنید—برای، می‌دانید، سایت شرط‌بندی خود و چیزهای دیگری که اهمیت نمی‌دهید. ایده بدی نیست که نوعی هویت ثانویه داشته باشید، تا اگر تسخیر شود، به بانک شما منجر نشود. به چیزهایی که اهمیت می‌دهید منجر نشود.
وارزل: ممنون. ما وارد دنیای جدید شجاع می‌شویم، و من واقعاً قدردان توصیه درباره همه این‌ها و کمک به زمینه‌سازی آن هستم. الکس استاموس، ممنون که به Galaxy Brain آمدید.
استاموس: بله؛ ممنون که پوشش دادید، چارلی. دیدن شما عالی است.
وارزل: این برای ما اینجا تمام شد. دوباره ممنون از مهمانم، الکس استاموس. اگر آنچه اینجا دیدید را دوست داشتید، قسمت‌های جدید Galaxy Brain هر جمعه منتشر می‌شوند. می‌توانید در کانال YouTube The Atlantic مشترک شوید، یا در Apple، یا Spotify، یا هر جایی که پادکست‌های خود را دریافت می‌کنید. و اگر می‌خواهید این کار و کار همکاران خود را حمایت کنید، می‌توانید در theatlantic.com/listener مشترک شوید. این theatlantic.com/listener است.
و فقط یادآوری: ما هنوز برای قسمت AMA Galaxy Brain آماده می‌شویم. می‌توانید تمام پرسش‌ها درباره نمایش، درباره کار من، درباره هوش مصنوعی، درباره امنیت سایبری، و چقدر ایمن بودن حساب بانکی خود را ارسال کنید. تقریباً هر چیزی. به من ایمیل بفرستید در [email protected]، موضوع: «Galaxy Brain AMA». بسیار ممنون، و شما را در اینترنت خواهم دید.