این نسخهای از خبرنامه فناوری والاستریت ژورنال است، خلاصهای هفتگی از ستونهای فناوری، اخبار بزرگ و توصیههای شخصی فناوری. اگر مشترک نیستید، اینجا ثبت نام کنید.
همانطور که اوپنایآی، آنتروپیک و متا همه در تابستان امسال اعتراف کردند که مدلهایشان شرکتهای خارجی را هک کردهاند، سوال بدیهیای مطرح شد: گوگل کجاست؟
اکنون، ما پاسخی داریم.
مدل جمنی گوگل در ماه مه در حین یک ارزیابی امنیت سایبری که توسط پلتفرم آزمایشی ایرریگولار (Irregular) انجام شد، سه شرکت را هک کرد؛ همان شرکتی که در هکهای سایر آزمایشگاههای هوش مصنوعی نیز نقش داشت. ایرریگولار در ماه مه گوگل را از هکها مطلع کرد، اما گوگل تا زمانی که والاستریت ژورنال این هفته تماس گرفت، آنها را افشا نکرد.
چرا اینقدر طول کشید؟ اساساً، گوگل میگوید چیز زیادی برای گزارش دادن وجود نداشت. زیرا مدل در هر مورد بلافاصله پس از درک اینکه یک شرکت واقعی را هک کرده است، متوقف شد، این شرکت گفت که رفتار آن مصداق آنچه عدم همسویی مدل (model misalignment) نامیده میشود، نبود؛ حالتی که در آن مدل برخلاف خواستههای انسان عمل میکند. گوگل اقدامات مدل را به هکرهای اخلاقی تشبیه کرد که از طریق برنامههای شکار باگ (bug-bounty) به شرکتها کمک میکنند آسیبپذیریهای خود را پیدا کنند.
اما سوال در مورد اینکه عموم مردم چقدر شایسته یا نیاز دارند که درباره رفتارهای غیرمنتظره مدلهای هوش مصنوعی بدانند، تنها بلندتر میشود و شرکتها با نحوه و زمان افشای حوادث ایمنی دست و پنجه نرم میکنند. کای چن، رئیس بخش همسویی اوپنایآی، هنگام بحث در مورد چارچوب جدیدی برای گزارشدهی حوادث، به من گفت: «یک یافته لزوماً نباید باعث آسیب شود یا الگوی گستردهتری را آشکار کند تا ارزش اشتراکگذاری داشته باشد.»
با توجه به اینکه پژوهشگران، مقامات نظارتی و تعداد روزافزونی از مردم عادی نگران خطرات هوش مصنوعی سرکش هستند، علاقه به چنین افشاهایی احتمالاً تنها افزایش خواهد یافت.
——ارین یک خبرنگار فناوری مستقر در سانفرانسیسکو است.
آخرین مطالب از ستوننویسان ما
کریستوفر میمز: فراموش کنید قیامت هوش مصنوعی را—تهدیدهای واقعی همین حالا اینجا هستند
هواپیماها، آسانسورها و رستورانها همه مقرراتی برای اطمینان از عملکرد ایمن خود دارند؛ بسیاری از کارشناسان استدلال میکنند که برای هوش مصنوعی نیز تدابیر متعارف مشابهی لازم است.
نیکول نگویین: جدیدترین گوشیها و ساعتهای اپل تازه به فروشگاهها رسیدهاند. آیا باید ارتقا دهید؟
به خوانندگان عزیز، دوستان و خانوادهای که میپرسند «آیا باید ارتقا دهم؟» این پاسخ رسمی من را در نظر بگیرید: بستگی دارد. بستگی به نحوه استفاده شما از آیفون یا اپل واچ فعلیتان و سن دستگاه فعلیتان دارد.
- همچنین بخوانید: آیاواس ۲۷ آمده است. وقت آن است که با سیری جدید و بهبودیافته آشنا شوید.
تیم هیگینز: داریو میگوید هوش مصنوعی باید کند شود. جنسن میخواهد تمام بخار جلو برود.
اگر داریو آمودی از آنتروپیک رهبر فناوریای است که بیشترین ترسها را درباره قدرت هوش مصنوعی برمیانگیزد، جنسن هوانگ از انویدیا به طور فزایندهای به برجستهترین صدای صنعت در مخالفت با این دیدگاه تبدیل میشود.
اخبار بزرگ
اپل سرانجام سیری هوشمندتری ساخت. اما هنوز در مسابقه هوش مصنوعی عقب مانده است.
سرانجام سیریای وجود دارد که مانند چتجیپیتی کار میکند. مشکل برای اپل این است که میلههای هدف قبلاً جابهجا شدهاند. نقطه عطف نرمافزار گوشی هوشمند جدید اپل که روز دوشنبه منتشر شد، سیری بازطراحیشدهای است که مانند چتجیپیتی، کلود و سایر چتباتها کار میکند. این قابلیت مکالمه، پیشنویس ایمیل، جستجو در پیامها و عکسها و پاسخ به کوئریهای جستجوی پیچیده را دارد. اما در زمانی که اپل روی این موضوع کار میکرد، کلاس جدیدی از دستیارهای هوش مصنوعی ظهور کردهاند که همه این کارها و بیشتر را انجام میدهند.
نرد ریاضی ناشناسی که از آنتروپیک استعفا داد—و به چهره ایمنی هوش مصنوعی تبدیل شد
نگرانیهای قدیمی درباره خطرات بالقوه این فناوری از زمان هشدار جدی جیکوب کاکسون به آگاهی جهانی منفجر شده است. این محقق بریتانیایی ۲۷ ساله دانشجو استعدادی در رشته ریاضیات بود که به کمبریج رفت، جوانی خود را در یک جامعه روشنفکری لندن که به «عقلگرایان» (rationalists) معروف است سپری کرد و قبل از رسیدن به سیلیکون ولی، مدت کوتاهی تجارت کالا را امتحان کرد.
تیکر فناوری
کوچکسازی: کروسی (Crusoe) نام خود را با ساخت یکی از بزرگترین ابررایانههای هوش مصنوعی جهان کسب کرد. شرط بزرگ بعدی این شرکت کوچک شدن است.
در تضاد: ایالات متحده و چین هر دو میخواهند گاردریلهای (guardrails) هوش مصنوعی داشته باشند. اما ایدههای آنها نمیتواند متفاوتتر باشد. گفتگوی آمریکایی بر محافظت از بشریت در برابر فناوری متمرکز است، در حالی که پکن عمدتاً نگران حفاظت از حزب کمونیست است.
کند شدن به سمت بازار: آنتروپیک برنامهریزی میکند عرضه اولیه سهام (IPO) پر سروصدای خود را در نوامبر برگزار کند، دیرتر از آنچه بسیاری از سرمایهگذاران انتظار داشتند، زیرا رهبران بزرگترین شرکتها در مسابقه هوش مصنوعی خواستار کاهش سرعت توسعه این فناوری هستند.
موارد هوشمندانه دیگر
- آنتروپیک در حالی که برنامه دارویی هوش مصنوعی خود را گسترش میدهد، به آرامی آزمایشگاه زیستشناسی راهاندازی میکند (رویترز)
- چگونه یک مینیمالیست هوش مصنوعی باشیم (وکس)
- مغز شما در حال تماشای ویدیوهای کوتاه (آتلانتیک)
این را تماشا کنید: چگونه رهبران فناوری در حال پیمایش مسئله بازگشت سرمایه (ROI) هوش مصنوعی هستند
در اجلس شورای فناوری موسسه رهبری والاستریت ژورنال، مدیران اجرایی فناوری از مککینزی، فدکس و CVS Health درباره نحوه پیمایش هزینههای رو به رشد هوش مصنوعی مولد و یافتن ارزش تجاری واقعی بحث میکنند.
ما محکومیم...
...وقتی پژوهشگران سایبری از هوش مصنوعی برای هک کردن هوش مصنوعی استفاده میکنند.
درباره ما
خبرنامه فناوری خلاصهای هفتگی از نقدها، ستونها و تیترهای فناوری از آن استیل و ویلسون راثمن است. برای ویلسون به [email protected] و برای آن به [email protected] بنویسید. نکتهای برای ما دارید؟ اینجا نحوه ارسال آن آمده است.