نکات کلیدی
- مارک زاکربرگ، مدیرعامل متا، روز سهشنبه دیدگاه خود را درباره ایمنی هوش مصنوعی به اشتراک گذاشت و موضعی اتخاذ کرد که بیشتر شبیه به دیدگاه جنسن هوانگ، مدیرعامل انویدیا، تا داریو آمودی، رئیس شرکت آنتروپیک، است.
- از آنجا که آزمایشگاههای هوش مصنوعی در صورت آسیبرسان بودن مدلهایشان با «مسئولیت حقوقی قابل توجهی» روبرو هستند، زاکربرگ معتقد است که شرکتها انگیزه دارند تا از مشکلات احتمالی جلوگیری کنند؛ این رویکرد مبتنی بر بازار با نظرات عمومی هوانگ در همان روز همسو است.
- «بحث زیادی درباره کند کردن پیشرفت قابلیتها تا زمانی که همسویی (alignment) به آن برسد وجود دارد»، زاکربرگ گفت. «دیدگاه من این است که اعتماد و همسویی به سرعت در حال تبدیل شدن به مهمترین قابلیتهایی هستند که عاملها و مدلها را از یکدیگر متمایز خواهند کرد.»
مارک زاکربرگ، مدیرعامل متا، در کنفرانس سالانه رسانه و فناوری سانولی (Sun Valley) شرکت آلن و کمپانی در منطقه تفریحی سانولی در آیداهو، آمریکا، در تاریخ ۹ ژوئیه ۲۰۲۶ حضور یافت. برندن مکدرمید | رویترز
زاکربرگ در پستی در ایکس و سایر پلتفرمهای شبکههای اجتماعی گفت که معتقد است آزمایشگاههای هوش مصنوعی که بر «همسویی تمرکز نکنند عقب خواهند ماند». او به نوع کاری اشاره داشت که توسعهدهندگان برای اطمینان از پایبندی فناوریها به ارزشهای انسانی انجام میدهند. موضوع ایمنی هوش مصنوعی طی چند روز گذشته پس از آنکه آمودی مقالهای در آخر هفته منتشر کرد و در آن از صنعت فناوری خواست تا «سرعت بهبود قابلیتهای مدلهای هوش مصنوعی را کاهش دهد»، به کانون توجهات تبدیل شده است؛ گزینهای که بعداً توسط آلتمن تأیید شد و دونالد ترامپ، رئیسجمهور آمریکا، نیز آن را مورد انتقاد قرار داد.
«بحث زیادی درباره کند کردن پیشرفت قابلیتها تا زمانی که همسویی به آن برسد وجود دارد»، زاکربرگ گفت. «دیدگاه من این است که اعتماد و همسویی به سرعت در حال تبدیل شدن به مهمترین قابلیتهایی هستند که عاملها و مدلها را از یکدیگر متمایز خواهند کرد.»
از آنجا که آزمایشگاههای هوش مصنوعی در صورت آسیبرسان بودن مدلهایشان با «مسئولیت حقوقی قابل توجهی» روبرو هستند، زاکربرگ معتقد است که شرکتها انگیزه دارند تا از مشکلات احتمالی جلوگیری کنند؛ این رویکرد مبتنی بر بازار با نظرات عمومی هوانگ در همان روز همسو است. زاکربرگ گفت که متا به دلیل دلایل «ایمنی و امنیت»، ارسال فناوریهای هوش مصنوعی Muse را به صورت داوطلبانه به تعویق انداخته است.
«ما فقط این کار را بخشی از فعالیت روزمره خود انجام دادیم زیرا مشخص بود که این کار درست برای مردم و برای ما است»، زاکربرگ اظهار داشت.
هوانگ در سخنرانی در کنفرانس سالانه سیلزفورس Dreamforce به مارک بنیوف، مدیرعامل سیلزفورس، گفت که سازندگان مدلهای هوش مصنوعی باید مسئولیت محصولات خود را بپذیرند، نه اینکه به دنبال مقررات دولتی از قانونگذاران باشند که قصد محدود کردن خطرات و ریسکهای احتمالی را دارند، همانطور که آمودی قبلاً گفته بود. هوانگ دیدگاه خود را در مصاحبهای در برنامه «Mad Money» شبکه CNBC تکرار کرد و چنین قوانین و مقررات مرتبط با هوش مصنوعی را «کاملاً غیرضروری» توصیف نمود.
«ما قوانین فراوانی داریم. مقررات بسیاری حاکم بر قابلیت اطمینان و عملکرد محصولات وجود دارد»، هوانگ گفت.
آمودی نیز در Dreamforce سخنرانی کرد و اعتقاد اصلی خود را مبنی بر اینکه کند کردن سرعت توسعه مدلها «راهی برای پیشبرد صنعت، تعیین الگو و بیان این نکته است که همه همیشه میتوانند بهتر شوند»، تقویت کرد.
بعداً در همان روز در Dreamforce، آلتمن به بنیوف پیوست و در یک گفتگوی صمیمی (fireside chat) شرکت کرد و درباره اعتقاد خود صحبت کرد که ایمنی و نظارت باید اولویت بالاتری نسبت به ویژگیها در توسعه هوش مصنوعی داشته باشد و به حس ترس عمومی از اینکه شرکتها ممکن است به دلیل فشار رقابتی این کار را نکنند، اذعان داشت.
«فکر میکنم عالی است که صنعت ما بگوید میخواهیم گرد هم آییم و بتوانیم هماهنگ عمل کنیم تا مطمئن شویم زمان کافی برای انجام این کار به صورت ایمن داریم»، آلتمن گفت. «اما وقتی اشارهای میشود که به دلیل فشارهای تجاری و رقابت، ممکن است برخی شرکتها یا بین کشورها، برخی کشورها کار درست را انجام ندهند، فکر میکنم آنجاست که مردم بسیار میترسند.»
