تیتر اصلی
اوپن ایآی یک هیئت ایمنی و امنیتی جدید ایجاد کرده و کار آموزش مدل هوش مصنوعی بعدی خود را آغاز کرده است. این شرکت روز سهشنبه در یک پست وبلاگ اعلام کرد. این یک بینش نادر در مورد جانشین مورد انتظار GPT-4 است، فناوری که به ربات چت آن، ChatGPT، قدرت میدهد، زیرا شرکتهای فناوری برای تولید ابزارهای هوش مصنوعی با قابلیت فزاینده با هم رقابت میکنند.
نکات کلیدی
اوپن ایآی اعلام کرد که اخیراً آموزش «مدل مرزی بعدی» خود را آغاز کرده است که انتظار دارد «سطح بعدی قابلیتها» را در ماموریت خود برای ساخت هوش مصنوعی عمومی (AGI) ارائه دهد، نوعی از هوش مصنوعی که میتواند در طیف وسیعی از وظایف مانند انسانها عملکرد خوبی داشته باشد.
مدل جدید احتمالاً جایگزین مدل بنیادی پیشرو اوپن ایآی، GPT-4، خواهد شد و ابزارهای هوش مصنوعی مولد مانند تولیدکنندگان تصویر، دستیارهای مجازی، موتورهای جستجو و ربات چت پرچمدار آن، ChatGPT را نیرو میبخشد.
اوپن ایآی اعلام کرد که یک کمیته جدید برای ارزیابی هرگونه خطرات ناشی از فناوری جدید ایجاد کرده است که به طور مشترک توسط مدیر عامل و بنیانگذار، سم آلتمن، و همچنین سه عضو هیئت مدیره شرکت: برت تیلور، رئیس هیئت مدیره، آدام دی آنجلو و نیکول سلیگمن، رهبری خواهد شد.
شش نفر از کارشناسان فنی و سیاستگذاری اوپن ایآی - الکساندر مادری (رئیس آمادگی)، لیلیان ونگ (رئیس سیستمهای ایمنی)، جان شولمن (رئیس علوم همترازی)، مت نایت (رئیس امنیت) و یاکوب پاچوکی (دانشمند ارشد) - نیز در این کمیته حضور خواهند داشت و این شرکت اعلام کرد که برای پشتیبانی از این کار، با «سایر کارشناسان ایمنی، امنیت و فنی مشورت و همکاری خواهد کرد.»
اولین وظیفه این کمیته بررسی و توسعه فرآیندها و محافظتهای شرکت طی 90 روز آینده خواهد بود، پس از آن توصیههای خود را با هیئت مدیره کامل به اشتراک خواهد گذاشت.
آیا این Gpt-5 است؟
این شرکت به صراحت اعلام نکرده است که این نام مدلی است که اکنون در حال آموزش آن است. تا به امروز، اوپن ایآی یک توالی نامگذاری واضح برای مدلهای بنیادی خود در قالب تغییرات عددی صعودی GPT دنبال کرده است. آخرین مدل بنیادی آن که به مواردی مانند ChatGPT نیرو میدهد، GPT-4 است، بنابراین انتظار میرود مدل شاخص بعدی آن به شکل GPT-5 باشد. انتظار میرود اوپن ایآی یک بهروزرسانی عمده را در قالب GPT-5 در ماههای آینده منتشر کند، بهویژه با توجه به رقابت فزاینده شدید از سوی مدلهای رقیب از جمله لاما 3 متا، جمینی گوگل و کلود 3 آنتروپیک.
نقل قول مهم
اگرچه اوپن ایآی «به ساخت و انتشار مدلهایی که در هر دو زمینه قابلیتها و ایمنی پیشرو در صنعت هستند» افتخار میکند، اما گفت که از «یک بحث قوی در این لحظه مهم» استقبال میکند.
آنچه باید منتظرش بود
اوپن ایآی زمان انتشار این مدل را مشخص نکرد. آموزش سیستمهای هوش مصنوعی میتواند ماهها یا حتی سالها طول بکشد. این شرکت اخیراً یک بهروزرسانی برای GPT-4، با نام GPT-4o، منتشر کرد تا به ChatGPT پرچمدار خود قدرت دهد و ویژگیهای جدیدی مانند حالت صوتی را معرفی کند که به آن امکان میدهد مانند الکسای آمازون یا سیری اپل به عنوان یک دستیار دیجیتال عمل کند. این شرکت قبلاً به دلیل استفاده از مورد انتقاد قرار گرفته است زیرا برای یکی از دستیارهای مجازی خود از صدایی شبیه بازیگر اسکارلت جوهانسون استفاده کرده است.
آنچه نمیدانیم
در حالی که در نگاه اول شفاف به نظر میرسد، ابهامات زیادی در مورد تمایل اوپن ایآی برای به اشتراک گذاشتن نظرات کمیته جدیدش وجود دارد. اوپن ایآی گفت که پس از گزارش کمیته به هیئت مدیره، «بهروزرسانی در مورد توصیههای اتخاذ شده را به شیوهای که با ایمنی و امنیت سازگار باشد، به طور عمومی به اشتراک خواهد گذاشت»، اما بازه زمانی مشخصی را برای انجام این کار پس از دوره اولیه 90 روزه ارائه نکرد. همچنین، لحن بیان شرکت محدود به اشتراکگذاری توصیههایی است که تصمیم به اتخاذ آنها میگیرد و مشخص نیست که آیا شرکت گزارش یا توصیههای کامل کمیته را به اشتراک میگذارد یا خیر، بهویژه اگر با تصمیماتی که برای اجرا یا عدم اجرای آن میگیرد، در تضاد باشد. این شرکت و کمیته به احتمال زیاد از سوی جامعه ایمنی هوش مصنوعی، به ویژه با توجه به تعهد اعلام شده اوپن ایآی به ایمنی، اختلاف میان مدیران در مورد رویکرد آن به ایمنی و انتقاداتی که از سوی کارمندان سابق مطرح شده است، و همچنین کنارهگیری چندین رهبر کلیدی ایمنی در این شرکت، تحت بررسی دقیق قرار خواهند گرفت.
ارزشگذاری فوربز
آلتمن دارایی خالص تخمینی 1 میلیارد دلار دارد. او هیچ سهامی در اوپن ایآی ندارد، بنابراین ثروت خود را مدیون موفقیت این شرکت نیست. در عوض، آلتمن یک سرمایهگذار پرکار است و ثروت او ناشی از مجموعهای از سرمایهگذاریهای ارزشمند، از جمله سهام در استارتاپهای فینتک استرایپ، ردیت و شرکت همجوشی هستهای هلیون است. آلتمن قبل از تأسیس اوپن ایآی، شرکت نقشهبرداری اجتماعی لوپت را تأسیس کرد و شریک و رئیس شتابدهنده استارتآپی Y Combinator بود.
مطالعه بیشتر
رابرت هارت گزارشگر ارشد فوربز است که علم، فناوری و بهداشت را با تمرکز مکرر بر هوش مصنوعی، فضا، داروهای کاهش وزن و فناوریهای نوظهور پوشش میدهد. او در سال 2020 به فوربز پیوست و در لندن مستقر است.