ذهن بیگانه

در اواسط سال ۲۰۲۳، در پروژه تحقیقاتی «RLSlow»، نخستین نتایجی را دیدیم که به ما اطمینان داد قادر خواهیم بود آموزش مدل‌های استدلالی را مقیاس‌دهی کنیم و قابلیت مدل‌های از پیش آموزش‌دیده برای تشکیل زنجیره‌های فکری خودشان را آزاد سازیم. شیمون و من آن شب را در دفتر گذراندیم و نه به اعداد فوق‌العاده بنچمارک‌ها، محصولات یا نتایج علمی که این فناوری ارائه خواهد داد فکر می‌کردیم، بلکه تلاش داشتیم واقعیت تکان‌دهنده‌ای را پردازش کنیم که در طول عمرمان ماشین‌هایی معنادارتر از خودمان را خواهیم دید و شکل این سیستم‌ها را از قبل مشاهده کرده‌ایم؛ و پرسیدیم چگونه می‌توان مردم را از اهمیت این موضوع آگاه کرد.

سه سال بعد، مدل‌های زبانی استدلالی بخش رو به رشدی از اقتصاد هستند و شروع به رانش مرزهای علم کرده‌اند. آن‌ها قادر به کار با رایانه‌ها و رابط‌های گرافیکی، همکاری با افراد و یکدیگر، و انجام پروژه‌های تحقیقاتی هستند. همچنین آن‌ها چشم‌انداز امنیت رایانه‌ای را متحول می‌کنند و خطرات جدید و روشنی را در این زمینه ایجاد می‌کنند.

تحقیقات جدید زیادی در این دوره انجام شد و درک ما از این سیستم‌ها دوباره کمی متفاوت از آنچه در سال ۲۰۲۳ بود است. بر اساس نتایج داخلی، انتظار قوی دارم که این سرعت پیشرفت بتواند تا مرحله خودبهبودی بازگشتی ادامه یابد. اگر توسعه هوش مصنوعی در مسیر فعلی خود ادامه یابد، سیستم‌هایی که در چند سال آینده خواهیم دید احتمالاً جهش‌های توانایی بیشتر با همان اندازه یا بزرگ‌تر را نشان خواهند داد و به طور فزاینده‌ای توسعه خود را هدایت خواهند کرد.

این زمانی است که نیاز به احتیاط شدید دارد. من نگرانم که هیچ‌کس برای پیامدهای افزایش سریع مداوم هوش ماشینی آماده نیست. اوپن‌ای‌آی به دنبال راه‌حل‌های فنی برای همسوسازی و نظارت، ساخت سیستم‌های دفاعی و به صورت یکجانبه توقف مقیاس‌دهی بیشتر در صورت نیاز ادامه خواهد داد؛ با این حال، معتقدم مداخلات گسترده‌تری مورد نیاز است.

در سطح کلان، پیشرفت در هوش ماشینی توسط افزایش قدرت محاسباتی هدایت می‌شود. ما در اوپن‌ای‌آی حدود سال ۲۰۱۷ پس از مشاهده بازدهی ثابت مقیاس‌دهی در چندین پروژه تحقیقاتی¹ این موضوع را عمیقاً درونی کردیم. در نتیجه، دسترسی به منابع محاسباتی بسیار بیشتری نسبت به آنچه در ابتدا برنامه‌ریزی کرده بودیم جستجو کردیم و تحقیقات خود را به طور فزاینده حول تعداد کمی از جهت‌گیری‌های بسیار مقیاس‌پذیر سازماندهی کردیم. معتقد بودیم این تنها راه برای بودن در لبه تحقیقات هوش مصنوعی و تأثیرگذاری بر پیامدهای هوش عمومی مصنوعی (AGI) است.

الگوریتم‌های جدیدی در این مسیر توسعه یافته‌اند و ابتکارات جدیدی از تیم‌ها و پژوهشگران فردی دیده می‌شود. من آن‌ها را عمدتاً کشفیات در مسیر مقیاس‌دهی می‌بینم؛ علم یادگیری عمیق هنوز نوپاست و پیشرفت الگوریتمی معنادار معمولاً با دسترسی به منابع محاسباتی همبستگی دارد. اگر به افق چندساله نگاه کنید، هوش مصنوعی همچنان با مقیاس‌دهی روی رایانه‌های بزرگ‌تر، باهوش‌تر می‌شود.

و مطابق با پیش‌بینی‌های ری کورزویل در پایان قرن بیستم، اکنون خود را در لحظه‌ای از تاریخ محاسبات می‌یابیم که هوش ماشینی شروع به فراتر رفتن از هوش انسانی به شکلی تحول‌آفرین کرده است.

هوش مصنوعی بیش از آنکه طراحی شود، پرورش می‌یابد - این محصول تکرار بارها یک مرحله ساده بهینه‌سازی روی مقدار غیرقابل تصوری از منابع محاسباتی است. این منجر به سیستمی فوق‌العاده پیچیده می‌شود که از طریق مفاهیم انتزاعی کار می‌کند و می‌تواند جنبه‌هایی از رفتار انسانی را شبیه‌سازی کند. ما می‌توانیم بینش‌های مختلفی درباره مکانیزم‌های کوچکی که در این سیستم ظاهر می‌شوند کشف کنیم، در فرآیندی مشابه علوم اعصاب - و مشابه علوم اعصاب، عملکرد کلی آن از توصیفی که بتوانیم کاملاً بفهمیم فرار می‌کند.

مطالعه هوش مصنوعی مبتنی بر یادگیری عمیق عمدتاً یک علم تجربی است. ما تلاش زیادی برای ساخت الگوریتم‌های اصولی و ارائه پیش‌بینی‌های قابل آزمایش انجام می‌دهیم، اما در بنیاد، اجرای آموزش‌های مقیاس بزرگ ما آزمایش هستند و گاهی از نتایج آن‌ها غافلگیر می‌شویم. علاوه بر این، هرچه سیستم‌ها توانمندتر می‌شوند، تفسیر نتایج دشوارتر می‌شود.

این موضوع با این واقعیت که الگوریتم‌های فعلی معمولاً قابلیت‌های قابل اندازه‌گیری آسان را سریع‌تر از آن‌هایی که کمّی‌سازی عینی آن‌ها دشوار است بهبود می‌بخشند، پیچیده‌تر می‌شود. ما زمان زیادی را صرف درک نحوه تعمیم‌پذیری قابلیت‌ها و اولویت‌بندی مهارت‌هایی که در چند سال آینده مرتبط‌ترین خواهند بود می‌کنیم. برای مثال، معتقدیم می‌توانستیم با تمرکز اضافی مدل‌ها را در تحقیقات خاص ریاضی بهتر کنیم، اما به دلیل فوریتی که نسبت به RSI و تحقیقات خودکار همسوسازی احساس می‌کنیم، این جهت‌گیری را اولویت قرار نمی‌دهیم، همانطور که بعداً بحث خواهم کرد.

هوش تولید شده توسط مقیاس‌دهی یادگیری عمیق مستقیماً با هوش انسانی قابل مقایسه نیست. برای اینکه در دنیای واقعی بسیار مرتبط - بسیار مفید یا بسیار خطرناک - شود، هوش مصنوعی نیازی به تطابق یا فراتر رفتن از تمام قابلیت‌های انسانی ندارد؛ فقط باید از تعداد کافی از آن‌ها فراتر رود. و همانطور که به فراتر رفتن از انسان‌ها در محورهای بیشتر ادامه می‌دهد، درک دقیق میزان توانایی آن دشوارتر می‌شود.

چون هوش ماشینی از فرآیندی بنیادین متفاوت از هوش انسانی سرچشمه می‌گیرد، نمی‌توان فرض کرد که به طور پیش‌فرض به اصول انسانی پایبند است یا به شیوه‌ای انسانی از آن‌ها تعمیم می‌دهد. مسئله اصلی در تحقیقات هوش مصنوعی، همسوسازی است - کاری که هوش مصنوعی «تلاش کند کار درست را انجام دهد» طبق استانداردهای انسانی.

برای هدف سازماندهی جهت‌گیری‌های تحقیقاتی عملی، تمایز بین همسوسازی هدف و همسوسازی ارزش را مفید می‌دانم.

همسوسازی هدف به طور کلی چنین است: «آیا هوش مصنوعی تلاش می‌کند هدف تعیین شده برای آن را محقق کند؟». این می‌تواند شامل مواردی مانند پایبندی به سلسله مراتب دستورالعمل‌ها، یا توانایی ارتباط و همکاری با افراد برای تلاش جهت درک اهداف آن‌ها باشد. این مجموعه از جهت‌گیری‌ها از نظر عملی بسیار مرتبط بوده است.

همسوسازی ارزش یک ویژگی ذاتی‌تر مدل است. این توانایی حفظ و تعمیم دادن از یک مجموعه اصول سطح بالا است؛ عمل کردن به شیوه‌ای «منطقی» حتی وقتی اهداف نامشخص یا متناقض داده می‌شوند، یا در موقعیت‌های ناآشنا یا خصمانه قرار گرفته می‌شود. یک هوش مصنوعی همسو باید با صداقت، درستکاری و عشق به بشریت عمل کند.

البته، مرز بین همسوسازی ارزش و هدف می‌تواند مبهم باشد و واقعاً اهمیت دادن به اهداف نیازمند تلاش برای استنتاج نیت و ارزش‌های زیربنایی آن‌هاست. با این حال، به طور کلی وقتی درباره اهمیت بلندمدت تحقیقات همسوسازی صحبت می‌کنم، منظورم همسوسازی ارزش است.

چالش بنیادین همسوسازی هوش مصنوعی تعمیم‌پذیری است. هرچه ماشین‌ها باهوش‌تر می‌شوند، خود را مشغول کار روی مفاهیم سطح بالاتر می‌یابند و در محیط‌هایی قرار می‌گیرند که به طور فزاینده‌ای با محیط‌هایی که در آموزش با آن‌ها مواجه شده بودند متفاوت است. آن‌ها ممکن است در تعمیم دادن از ارزش‌های آموزش داده شده و تقویت شده در فرآیند آموزش خود به آن موقعیت‌های جدید شکست بخورند؛ و برای ما سخت است که مطمئن شویم چگونه عمل خواهند کرد. این موضوع با این واقعیت که اکوسیستم کلی که هوش‌های مصنوعی در آن استفاده می‌شوند به سرعت در حال تغییر است، دشوارتر می‌شود؛ برای مثال، هوش‌های مصنوعی آموزش دیده امروز باید در تعامل با طیف متنوعی از سایر هوش‌های مصنوعی مقاوم باشند. نکته حیاتی این است که ما نیاز داریم هوش‌های مصنوعی آینده، مستقل از اینکه آیا تحت نظارت انسانی هستند یا خیر، همچنان ارزش‌های انسانی را حفظ کنند.

دو کلاس اصلی از روش‌های به کار گرفته شده در حال حاضر برای آموزش همسوسازی وجود دارد.

اولین مورد تشویق رفتار همسو به عنوان بخشی از یادگیری تقویتی هدف‌محور است. اقدامات مدل (معمولاً توسط هوش مصنوعی دیگر) برای سازگاری با یک مدل ترجیحی مشخص، «مشخصات» یا «قانون اساسی» ارزیابی می‌شوند و به طور مناسب پاداش داده می‌شوند. این رویکرد می‌تواند در حالت متوسط بسیار موثر باشد و بخش اصلی نحوه ساخت دستیاران هوش مصنوعی مدرن است. متأسفانه، این رویکرد می‌تواند شکننده باشد و به شدت به پوشش نظارت آموزشی و توانایی مدل برای تعمیم از موقعیت‌هایی که در آموزش با آن‌ها مواجه شده وابسته است. برای مثال، در حادثه اوپن‌ای‌آی-هاگینگ‌فیس، عامل‌ها مرزی را برای عدم مهندسی اجتماعی انسان‌ها حفظ کردند. با این حال، آن‌ها به وضوح در خودداری از سایر اقداماتی که خارج از دامنه بودند و برخلاف روحیه ارزش‌هایی که در سایر تنظیمات به آن‌ها آموزش داده شده بود، شکست خوردند.

رویکرد دوم تلاش می‌کند از توانایی مدل برای تعمیم از داده‌های از پیش آموزش‌دیده بهره ببرد. این می‌تواند شامل ساخت مجموعه‌داده‌های آموزشی القاءکننده همسوسازی، یا متمرکز کردن مدل بر بخش «همسو» توزیع از پیش آموزش‌دیده، همانطور که در مدل انتخاب شخصیت (persona selection model) دیده می‌شود، باشد. ضعف این رویکرد در نبود مقاومت در برابر فشار بهینه‌سازی بیشتر نهفته است. اگر مدلی را که به طور کلی افکار «همسو» را می‌اندیشد بگیرید و آن را تحت آموزش کافی قرار دهید تا اهداف بسیار سختی را محقق کند، ممکن است یاد بگیرد به شیوه‌ای انگیزشی استدلال کند: افکار ظاهراً «همسو» را برای رسیدن به هدف خم کند. احتمالاً نمونه‌ای از چنین رفتاری را در حوادث اخیر امنیت سایبری درگیر با مدلی غیر از اوپن‌ای‌آی دیدیم.

ما سرمایه‌گذاری سنگینی در طیف رویکردهای پوشش داده شده توسط این جهت‌گیری‌ها انجام می‌دهیم. همچنین پیشرفت معناداری را می‌بینیم - GPT-6 Astra نخستین مدلی است که از برخی پیشرفت‌های مهمی که مدت‌ها روی آن‌ها کار کرده‌ایم بهره‌مند می‌شود و به طور قابل توجهی بهتر از GPT-5.6 Sol همسو است. با این حال، مهم است که بپذیریم و درک کنیم که با توانمندتر شدن مدل‌ها، پیشرفت بسیار بیشتری مورد نیاز است؛ و اینکه پیشرفت در همسوسازی تعمیم‌پذیر ممکن است به اندازه کافی از پیشرفت در هوش عمومی مدل فراتر نرود.

ما نظریه رضایت‌بخشی از تعمیم‌پذیری نداریم و بعید به نظر می‌رسد که بتوانیم به زودی یکی را توسعه دهیم، حداقل بدون کمک هوش مصنوعی قدرتمندتر. بنابراین، در حال حاضر، توانایی ما برای اعتبارسنجی تجربی تکنیک‌های همسوسازی، در عمل احتمالاً حتی مهم‌تر از خود تکنیک‌های همسوسازی است.

شرط اصلی اوپن‌ای‌آی در اینجا نظارت بر زنجیره افکار (chain-of-thought monitoring) بوده است. این بر پایه ایده‌ای جذاب و مقیاس‌پذیر استوار است: بخش زیادی از قابلیت مدل از یک فرآیند استدلال کلامی‌شده (زنجیره افکار) ناشی می‌شود. اگر بهینه‌سازی را بر خروجی‌های آن فرآیند مقیاس‌دهی کنیم، اما خود فرآیند را نظارت نکنیم، آن زنجیره افکار در حین آموزش انگیزه مستقیمی برای پنهان کردن ایده‌ها یا اهداف ناهمسو ندارد. این به این معنا نیست که مدل یاد خواهد گرفت تمایلات ناهمسویی را که به استفاده از زنجیره افکار متکی نیستند برون‌ریزی کند؛ با این حال، می‌تواند به ما اجازه دهد دقیقاً افزایش قابلیت ناشی از استدلال را نظارت کنیم.

ما اهمیت بالقوه نظارت بر زنجیره افکار را همزمان با توسعه مدل‌های استدلالی درک کردیم. هنگامی که o1-preview را عرضه کردیم، عمداً محصول را به گونه‌ای طراحی کردیم که زنجیره افکار را پنهان نگه دارد تا در بلندمدت از فشار نظارت محافظت شود². در توسعه پس از آن، تلاش کرده‌ایم قاعده عدم نظارت بر فرآیند استدلال را حفظ کنیم. نظارت CoT ابزار بسیار مهمی برای ما در مطالعه نحوه تعمیم مدل‌هایمان از توزیع آموزشی‌شان شد و به ما امکان داد نه تنها اقدامات آن‌ها بلکه فرآیند درونی آن‌ها را نیز مشاهده و تحلیل کنیم.

این ابزار همچنان در مطالعه کلاس مدل‌های Astra حیاتی است. با این حال، متأسفانه ارزیابی‌های ما نشان می‌دهد توانایی ما برای اتکا به نظارت CoT به تدریج در حال کاهش است. این ناشی از ترکیبی از عوامل است.

• مدل‌های استدلالی مدرن در محیط‌های پیچیده‌تری نسبت به o1-preview استفاده می‌شوند؛ فرآیند استدلال آن‌ها به طور فزاینده‌ای با ارتباط با افراد، سایر هوش‌های مصنوعی و استفاده از ابزارها آمیخته می‌شود. بسیاری از این تعاملات باید نظارت شوند، بنابراین مرزی را که قصد حفظ آن را داریم مبهم می‌کنند.
• هوش مصنوعی در استدلال درباره و دستکاری فرآیند استدلال خودش بهتر می‌شود.
• با بهبود عملکرد از پیش آموزش‌دیده، همچنین می‌بینیم مدل‌ها حتی بدون استفاده از استدلال کلامی‌شده بسیار باهوش‌تر می‌شوند.

این چالش‌ها لزوماً غیرقابل حل نیستند. امیدوارم بتوانیم مداخلاتی برای بهبود قابلیت نظارت بر زنجیره افکار مدل‌هایمان توسعه دهیم، مثلاً با درک بهتر تعامل بین اهداف بهینه‌سازی مختلف و اشکال محاسبات زمان تست که مدل استفاده می‌کند. همچنین معتقدم ترکیب ایده‌های نظارت CoT و نظارت بر فعال‌سازی‌ها (activation monitoring) ارزش زیادی می‌تواند داشته باشد - مقیاس‌دهی آموزش مانیتورها با دسترسی مستقیم به اجزای داخلی شبکه، مثلاً اعترافات. ما فعالانه این ایده‌ها را دنبال می‌کنیم. با این حال، انتظار دارم پیشرفت عمومی هوش مصنوعی به طور فزاینده‌ای توسط اطمینان در نظارت محدود شود.

قوی‌ترین استدلالی که برای ادامه آموزش سریع مدل‌های بسیار باهوش‌تر می‌بینم، نیاز به ساخت سیستم‌های دفاعی در برابر خطرات ناشی از سایر هوش‌های مصنوعی است.

خطری آشکار که در طول امسال مورد بحث قرار گرفته، مربوط به امنیت سایبری است: مدل‌ها در توانایی نفوذ به سیستم‌های رایانه‌ای و خروج از آن‌ها ابرانسانی می‌شوند. این دامنه خطرات مرتبط با هوش مصنوعی را به شدت گسترش می‌دهد: عامل‌ها قادر خواهند بود به هر زیرساختی جز امن‌ترین‌ها دسترسی پیدا کنند و بدون داشتن بدن فیزیکی، بر بخش زیادی از جهان تأثیر بگذارند. ما در حال حاضر در پنجره باریکی هستیم تا از بهترین مدل‌های موجود برای سفت کردن قابل توجه امنیت سیستم‌های حیاتی استفاده کنیم.

متأسفانه خطرات مرتبط با هوش مصنوعی از اینجا به بعد رشد خواهند کرد. یک عامل بسیار توانمند که صراحتاً برای انجام اعمال مجرمانه آموزش و دستور داده شده باشد، نوع جدیدی از خطر را ارائه می‌دهد؛ احتمالاً از دامنه نیت اپراتور خود فراتر رفته و به رفتارهای احتمالا بسیار مخرب‌تر تعمیم خواهد داد. مرز بین سوءاستفاده و اقدامات خودکار ناهمسو با کسب عاملیت بیشتر توسط هوش مصنوعی مبهم خواهد شد. شاید ما به فکر کردن درباره هوش مصنوعی به عنوان ابزار عادت کرده باشیم، اما برخی عامل‌ها در حال دنبال کردن اهداف خودشان خواهند بود. آن‌ها راه‌هایی برای همکاری با افراد پیدا خواهند کرد، از طریق مذاکره، فریب یا اخاذی.

علاوه بر این، خطراتی وجود دارد که از فناوری‌های جدیدی که ممکن است توسط هوش مصنوعی enabled شوند، مانند پاتوژن‌های مهندسی شده، ناشی می‌شوند.

ما برای دفاع به هوش مصنوعی قدرتمند و همسو نیاز خواهیم داشت؛ برای ایمن‌سازی زیرساخت‌ها، محافظت در برابر عامل‌های سرکش در زمان واقعی، و اختراع تدابیر حفاظتی کاملاً جدید. این تمرکز اصلی تلاش‌های استقرار اوپن‌ای‌آی خواهد بود.

در عین حال، حتی با عدم قطعیت ناشی از پیشرفت گسترده مورد انتظار هوش مصنوعی و نیاز به ساخت سیستم‌های دفاعی، نباید اجازه دهیم این موضوع بهانه‌ای برای بی‌احتیاطی شود. ایده مسابقه دادن به جلو با هر هزینه‌ای، پس از درونی کردن جدیت شرط‌ها، مضحک به نظر می‌رسد.

نقش بزرگ‌تر و بزرگ‌تر هوش ماشینی در فرآیند توسعه خودش نتیجه طبیعی پیشرفت فناورانه پایدار است. اگر پیشرفت هوش مصنوعی ادامه یابد، خودبهبودی بازگشتی ماشینی (RSI) در هسته مرکزی کشفیات علمی آینده قرار خواهد گرفت.

تحقیقات خودکار هوش مصنوعی شکلی دراماتیک‌تر از مقیاس‌دهی هوش با محاسبات است؛ و البته به عنوان بخشی از آن، هوش مصنوعی خود بستر محاسباتی را بهبود خواهد بخشید. و مشابه مقیاس‌دهی، ما تحقیقات اوپن‌ای‌آی را به سمت RSI متمرکز می‌کنیم زیرا معتقدیم این تنها راه برای ماندن در لبه تحقیقات هوش مصنوعی در آینده است.

می‌خواهم تأکید کنم که کلمات بالا به این معنا نیست که من فکر می‌کنم تسریع زیاد تحقیقات یادگیری عمیق، به ویژه در کوتاه‌مدت، اقدام جمعی درستی است که جامعه تحقیقاتی باید انجام دهد. با این حال، معتقدم این جایی است که مسیر فعلی به آن منجر می‌شود و همه ما باید انتخاب آگاهانه‌ای درباره نحوه پیشرفت داشته باشیم. اهرم‌های اصلی که در اختیار داریم یا هدایت فرآیند برای تقویت همسوسازی و نظارت همراه با هوش مصنوعی و یافتن راه‌هایی برای نگه داشتن افراد در حلقه است؛ یا هماهنگی برای کند کردن توسعه آینده در صورت نیاز به اطمینان از این تدابیر.

بهترین راه پیشرو که در حال حاضر می‌بینم ترکیبی از هر دو است.

قطعات پیشرفت ملموسی که در همسوسازی و نظارت کسب کرده‌ایم به طور کلی با پیشرفت عمومی هوش مصنوعی بسیار در هم تنیده بوده‌اند. مثال‌های عالی یادگیری تقویتی از بازخورد انسانی (RLHF) است که برای آموزش دستیاران اولیه هوش مصنوعی کلیدی بود، و نظارت بر زنجیره افکار ذکر شده که با پیشرفت‌ها در مدل‌های استدلالی ممکن شد. ما باید فرآیند تحقیقاتی خودکار رو به رشد را بر توسعه چنین بینش‌ها، الگوریتم‌ها و نظریه‌های جدید متمرکز کنیم و به صورت تکراری پرونده‌های ایمنی برای هوش‌های مصنوعی توانمندتر بسازیم.

مقیاس‌دهی سیستم‌های هوش مصنوعی باید توسط اطمینان ما از ایمنی محدود شود. ما نیاز داریم تعهداتی مانند چارچوب آمادگی (Preparedness Framework) یا سیاست مقیاس‌دهی مسئولانه (Responsible Scaling Policy) را به استانداردهای ایمنی الزامی گسترده برای ادامه توسعه تکامل دهیم. این‌ها می‌توانند توسط شبکه‌ای از حسابرسی‌های شخص ثالث، آژانس‌های دولتی یا نهادهای بین‌المللی اجرا شوند.

چالش اصلی خودکارسازی تحقیقات هوش مصنوعی «رسیدن به آنجا» نیست - بلکه رسیدن به آنجا به شیوه‌ای است که افراد را بخشی از فرآیند بهبود مستمر نگه دارد و آینده را در دستان بشریت باقی گذارد.

همانطور که اخیراً با سم [آلتمن] توضیح دادیم، اوپن‌ای‌آی کار را در خدمت سه ستاره راهنما اولویت‌بندی می‌کند:

1. عبور از دوره بعدی پیشرفت هوش مصنوعی، با ساخت یک پژوهشگر خودکار هوش مصنوعی، تکرار با آن بر مسئله همسوسازی و یافتن راه‌هایی برای اینکه افراد بخشی از حلقه خودبهبودی باقی بمانند.
2. ارائه مزایای پیشرفت علمی و رشد اقتصادی که ماشین‌های بسیار باهوش امکان‌پذیر می‌کنند.
3. توانمندسازی هر فرد به صورت شخصی با یک AGI شخصی.

من در این مقاله فقط بر نقطه اول تمرکز کرده‌ام، زیرا معتقدم تا حد زیادی فوری‌ترین است. با این حال، امید و قدردانی عمیقی نسبت به مزایایی که پیشرفت فناورانه بیشتر خواهد آورد دارم. هوش مصنوعی همسو آینده می‌تواند علم را پیشرفت دهد، درمان‌های جدید توسعه دهد و فراوانی مادی گسترده‌ای ایجاد کند. هوش مصنوعی دوستانه و صادق می‌تواند به افراد کمک کند تا سختی‌هایی که در زندگی خود با آن مواجه هستند را مدیریت کنند و خوشبختی و حس رضایت آن‌ها را به معنای واقعی بهبود بخشند. اوپن‌ای‌آی تلاش فوق‌العاده‌ای برای ایجاد این مزایا انجام می‌دهد. یک مثال فعلی که به آن افتخار می‌کنم - و عزیزانم آن را مفید یافته‌اند - سرمایه‌گذاری عمیق در توانایی ChatGPT برای ارائه اطلاعات بهداشتی است.

هرچقدر وعده بلندمدت هوش مصنوعی بزرگ باشد، اکثر تمرکز ما باید بر چند سال آینده باشد. ما با گذار به جهانی با ماشین‌های فوق‌العاده باهوش مواجه هستیم و باید اطمینان حاصل کنیم که این گذار برای بشریت خوب پیش می‌رود. ما نیاز داریم راه‌هایی برای حفظ عاملیت انسانی و تثبیت ارزش ذاتی بودن انسان، در جهانی که اکثر وظایف می‌توانند توسط هوش مصنوعی انجام شوند، پیدا کنیم. برای جلوگیری از تمرکز افراطی قدرت در جهانی که تلاش‌هایی که هزاران متخصص را می‌طلبد اکنون توسط چند نفر در حال کار با یک رایانه بزرگ قابل دستیابی خواهد بود. و برای اطمینان از اینکه انسان‌ها کنترل آینده را در دست نگه می‌دارند و توسط پیشرفت مهارنشده‌ای که توسط یک ذهن بیگانه فراتر از خودمان ایجاد شده، عقب نمی‌مانند.

در حال حاضر معتقدم هیچ آزمایشگاهی همسوسازی و نظارت را به اندازه کافی حل نکرده است که بتواند مسئولانه به مقیاس‌دهی با حداکثر سرعت برای مدت طولانی‌تری ادامه دهد. انتظار و امیدوارم که کندی‌های داوطلبانه تا زمان استقرار استانداردهای ایمنی مشترک رایج شوند. و معتقدم هماهنگی بین‌المللی درباره توسعه آینده هوش مصنوعی باید به اولویت اصلی دولت‌ها در سراسر جهان تبدیل شود.