مطالعه‌ای بررسی می‌کند که کارگران چگونه از مدل‌های زبان بزرگ استفاده می‌کنند و این برای سازمان‌های علمی چه معنایی دارد

محققان استفاده کارمندان آرگون از آرگو، یک چت‌بات هوش مصنوعی مولد داخلی را بررسی کردند.

هوش مصنوعی مولد (AI) به ابزری قدرتمند در محل کار تبدیل می‌شود. در سازمان‌های علمی مانند آزمایشگاه‌های ملی، استفاده از آن پتانسیل تسریع کشف علمی در زمینه‌های حیاتی را دارد.

اما ابزارهای جدید سؤالات جدیدی را به همراه دارند. سازمان‌های علمی چگونه می‌توانند هوش مصنوعی مولد را مسئولانه پیاده‌سازی کنند؟ و کارمندان در نقش‌های مختلف چگونه در کارهای روزمره خود از هوش مصنوعی مولد استفاده می‌کنند؟

مطالعه اخیر دانشگاه شیکاگو و آزمایشگاه ملی آرگون (Argonne National Laboratory) وابسته به وزارت انرژی ایالات متحده، یکی از اولین بررسی‌های واقعی از چگونگی استفاده از ابزارهای هوش مصنوعی مولد، به ویژه مدل‌های زبان بزرگ (LLMs)، در یک محیط آزمایشگاه ملی را ارائه می‌دهد.

این مطالعه نه تنها پتانسیل هوش مصنوعی برای افزایش بهره‌وری را برجسته می‌کند، بلکه بر نیاز به ادغام متفکرانه برای رسیدگی به نگرانی‌ها در زمینه‌هایی مانند حریم خصوصی، امنیت و شفافیت نیز تأکید می‌ورزد. این مقاله در سرور پیش‌چاپ arXiv منتشر شده است.

محققان از طریق نظرسنجی و مصاحبه، نحوه استفاده فعلی کارمندان آرگون از LLMها - و نحوه تصور استفاده از آن‌ها در آینده - برای تولید محتوا و خودکارسازی گردش کار را مورد بررسی قرار دادند. این مطالعه همچنین پذیرش اولیه آرگو، رابط LLM داخلی آزمایشگاه که در سال ۲۰۲۴ منتشر شد را پیگیری کرد. بر اساس تحلیل خود، محققان راه‌هایی را پیشنهاد می‌کنند که سازمان‌ها می‌توانند استفاده مؤثر از هوش مصنوعی مولد را پشتیبانی کرده و در عین حال خطرات مرتبط را کاهش دهند.

در ۲۶ آوریل، تیم نتایج خود را در کنفرانس ۲۰۲۵ انجمن ماشین‌های محاسباتی CHI در زمینه عوامل انسانی در سیستم‌های محاسباتی در ژاپن ارائه کرد.

ساختار سازمانی آرگون همراه با انتشار به موقع آرگو، این آزمایشگاه را به محیطی ایده‌آل برای این مطالعه تبدیل کرد. نیروی کار آن شامل کارمندان علمی و مهندسی و همچنین کارمندان عملیاتی در زمینه‌هایی مانند منابع انسانی، تأسیسات و مالی است.

"علم حوزه‌ای است که همکاری انسان و ماشین می‌تواند منجر به پیشرفت‌های قابل توجهی برای جامعه شود،" کلی واگمن، دانشجوی دکترای علوم کامپیوتر در دانشگاه شیکاگو و نویسنده اصلی مطالعه، گفت. "کارگران علمی و عملیاتی هر دو برای موفقیت یک آزمایشگاه حیاتی هستند، بنابراین ما می‌خواستیم بررسی کنیم که هر گروه چگونه با هوش مصنوعی درگیر می‌شود و نیازهای آن‌ها در کجا همسو یا متفاوت هستند."

در حالی که این مطالعه بر یک آزمایشگاه ملی متمرکز بود، برخی از یافته‌ها می‌توانند به سازمان‌های دیگر مانند دانشگاه‌ها، شرکت‌های حقوقی و بانک‌ها که نیازهای کاربری متنوع و چالش‌های امنیت سایبری مشابهی دارند، تعمیم یابند.

کارمندان آرگون به طور منظم با داده‌های حساس، از جمله نتایج علمی منتشر نشده، اسناد طبقه‌بندی‌شده کنترل شده و اطلاعات اختصاصی کار می‌کنند. در سال ۲۰۲۴، آزمایشگاه آرگو را راه‌اندازی کرد که به کارمندان امکان دسترسی ایمن به LLMهای OpenAI را از طریق یک رابط داخلی می‌دهد. آرگو داده‌های کاربر را ذخیره یا به اشتراک نمی‌گذارد، که آن را جایگزینی ایمن‌تر برای ChatGPT و سایر ابزارهای تجاری می‌سازد.

آرگو اولین رابط هوش مصنوعی مولد داخلی بود که در یک آزمایشگاه ملی مستقر شد. برای چندین ماه پس از راه‌اندازی آرگو، محققان نحوه استفاده از آن را در بخش‌های مختلف آزمایشگاه پیگیری کردند. تحلیل‌ها پایگاه کاربری کوچک اما رو به رشد از کارگران علمی و عملیاتی را نشان داد.

"فناوری هوش مصنوعی مولد جدید و به سرعت در حال تکامل است، بنابراین پیش‌بینی دقیق اینکه چگونه افراد آن را در کارهای خود ادغام خواهند کرد تا زمانی که شروع به استفاده کنند، دشوار است. این مطالعه بازخورد ارزشمندی ارائه داد که در تکرارهای بعدی توسعه آرگو اطلاعات می‌دهد،" متیو دیرینگ، مهندس نرم‌افزار آرگون، که تیمش ابزارهای هوش مصنوعی را برای پشتیبانی از مأموریت آزمایشگاه توسعه می‌دهد، گفت.

دیرینگ، که مسئولیت مشترکی در دانشگاه شیکاگو دارد، با واگمن و مارشینی چتی، استاد علوم کامپیوتر و رهبر آزمایشگاه تحقیقات اینترنت امیولی در این دانشگاه، در این مطالعه همکاری کرد.

محققان دریافتند که کارمندان از هوش مصنوعی مولد به دو روش اصلی استفاده می‌کنند: به عنوان همکار و به عنوان عامل گردش کار. به عنوان همکار، هوش مصنوعی در کنار کاربر کار می‌کند و در وظایفی مانند نوشتن کد، ساختاردهی متن یا تغییر لحن یک ایمیل کمک می‌کند. در حال حاضر، کارمندان بیشتر به وظایفی می‌پردازند که می‌توانند کار هوش مصنوعی را به راحتی بررسی کنند. در آینده، کارمندان گزارش دادند که تصور می‌کنند از همکاران برای استخراج بینش از حجم زیادی از متن، مانند ادبیات علمی یا داده‌های نظرسنجی استفاده خواهند کرد.

به عنوان عامل گردش کار، هوش مصنوعی برای خودکارسازی وظایف پیچیده استفاده می‌شود که بیشتر آن‌ها را به تنهایی انجام می‌دهد. حدود یک چهارم پاسخ‌های باز پاسخ‌دهندگان نظرسنجی - که به طور مساوی بین کارگران عملیاتی و علمی تقسیم شده بود - به خودکارسازی گردش کار اشاره داشت، اما انواع گردش کار بین دو گروه متفاوت بود. به عنوان مثال، کارگران عملیاتی از هوش مصنوعی برای خودکارسازی فرآیندهایی مانند جستجوی پایگاه داده یا پیگیری پروژه‌ها استفاده می‌کردند. دانشمندان گزارش دادند که گردش کار را برای پردازش، تحلیل و بصری‌سازی داده‌ها خودکار می‌کنند.

"علم اغلب شامل گردش کارهای بسیار سفارشی با مراحل متعدد است. افراد متوجه می‌شوند که با LLMها، می‌توانند چسبی برای اتصال این فرآیندها به یکدیگر ایجاد کنند،" واگمن گفت. "این تنها آغاز گردش کارهای خودکار پیچیده‌تر برای علم است."

در حالی که هوش مصنوعی مولد فرصت‌های هیجان‌انگیزی را ارائه می‌دهد، محققان بر اهمیت ادغام متفکرانه این ابزارها برای مدیریت ریسک‌های سازمانی و رسیدگی به نگرانی‌های کارمندان نیز تأکید می‌کنند.

این مطالعه نشان داد که کارمندان به طور قابل توجهی در مورد قابلیت اطمینان هوش مصنوعی مولد و تمایل آن به توهم (hallucination) نگران بودند. سایر نگرانی‌ها شامل حریم خصوصی و امنیت داده‌ها، اتکای بیش از حد به هوش مصنوعی، تأثیرات بالقوه بر استخدام و پیامدهای آن برای انتشار و استناد علمی بود.

برای ترویج استفاده مناسب از هوش مصنوعی مولد، محققان توصیه می‌کنند که سازمان‌ها به طور فعال ریسک‌های امنیتی را مدیریت کرده، سیاست‌های واضحی را تعیین کرده و آموزش کارمندان را ارائه دهند.

"بدون دستورالعمل‌های واضح، تنوع زیادی در آنچه مردم قابل قبول می‌دانند وجود خواهد داشت،" چتی گفت. "سازمان‌ها همچنین می‌توانند با کمک به مردم برای درک آنچه با داده‌هایشان هنگام استفاده از ابزارهای داخلی و خارجی رخ می‌دهد - چه کسی به داده‌ها دسترسی دارد؟ ابزار با آن چه می‌کند؟ - ریسک‌های امنیتی را کاهش دهند."

در آرگون، تقریباً ۱۶۰۰ کارمند در جلسات آموزشی هوش مصنوعی مولد آزمایشگاه شرکت کرده‌اند. این جلسات کارمندان را با آرگو و هوش مصنوعی مولد آشنا کرده و راهنمایی‌هایی برای استفاده مناسب ارائه می‌دهند.

"می‌دانستیم که اگر قرار است مردم با آرگو راحت شوند، این اتفاق به خودی خود رخ نخواهد داد،" دیرینگ گفت. "آرگون در ارائه ابزارهای هوش مصنوعی مولد و شکل‌دهی به نحوه ادغام مسئولانه آن‌ها در آزمایشگاه‌های ملی پیشرو است."