آینده هوش مصنوعی در کار دانش: ابزارهایی برای تفکر در CHI 2025

آیا ابزارهای هوش مصنوعی می‌توانند فراتر از ساده‌سازی جریان‌های کاری عمل کنند و در واقع به ما کمک کنند بهتر فکر کنیم؟ این سوال محرک اصلی طرح "ابزارهایی برای تفکر" ( Tools for Thought ) در Microsoft Research است. در کنفرانس CHI امسال ( CHI )، ما چهار مقاله تحقیقاتی جدید ارائه می‌دهیم و در میزبانی یک کارگاه آموزشی که به بررسی عمیق این تقاطع بین هوش مصنوعی و شناخت انسان می‌پردازد، مشارکت می‌کنیم.

این پست مروری بر آخرین تحقیقات ما ارائه می‌دهد، که با مطالعه‌ای در مورد چگونگی تغییر نحوه تفکر و کار ما توسط هوش مصنوعی آغاز می‌شود. ما همچنین سه سیستم نمونه اولیه را معرفی می‌کنیم که برای پشتیبانی از وظایف شناختی مختلف طراحی شده‌اند. در نهایت، از طریق کارگاه آموزشی ابزارهایی برای تفکر ، از جامعه CHI دعوت می‌کنیم تا به تعریف نقش هوش مصنوعی در حمایت از تفکر انسان کمک کنند.

با یک دستور ساده، هوش مصنوعی می‌تواند طیف گسترده‌ای از خروجی‌ها، از اسناد و دستور کارهای جلسات گرفته تا پاسخ‌ها و جریان‌های کاری خودکار، تولید کند. اما وقتی افراد این وظایف را به هوش مصنوعی واگذار می‌کنند، فرآیندهای فکری آن‌ها چگونه تحت تأثیر قرار می‌گیرد؟

یکی از اهداف ما درک این است که کارمندان دانش چگونه از هوش مصنوعی استفاده می‌کنند، چگونه ارزش آن را درک می‌کنند و چگونه بر تلاش شناختی آن‌ها تأثیر می‌گذارد.

مطالعه ما با عنوان " تاثیر هوش مصنوعی مولد بر تفکر انتقادی: کاهش خود گزارش‌شده در تلاش شناختی و اثرات اعتماد به نفس ناشی از نظرسنجی از کارمندان دانش "، از 319 متخصص که از هوش مصنوعی در مشاغل مختلف استفاده می‌کنند، نظرسنجی کرد. شرکت‌کنندگان 936 مورد واقعی استفاده از هوش مصنوعی را به اشتراک گذاشتند و در مورد چگونگی تأثیر آن بر تفکر انتقادی و تلاش ذهنی خود تأمل کردند. ما این یافته‌ها را در زیر خلاصه می‌کنیم.

تعریف و به کارگیری تفکر انتقادی. کارمندان دانش، تفکر انتقادی را شامل فعالیت‌هایی مانند تعیین اهداف روشن، اصلاح دستورات و بررسی خروجی‌های هوش مصنوعی در برابر منابع خارجی و تخصص خود توصیف می‌کنند. آن‌ها برای حفظ کیفیت کار هنگام استفاده از هوش مصنوعی، به این شیوه‌ها تکیه می‌کنند - با انگیزه نیاز به اجتناب از اشتباهات، تولید نتایج بهتر و توسعه مهارت‌های خود.

متعادل کردن تلاش شناختی. گزارش‌های شرکت‌کنندگان در مورد تفکر انتقادی و تلاش‌های مرتبط با آن، با تمایلات دیرینه انسان برای مدیریت بار شناختی در محل کار همسو است. برای وظایف پرمخاطره‌ای که نیاز به دقت دارند، آن‌ها می‌گویند که هنگام استفاده از هوش مصنوعی، تلاش بیشتری را برای به کارگیری تفکر انتقادی صرف می‌کنند تا زمانی که همان وظایف را بدون آن انجام دهند. در مقابل، در طول وظایف روتین و کم‌خطر تحت فشار زمانی، آن‌ها گزارش می‌دهند که هنگام استفاده از هوش مصنوعی در مقایسه با انجام وظیفه بدون آن، تلاش کمتری را برای تفکر انتقادی صرف می‌کنند.

اثرات اعتماد به نفس. این مطالعه نشان داد که اعتماد به نفس بیشتر به هوش مصنوعی با تفکر انتقادی کمتر مرتبط است، در حالی که اعتماد به نفس بیشتر به توانایی‌های خود فرد با تفکر انتقادی بیشتر مرتبط است - هرچند با هزینه شناختی بالاتر. این نشان‌دهنده تعادل ظریفی بین استفاده از هوش مصنوعی برای کارایی و حفظ مشارکت فعال انتقادی است.

تغییر در ماهیت تفکر انتقادی. شرکت‌کنندگان گزارشی از تغییر در فعالیت‌های تفکر انتقادی ارائه دادند، با تمرکز بیشتر بر تأیید اطلاعات، ادغام پاسخ‌ها و نظارت بر وظایف. در حالی که هوش مصنوعی جنبه‌های خاصی از کار دانش را خودکار می‌کند، همچنین تلاش بیشتری را در ارزیابی صحت و ارتباط محتوای تولید شده توسط هوش مصنوعی می‌طلبد.

موانع مشارکت انتقادی. این مطالعه چندین مانع را شناسایی کرد که مانع تفکر انتقادی هنگام استفاده از هوش مصنوعی می‌شوند. این موانع شامل عدم آگاهی از نیاز به ارزیابی انتقادی، انگیزه محدود به دلیل فشار زمانی یا دامنه شغلی درک شده و دشواری در اصلاح دستورات - به ویژه در حوزه‌های ناآشنا - است.

برای تقویت تفکر انتقادی در محل کار، توصیه می‌کنیم که ابزارهای هوش مصنوعی به طور فعال آگاهی، انگیزه و توسعه مهارت را تشویق کنند.

ابزارهای هوش مصنوعی باید انگیزه دهنده‌ها را برای تفکر انتقادی افزایش دهند (به عنوان مثال، استانداردهای کیفیت، مهارت‌سازی) و موانع را کاهش دهند (به عنوان مثال، محدودیت‌های زمانی، آگاهی کم). دستورات فعال می‌توانند وظایف نادیده گرفته شده را آشکار کنند، در حالی که ویژگی‌های واکنشی می‌توانند کمک‌های درخواستی ارائه دهند. با قرار دادن تفکر انتقادی به عنوان بخشی از رشد حرفه‌ای - نه فقط کار اضافی - می‌توان انگیزه را تقویت کرد.

ابزارهای هوش مصنوعی همچنین باید توانایی کارمندان دانش را در تفکر انتقادی پشتیبانی کنند با ارائه توضیحات استدلال (همانطور که برخی از مدل‌های جدیدتر هوش مصنوعی اکنون انجام می‌دهند)، انتقادهای هدایت‌شده و ارجاعات متقابل. این تغییر باید هم در طراحی فناوری و هم در ذهنیت کارمندان دانش رخ دهد. به جای برخورد با هوش مصنوعی به عنوان ابزاری برای ارائه پاسخ‌ها، پیشنهاد می‌کنیم با آن به عنوان یک شریک فکری رفتار کنید - شریکی که می‌تواند به عنوان یک تحریک‌کننده نیز عمل کند.

فراتر از این بینش‌ها، سایر مقالات CHI ما راه‌های عملی برای طراحی هوش مصنوعی که شناخت انسان را تقویت می‌کند، بررسی می‌کنند.

تصمیم‌گیری برای کار دانش مرکزی است و هوش مصنوعی به طور فزاینده‌ای برای کمک به افراد در تصمیم‌گیری در زمینه‌های پیچیده مانند مراقبت‌های بهداشتی و مالی استفاده می‌شود. با این حال، کارمندان دانش هنگام دخالت هوش مصنوعی چقدر اختیار دارند؟

مطالعه ما با عنوان " هوش مصنوعی، به من کمک کن فکر کنم - اما برای خودم: بررسی چگونگی کمک مدل‌های زبانی بزرگ (LLM) به افراد در تصمیم‌گیری‌های پیچیده با ارائه اشکال مختلف پشتیبانی شناختی " که با همکاری University College London انجام شد، این سوال را بررسی می‌کند. ما با یک مطالعه کوچک مقدماتی با حضور 10 شرکت‌کننده شروع کردیم و به دنبال آن یک مطالعه تطبیقی با 21 شرکت‌کننده با استفاده از دو سیستم مختلف تصمیم‌گیری با پشتیبانی هوش مصنوعی انجام دادیم.

برای یک وظیفه پیچیده سرمایه‌گذاری مالی، ما دو ابزار مختلف هوش مصنوعی (شکل 1) را مقایسه کردیم: RecommendAI ، که توصیه‌های تولید شده توسط هوش مصنوعی را ارائه می‌دهد، و ExtendAI ، که کاربران را تشویق می‌کند تا قبل از دریافت بازخورد هوش مصنوعی، استدلال خود را بیان کنند.

مشخص شد که هر دو سیستم مزایایی برای تقویت شناخت و رسیدگی به برخی از چالش‌های تفکر انتقادی شناسایی شده در نظرسنجی از کارمندان دانش در بالا ارائه می‌دهند، که نشان‌دهنده پتانسیل یک رویکرد متعادل است.

RecommendAI پیشنهادات مشخصی ارائه داد که کاربران را برای بررسی مسیرهای جدید در تصمیم‌گیری خود ترغیب می‌کرد. این اغلب منجر به بینش‌ها و تأملات جدید می‌شد. با این حال، گاهی اوقات احساس می‌شد که توصیه‌ها از استدلال خود کاربر جدا هستند و عمق مشارکت را کاهش می‌دهند.

در مقابل، ExtendAI کاربران را تشویق کرد تا با ارائه بازخورد در مورد استدلال خود، عمیق‌تر در مورد تصمیمات خود فکر کنند. این به آن‌ها کمک کرد تا فرآیندهای فکری خود را بررسی کنند و دیدگاه‌های جایگزین را در نظر بگیرند. با این حال، برخی از کاربران بازخورد را بسیار کلی و غیرقابل اجرا یافتند.

وقتی صحبت از نحوه ادغام ابزارها در فرآیند تصمیم‌گیری توسط کاربران به میان آمد، RecommendAI دیدگاه‌هایی را معرفی کرد که کاربران را وادار می‌کرد فراتر از الگوهای معمول خود فکر کنند. با توصیه گزینه‌هایی که بر اساس استدلال خود کاربران نبود، تشویق به بررسی ایده‌هایی می‌کرد که ممکن بود در نظر نگرفته باشند. با این حال، برخی از کاربران توصیه‌ها را به عنوان یک راه حل "جعبه سیاه" درک می‌کردند. این عدم شفافیت درک، اعتماد و اعمال این توصیه‌ها را در فرآیندهای فکری خود دشوارتر می‌کرد.

ExtendAI از طرف دیگر، با استدلال موجود کاربران همسو بود و ادغام بازخورد آن را آسان‌تر می‌کرد. این به کاربران کمک کرد تا حس کنترل و تداوم را حفظ کنند. با این حال، از آنجایی که بازخورد اغلب افکار اولیه آن‌ها را تکرار می‌کرد، گاهی اوقات بینش‌های جدید را محدود می‌کرد و خطر تقویت تعصبات موجود را به همراه داشت.

این یافته‌ها نشان می‌دهد که ابزارهای هوش مصنوعی مانند ExtendAI، که برای استخراج و ساخت بر اساس فرآیندهای شناختی خود کاربران طراحی شده‌اند، ممکن است رویکرد مؤثرتری برای تقویت نسبت به ارائه صرف "راه حل‌های آماده" که کاربران باید نحوه تفسیر و اعمال آن‌ها را دریابند، ارائه دهند.

جلسات اغلب به دلیل ناکارآمدی مورد انتقاد قرار می‌گیرند. در حالی که این گاهی اوقات به دلیل شیوه‌های ضعیف است - مانند دستور کارهای ضعیف، شروع دیرهنگام و تسهیل نامشخص - ما معتقدیم که مسئله عمیق‌تر فقدان نیت‌مندی جلسه است: دانستن اینکه چرا یک جلسه برگزار می‌شود و بحث را متمرکز بر آن هدف نگه داشتن. یک چالش کلیدی حفظ وضوح هدف در طول یک جلسه است.

در مقاله " آیا در مسیر درستی قرار داریم؟ بازتاب هدف فعال و غیرفعال با کمک هوش مصنوعی در طول جلسات "، ما بررسی می‌کنیم که چگونه ابزارهای هوش مصنوعی می‌توانند جلسات را در زمان واقعی با تشویق بازتاب - آگاهی در مورد اهداف جلسه و میزان همسویی گفتگوی فعلی با آن اهداف - بهبود بخشند.

مطالعه ما با 15 کارمند دانش، دو پارادایم طراحی مبتنی بر هوش مصنوعی را بررسی کرد: کمک هدف غیرفعال از طریق تجسم محیطی (نمودار زنده که نشان می‌دهد چگونه موضوعات گفتگو به اهداف جلسه مرتبط هستند) و کمک هدف فعال از طریق پرسش تعاملی (ترغیب شرکت‌کنندگان به در نظر گرفتن اینکه آیا گفتگوی فعلی با اهداف جلسه همسو است یا خیر). این رویکردها در شکل 2 نشان داده شده‌اند.

این یافته‌ها پتانسیل هوش مصنوعی را برای کمک به تیم‌ها در دستیابی به اهداف جلسه برجسته می‌کند. ما سه مصالحه طراحی کلیدی بین پشتیبانی غیرفعال و فعال پیدا کردیم. بر اساس این موارد، توصیه‌های طراحی هوش مصنوعی زیر را ارائه می‌دهیم.

تعادل اطلاعات. بین تجسم‌های محیطی در رویکرد غیرفعال - که می‌تواند خطر اضافه بار اطلاعاتی را به همراه داشته باشد - و پرسش‌های تعاملی در رویکرد فعال، که ممکن است فاقد جزئیات باشد، مصالحه‌ای وجود دارد. برای مؤثر بودن، هوش مصنوعی باید مقدار مناسب اطلاعات را در زمان مناسب ارائه دهد و محتوا را با افرادی که بیشتر به آن نیاز دارند، تنظیم کند - بدون اینکه کاربران را غرق کند، در حالی که پشتیبانی معنادار و به موقع برای بازتاب ارائه می‌دهد.

تعادل مشارکت در مقابل وقفه. وقتی شرکت‌کنندگان عمیقاً در بحث درگیر هستند، وقفه‌های قابل توجه می‌تواند جریان را مختل کند و از بین ببرد. برعکس، در لحظات سردرگمی یا عدم همسویی، نشانه‌های ظریف ممکن است برای بازگرداندن تیم به مسیر کافی نباشد. سیستم‌های هوش مصنوعی باید سطح مداخله خود را به طور پویا تنظیم کنند - از محیطی و سبک وزن گرفته تا مستقیم‌تر - بر اساس آستانه‌های زمانی، که می‌تواند برای هر تیم سفارشی شود، تشدید یا کاهش یابد.

تعادل آگاهی از هدف تیمی در مقابل فردی. کمک هوش مصنوعی می‌تواند تیم را به اقداماتی مانند تنظیم دستور کار ترغیب کند. این اثرات با رویکرد فعال قوی‌تر بود، که به پاسخ‌های گروهی نیاز داشت، در حالی که رویکرد غیرفعال از تفکر فردی بدون تأثیر مستقیم بر رفتار تیم پشتیبانی می‌کرد. مشارکت در سطح تیم به هر دو دیده‌شدن نشانه‌های هوش مصنوعی و نحوه معرفی آن‌ها در بحث بستگی دارد.

این مطالعه به ما کمک می‌کند تا درک کنیم که چگونه انتخاب‌های طراحی هوش مصنوعی می‌تواند از نیت‌مندی در طول جلسات پشتیبانی کند و بهره‌وری را بدون اختلال در جریان‌های کاری طبیعی افزایش دهد.

دیدگاه‌های متنوع حل خلاقانه مسئله را در سازمان‌ها هدایت می‌کند، اما افراد اغلب به دیدگاه‌های متنوع دسترسی ندارند. در مقاله " YES AND: یک چارچوب چندعاملی هوش مصنوعی برای افزایش تنوع فکری "، ما بر اساس ایده "بهبود طراحی" یک نمونه اولیه هوش مصنوعی چندعاملی می‌سازیم که مکالمات با عوامل مبتنی بر شخصیت را که نمایانگر طیف وسیعی از تخصص هستند، شبیه‌سازی می‌کند.

عامل‌ها از یک مدل کلاسیک نوبت‌گیری مکالمه پیروی می‌کنند که با یک مدل اعتماد به نفس ترکیب شده است تا مشخص کند چه زمانی نوبت را بگیرند یا به آن پاسخ دهند. این به عامل‌ها و کاربر اجازه می‌دهد تا به طور ارگانیک ایده‌های یکدیگر را بسازند و سوالات واضح‌کننده بپرسند. این سیستم تولید ایده چندجانبه و آزاد را در حالی که از مشکلات رایج طوفان فکری گروهی - مانند تنبلی اجتماعی، انسداد تولید و تفکر گروهی - جلوگیری می‌کند، امکان‌پذیر می‌کند (شکل 3).

کاربران می‌توانند این سیستم را با شناسایی یک چالش شخصی و تنظیم حداقل دو عامل انتخاب شده از لیست متنوعی از عامل‌ها، از جمله طراح رابط کاربری، بازاریاب و تحلیلگر، راه اندازی کنند. سپس کاربران و عامل‌ها نوبت می‌گیرند تا ایده‌های خود را به اشتراک بگذارند و درباره چالش بحث کنند. در پایان جلسه، این سیستم یک گزارش خلاصه را تولید می‌کند که دیدگاه‌های متفاوتی را در مورد چالش ارائه می‌دهد.

برای ارزیابی این سیستم، ما یک مطالعه کیفی با 16 کارمند دانش انجام دادیم. شرکت‌کنندگان گزارش دادند که سیستم YES AND با آشکارسازی فرضیات و در نظر گرفتن مفروضات پنهان، فراتر از تفکر عادی خود، به آن‌ها کمک می‌کند. با فعال کردن بحث‌ها و ترکیب نظرات از دیدگاه‌های مختلف، این سیستم به تولید راه‌حل‌های نوآورانه‌تر کمک می‌کند. شرکت‌کنندگان ما نیز از دریافت دیدگاه‌های مختلف در مورد چالش‌های خود قدردانی کردند.

کاربرد بالقوه برای این سیستم چند برابر است. این می‌تواند دیدگاه‌های تازه‌ای را برای افرادی که در حوزه‌هایی تخصص ندارند ارائه دهد، از طوفان فکری در طراحی‌های نوآوری و محصول پشتیبانی کند، و کارمندان را با تمرین در ارائه و دریافت بازخورد برای کمک به رشد و توسعه خود توانمند کند.

ما به تشویق جامعه به مشارکت در این گفتگو با ما هیجان زده هستیم. برای اطلاعات بیشتر در مورد رویکرد ما برای طراحی ابزارهای هوش مصنوعی برای کار دانش، با ما در کارگاه ابزارهایی برای تفکر ما در CHI بپیوندید، جایی که استراتژی‌های عملی برای مطالعه و طراحی هوش مصنوعی مولد برای شناخت ارائه خواهیم داد. ما امیدواریم که هوش مصنوعی به زودی به عنوان یک تقویت‌کننده شناختی در محل کار رایج شود.

از لو تانکلویتچ برای مشارکت در این پست تشکر می‌کنیم.