شش درسآموخته از متخصصان
یک سال با هوش مصنوعی عاملمحور
استقرار موفقیتآمیز هوش مصنوعی عاملمحور کار آسانی نیست. در ادامه، به نقل از مککنزی آنچه در مسیر پیادهسازی صحیح آن آموختهایم را مرور میکنیم.
با گذشت یک سال از انقلاب هوش مصنوعی عاملمحور، یک درس کاملاً روشن است: اجرای صحیح آن نیازمند تلاشی مضاعف است.
به نقل از مککنزی، تحول سازمانیِ عاملمحور، نویدبخش بهرهوری بینظیری است. درحالیکه برخی از شرکتها در حال تجربه موفقیتهایی در چنین فعالیتهایی هستند، شرکتهای بسیار بیشتری در کسب ارزش از سرمایهگذاریهای خود با چالش مواجهاند. حتی در برخی موارد، در حال عقبنشینی هستند؛ به این معنا که در بخشهایی که عاملها شکست خوردهاند، مجدداً در حال استخدام نیروی انسانی هستند.
این لغزشها روند طبیعی تکامل هر فناوری جدیدی است و ما پیشتر نیز این الگو را در سایر نوآوریها دیدهایم. برای درک درسآموختههای اولیه، اخیراً بیش از ۵۰ پروژه توسعه هوش مصنوعی عاملمحور که در McKinsey هدایت شدهاند و همچنین دهها پروژه دیگر در سطح بازار از سوی McKinsey مورد بررسی عمیق قرار گرفتهشدهاند. McKinsey نتایج تحلیلهای خود را در قالب شش درسآموخته خلاصه کرده تا به مدیران کسبوکار در بهرهبرداری حداکثری از ظرفیتهای هوش مصنوعی عاملمحور کمک کنند.
مسئله عامل نیست؛ مسئله گردش کار است
دستیابی به ارزش تجاری با هوش مصنوعی عاملمحور مستلزم تغییر گردشهای کار است. بااینحال، سازمانها اغلب بیش از حد بر خودِ عامل یا ابزار عاملمحور تمرکز میکنند. این امر ناگزیر به خلق عاملهایی با ظاهر جذاب منجر میشود که در نهایت هیچ بهبودی در گردش کار کلی ایجاد نمیکنند و نتیجه آن، ارزشآفرینی ناامیدکننده است.
اقدامات در حوزه هوش مصنوعی عاملمحور که بر بازآفرینی بنیادین کل گردشهای کار؛ یعنی مراحلی که شامل افراد، فرایندها و فناوری میشود تمرکز دارند، احتمال بیشتری برای ارائه نتایج مثبت خواهند داشت. درک این موضوع که عاملها چگونه میتوانند در هر یک از این مراحل کمککننده باشند، مسیرِ رسیدن به ارزش است. نیروی انسانی همچنان محور اصلی انجام کارها خواهند بود؛ اما اکنون عاملها، ابزارها و اتوماسیونهای متفاوتی برای نیز برای انجام این کار در اختیار دارند.
یک نقطه شروع مهم در طراحی مجدد گردشهای کار، نگاشت فرایندها و شناسایی نقاط درد کلیدی کاربران است. این گام در طراحی سیستمهای عاملمحوری که کارهای غیرضروری را کاهش داده و به عاملها و افراد اجازه میدهند تا برای دستیابی کارآمدتر و اثربخشتر به اهداف تجاری با یکدیگر همکاری کنند، بسیار حیاتی است. این همکاری میتواند از طریق حلقههای یادگیری و سازوکارهای بازخورددهی رخ دهد و یک سیستم خودتقویتشونده ایجاد کند. هرچه عاملها بیشتر مورداستفاده قرار گیرند، هوشمندتر و همراستاتر میشوند.
یک ارائهدهنده خدمات حقوقی فرضی را در نظر بگیرید که در حال تلاش برای نوسازی گردش کار بررسی قراردادهای خود باشد. استدلال حقوقی در حوزه کاری این شرکت به طور مداوم در حال تکامل است و رویههای قضایی جدید، ظرایف حوزههای استحفاظی و تفسیرهای خطمشیها، مدونسازی تخصص را به کاری چالشبرانگیز تبدیل میکرد. تیم برای درنظرگرفتن تغییرات (واریانس) طبیعی، سیستمهای عاملمحور خود را بهگونهای طراحی کرد که درون خودِ گردش کار یاد بگیرند. برای مثال، هر ویرایشی که کاربر در ویرایشگر سند انجام میداد، ثبت و دستهبندی میشد. این امر جریان غنی و پرباری از بازخوردها را در اختیار مهندسان و دانشمندان داده قرار داد تا بتوانند از آن برای آموزش عاملها، تنظیم منطق پرامپت و غنیسازی پایگاه دانش استفاده کنند. با گذشت زمان، عاملها توانستند تخصصهای جدید را مدون و قاعدهمند کنند.
تمرکز بر گردش کار بهجای تمرکز بر عامل، تیمها را قادر ساخت تا فناوری مناسب را در نقطه مناسب مستقر کنند که این امر بهویژه در هنگام مهندسی مجدد گردش کارهای پیچیده و چندمرحلهای اهمیت دارد (نمودار را ببینید). بهعنوانمثال، شرکتهای بیمه اغلب دارای گردش کارهای تحقیقاتی بزرگی هستند که شامل مراحل متعددی مانند رسیدگی به خسارت و پذیرش ریسک میشوند و هر مرحله نیازمند انواع مختلفی از فعالیتها و وظایف شناختی است. شرکتها میتوانند با استقرار هوشمندانه ترکیب هدفمندی از سیستمهای مبتنی بر قانون، هوش مصنوعی تحلیلی، هوش مصنوعی مولد و عاملها که همگی تحت پشتیبانی یک چارچوب هماهنگکننده یا بهاصطلاح فنی ارکستراسیون مشترک مانند چارچوبهای متنباز نظیر AutoGen، CrewAI و LangGraph قرار دارند: این نوع گردش کارها را بازطراحی کنند. در این موارد، عاملها نقش هماهنگکننده و یکپارچهساز را ایفا میکنند؛ آنها به ابزارها دسترسی پیدا کرده و خروجی سایر سیستمها را در زمینه خود ادغام میکنند. آنها بهمثابه چسبی هستند که گردش کار را یکپارچه میکنند تا بدون نیاز به مداخله زیاد، خروجی نهایی و ملموسی ارائه دهند.

عاملها همیشه راهحل نهایی نیستند
عاملهای هوش مصنوعی تواناییهای بالایی دارند، اما لزوماً نباید برای انجام هر کاری مورداستفاده قرار گیرند. در بسیاری از مواقع، مدیران با دقت کافی به کاری که باید انجام شود نگاه نمیکنند یا این سؤال را نمیپرسند که آیا یک عامل بهترین انتخاب برای انجام آن کار است یا خیر.
برای کمک به جلوگیری از هدررفت سرمایهگذاریها یا پیچیدگیهای ناخواسته، مدیران کسبوکار میتوانند به نقش عاملها دقیقاً همانند ارزیابی افراد برای یک تیم با عملکرد بالا نگاه کنند. سؤال کلیدی که باید پرسیده شود این است که: «کار موردنظر چیست و استعدادهای نسبی هر یک از اعضای تیم یا عاملها برای کار تیمی جهت دستیابی به آن اهداف کداماند؟» مسائل کسبوکار اغلب میتوانند با رویکردهای سادهتر اتوماسیون، نظیر اتوماسیون مبتنی بر قانون، تحلیلهای پیشبینانه یا پرامپتنویسی برای مدلهای زبانی بزرگ حلوفصل شوند؛ رویکردهایی که از همان ابتدا و با دیدی بازتر میتوانند از عاملها قابلاعتمادتر باشند.
مدیران کسبوکار پیش از شتابزدگی در استفاده از راهحلهای عاملمحور، باید الزامات وظیفه موردنظر را بهدقت بررسی کنند. در عمل، این بدان معناست که باید مشخص شود فرایند تا چه حد باید استاندارد باشد، چه میزان واریانس (تغییرپذیری) را باید مدیریت کند و عاملها برای انجام کدام بخش از کارها بیشترین تناسب را دارند.
در یک سطح، این مسائل بسیار ساده و سرراست هستند. بهعنوانمثال، گردشهای کاری با واریانس پایین و استانداردسازی بالا مانند فرایند همسوسازی (Onboarding) سرمایهگذاران یا افشاگریهای نظارتی معمولاً تحت حاکمیت قوانین سختگیرانهای قرار دارند و از منطقی قابلپیشبینی پیروی میکنند. در این موارد، عاملهای مبتنی بر LLMهای غیرقطعی میتوانند پیچیدگی و عدم قطعیت بیشتری نسبت به ارزش افزوده، ایجاد کنند.
در مقابل، گردشهای کاری با واریانس بالا و استانداردسازی پایین میتوانند به طور قابلتوجهی از عاملها بهرهمند شوند. برای مثال، در یک شرکت خدمات مالی، عاملها برای استخراج اطلاعات پیچیده مالی مستقر شدند که این امر میزان اعتبارسنجی انسانی موردنیاز را کاهش داده و گردشهای کاری را تسهیل کرد. این وظایف نیازمند تجمیع اطلاعات، بررسیهای صحتسنجی و تحلیلهای انطباق با قوانین بودند؛ وظایفی که عاملها در آنها بسیار اثربخش ظاهر میشوند.
نکته مهمی که باید بهخاطر بسپارید این است که در دام ذهنیتِ صفر و یکیِ «باعامل / بیعامل» نیفتید. برخی عاملها میتوانند وظایف خاصی را بهخوبی انجام دهند، برخی دیگر میتوانند به افراد در انجام بهتر کارهایشان کمک کنند و در بسیاری از موارد، اساساً فناوریهای متفاوت دیگری ممکن است مناسبتر باشند. نکته کلیدی این است که دریابیم کدام ابزار یا عامل برای وظیفه مدنظر بهترین گزینه است، افراد چگونه میتوانند به مؤثرترین شکل با آنها کار کنند، و چگونه عاملها و نیروی انسانی باید ترکیب شوند تا بیشترین بالاترین سطح حاصل شود. میزانِ هماهنگی و کارکرد مشترک میان افراد، عاملها و ابزارها، رمز اصلیِ ارزشآفرینی است
توقف ساخت «محتوای هرز هوش مصنوعی (AI Slop)»: در ارزیابیها سرمایهگذاری کنید و اعتماد کاربران را جلب نمایید
یکی از رایجترین دامهایی که تیمها هنگام استقرار عاملهای هوش مصنوعی با آن مواجه میشوند، سیستمهای عاملمحوری هستند که در دموها چشمگیر به نظر میرسند، اما در عمل، کاربرانی که واقعاً مسئولیت انجام کار را بر عهده دارند را ناامید میکنند. شنیدن شکایت کاربران از «محتوای هرز هوش مصنوعی» یا اصطلاحاً AI Slop و خروجیهای سطح پایین، بسیار رایج است. کاربران بهسرعت اعتماد خود را به عاملها از دست میدهند و سطح پذیرش فناوری بهشدت افت میکند. هرگونه افزایش کارایی که از طریق اتوماسیون به دست میآید، میتواند بهراحتی توسط کاهش اعتماد یا افت کیفیت خنثی شود.
درس گرانبهایی که از این مشکلِ تکرارشونده بهدستآمده این است که شرکتها باید به همان اندازهای که در توسعه کارکنان خود سرمایهگذاری میکنند، در توسعه عاملها نیز سرمایهگذاریِ کلانی انجام دهند. همانطور که یکی از مدیران کسبوکار به مککنزی گفت: «فرایند همسوسازی عاملها بیشتر شبیه به استخدام یک کارمند جدید است تا استقرار یک نرمافزار». عاملها باید دارای شرح وظایف مشخصی باشند، فرایند آشناسازی را طی کنند و بازخوردهای مستمری دریافت نمایند تا به طور پیوسته بهبود یافته و اثربخشتر شوند.
توسعه عاملهای اثربخش کاری چالشبرانگیز است که نیازمند بهرهگیری از تخصص افراد برای ایجاد فرایندهای ارزیابی یا اصطلاحاً Evals و مدونسازی بهترین شیوهها با سطح مناسبی از جزئیات برای وظایف محوله است. این مستندسازی، هم بهعنوان کتابچه راهنمای آموزش و هم بهعنوان آزمون عملکرد برای عامل عمل میکند و تضمین مینماید که عامل طبق انتظارات عمل خواهد کرد.
این شیوههای کاری ممکن است در قالب رویههای عملیاتی استاندارد یا بهعنوان دانش ضمنی در ذهن افراد وجود داشته باشند. هنگام مدونسازی این رویهها، تمرکز بر روی مواردی که افراد دارای عملکرد برتر را از سایرین متمایز میکند، بسیار مهم است. برای نمایندگان فروش، این امر ممکن است شامل نحوه هدایت مکالمه، نحوه مدیریت مخالفتها و تطبیقپذیری با سبک مشتری باشد.
نکته بسیار حائز اهمیت این است که کارشناسان خبره باید در طول زمان برای آزمایش عملکرد عاملها، درگیر باقی بمانند؛ در این عرصه هیچگونه رویکرد «راهاندازی کن و به حال خود رها کن (Launch and Leave)» پذیرفته نیست. این تعهد به ارزیابی ایجاب میکند که بهعنوانمثال، کارشناسان به معنای واقعی کلمه خروجیهای مطلوب و شاید نامطلوب را برای ورودیهای مشخص یادداشت یا برچسبگذاری کنند که این مقدار برای عاملهای پیچیدهتر گاهی میتواند به هزاران مورد برسد. از این طریق، تیمها میتوانند ارزیابی کنند که یک عامل چقدر درست یا غلط عمل کرده و اصلاحات لازم را اعمال نمایند.
یک بانک جهانی در زمان تغییروتحول فرایندهای «احراز هویت مشتری» (KYC) و تحلیل ریسک اعتباری خود، این رویکرد را الگو قرار داد. هرگاه توصیه عامل در مورد انطباق با دستورالعملهای پذیرش، با قضاوت انسانی متفاوت بود، تیم شکافهای منطقی را شناسایی، معیارهای تصمیمگیری را اصلاح و آزمایشها را مجدداً اجرا میکرد.
برای مثال، در یک مورد تحلیل اولیه عاملها بیش از حد کلی بود. تیم آن بازخورد را ارائه کرد، سپس عاملهای اضافی را توسعه داده و مستقر ساخت تا اطمینان حاصل کند که عمق تحلیل، بینشهای مفیدی را در سطح مناسبی از جزئیات ارائه میدهد. یکی از روشهای آنها برای این کار، پرسیدن متوالی کلمه «چرا» از عاملها بود. این رویکرد تضمین میکرد که عاملها عملکرد خوبی داشته باشند و احتمال پذیرش خروجیهای آنها توسط افراد را به میزان قابلتوجهی افزایش میداد.
پیگیری و راستیآزمایی هر گام را آسان کنید
هنگام کار با تنها چند عامل هوش مصنوعی، بررسی کار آنها و شناسایی خطاها معمولاً کاری سرراست است؛ اما زمانی که سازمان صدها یا حتی هزاران عامل را راهاندازی میکنند، این وظیفه چالشبرانگیز میشود. مسئلهای که این مشکل را تشدید میکند این است که بسیاری از شرکتها صرفاً خروجیها را پیگیری میکنند. بنابراین وقتی اشتباهی رخ میدهد و با مقیاسپذیری عاملها در شرکتها همیشه اشتباهاتی وجود خواهد داشت؛ تشخیص اینکه دقیقاً چه چیزی اشتباه پیش رفته است، کاری دشوار خواهد بود.
عملکرد عامل باید در هر گام از گردش کار راستیآزمایی شود. تعبیه فرایندهای پایش و ارزیابی در درون گردش کار میتواند تیمها را قادر سازد تا خطاها را زود تشخیص دهند، منطق کار را اصلاح کنند و عملکرد را به طور مستمر و حتی پس از استقرار عاملها بهبود بخشند.
بهعنوانمثال در یک گردش کارِ بررسی اسناد، تیم محصولِ یک ارائهدهنده خدمات حقوقی فرضی، در مواجهه سیستم با مجموعهای از پروندههای جدید، شاهد افت ناگهانی در دقت سیستم بود. اما ازآنجاییکه آنها گردش کار عاملمحور را با ابزارهای مشاهدهپذیری برای پیگیری تکتک مراحل فرایند ساخته بودند، تیم بهسرعت مشکل را شناسایی کرد؛ بخشهای خاصی از کاربران در حال ارسال دادههای با کیفیت پایین بودند که این امر به تفاسیر نادرست و توصیههای ضعیف در مراحل پاییندستی منجر میشد.
با کسب این بینش، تیم رویههای جمعآوری دادههای خود را بهبود بخشید، دستورالعملهای قالببندی اسناد را به ذینفعان بالادستی ارائه داد و منطق تجزیهوتحلیل سیستم را تنظیم کرد. بهاینترتیب، عملکرد عامل بهسرعت بازیابی شد.
بهترین مورد کاربرد، استفاده مجدد است
در تکاپو برای پیشرفت در حوزه هوش مصنوعی عاملمحور، شرکتها اغلب برای هر وظیفه شناساییشده، یک عامل منحصربهفرد ایجاد میکنند. این رویکرد میتواند به افزونگی قابلتوجه و هدررفت منابع منجر شود، زیرا در اغلب موارد، همان عامل واحد میتواند وظایف مختلفی که در بسیاری از اقدامات نظیر دریافت داده، استخراج، جستوجو و تحلیل مشترک هستند را انجام دهد.
تصمیمگیری در مورد اینکه چه مقدار روی ساخت عاملهای با قابلیت استفاده مجدد (در مقابل عاملی که تنها یک وظیفه خاص را اجرا میکند) سرمایهگذاری شود، مشابه مسئله کلاسیک معماری فناوری اطلاعات است؛ جایی که شرکتها باید سریع بسازند؛ اما نباید خود را محدود به انتخابهایی کنند که قابلیتهای آینده را مقید میسازد. نحوه ایجاد این تعادل، اغلب نیازمند قضاوت و تحلیلهای فراوانی است.
شناسایی وظایف تکرارشونده یک نقطه شروع مناسب است. شرکتها میتوانند عاملها و اجزای عاملمحوری را توسعه دهند که بهراحتی در گردش کارهای مختلف قابلاستفاده مجدد باشند و دسترسی به آنها را برای توسعهدهندگان آسان کنند. این امر شامل توسعه مجموعهای متمرکز از سرویسهای اعتبارسنجیشده (مانند مشاهدهپذیری LLM یا پرامپتهای از پیش تأییدشده) و داراییهایی (مانند الگوهای کاربردی، کدهای قابلاستفاده مجدد و مواد آموزشی) است که یافتن و استفاده از آنها آسان باشد.
یکپارچهسازی این قابلیتها در قالب یک پلتفرم واحد، امری حیاتی است. بر اساس تجربه مککنزی، این کار به حذف عملیِ ۳۰ تا ۵۰ درصد از کارهای غیرضروری که معمولاً موردنیاز هستند، کمک میکند.
انسانها همچنان ضروری خواهند بود، اما نقشها و تعداد آنها تغییر خواهد کرد
با ادامه تکثیر و گسترش عاملهای هوش مصنوعی، این پرسش که انسانها چه نقشی ایفا خواهند کرد، نگرانیهای زیادی را به همراه داشته است؛ از یک سو درباره امنیت شغلی و ازسویدیگر درباره انتظارات بالا برای افزایش بهرهوری. این امر به دیدگاههای بهشدت متناقضی در مورد نقش انسان در بسیاری از مشاغل امروزی منجر شده است.
برای شفافسازی باید گفت که عاملها قادر خواهند بود کارهای بسیاری را انجام دهند، اما انسانها همچنان بخش جداییناپذیری از معادله نیروی کار باقی خواهند ماند؛ حتی باوجوداینکه نوعِ کاری که هم عاملها و هم انسانها انجام میدهند در طول زمان تغییر خواهد کرد. بهعنوانمثال، افراد باید بر دقت مدل نظارت داشته باشند، رعایت مقررات و انطباق را تضمین کنند، از قدرت قضاوت خود بهره ببرند و موارد استثنا را مدیریت نمایند. همانطور که پیشتر بحث شد، عاملها همیشه بهترین پاسخ نخواهند بود، بنابراین به افرادی که با ابزارهای دیگری مانند مدلهای یادگیری ماشین کار کنند، نیاز خواهد بود. بااینحال، تعداد افرادی که در یک گردش کارِ مشخص فعالیت میکنند احتمالاً تغییر خواهد کرد و اغلب پس از تحول گردش کار از طریق استفاده از عاملها، این تعداد کمتر خواهد شد. نکته کلیدی این است که مدیران کسبوکار باید این دورههای گذار را همانند هر برنامه تغییرِ دیگری مدیریت کنند و کارهای لازم برای آموزش و ارزیابی عاملها را به شکل سنجیدهای تخصیص دهند.
درس بزرگ دیگری که از تجربه مککنزی بهدستآمده این است که شرکتها باید در بازطراحی کارها بهگونهای تعمدی و دقیق عمل کنند که افراد و عاملها بتوانند بهخوبی با یکدیگر همکاری کنند. بدون این تمرکز، حتی پیشرفتهترین برنامههای عاملمحور نیز در معرض خطرِ شکستهای خاموش، خطاهای مرکب و طردشدن از سوی کاربر قرار میگیرند.
مثالِ ارائهدهنده خدمات حقوقی فرضی که پیشتر به آن اشاره شد را در نظر بگیرید که میخواست از عاملها برای یک گردش کار تحلیل حقوقی استفاده کند. در طراحی این گردش کار، تیم وقت گذاشت تا مشخص کند که ورودی انسانی کِی، کجا و چگونه باید ادغام شود. در یک مورد، عاملها قادر بودند دعاوی اصلی و مبالغ دلاری را با سطح دقت بالایی سازماندهی کنند، اما باتوجهبه اهمیت محوری این دعاوی در کل پرونده، ضروری بود که وکلا آنها را مجدداً بررسی و تأیید کنند.
به طور مشابه، عاملها قادر بودند رویکردهای برنامه کاری را برای یک پرونده پیشنهاد دهند، اما باتوجهبه اهمیت تصمیمگیری، بسیار حیاتی بود که افراد نهتنها پیشنهادها را بررسی کنند، بلکه آنها را تعدیل و تنظیم کنند. همچنین عاملها برنامهریزی شده بودند تا موارد استثنا و ناهنجاریها را شناسایی کنند و به وکلا در ایجاد دیدگاههای جامعتر کمک کنند. در نهایتِ این فرایند، همچنان لازم بود شخصی سند را امضا کند و تصمیم حقوقی را با مجوز و اعتبارنامه فردی خود تضمین و تأیید کند.
بخش مهمی از این طراحی مشارکتیِ انسان و عامل، توسعه رابطهای کاربری بصری و سادهای است که تعامل با عاملها را برای افراد آسان میسازد. بهعنوانمثال، یک شرکت بیمه اموال و حوادث، عناصر بصری تعاملی (مانند کادرهای محدودکننده، هایلایتها و پیمایش خودکار) را توسعه داد تا به بازرسان کمک کند خلاصههای تولیدشده توسط هوش مصنوعی را بهسرعت اعتبارسنجی کنند. برای مثال، هنگامی که افراد روی یک بینش یا داده کلیک میکردند، برنامه مستقیماً به صفحه صحیح پیمایش میشد و متن مربوطه را هایلایت میکرد. این تمرکز بر تجربه کاربری، باعث صرفهجویی در زمان، کاهش شک و تردیدها و ایجاد اعتماد به سیستم شد که سطح پذیرش کاربر را به نزدیک ۹۵ درصد رساند.
دنیای عاملهای هوش مصنوعی با سرعت در حال حرکت است، بنابراین میتوانیم انتظار داشته باشیم که درسهای بسیار بیشتری بیاموزیم. اما تا زمانی که شرکتها با ذهنیتِ یادگیری (و در عمل) به سراغ برنامههای عاملمحورِ خود نروند، احتمالاً اشتباهات را تکرار کرده و سرعت پیشرفت خود را کُند خواهند کرد.