زمان مطالعه: 16 دقیقه

هوش مصنوعی عامل‌محور در مقایسه با نسل پیشین خود یعنی هوش مصنوعی مولد، جهشی اساسی محسوب می‌شود؛ اما برای به حداکثر رساندن مزایای آن، باید ریسک‌های اضافی ناشی از این فناوری و راه‌های کاهش آن‌ها را بشناسید. همچنین باید بدانید چگونه رفتار مطلوب را از آن استخراج کنید.

چالش همیشگی

هوش مصنوعی با سرعتی خیره‌کننده پیشرفت کرده است. سازمان‌ها تنها طی چند سال به ابزارهایی دسترسی پیدا کرده‌اند که می‌توانند در سطحی نزدیک به انسان، محتوا بنویسند، تحلیل کنند، طراحی انجام دهند و اطلاعات را ترکیب و سنتز کنند. بسیاری از مدیران انتظار داشتند این موج جدید هوش مصنوعی مولد، بهره‌وری، کیفیت تصمیم‌گیری و سرعت تصمیم‌گیری را در سراسر سازمان از اساس متحول کند.

اما در عمل، نتایج اغلب با این انتظارات فاصله دارند. تیم‌ها بیش از هر زمان دیگری محتوا، تحلیل و ارائه تولید می‌کنند، اما نتایجی که بیشترین اهمیت را دارند؛ یعنی رشد، نرخ تبدیل، کیفیت، انطباق و اعتماد اغلب بدون تغییر باقی می‌مانند. در برخی موارد نیز، با افزایش پیچیدگی و بالارفتن هزینه‌های هماهنگی، حتی بدتر می‌شوند.

این شکاف میان وعده و عملکرد، به یک مشکل ساختاری اشاره دارد. مطالعه‌ای جدید از MIT نشان می‌دهد که اگرچه بیش از ۸۰ درصد سازمان‌ها هوش مصنوعی مولد را آزمایش کرده‌اند، تنها حدود ۵ درصد از پایلوت‌ها بازده مالی قابل‌اندازه‌گیری ایجاد می‌کنند یا به جریان‌های کاری عملیاتی تبدیل می‌شوند. نتیجه، گسترش شکافی موسوم به «شکاف هوش مصنوعی مولد» (GenAI divide) میان آزمایش‌گری و خلق ارزش است. پژوهش گروه مشاوره بوستون (BCG) نیز نشان می‌دهد که تنها حدود ۵ درصد از شرکت‌ها در سراسر جهان، با وجود افزایش سرمایه‌گذاری و استقرار هوش مصنوعی، ارزش معناداری در سطح سازمانی از آن ایجاد می‌کنند.

مسئله اصلی، قابلیت مدل‌ها نیست. مسئله این است که بیشتر ابتکارهای هوش مصنوعی روی ساختارهای سازمانی‌ای سوار شده‌اند که برای نسل‌های قبلی اتوماسیون شکل گرفته‌اند.

از RPA تا IDP

نخستین تلاش‌ها برای اتوماسیون بر «اتوماسیون فرایندهای رباتیک» (Robotic Process Automation یا RPA) متمرکز بود. این سیستم‌ها در اجرای قواعد ازپیش‌تعریف‌شده در جریان‌های کاری پایدار و تکرارشونده عملکرد بسیار خوبی دارند. نقطه قوت آن‌ها در قطعی بودن (Determinism) است که با دریافت ورودی یکسان، خروجی یکسانی تولید می‌شود و از این لحاظ قابل‌اعتماد هستند. البته این قابلیت اطمینان هزینه‌ای نیز دارد. فرایندها باید از پیش به طور کامل مشخص شده باشند و در نتیجه، فضای بسیار اندکی برای ابهام، استثنا یا قضاوت مبتنی بر زمینه باقی می‌ماند.

برای گسترش اتوماسیون به حوزه‌های کمتر ساختاریافته، سازمان‌ها به سراغ «پردازش هوشمند اسناد» (Intelligent Document Processing یا IDP) رفتند. IDP با ترکیب «تشخیص نوری کاراکترها» (OCR)، یادگیری ماشین و مدل‌های طبقه‌بندی، امکان استخراج اطلاعات از اسناد، ایمیل‌ها و فرم‌ها را فراهم کرد. بااین‌حال، پس از استخراج اطلاعات، تصمیم‌گیری همچنان بر منطق مبتنی بر قواعد متکی بود. پیچیدگی کاهش داده می‌شد، نه اینکه پذیرفته و مدیریت شود.

در نتیجه، هم RPA و هم IDP فقط نحوه اجرای کار را بهینه کردند، نه نحوه تصمیم‌گیری. اتوماسیون همچنان به حوزه‌هایی محدود بود که در آن‌ها می‌شد منطق تصمیم‌گیری را به طور جامع و کامل مشخص کرد. بخش بزرگی از فعالیت‌های سازمانی که فعالیت‌هایی متکی بر قضاوت، وابسته به زمینه و سرشار از موارد استثنا هستند، همچنان خارج از دسترس آن باقی ماند.

هوش مصنوعی عامل‌محور: اتوماسیون بدون قواعد جامع

هوش مصنوعی عامل‌محور این مرز را جابه‌جا می‌کند. برای نخستین بار، سازمان‌ها می‌توانند فرایندهایی را خودکار کنند که پیش‌تر غیرقابل‌خودکارسازی تلقی می‌شدند؛ نه به این دلیل که داده‌ای در دسترس نبود، بلکه به این دلیل که تعریف همه قواعد مرتبط با آن‌ها عملاً امکان‌پذیر نبود. عامل‌ها می‌توانند بر اساس زمینه استدلال کنند، ورودی‌های مبهم را تفسیر کنند، ابزارها را به‌صورت پویا انتخاب کنند و رفتار خود را در طول زمان با شرایط تطبیق دهند.

این تحول، گسستی بنیادین از الگوهای قبلی اتوماسیون ایجاد می‌کند. به‌جای اینکه منطق تصمیم‌گیری به‌صورت صریح کدنویسی شود، سازمان‌ها به استدلال احتمالاتی انجام‌شده توسط مدل‌های زبانی بزرگ (LLM) متکی می‌شوند و به‌این‌ترتیب، اتوماسیون دیگر به کتابچه‌ای کامل از قواعد وابسته نیست.

بااین‌حال، این قابلیت جدید ریسک جدیدی نیز ایجاد می‌کند. مدل‌های زبانی بزرگ، سیستم‌هایی احتمالاتی هستند. آن‌ها ممکن است دچار توهم (Hallucination) شوند، خطاهای ظریفی ایجاد کنند یا مسیرهای استدلالی ظاهراً معقول اما نادرستی را دنبال کنند. خروجی‌های آن‌ها اغلب روان و متقاعدکننده‌اند و همین مسئله شناسایی خطاها را دشوار می‌کند. در فرایندهای حساس و پرریسک که در آن‌ها خطا قابل‌تحمل نیست، این غیرقطعی‌بودن به چالشی حیاتی تبدیل می‌شود. نرخ خطا باید به‌صورت تجربی ارزیابی شود و راهبردهای کاهش ریسک نیز باید آگاهانه طراحی شوند. همین تنش، یعنی ظرفیت بی‌سابقه برای اتوماسیون در کنار عدم قطعیت احتمالاتی، چالش سازمانی هوش مصنوعی عامل‌محور را تعریف می‌کند.

از خودمختاری تا استخراج رفتار مطلوب: هوش مصنوعی عامل‌محور واقعاً چیست؟

هوش مصنوعی مولد اکنون دیگر مفهومی کاملاً شناخته‌شده است. مدل‌های زبانی بزرگ در پاسخ به پرامپت‌ها، متن، تصویر، کد یا تحلیل تولید می‌کنند. منطق آن‌ها اساساً واکنشی است؛ یعنی یک ورودی، یک خروجی را فعال می‌کند. این مدل‌ها هرچند مصنوعاتی تولید می‌کنند، اما در فرایندها مشارکت ندارند.

هوش مصنوعی عامل‌محور از یک اصل سازمان‌دهنده متفاوت پیروی می‌کند. عامل‌ها در طول زمان اهداف را دنبال می‌کنند. آن‌ها اهداف را به گام‌های مختلف تجزیه می‌کنند، با ابزارها و سیستم‌ها تعامل دارند، نتایج میانی را ارزیابی می‌کنند و رفتار خود را بر اساس بازخورد تطبیق می‌دهند. آن‌ها به‌جای پاسخ‌دادن به پرامپت‌های منفرد، در جریان‌های کاری مستمر فعالیت می‌کنند. نکته مهم این است که این امر به خودمختاری کامل نیاز ندارد و به معنای مداخله مستمر انسان نیز نیست. ویژگی تعیین‌کننده سیستم‌های عامل‌محور، میزان آزادی آن‌ها نیست، بلکه نحوه شکل‌دهی ازپیش‌تعیین‌شده به رفتار آن‌هاست.

می‌توان این فرایند را «استخراج رفتار مطلوب» (Elicitation) نامید. به‌جای اصلاح عامل‌ها در حین اجرا، سازمان‌ها فضای تصمیم‌گیری‌ای را طراحی می‌کنند که عامل‌ها در آن فعالیت خواهند کرد. اهداف، محدودیت‌ها، تعاریف حوزه، اقدامات مجاز، معیارهای کیفیت و آستانه‌های ارجاع به انسان، پیش از استقرار سیستم به‌صورت صریح مشخص می‌شوند. عامل‌ها در چارچوب این مرزهای طراحی‌شده عمل می‌کنند. خودمختاری، هر کجا که وجود داشته باشد، مطلق نیست؛ بلکه مستخرج و هدایت‌شده است. این خودمختاری از یک محیط ساختاریافته ناشی می‌شود، نه از نبود کنترل.

این دیدگاه از دوگانه ساده‌انگارانه «کاملاً خودمختار» در برابر «انسان در حلقه» فراتر می‌رود. انسان‌ها ترمزهای اضطراری نیستند که فقط وقتی مشکلی رخ می‌دهد وارد عمل شوند. آن‌ها طراحان زمینه، مسئولیت و قضاوت هستند. تمایز اصلی از این منظر روشن می‌شود. هوش مصنوعی مولد خروجی تولید می‌کند؛ هوش مصنوعی عامل‌محور در فرایندها مشارکت می‌کند. حتی زمانی که اختیار نهایی همچنان در دست انسان‌هاست، عامل مسئول پیشبرد کار به سمت یک هدف است. بنابراین، عامل‌ها باید با نقش‌ها، سازوکارهای تحویل کار، مراحل اعتبارسنجی و معیارهای قابل‌اندازه‌گیری موفقیت طراحی شوند؛ همان عناصری که در هر سازمان، وظیفه پاسخ‌گو و مسئولانه را تعریف می‌کنند.

پیامدهای طراحی: هوش مصنوعی عامل‌محور چگونه ارزش ایجاد می‌کند؟

این بازتعریف، سه پیامد برای طراحی به همراه دارد:

1. نخست، ارزش از بهره‌وری وظایف به عملکرد فرایند منتقل می‌شود. دستیارها بهره‌وری افراد را افزایش می‌دهند؛ عامل‌ها نتایج سرتاسری فرایند، مانند نرخ تبدیل، انطباق یا کاهش ریسک را بهبود می‌دهند. این امر مستلزم بازطراحی فرایندها بر مبنای اهداف است، نه پرامپت‌ها.
2. دوم، استخراج رفتار مطلوب به یک قابلیت سازمانی محوری تبدیل می‌شود. کیفیت رفتار عامل، کمتر به هوشمندی مدل و بیشتر به این بستگی دارد که اهداف، محدودیت‌ها و معیارهای ارزیابی تا چه اندازه به‌خوبی استخراج و مشخص شده باشند. استخراج ضعیف، توهم‌ها را افزایش می‌دهد؛ استخراج خوب، اعتماد را مقیاس‌پذیر می‌کند.
3. سوم، حاکمیت باید در اجرای فرایند تعبیه شود، نه اینکه بعداً به آن افزوده شود. ازآنجایی‌که سیستم‌های عامل‌محور به‌صورت احتمالاتی عمل می‌کنند، نظارت نمی‌تواند صرفاً بر بازبینی پس از اجرا متکی باشد. عامل‌های اعتبارسنجی، آستانه‌های اطمینان، قواعد ارجاع به انسان و قابلیت ردیابی باید اجزای جدایی‌ناپذیر طراحی فرایند باشند.

از این منظر، LLMها بهتر است نه به‌عنوان ابزارهایی مستقل، بلکه به‌عنوان موتورهای شناختی‌ای درک شوند که درون سیستم‌های اجتماعی ــ فنیِ آگاهانه طراحی‌شده قرار گرفته‌اند. بدون چنین طراحی‌ای، آن‌ها صرفاً ناکارآمدی‌های موجود را با سرعت بیشتری اجرا می‌کنند. اما با چنین طراحی‌ای، نسل جدیدی از اتوماسیون را ممکن می‌سازند که سرانجام می‌تواند شکاف میان پذیرش و خلق ارزش را پر کند.

زمینه و محدودیت‌ها در محیط‌های قانون‌گذاری‌شده

برای درک اینکه چرا هوش مصنوعی عامل‌محور تا این اندازه اغلب ناامیدکننده عمل می‌کند و در چه شرایطی می‌تواند واقعاً عملکردی قابل‌توجه داشته باشد، بررسی یک «مورد دشوار» مفید است. محیط‌های رگولاتوری‌شده و قانون‌گذاری‌شده، مانند پرداخت‌ها، خدمات مالی یا زیرساخت‌های حیاتی، سه محدودیت را با یکدیگر ترکیب می‌کنند که برای اتوماسیون بسیار چالش‌برانگیزند:

1. الزامات سخت‌گیرانه حریم خصوصی و شفافیت
2. چرخه‌های تصمیم‌گیری طولانی و چندذی‌نفعی
3. نیاز شدید به هم‌راستایی داخلی میان واحدهای کسب‌وکار، حقوقی، ریسک و انطباق

در چنین محیط‌هایی، پایلوت‌های متعارف هوش مصنوعی مولد به دلایلی که قابل‌پیش‌بینی است شکست می‌خورند؛ از جمله خروجی‌ها قابل ممیزی نیستند، ادعاها را نمی‌توان به طور قابل‌اعتماد راستی‌آزمایی کرد و مسیر تبدیل محتوای تولیدشده به نتایج تجاری قابل‌اندازه‌گیری، آن‌قدر پیچیده است که نمی‌توان آن را با پرامپت‌های منفرد مدیریت کرد. نگرانی‌های مربوط به حریم خصوصی نیز دامنه آزمایش‌گری را محدود می‌کنند، زیرا داده‌های حساس را نمی‌توان بدون کنترل و پاسخ‌گویی روشن، صرفاً به سیستم‌های خارجی ارسال کرد.

رویکردهای عامل‌محور این معادله را تغییر می‌دهند. ازآنجایی‌که عامل‌ها درون فرایندهایی با طراحی آگاهانه تعبیه می‌شوند، سازمان‌ها می‌توانند درباره نحوه و محل استفاده از مدل‌ها، انتخاب‌های معماری صریحی داشته باشند. در زمینه‌های حساس، این امر می‌تواند شامل اجرای مدل‌های زبانی در محیط‌های کنترل‌شده یا محدودکردن دسترسی به مدل‌های خارجی برای وظایف محدود و غیرحساس باشد. بنابراین، حریم خصوصی و حفاظت از داده‌ها از موانع مطلق به پارامترهای طراحی تبدیل می‌شوند.

تناقض کار در اینجاست که همین محیط‌ها دقیقاً مکان‌هایی هستند که هوش مصنوعی عامل‌محور می‌تواند در آن‌ها ارزش نامتناسبی ایجاد کند؛ نه به این دلیل که خودمختارتر است، بلکه به این دلیل که ساختاریافته‌تر است. اگر عامل‌ها بتوانند در چنین محدودیت‌هایی به طور قابل‌اعتماد فعالیت کنند، این رویکرد را می‌توان به بسیاری از صنایع دیگر نیز منتقل کرد. نکته کلیدی این است که محدودیت‌ها را ورودی‌های طراحی بدانیم، نه موانعی که باید بر آن‌ها غلبه کرد.

چرا خودمختاری به‌تنهایی ریسک ایجاد می‌کند، نه ارزش

بخش قابل‌توجهی از هیجان فعلی پیرامون هوش مصنوعی عامل‌محور بر خودمختاری متمرکز است. فروشندگان، عامل‌هایی را به نمایش می‌گذارند که می‌توانند به طور مستقل وظایف را تکمیل کنند، با عامل‌های دیگر هماهنگ شوند یا با حداقل مداخله انسانی فعالیت کنند. این رویکرد در محیط‌های ساده می‌تواند مؤثر باشد؛ اما در محیط‌های پیچیده سازمانی، اغلب نتیجه معکوس دارد.

بیشتر سازمان‌های بزرگ تحت محدودیت‌هایی فعالیت می‌کنند که نمی‌توان آن‌ها را نادیده گرفت. الزامات مقرراتی، استانداردهای برند، قواعد حفاظت از داده و ساختارهای پاسخ‌گویی، نحوه تصمیم‌گیری را شکل می‌دهند. خودمختاری بدون مرز، اعتماد را تضعیف می‌کند و به‌سرعت موجب مقاومت واحدهای حقوقی، انطباق و ریسک می‌شود.

بنابراین سازمان‌هایی که در استفاده از هوش مصنوعی عامل‌محور موفق هستند، در پی حداکثرکردن خودمختاری نیستند. آن‌ها سامانه‌های خود را برای عاملیت محدودشده (Bounded Agency) طراحی می‌کنند. عامل‌ها اختیار عمل دارند، اما فقط در چارچوب نقش‌ها، حقوق تصمیم‌گیری و مسیرهای ارجاع به انسان که به‌روشنی تعریف شده‌اند. نظارت انسانی یک اقدام پسینی نیست؛ بخشی از معماری سیستم است. این تغییر نگرش ضروری است. هوش مصنوعی عامل‌محور در درجه اول یک مسئله فناوری نیست که بتوان با مدل‌های بهتر آن را حل کرد؛ بلکه یک چالش در طراحی سازمان است.

مثال: عامل مدیر کمپین به‌عنوان یک خط جریان عامل‌محور

برای ملموس‌تر شدن مفهوم انتزاعی پایپ‌لاین‌های عامل‌محور، مورد «عامل مدیر کمپین» (Campaign Manager Agent) را در یک محیط بازاریابی قانون‌گذاری‌شده در نظر بگیرید. منبع: وایت‌پیپر « Faster. Smarter. Autonomous. Real examples of AI Agents in action» از UiPath، ۲۰۲۵.

در بسیاری از سازمان‌ها، مدیریت کمپین فرایندی پراکنده و پرزحمت است. تیم‌های انسانی از ایده‌پردازی به تولید محتوا، استخراج داده، بررسی انطباق، اجرا و تحلیل عملکرد می‌روند و این کار را از طریق مجموعه‌ای از ابزارهای نسبتاً منفصل انجام می‌دهند. اگرچه هوش مصنوعی مولد می‌تواند برخی مراحل منفرد، مانند نگارش متن یا تحلیل نتایج را تسریع کند، فرایند سرتاسری همچنان کند، مستعد خطا و دشوار برای حاکمیت باقی می‌ماند.

در مقابل، یک سیستم عامل‌محور مجهز به هوش مصنوعی، کل فرایند کمپین از ایده‌پردازی تا اجرا و پایش عملکرد را یکپارچه و ساده می‌کند و چابکی و کارایی بازاریابی را افزایش می‌دهد (شکل ۱). «عامل مدیر کمپین» این جریان کاری را به‌صورت توالی هماهنگ‌شده‌ای از نقش‌های تخصصی عامل‌ها بازتعریف می‌کند که هر یک درون محدودیت‌ها و قواعد مشخص تحویل کار قرار گرفته‌اند.

فرایند با ایده‌پردازی و راه‌اندازی کمپین آغاز می‌شود. یک عامل پژوهشی (عامل شماره ۱)، داده‌های تاریخی کمپین، بخش‌های مشتریان و معیارهای عملکرد را تحلیل می‌کند تا فرضیه‌هایی برای کمپین پیشنهاد دهد. این‌ها ایده‌هایی آزاد و بدون ساختار نیستند، بلکه پیشنهادهایی ساختاریافته و هم‌راستا با اهداف و شاخص‌های کلیدی عملکرد (KPI) ازپیش‌تعیین‌شده هستند.

سپس یک عامل تولید محتوا (عامل شماره ۲)، دارایی‌های کمپین مانند متن، نسخه‌های مختلف یا عناصر خلاقانه را در چارچوب محدودیت‌های صریح برند، لحن و الزامات مقرراتی ایجاد می‌کند. خروجی‌ها بر اساس قالب‌های تأییدشده و کتابخانه ادعاهای موردتأیید تولید می‌شوند و در نتیجه، ریسک پیام‌رسانی ناسازگار با مقررات کاهش می‌یابد.

در مرحله بعد، یک عامل انطباق و اعتبارسنجی (عامل شماره ۳)، این دارایی‌ها را پیش از اجرا ارزیابی می‌کند. این عامل به‌جای اتکا به بازبینی انسانی پس از اجرا، ادعاها، افشاگری‌ها و زبان مورداستفاده را در برابر قواعد سیاست‌گذاری و الزامات مقرراتی بررسی می‌کند. تنها خروجی‌های اعتبارسنجی‌شده به مرحله بعد می‌روند و موارد استثنا برای بررسی انسانی ارجاع داده می‌شوند.

پس از تأیید، یک عامل اجرا (عامل شماره ۴)، استقرار کمپین را در سیستم‌های فناوری اطلاعات بازاریابی هماهنگ می‌کند و اقداماتی را در ابزارهایی مانند CRM، پلتفرم‌های تبلیغاتی یا نرم‌افزارهای اتوماسیون فعال می‌کند. نکته مهم این است که این عامل درباره راهبرد «تصمیم‌گیری» نمی‌کند؛ بلکه در چارچوب پارامترهایی محدود و مشخص، آن را اجرا می‌کند.

در نهایت، یک عامل عملکرد و آزمایش (عامل شماره ۵)، نتایج را به‌صورت لحظه‌ای و بلادرنگ پایش می‌کند. این عامل عملکرد کمپین را در برابر معیارهای موفقیت ارزیابی می‌کند، گونه‌های مختلفی برای آزمون A/B پیشنهاد می‌دهد و بینش‌های ساختاریافته را به پایپ‌لاین بازمی‌گرداند. این بینش‌ها به بهبود کمپین‌های بعدی کمک می‌کنند، نه اینکه به خروجی‌های تحلیلی منفرد و جداافتاده تبدیل شوند.

در سراسر این جریان فرایندی، تمام اقدامات عامل‌ها ثبت می‌شوند و قابل‌ردیابی و قابل‌اندازه‌گیری هستند. مشارکت انسان نیز آگاهانه و هدفمند است؛ تأییدها در نقاط ریسک ازپیش‌تعیین‌شده انجام می‌شوند، نه به‌عنوان مداخلات اضطراری پس از بروز مشکل.

ارزش این سیستم از هوشمندی هیچ عامل منفردی ناشی نمی‌شود. ارزش از شفافیت نقش‌ها، تحویل ساختاریافته کار میان عامل‌های هماهنگ‌شده و حاکمیت تعبیه‌شده در سیستم پدید می‌آید. در عمل، سازمان‌هایی که چنین پایپ‌لاین‌های عامل‌محوری را به کار می‌گیرند، نه‌تنها از کاهش تلاش دستی و اجرای سریع‌تر خبر می‌دهند، بلکه بهبود ثبات کیفیت تصمیم‌گیری، کاهش مسائل مربوط به انطباق و افزایش اعتماد مدیران به نتایج مبتنی بر هوش مصنوعی را نیز گزارش می‌کنند.

در این مطالعه موردی UiPath، زمان آماده‌سازی کمپین از بیش از ۲۰ ساعت به کسری کوچک از این زمان کاهش یافت. خطاهای محتوا به‌شدت کاهش پیدا کرد و در نتیجه، نیاز به دوباره‌کاری کمتر شد. این فرایند سریع‌تر، ورود به بازار را تسریع کرد و به تیم‌ها اجازه داد تمرکز خود را بر تصمیم‌های اثرگذارتر معطوف کنند.

از ابزارهای منفرد تا پایپ‌لاین‌های طراحی‌شده

نویسندگان The European Business Review بر اساس پژوهش خود، چارچوبی برای تعبیه هوش مصنوعی عامل‌محور در فرایندهای اصلی سازمان، به‌گونه‌ای مقیاس‌پذیر و قابل‌حاکمیت، پیشنهاد می‌کنند. این چارچوب فناوری یا مدل مشخصی را تجویز نمی‌کند؛ بلکه بر نحوه ساختاربندی، کنترل و توزیع کار میان انسان‌ها، عامل‌ها و سیستم‌ها تمرکز دارد.

در هسته این چارچوب، هوش مصنوعی عامل‌محور نه مجموعه‌ای از ابزارهای منفرد، بلکه یک پایپ‌لاین فرایندی در نظر گرفته می‌شود. کار از طریق ورودی‌های تعریف‌شده وارد سیستم می‌شود، عامل‌ها آن را در محیطی تحت حاکمیت اجرا می‌کنند و خروجی‌هایی تولید می‌شود که یا توسط انسان‌ها مصرف می‌شوند یا در سیستم‌های کسب‌وکار به اجرا درمی‌آیند.

ورودی‌ها می‌توانند از سه منبع منشأ بگیرند:

1. واگذاری وظیفه از سوی انسان
2. محرک‌های زمان‌بندی‌شده یا مبتنی بر رویداد
3. سیستم‌های فناوری اطلاعات کسب‌وکار بالادستی

نکته مهم این است که این ورودی‌ها مستقیماً سبب رفتار خودمختارانه نمی‌شوند. آن‌ها از طریق یک لایه عملیات و حاکمیت هدایت می‌شوند که مشخص می‌کند عامل‌ها تحت چه شرایطی و با چه محدودیت‌هایی مجاز به انجام چه اقداماتی هستند.

این لایه عملیات و حاکمیت، صفحه کنترل (Control Plane) سیستم را تشکیل می‌دهد. این لایه شامل سازوکارهای حفاظتی (Guardrails)، منطق ارکستراسیون، کنترل‌های امنیتی، سازوکارهای نظارت و قواعد صریح ارجاع و استخراج رفتار مطلوب است. سازمان‌ها به‌جای اتکا به نظارت موردی، مشخص می‌کنند که تصمیم‌ها چگونه گرفته شوند، چه اقداماتی مجاز باشند و در چه شرایطی اجرای فرایند باید متوقف شود. پاسخ‌گویی در همین نقطه درون سیستم طراحی می‌شود.

یکی از کارکردهای محوری این لایه، استخراج رفتار مطلوب در زمان اجرا (Runtime Elicitation) است. هنگامی که آستانه‌های ازپیش‌تعیین‌شده مرتبط با عدم قطعیت، ریسک یا کمبود اطلاعات پشت سر گذاشته می‌شوند، سیستم به طور صریح ورودی بیشتری درخواست می‌کند. این درخواست ممکن است به شکل دریافت توضیح یا تأیید از یک تصمیم‌گیرنده انسانی یا درخواست اطلاعات از سیستم‌های متصل کسب‌وکار باشد. بنابراین، مشارکت انسان مستمر نیست، بلکه مشروط و مبتنی بر قواعد است. انسان‌ها ترمز اضطراری نیستند؛ آن‌ها در نقاطی که به قضاوت یا مسئولیت نیاز است، به‌صورت آگاهانه وارد فرایند می‌شوند.

در زیر این صفحه کنترل، لایه اجرای عامل‌ها (پایپ‌لاین عامل هوش مصنوعی) قرار دارد. در این لایه، یک یا چند عامل هوش مصنوعی با ترکیب مدل‌های زبانی بزرگ، حافظه و ابزارها، کار واقعی را انجام می‌دهند. عامل‌ها بر اساس زمینه استدلال می‌کنند، اطلاعات را بازیابی و ذخیره می‌کنند، ابزارها را فراخوانی می‌کنند و نتایج میانی یا نهایی را تولید می‌کنند. نکته حیاتی این است که این اقدامات درون مرزهایی انجام می‌شوند که لایه حاکمیت تعریف کرده است. خودمختاری آن‌ها از ابتدا محدود و مهندسی‌شده است.

سیستم‌های اثربخش به‌ندرت به یک عامل همه‌منظوره منفرد متکی هستند. در عوض، کار میان عامل‌های تخصصی با نقش‌ها و سازوکارهای تحویل کار مشخص توزیع می‌شود. یک عامل ممکن است ورودی‌ها را تحلیل و مسئله را ساختاربندی کند. عامل دیگری گزینه‌ها یا مواد موردنیاز را تولید کند. عامل سوم نیز خروجی‌ها را در برابر سیاست‌ها یا محدودیت‌ها اعتبارسنجی کند.

ارزش از هوشمندی هیچ عامل منفردی ایجاد نمی‌شود، بلکه از کیفیت تعامل میان آن‌ها ناشی می‌شود. در طراحی‌های با عملکرد بالا، عامل‌ها به‌جای متن خام، خروجی‌های ساختاریافته، فرضیات و شاخص‌های اطمینان را با یکدیگر تبادل می‌کنند و به‌این‌ترتیب، به‌جای مجموعه‌ای از اقدامات منفصل، یک پایپ‌لاین منسجم شکل می‌گیرد.

خروجی‌های سیستم یا به انسان‌ها می‌رسند یا به سیستم‌های فناوری اطلاعات کسب‌وکار. خروجی‌های انسانی می‌توانند به شکل توصیه، تصمیم یا درخواست تأیید باشند. خروجی‌های سیستمی نیز می‌توانند به‌روزرسانی‌ها، تراکنش‌ها یا فرایندهای پایین‌دستی را فعال کنند. ازآنجاکه تمام اقدامات، تحویل‌های کاری و رویدادهای استخراج رفتار مطلوب ثبت می‌شوند و قابل‌ردیابی هستند، سیستم از ابتدا برای ممیزی‌پذیری طراحی شده است.

این چارچوب همچنین روشن می‌کند که موفقیت را نمی‌توان صرفاً با شاخص‌های فعالیت اندازه‌گیری کرد. سرعت و حجم به‌راحتی قابل‌اندازه‌گیری هستند، اما اطلاعات اندکی درباره ارزش ایجادشده ارائه می‌کنند. پایپ‌لاین‌های عامل‌محور باید بر اساس کیفیت نتایج، ثبات عملکرد در طول زمان، کاهش خطاها و فراوانی و ماهیت مداخلات انسانی ارزیابی شوند. این شاخص‌های عملکرد باید با معیارهای حاکمیت و ریسک، مانند نقض سیاست‌ها، ادعاهای غیرقابل‌راستی‌آزمایی، توهم یا استثناهای ممیزی، تکمیل شوند.

در نمونه موردی که پیش‌تر بررسی شد، اتخاذ این رویکرد مبتنی بر پایپ‌لاین و تحت حاکمیت، نتایج ملموسی به همراه داشت. کیفیت تصمیم‌گیری بهبود یافت، دوباره‌کاری دستی کاهش پیدا کرد و مسائل مربوط به انطباق کمتر شدند. نکته مهم اینجاست که مدیران دوباره به سیستم اعتماد کردند، زیرا می‌توانستند درک کنند نتایج چگونه به دست آمده‌اند و مسئولیت در کجا قرار داشته است. در مجموع، این چارچوب ادعای اصلی این مقاله را نشان می‌دهد: هوش مصنوعی عامل‌محور نه با به حداکثر رساندن خودمختاری، بلکه با تعبیه استدلال احتمالاتی در فرایندهای سازمانی سرتاسری و پاسخ‌گو ارزش ایجاد می‌کند.

چه چیزی پایپ‌لاین‌های عامل‌محور را متفاوت می‌کند؟

در نگاه نخست، چارچوب توصیف‌شده در بالا ممکن است انقلابی به نظر نرسد. بسیاری از سازمان‌ها همین حالا نیز از هوش مصنوعی در بخش‌های مختلف عملیات خود استفاده می‌کنند. تفاوت نه در اجزای منفرد، بلکه در نحوه یکپارچه‌سازی و حاکمیت آن‌هاست.

پایپ‌لاین‌های عامل‌محور از ابتدا تا انتهای فرایند طراحی می‌شوند. عامل‌ها به‌عنوان افزونه‌هایی هوشمند و جذاب مستقر نمی‌شوند، بلکه در فرایندهایی تعبیه می‌شوند که برای کسب‌وکار اهمیت دارند. خروجی‌های آن‌ها به‌گونه‌ای ساختاربندی می‌شوند که سایر عامل‌ها یا انسان‌ها بتوانند بدون نیاز به تفسیر مجدد از آن‌ها استفاده کنند. سازوکارهای حاکمیت نیز بعداً به سیستم متصل نمی‌شوند، بلکه در سراسر فرایند، نحوه اجرا را شکل می‌دهند.

این یکپارچگی، نحوه رفتار سیستم‌ها در طول زمان را تغییر می‌دهد. ازآنجایی‌که عامل‌ها در یک پایپ‌لاین تحت حاکمیت، زمینه، فرضیات و بازخوردهای ساختاریافته را با یکدیگر به اشتراک می‌گذارند، احتمال تکرار کورکورانه خطاها کاهش می‌یابد، عملکرد قابل‌اندازه‌گیری می‌شود، یادگیری نظام‌مند می‌شود و بهبود به‌جای آنکه تصادفی باشد، قابل‌مدیریت می‌شود.

درس‌های سخت: چرا بسیاری از ابتکارهای عامل‌محور متوقف می‌شوند؟

ارزشمندترین درس‌های حاصل از استقرارهای اولیه هوش مصنوعی عامل‌محور اغلب ناخوشایند هستند. بسیاری از ابتکارها به این دلیل شکست نمی‌خورند که عامل‌ها توانایی لازم را ندارند، بلکه به این دلیل که سازمان‌ها شرایط عملیاتی موردنیاز برای دستیابی به عملکرد مقیاس‌پذیر را دست‌کم می‌گیرند.

یکی از الگوهای رایج شکست، بهداشت (hygiene) ضعیف داده در کنار انتظارات بالا است. هنگامی که داده‌های زیربنایی ناسازگار، پراکنده یا نامتناسب با نقاط واقعی تصمیم‌گیری باشند، عامل‌ها نویز را تشدید می‌کنند و این تصور را ایجاد می‌کنند که بهره‌وری افزایش یافته است؛ درحالی‌که منفعلانه کیفیت کاهش می‌دهند.

دومین دام، فرایندهای مستندسازی‌نشده یا ناسازگار است. هوش مصنوعی عامل‌محور به یک فرایند نیاز دارد تا در آن مستقر شود. هنگامی که جریان‌های کاری صرفاً به‌صورت دانش ضمنی وجود دارند، عامل‌ها نمی‌توانند به طور قابل‌اعتمادی در آن‌ها تعبیه شوند و ارجاع کار به انسان‌ها به‌جای آنکه آگاهانه و هدفمند باشد، به شکلی آشفته انجام می‌شود.

سومین مسئله و شاید پرتکرارترین، نبود ارزیابی دقیق و سخت‌گیرانه است. بدون معیارهای نتیجه و ریسک، تیم‌ها به طور پیش‌فرض به معیارهای جانشین مانند «زمان صرفه‌جویی‌شده» روی می‌آورند؛ معیارهایی که ممکن است خطاهای زیان‌بار یا مواجهه با ریسک‌های انطباقی را پنهان کنند.

در نهایت، ابهام در مالکیت، یک قاتل خاموش است. وقتی هیچ‌کس مسئول پایپ‌لاین سرتاسری نباشد، عامل‌ها به ابزار همه تبدیل می‌شوند و درعین‌حال، به سیستم هیچ‌کس تعلق ندارند.

راه‌حل‌ها عملی هستند، اما به توجه رهبری نیاز دارند. سازمان‌ها به دستورالعمل سیاست‌گذاری و سازوکارهای حفاظتی صریح، نقاط مشخص تحویل کار و ارجاع به انسان و تغییر از KPIهای جانشین به KPIهای مبتنی بر نتیجه نیاز دارند. همچنین باید برای پایپ‌لاین، مالکانی مشخص تعیین کنند؛ نه صرفاً برای مدل، کتابخانه پرامپت یا رابطه با فروشنده. بنابراین، مقیاس‌پذیری هوش مصنوعی عامل‌محور بیش از آنکه به استقرار فناوری مربوط باشد، به ایجاد انضباط عملیاتی مربوط است.

از مفهوم تا اجرا: یک استقرار عمل‌گرایانه

یکی از اعتراض‌های رایج به هوش مصنوعی عامل‌محور این است که از نظر مفهومی جذاب، اما از نظر عملیاتی پیچیده به نظر می‌رسد. در عمل، اگر سازمان‌ها در برابر وسوسه مهندسی بیش‌ازحد مقاومت کنند، می‌توانند سریع‌تر از انتظار حرکت کنند.

بر اساس تجربه نویسندگان گزارش، یک دوره استقرار ۳ تا ۴ ماهه برای حرکت از مفهوم به یک پایلوت عملیاتی کافی است؛ مشروط بر اینکه تمرکز بر طراحی فرایند باشد، نه انتخاب فناوری. مراحل حیاتی شامل تعریف شاخص‌های موفقیت از ابتدا، ترسیم کل جریان کاری، تعیین دقیق حقوق تصمیم‌گیری عامل‌ها و مشخص‌کردن قواعد ارجاع و استخراج رفتار مطلوب پیش از استقرار است.

این استقرار معمولاً در سه مرحله انجام می‌شود:

• مرحله کشف، فرایند را روشن می‌کند، نقاط تصمیم‌گیری را شناسایی می‌کند و موفقیت را فراتر از دستاوردهای بهره‌وری تعریف می‌کند.
• مرحله پایلوت، تعداد محدودی عامل را در یک بخش محدود و سرتاسری از جریان کاری، همراه با نظارت انسانی سخت‌گیرانه و ثبت رویدادها، تعبیه می‌کند.
• مرحله مقیاس‌پذیری تنها زمانی آغاز می‌شود که سیستم تحت حاکمیت، پایداری خود را اثبات کرده باشد؛ یعنی نتایج بهبود یافته باشند، درحالی‌که شاخص‌های ریسک در محدوده‌های قابل‌قبول باقی مانده‌اند.

آنچه معمولاً سازمان‌ها را کند می‌کند، قابلیت فنی نیست؛ بلکه نبود شفافیت درباره مسئولیت است. هنگامی که این مسئله حل شود، پیاده‌سازی سرعت می‌گیرد.

اقدام فوری: چک‌لیست حرکت از پایلوت به پایپ‌لاین

بیشتر سازمان‌ها به این دلیل شکست نمی‌خورند که قابلیت هوش مصنوعی ندارند؛ آن‌ها شکست می‌خورند چون پیش از آنکه سیستم عملیاتی سازمان را پیرامون این فناوری طراحی کرده باشند، اقدام به مقیاس‌پذیری می‌کنند. چک‌لیست زیر حداقل تصمیم‌هایی که رهبران باید برای حرکت از آزمایش‌گری به یک پایپ‌لاین تحت حاکمیت و تکرارپذیر اتخاذ کنند را خلاصه می‌کند.

• با نتایج شروع کنید، نه با موارد کاربرد. مشخص کنید «بهتر» بودن از نظر کسب‌وکار به چه معناست؛ برای مثال نرخ تبدیل، هزینه ارائه خدمت، زمان چرخه، نرخ خطا یا رخدادهای عدم‌انطباق، نه صرفاً افزایش بهره‌وری.
• جریان کاری سرتاسری را ترسیم کنید. مشخص کنید تصمیم‌ها در کجا گرفته می‌شوند، تحویل کار در کجا اتفاق می‌افتد و خطاها یا تأخیرها در وضعیت فعلی کجا رخ می‌دهند.
• برای پایلوت یک «بخش کوچک» را انتخاب کنید. یک بخش محدود اما سرتاسری از فرایند را انتخاب کنید که در آن بتوان نتایج را به‌سرعت اندازه‌گیری و حاکمیت را در شرایط واقعی آزمود.
• نقش‌ها و حقوق تصمیم‌گیری عامل‌ها را تعریف کنید. مشخص کنید هر عامل چه اقداماتی را می‌تواند انجام دهد، چه اقداماتی را نمی‌تواند انجام دهد و چه چیزی موجب ارجاع مسئله به انسان می‌شود.
• نقاط کنترل انسان در حلقه را طراحی کنید. مشخص کنید در کجا به قضاوت انسانی نیاز است؛ برای مثال در تأییدها، موارد استثنا یا خروجی‌های پرریسک و این نقاط کنترل را به‌صورت صریح تعریف کنید.
• پایگاه دانش و سازوکارهای حفاظتی را سامان‌دهی کنید. اطمینان حاصل کنید که عامل‌ها بر اساس منابع تأییدشده و نسخه‌بندی‌شده مانند سیاست‌ها، ادعاها، دستورالعمل‌های اجرایی و قالب‌ها کار می‌کنند، نه تولید نامحدود و بدون قید، مشابه آنچه در اینترنت دیده می‌شود.
• داده‌های حساس را تا حد امکان جدا کنید. کنترل‌های مشخصی برای اطلاعات قابل‌شناسایی شخصی (PII) و داده‌های محرمانه ایجاد کنید و در صورت امکان، عامل‌ها را به استفاده از موارد خلاصه یا سیگنال‌های تجمیع‌شده هدایت کنید.
• شفافیت و ممیزی‌پذیری را در سیستم تعبیه کنید. ورودی‌ها، خروجی‌ها، اقدامات و تحویل‌های کاری را ثبت کنید تا بتوان تصمیم‌ها را توضیح داد، ردیابی و بازبینی کرد.
• هم عملکرد و هم ریسک را اندازه‌گیری کنید. معیارهای نتیجه را در کنار شاخص‌های کیفیت و حاکمیت، مانند ادعاهای غیرقابل‌راستی‌آزمایی، نقض سیاست‌ها، توهم‌ها، استثناهای ممیزی و نرخ مداخله انسانی دنبال کنید.
• تنها زمانی مقیاس‌گذاری کنید که سیستم تحت حاکمیت پایدار باشد. دامنه و میزان خودمختاری را به‌تدریج و بر اساس شواهدی گسترش دهید که نشان می‌دهند نتایج بهبود یافته‌اند و ریسک همچنان تحت کنترل است.

خلاصه اینکه: موفقیت در هوش مصنوعی عامل‌محور کمتر به استقرار مدل‌های هوشمندتر و بیشتر به طراحی پایپ‌لاین‌های پاسخ‌گو و قابل‌اعتمادی بستگی دارد که بتوان آن‌ها را در مقیاس بالا به کار گرفت.

چرا این موضوع در سراسر سازمان اهمیت دارد؟

اگرچه بسیاری از کاربردهای اولیه هوش مصنوعی عامل‌محور در واحدهای مواجه با مشتری شکل می‌گیرند، اصول زیربنایی آن کاربرد بسیار گسترده‌تری دارند. هر حوزه سازمانی که با تصمیم‌گیری تکرارشونده، تحویل‌های متعدد کار و الزامات بالای کیفیت یا انطباق مشخص می‌شود، می‌تواند از پایپ‌لاین‌های عامل‌محور بهره ببرد.

این تغییر راهبردی، ظریف اما عمیق است. رهبران دیگر نمی‌پرسند هوش مصنوعی چگونه می‌تواند بهره‌وری تک‌تک کارکنان را افزایش دهد؛ بلکه می‌پرسند خودِ کار چگونه باید میان انسان‌ها و ماشین‌ها توزیع شود. این نگاه، هوش مصنوعی را از یک ابزار بهره‌وری به اهرمی برای بازطراحی سازمان تبدیل می‌کند.

پاسخ‌گویی به‌جای خودمختاری

هوش مصنوعی عامل‌محور اغلب به‌عنوان داستانی درباره خودمختاری روایت می‌شود. اما در واقع، قدرت واقعی آن در پاسخ‌گویی نهفته است. سازمان‌هایی موفق خواهند بود که بیشترین آزادی را به ماشین‌ها می‌دهند؟ نه؛ سازمان‌هایی موفق خواهند بود که روشن‌ترین نقش‌ها، محدودیت‌ها و معیارهای موفقیت را طراحی می‌کنند.

هوش مصنوعی عامل‌محور جایگزین قضاوت انسانی نمی‌شود. این فناوری با بر عهده گرفتن مسئولیت اجرا در جایی که قواعد روشن و مسیرهای ارجاع مشخص هستند، قضاوت انسانی را تقویت می‌کند. هنگامی که درون پایپ‌لاین‌هایی به‌خوبی طراحی‌شده تعبیه شود، سازمان‌ها را قادر می‌سازد از مرحله آزمایش‌گری فراتر بروند و به مزیت پایدار دست پیدا کنند.

بنابراین، تحول واقعی نه یک تحول فناورانه، بلکه تحولی سازمانی است. سازمان‌هایی که این واقعیت را درک کنند، قاطعانه از پایلوت‌ها به پایپ‌لاین‌ها و از هیاهوی هوش مصنوعی به اثرگذاری پایدار حرکت خواهند کرد.

گزارش حاضر در نسخه May June 2026 نشریه The European Business Review منتشر شده است.