چه زمانی از عامل‌های هوش مصنوعی استفاده کنیم یا نکنیم؟

بااین‌حال، هوش مصنوعی عامل‌محور (Agentic AI) هنوز محدودیت‌هایی دارد و یک داروی معجزه‌آسا برای تمامی موارد کاربرد نیست. مدیران هوش مصنوعی می‌توانند از این پژوهش Gartner و چارچوب ارزیابی مرتبط با آن برای ابهام‌زدایی از عامل‌های هوش مصنوعی و تعیین زمان مناسب برای استفاده از آن‌ها بهره ببرند.

نمای کلی

یافته‌های کلیدی

• در بازار در خصوص ماهیت عامل‌های هوش مصنوعی سردرگمی وجود دارد. علاوه بر این، عبارت «هوش مصنوعی عامل‌محور» به طرق بسیار متفاوتی مورداستفاده قرار می‌گیرد. عرضه‌کنندگان از این عبارت برای تظاهر به استفاده از عامل که به‌اصطلاح «عامل‌شویی» (Agent-washing) نامیده می‌شود؛ در بسیاری از محصولاتی که واقعاً عامل هوش مصنوعی نیستند، سوءاستفاده می‌کنند. در مقابل، برخی دیگر استدلال می‌کنند که هوش مصنوعی عامل‌محور صرفاً بر عامل‌های هوش مصنوعی پیشرفته‌تر یا سیستم‌های چندعاملی (Multiagent Systems) دلالت دارد.
• عامل‌های هوش مصنوعی می‌توانند بسیار قدرتمند باشند، زیرا انعطاف‌پذیری بیشتر، انطباق‌پذیری و سطوح بالاتری از اتوماسیون را به ارمغان می‌آورند. اما این ویژگی‌ها واقعاً در کجا موردنیاز هستند؟ برای اکثر سازمان‌ها، تعیین اینکه عامل‌های هوش مصنوعی برای کدام موارد کاربرد منطقی و کارآمد هستند، یک چالش محسوب می‌شود.
• عامل‌های هوش مصنوعی همچنین ممکن است معایبی نظیر قابلیت اطمینان و شفافیت محدود یا هزینه‌های بالا داشته باشند. برای برخی از موارد کاربرد، عامل‌های هوش مصنوعی ممکن است به‌اندازه کافی خوب نباشند، درحالی‌که برای برخی دیگر، ممکن است فراتر از نیاز باشند.

توصیه‌ها

• قابلیت‌های راهکارهای ارائه‌شده توسط عرضه‌کنندگان یا راهکارهای توسعه‌یافته داخلی را ارزیابی کنید تا مشخص شود آیا با استفاده از تعاریف عامل هوش مصنوعی Gartner و «چارچوب ارزیابی عامل هوش مصنوعی» (AI Agent Assessment Framework)، واقعاً واجد شرایط یک عامل هوش مصنوعی یا هوش مصنوعی عامل‌محور هستند و آیا می‌توانند مزایای موردانتظار را ارائه دهند. این کار همچنین باید به کاهش سوءتفاهم‌ها در مورد معنای اصطلاحاتی مانند هوش مصنوعی عامل‌محور کمک کند.
• برای تعیین میزان نیاز به قابلیت‌های عامل هوش مصنوعی، معیارهای مربوط به پیچیدگی، پویایی و سایر ویژگی‌های مرتبط در هر مورد کاربرد را اعمال کنید.
• رویکردهای تحویل جایگزین را ارزیابی کرده و نسبت به آن‌ها دید بازی داشته باشید؛ از جمله رویکردهایی مانند اتوماسیون متداول جریان کار یا اتوماسیون فرایند رباتیک (RPA) تا از به‌کارگیری عامل‌های هوش مصنوعی در مواردی که بهترین راهکار نیستند، اجتناب کنید.

مقدمه

عامل‌های هوش مصنوعی و هوش مصنوعی عامل‌محور در نقطه اوج «چرخه هیاهو» (Hype Cycle) خود قرار دارند و از شتاب و تکانه بالایی در بازار کنونی برخوردار هستند. هوش مصنوعی عامل‌محور، با ایستادن بر شانه‌های هوش مصنوعی مولد و سایر رویه‌های هوش مصنوعی، نویدبخش موج دیگری از پیشرفت است. عامل‌های هوش مصنوعی این ظرفیت را دارند که به‌ویژه با پیشبرد چشمگیر مرزهای اتوماسیون، ارزش‌آفرینی عظیمی برای سازمان‌ها ایجاد کنند. در جایی که رویکردهای اتوماسیون متداول از جمله اتوماسیون جریان کار و RPA، پیش‌ازاین قادر به ورود نبودند، عامل‌های هوش مصنوعی درها را به روی اتوماسیونی با شکنندگی و یکنواختی کمتر، تاب‌آوری بیشتر و آگاه به زمینه باز می‌کنند. به‌این‌ترتیب اکنون تعداد بسیار زیادی از فرایندهای پیچیده و وظایف انسانی می‌توانند به‌صورت (نیمه)خودمختار توسط عامل‌های هوش مصنوعی انجام شوند.

جای تعجب نیست که اخیراً بسیاری از عرضه‌کنندگان، روند معرفی عامل‌های هوش مصنوعی را سرعت بخشیده‌اند. بااین‌حال، آن‌ها اغلب در حال «عامل‌شویی» محصولات موجود هستند یا از واژه «هوش مصنوعی عامل‌محور» به طور متناقض و بی‌قاعده در بازاریابی خود استفاده می‌کنند. به نظر می‌رسد بسیاری از آن‌ها، عامل‌های هوش مصنوعی را صرفاً به استفاده از مدل‌های زبانی بزرگ محدود می‌کنند که اگرچه سودمند به نظر می‌رسد، اما محدودیت‌هایی نیز به همراه دارد. در نتیجه، سازمان‌ها ممکن است از آنچه یک عامل می‌تواند انجام دهد دلسرد شوند که این امر موجب ناامیدی و کنارگذاشتن فناوری می‌شود، درحالی‌که برخی دیگر ممکن است هزینه و پیچیدگی استقرار عامل‌های هوش مصنوعی که به طور خاص برای یک سناریوی معین ساخته شده‌اند را به‌شدت دست‌کم بگیرند. انتظارات بیش از حد تبلیغ‌شده را می‌توان با ارزیابی عینی قابلیت‌های موردنیاز و راهکارهای جایگزین و همچنین با درنظرنگرفتن عامل‌های هوش مصنوعی به‌عنوان یک نوش‌دارو برای همه مشکلات، تعدیل کرد.

اما واقعاً؛
عامل هوش مصنوعی چیست؟
اصطلاحات مرتبط مانند هوش مصنوعی عامل‌محور، سیستم‌های چندعاملی یا دستیارهای هوش مصنوعی چه معنایی دارند؟
استفاده از آن‌ها در کجا منطقی است و در کجا منطقی نیست؟
برای پاسخ به این پرسش‌ها، Gartner چارچوبی را برای ارزیابی قابلیت‌های عامل‌های هوش مصنوعی و شناسایی میزان تطابق این قابلیت‌ها با نیازمندی‌های زمینه‌های تجاری خاص ارائه کرده است (شکل ۱).

این چارچوب تشخیص می‌دهد که «عاملیت» (Agency) و سایر قابلیت‌ها، ویژگی‌های صفر و یکی (همه یا هیچ) نیستند. در عوض، طیفی از سطوح قابلیت‌های یک عامل از حداقلی تا پیشرفته وجود دارد. عامل‌های هوش مصنوعی همان‌طور که در اینجا تعریف شده‌اند باید حداقل در سطح «پایه» (Basic) باشند، درحالی‌که هوش مصنوعی عامل‌محور همان‌طور که در اینجا تعریف شده باید حداقل در سطح «نوظهور» (Emerging) باشد.

سازمان‌ها می‌توانند از این ابزار برای انجام ارزیابی‌های اختصاصی خود از عامل‌های هوش مصنوعی خود استفاده کنند. این چارچوب همچنین می‌تواند برای تعیین ویژگی‌های محیط عملیاتی عامل به‌منظور مشخص‌کردن سطح قابلیت‌های موردنیاز آن به کار رود. این امر به نوبه خود به سازمان‌ها کمک می‌کند تا تصمیم بگیرند که آیا اصلاً به استفاده از هوش مصنوعی عامل‌محور یا عامل‌های هوش مصنوعی نیازی هست یا خیر یا اینکه آیا رویکردهای غیرعاملی ممکن است منطقی‌تر باشند.

تحلیل

برای بهبود شفافیت در خصوص کاربردپذیری و کاهش سردرگمی، توصیه می‌شود از اصطلاحاتِ به‌خوبی تعریف‌شده و سازگار در ارتباطات استفاده شود. این امر پایه و اساس مستحکم‌تری را برای سرمایه‌گذاری، تصمیم‌گیری در خصوص خرید یا ساخت، و همچنین طراحی و مهندسی عامل‌های هوش مصنوعی یا رویکردهای مرتبط فراهم می‌کند.

عامل هوش مصنوعی چیست؟

عامل‌های هوش مصنوعی موجودیت‌های نرم‌افزاری خودمختار یا نیمه‌خودمختاری هستند که از تکنیک‌های هوش مصنوعی برای درک، تصمیم‌گیری، اقدام و دستیابی به اهداف در محیط‌های دیجیتال یا فیزیکی خود استفاده می‌کنند.

بر اساس چارچوب ارزیابی عامل هوش مصنوعی Gartner، تمامی قابلیت‌های عامل‌های هوش مصنوعی باید حداقل در سطح «پایه» باشند. به‌عبارت‌دیگر، عامل‌های هوش مصنوعی به طیفی از سطح پایه تا پیشرفته تعلق دارند و بنابراین، زیرمجموعه‌ای از طیف هوش مصنوعی عامل‌محور محسوب می‌شوند.

هوش مصنوعی عامل‌محور چیست؟

هوش مصنوعی عامل‌محور رویکردی برای ساخت راهکارهای هوش مصنوعی بر پایه استفاده از یک یا چند موجودیت نرم‌افزاری است که به طور کامل یا حداقل تا حدی به‌عنوان عامل‌های هوش مصنوعی طبقه‌بندی می‌شوند.

بر اساس چارچوب ارزیابی عامل هوش مصنوعی Gartner، تمامی قابلیت‌های راهکارهای هوش مصنوعی عامل‌محور باید حداقل در سطح «نوظهور» باشند. به‌عبارت‌دیگر، هوش مصنوعی عامل‌محور به طیفی از سطح نوظهور تا پیشرفته تعلق دارد.

دستیار هوش مصنوعی (AI Assistant)

دستیارهای هوش مصنوعی برنامه‌ها یا ماژول‌های تخصصی در یک سیستم گسترده‌تر هستند که از تکنیک‌های هوش مصنوعی برای پشتیبانی یا انجام وظایف بنا به درخواست، تعیین و هدایت بازیگران خارجی (انسانی) از طریق یک رابط (مبتنی بر مکالمه) استفاده می‌کنند.

بر اساس چارچوب ارزیابی عامل هوش مصنوعی Gartner، حداقل یک قابلیت از دستیارهای هوش مصنوعی باید در سطح «نوظهور» باشد. دستیارهای هوش مصنوعی تنها در صورتی زیرمجموعه‌ای از هوش مصنوعی عامل‌محور محسوب می‌شوند که تمامی قابلیت‌های آن‌ها حداقل در سطح نوظهور باشند. در حالت دوم، برای تمایز آن‌ها از دستیارهای هوش مصنوعی غیرعامل‌محور، به‌عنوان «دستیارهای هوش مصنوعی عامل‌محور» (Agentic AI Assistants) نیز شناخته می‌شوند.

تفکیک تعاریف

هوش مصنوعی عامل‌محور، همان‌طور که در اینجا تعریف شد، به طیف وسیع‌تری نسبت به آنچه برای عامل‌های هوش مصنوعی در نظر گرفته می‌شود، اشاره دارد که بازتاب‌دهنده شرایط فعلی بازاری است که در آن «هوش مصنوعی عامل‌محور» به طور گیج‌کننده‌ای به روش‌های مختلفی (از کاربرد بسیار آزادانه تا کاربرد بسیار سخت‌گیرانه) استفاده می‌شود. در یک سو، هوش مصنوعی عامل‌محور به‌صورت آزادانه و غیردقیق برای توصیف دسته وسیعی از راهکارها یا رویکردهایی استفاده می‌شود که همیشه به طور کامل با تعاریف عاملیت هوش مصنوعی یا دستیار هوش مصنوعی عامل‌محور مطابقت ندارند. در سوی دیگر، هوش مصنوعی عامل‌محور توسط برخی دیگر به طور سخت‌گیرانه‌تری برای توصیف عامل‌های هوش مصنوعی پیشرفته‌تر یا سیستم‌های چندعاملی استفاده می‌شود.

باتوجه‌به تمایزات مهم بین عامل‌های هوش مصنوعی، دستیارهای هوش مصنوعی و هوش مصنوعی عامل‌محور، اکیداً توصیه می‌شود که به قواعد نام‌گذاری (به یادداشت ۱ مراجعه کنید) پایبند باشید و درعین‌حال زمینه و نقش‌ها را نیز در نظر بگیرید. این قواعد نام‌گذاری با هدف ایجاد یک درک مشترک در سراسر سازمان (و بازار) برای کاهش سردرگمی، مدیریت انتظارات و سرمایه‌گذاری مناسب تدوین شده‌اند.

عامل‌ها به‌طورکلی و عامل‌های هوش مصنوعی به‌عنوان موجودیت‌های نرم‌افزاری (نیمه)خودمختار برای عملکرد مؤثر به تعدادی قابلیت نیاز دارند؛ از جمله

• ادراک (Perception)
• تصمیم‌گیری (Decisioning)
• اقدام (Actioning)
• عاملیت (Agency)
• انطباق‌پذیری (Adaptability)
• دانش (Knowledge)

برای هر یک از این قابلیت‌ها، چارچوب ارزیابی عامل هوش مصنوعی Gartner ویژگی‌هایی را برای تعیین سطح پیچیدگی آن در طیفی از حداقلی تا پیشرفته ارائه می‌دهد (به شکل ۲).

این قابلیت‌ها در کنار هم، ساختار و پیکربندی عامل‌ها را تشکیل می‌دهند. شکل ۳ نمونه‌ای از یک عامل هوش مصنوعی را نشان می‌دهد که با استفاده از یک LLM، تولید تقویت‌شده با بازیابی (RAG) و ابزارهای خارجی عمل می‌کند. شکل ۴ نمونه‌ای از یک عامل هوش مصنوعی را نشان می‌دهد که بدون استفاده از هیچ‌گونه مدل هوش مصنوعی مولد، با سایر عامل‌های هوش مصنوعی در یک سیستم چندعاملی کار می‌کند. این پیکربندی عاملی، نمایش‌هایی مفهومی از نحوه همکاری قابلیت‌ها در فرایندهای مختلف هستند که بر اساس بینش‌هایی از علوم‌شناختی ترسیم شده‌اند. به طور اختیاری، پیکربندی عامل‌ها ممکن است شامل مؤلفه‌ها یا عناصر دیگری در ارتباط با مهندسی آن‌ها باشد. بااین‌حال، باید توجه داشت که پیکربندی عامل‌ها و اصطلاحات به‌کاررفته در آن‌ها بیشتر ماهیتی عمومی و مستقل از فناوری دارند و بنابراین، لزوماً همان اصطلاحاتی نیستند که برای معماری‌ها یا الگوهای پیاده‌سازی فنی استفاده می‌شوند.

شکل ۴ پیکربندی عاملی را نشان می‌دهد که بخشی از یک سامانه چندعاملی برای بهینه‌سازی لجستیک است. از جمله قابلیت‌های این عامل، تشخیص انحرافات برنامه‌ریزی و استفاده از هوش مصنوعی عِلی (Causal AI) برای یافتن بهترین مداخله (مانند زمان‌بندی مجدد محموله‌ها) برای به‌حداقل‌رساندن تأثیر انحراف است. این عامل همچنین از شبیه‌سازی‌ها و بازخورد انسانی برای شناسایی مداخلاتِ بهبودیافته استفاده می‌کند.

سازمان‌ها چه زمانی باید از عامل‌های هوش مصنوعی استفاده کنند؟

سازمان‌هایی که به دنبال بهره‌مندی از مزایای عامل‌های هوش مصنوعی هستند؛ با این پرسش به چالش کشیده می‌شوند: «آیا استفاده از عامل‌های هوش مصنوعی برای این زمینه کاری و کاربرد خاص برای ما منطقی است؟» این موضوع با این واقعیت پیچیده‌تر می‌شود که هر عامل هوش مصنوعی سطوح قابلیت‌های خاص خود را دارد؛ هیچ دو عامل هوش مصنوعی یکسان نیستند و هر زمینه کاری متفاوت است؛ به این معنی که در اینجا هیچ رویکرد همه‌جانبه و اصطلاحاً «یک‌نسخه برای همه» (One-size-fits-all) وجود ندارد. اگرچه عامل‌های هوش مصنوعی قدرتمندتر شده‌اند و به این روند ادامه خواهند داد، اما نمی‌توان از آن‌ها برای تک‌تک موارد در فرایندهای کاری و کاربردهای متفاوت استفاده کرد.

اینکه آیا یک عامل هوش مصنوعی می‌تواند و باید مورداستفاده قرار گیرد و اگر چنین است، آن عامل هوش مصنوعی خاص باید دارای چه قابلیت‌هایی باشد؛ تا حد زیادی به نیازمندی‌های زمینه کاری و کاربردهای پیش رو بستگی دارد. این الزامات در شکل ۵ فهرست شده‌اند که هر یک از آن‌ها با یکی از قابلیت‌های کلیدی عامل تطابق دارد.

جدول ۱ نمونه‌ای از یک مورد کاربرد و الزامات آن را ارائه می‌دهد.

شکل ۶ الزامات این مثال را با قابلیت‌های یک سرویس سفر عامل‌محورِ فرضی از «شرکت فرضی XYZ» مقایسه می‌کند. این محصول ارائه‌شده الزامات مربوط به انطباق‌پذیری را برآورده کرده و فراتر از الزامات موردنیاز برای اقدام، عمل می‌کند؛ اما در سایر قابلیت‌ها دچار کاستی است.

تک‌عاملی یا چندعاملی؟

یک سیستم چندعاملی (MAS) سیستمی متشکل از چندین عامل هوش مصنوعی مستقل و در حال تعامل است. سیستم‌های چندعاملی می‌توانند معماری‌ها و ساختارهای کنترلی متفاوتی داشته باشند؛ از هماهنگ‌سازیِ قطعی توسط یک عامل هوش مصنوعی مرکزی گرفته تا ساختارهای غیرمتمرکزی که در آن‌ها عامل‌های هوش مصنوعی به طور غیرقطعی در پاسخ به رویدادها یا تغییرات زمینه‌ای با یکدیگر تعامل و همکاری می‌کنند. برای بررسی اینکه آیا سیستم‌های چندعاملی ممکن است از به‌کارگیری یک عامل هوش مصنوعی واحد مناسب‌تر باشند، معیارها و ضوابط مختلفی وجود دارد که باید ارزیابی شوند، از جمله:

• نیازمندی‌ها: هرچه نیاز به سطوح قابلیت پیشرفته‌تر بیشتر باشد، برآورده‌کردن تمام الزامات با یک عامل هوش مصنوعی واحد دشوارتر می‌شود. به‌طورکلی، سطوح بالاترِ پیچیدگی و پویایی در محیط، اهداف یا اجرا نشان‌دهنده نیاز به ویژگی‌های توزیع‌شده‌تر و کمتر قطعیِ سیستم‌های چندعاملی است.
• استحکام و تاب‌آوری: در مقایسه با یک عامل هوش مصنوعی واحد، مجموعه‌ای از عامل‌های هوش مصنوعی ممکن است در مواجهه با اختلالات خارجی یا عملکردهای ناقص داخلی برای ادامه فعالیت توانمندتر باشند. عامل‌های هوش مصنوعی ممکن است جایگزین یا جبران‌کننده یکدیگر شوند یا بتوانند همکاری خود را برای انطباق با تغییرات، مجدداً پیکربندی کنند.
• قابلیت اطمینان: سیستم‌های چندعاملی ممکن است عامل‌های هوش مصنوعی متفاوتی را برای یک وظیفه مشخص اعمال کنند و نتایج آن‌ها را قبل از اجرا با یکدیگر مقایسه کنند. این امر به‌منظور افزایش دقت یا سطح اطمینان کل سیستم انجام می‌شود.
• استفاده مجدد: سیستم‌های چندعاملی معمولاً به‌جای ایجاد عامل‌های هوش مصنوعیِ عمومی، از عامل‌هایی بهره می‌برند که در قابلیت‌ها، وظایف یا اقدامات خاصی تخصص بیشتری دارند. این امر امکان استفاده مجدد از عامل‌های هوش مصنوعی را با ترکیب مجدد آن‌ها برای تحقق اهداف مختلفی که ممکن است از نظر قابلیت‌ها یا اقدامات موردنیاز هم‌پوشانی داشته باشند، فراهم می‌کند.
• معماری مجدد: معماری‌های آینده فناوری اطلاعات ممکن است کاملاً عامل‌محور (Agent-Centric) شوند. این بدان معناست که تمامی ابزارها، جریان‌های کاری یا سایر عملکردهای برنامه‌های کاربردی جدید و موجود با عامل‌های هوش مصنوعی جایگزین خواهند شد؛ صرف‌نظر از اینکه آیا قابلیت‌های کامل یک عامل هوش مصنوعی برای هر یک از آن‌ها واقعاً موردنیاز است یا خیر. چشم‌اندازِ متعادل این است که تمام تعاملات کاربر ممکن است از طریق عامل‌های هوش مصنوعی انجام شود که آن‌ها نیز به نوبه خود از طریق عامل‌های هماهنگ‌کننده (Orchestration) هوش مصنوعی با ابزارها و جریان‌های کاری برنامه‌های کاربردی سازمانیِ موجود یکپارچه می‌شوند. در نهایت، این رویکرد سیستم‌های چندعاملی را در سطح فرایند یا سازمان برای امکان‌پذیر ساختن عملیات کاری خودمختار متصور می‌شود.

سازمان‌ها چه زمانی نباید از عامل‌های هوش مصنوعی استفاده کنند؟

درست مانند هر فناوری دیگری، عامل‌های هوش مصنوعی یک داروی معجزه‌آسا برای تک‌تک زمینه‌های کاری و کاربردهای مختلف نیستند. در واقع، شرایط متعددی وجود دارد که استفاده از آن‌ها غیرضروری یا حتی مضر است:

• هنگامی که توانایی عامل‌های هوش مصنوعی فراتر از نیاز است: این شرایط زمانی مصداق دارد که الزامات مورد کاربرد باتوجه‌به سطوح قابلیت عامل پایین باشد. در چنین شرایطی، راهکارهای اتوماسیون متداول مانند RPA یا اتوماسیون جریان کار به‌عنوان راهکارهای مجزا یا ادغام‌شده در برنامه‌های کاربردی سازمانی ممکن است انتخاب بهتری باشند. شاخص‌های این وضعیت عبارت‌اند از:
  • محیط عملیاتی پایدار و ساختاریافته
  • اهداف و شرایط ثابت و به‌خوبی تعریف‌شده
  • اجرای قطعی و روتین
  • وظایف یا فرایندهای از پیش تعریف‌شده با انحرافات یا استثنائات محدود
• هنگامی که عامل‌های هوش مصنوعی آماده نیستند: با وجود پیشرفت‌ها، انتظار نمی‌رود هوش مصنوعی و عامل‌های هوش مصنوعی به این زودی‌ها به یک راه‌حل همه‌کاره و بی‌نقص تبدیل شوند. در عمل، تنها تعداد محدودی از عامل‌های هوش مصنوعی وجود دارند که دارای قابلیت‌های پیشرفته باشند (همان‌طور که در بخش اول این پژوهش توضیح داده شد). نمونه‌هایی از عامل‌های هوش مصنوعی که حداقل تا حدی پیشرفته هستند، در وسایل نقلیه خودران یا پهپادهایی که در شرایط سخت و بسیار پویا (به‌ویژه برای مقاصد نظامی) عمل می‌کنند، به کار گرفته شده‌اند. بااین‌حال، هنوز شرایط عملیاتی‌ای وجود دارد که حتی برای پیشرفته‌ترین عامل‌های هوش مصنوعی نیز بسیار چالش‌برانگیز است. به‌طورکلی، اهداف، وظایف یا بستر ممکن است به حدی پیچیده یا پرخطر باشند که استفاده از عامل‌های هوش مصنوعی امکان‌پذیر نبوده و حضور انسان‌ها هنوز به‌شدت موردنیاز باشد.

ازآنجایی‌که عامل‌های هوش مصنوعی در مواقعی که الزامات بسیار پایین یا بسیار بالا هستند مناسب نیستند، یک «نقطه بهینه»  برای کاربرد آن‌ها وجود دارد، همان‌طور که در شکل ۷ نشان داده شده است.

سایر معیارهای تعیین عدم تناسب استفاده از عامل‌های هوش مصنوعی عبارت‌اند از:

• هزینه‌ها: هزینه عامل‌های هوش مصنوعیِ ارائه‌شده توسط عرضه‌کنندگان، اغلب بر اساس میزان استفاده (Pay-per-use) محاسبه می‌شود. علاوه بر این، ممکن است هزینه‌های دیگری (حتی برای عامل‌های هوش مصنوعی سفارشی‌سازی‌شده) از جمله قیمت‌گذاری مبتنی بر توکن برای استفاده از LLMها (در صورت کاربرد) وجود داشته باشد. ازآنجایی‌که عامل‌های هوش مصنوعی معمولاً قرار است مکرراً و در مقیاس وسیع استفاده شوند، این امر به معنای افزایش سریع هزینه‌ها خواهد بود. بدیهی است در صورت نامشخص بودن یا محدود بودن مزایا و ارزش اقتصادی، این امر ممکن است توجیه اقتصادی نداشته باشد.
• نیاز به دخالت انسانی: حتی وظایفی که ممکن است نسبتاً پیچیده به نظر برسند، باز هم به دلیل فقدان ویژگی‌های ذاتاً انسانی نظیر خلاقیت، قضاوت، همدلی، درک عمیق یا هوش هیجانی می‌توانند برای عامل‌های هوش مصنوعی نامناسب باشند.
• نبود قابلیت اطمینان: در بازار فعلی، بسیاری از عامل‌های هوش مصنوعی از مدل‌های احتمالی مانند LLMها استفاده می‌کنند که ممکن است در مورد وظایف غیرمعمول، نادرست باشند یا «توهم» (Hallucinate) بزنند. تکنیک‌هایی مانند زمینه‌سازی (Grounding)، تنظیم دقیق (Fine-tuning) یا اعمال سازوکارهای حفاظتی (Guardrails) می‌توانند این خطرات را کاهش دهند. بااین‌حال، نبود قابلیت اطمینان ممکن است همچنان بر انصاف، امنیت یا ایمنی تأثیر بگذارد؛ به‌ویژه در حوزه‌های حساسی مانند خدمات مشتری، عملیات ماشین‌آلات، وسایل نقلیه خودران، مراقبت‌های بهداشتی یا منابع انسانی. در سیستم‌های پیچیده بدون وجود سازوکارهای قدرتمند مدیریت خطا و بازگشت به حالت قبل (Rollback)، ممکن است خرابی‌های زنجیره‌ای رخ دهد. اگر خطرات LLM بسیار بالاست، استفاده از تکنیک‌های مطمئن‌ترِ غیرمبتنی بر LLM یا کاهش خودمختاری هوش مصنوعی با نظارت انسانی (برای مثال، استفاده از قالب‌های طرح اجرا) را در نظر بگیرید. اگر این موارد مشکلات قابلیت اطمینان را حل نمی‌کنند، احتمالاً عامل‌های هوش مصنوعی انتخاب مناسبی نخواهند بود.
• عملکرد لحظه‌ای: عامل‌های هوش مصنوعی بر استدلال چندمرحله‌ایِ پیچیده یا سایر رویکردهایی که تأخیر قابل‌توجهی ایجاد می‌کنند متکی هستند که ممکن است برای کاربردهای لحظه‌ای و با حداقل تحمل تأخیر (Lag) نامناسب باشند. نمونه‌هایی ازاین‌دست شامل کشف فوری تقلب، ناوبری وسایل نقلیه خودران و سیستم‌های کنترل صنعتی است؛ با درنظرگرفتن این نکته که نرم‌افزارهای سنتی در این سناریوها برای سرعت و پیش‌بینی‌پذیری بهینه‌سازی شده‌اند.
• هوش مصنوعی مسئولیت‌پذیر (Responsible AI): بسیاری از عامل‌های هوش مصنوعی از LLMها یا سایر مدل‌های هوش مصنوعی استفاده می‌کنند که شفافیت ندارند یا محدود است. بااین‌حال، بسته به منطقه جغرافیایی یا صنعت، ممکن است مقرراتی اعمال شود که ایجاب می‌کند فرایند تصمیم‌گیری برای ذی‌نفعان کاملاً شفاف و قابل‌توضیح باشد. اما حتی بدون وجود مقررات نیز شفافیت برای کاهش خطرات مربوط به سوگیری، سمی بودن، حریم خصوصی و اعتمادپذیری ضروری است. در این صورت، تنها عامل‌هایی می‌توانند استفاده شوند که از مدل‌های غیرمبهم (غیرجعبه‌سیاه) مانند گراف‌های دانش یا قوانین بهره می‌برند.
• پایداری محیط‌زیستی: نگرانی‌ها در مورد ردپای زیست‌محیطیِ مرتبط با عامل‌های هوش مصنوعی که از LLMها یا سایر مدل‌های هوش مصنوعیِ پرمصرف در انرژی و آب استفاده می‌کنند، ممکن است مانع از پذیرش و به‌کارگیری آن‌ها شود.
• آمادگی سازمانی: بسته به زمینه کاری کاربرد مانند یک فرایند تجاری یا یک تیم خاص، ممکن است تجربه و مهارت‌های لازم برای پیاده‌سازی مؤثر عامل‌های هوش مصنوعی از جمله مدیریت تغییر کسب‌وکار وجود نداشته باشد. به‌علاوه، دقیقاً مانند هر فناوری دیگری، باید یک ساختار حاکمیتی مستقر باشد.
• آمادگی فنی و داده‌ای: سازمان‌ها ممکن است فاقد منابع یا مهارت‌های لازم برای توانمندسازی عامل‌های هوش مصنوعی با زیرساخت فنی قدرتمند (مانند پردازش ابری، درون‌سازمانی و لبه‌ای) و ادغام آن‌ها با سایر سیستم‌های داخلی یا خارجی از طریق APIها باشند. علاوه بر این، درست مانند بسیاری از رویکردهای دیگر، عامل‌های هوش مصنوعی به مدیریت مناسب داده و کیفیت داده کافی نیاز دارند.
• آمادگی عرضه‌کننده: اگرچه فناوری عامل هوش مصنوعی تمایل به کاربرد عمومی دارد، اما برخی از موارد کاربرد ممکن است همچنان به تکنیک‌های خاصی نیاز داشته باشند. ممکن است تجربه عرضه‌کنندگان یا پلتفرم‌ها و محصولات عامل هوش مصنوعیِ ارائه‌شده توسط آن‌ها از بلوغ مناسبی برای استقرار برخوردار نباشند.

یادداشت ۱: قواعد نام‌گذاری

بر اساس تعاریف و سطوح قابلیت ذکرشده، محصولات ارائه‌شده موجود یا جدید توسط عرضه‌کنندگان یا عامل‌های ساخته‌شده در داخل سازمان باید ارزیابی شوند تا مشخص شود آیا معیارهای لازم برای نام‌گذاری خود را برآورده می‌کنند یا خیر. واضح است که تمامی عامل‌ها یکسان نیستند؛ همچنین به این دلیل که ممکن است در نقش‌ها و زمینه‌های متفاوتی مورداستفاده قرار گیرند. جدول ۲ قواعد نام‌گذاری پیشنهادی Gartner را برای کاهش سوءتفاهم‌ها و اختلال در ارتباطات نشان می‌دهد.

با پیروی از این قواعد و تعاریف نام‌گذاری، نمونه‌هایی از نام‌گذاری‌های نادرست عبارت‌اند از:

• دستیار هوش مصنوعی برای چت‌باتی به کار می‌رود که به‌عنوان‌مثال، تنها از تشخیص وظیفه مبتنی بر کلمات کلیدی استفاده می‌کند (ادراک = حداقلی) و تنها از رویه‌های ثابت برای انجام وظایف پیروی می‌کند (اقدام = حداقلی)، درحالی‌که سایر قابلیت‌ها نیز در سطح حداقلی قرار دارند.
• هوش مصنوعی عامل‌محور برای دستیار هوش مصنوعی به کار می‌رود که می‌تواند به‌عنوان‌مثال، یک وظیفه را به مراحل خاصی تقسیم کند (اقدام = نوظهور) و از یک LLM به همراه پرامپت‌دهی کاربر استفاده می‌کند (ادراک = پایه)؛ اما صرف‌نظر از بافت و زمینه به یک شکل عمل می‌کند (انطباق‌پذیری = حداقلی) یا سایر قابلیت‌های آن در سطح حداقلی قرار دارد.
• عامل هوش مصنوعی برای هوش مصنوعی عامل‌محوری به کار می‌رود که در آن، به‌عنوان‌مثال، بهینه‌سازی ریاضی اعمال می‌شود (تصمیم‌گیری = میانی)، اما هیچ اتفاقی بدون شروع و دستورات انسانی رخ نمی‌دهد (عاملیت = نوظهور).