چالش اعتماد
اعتماد سازمان و مشتری را به دست هوش مصنوعی نسپارید
سید محمدجواد فیاض
- ۲۹ مهر ۱۴۰۵
رسوایی بزرگ بعدی در حوزه خدمات حرفه‌ای ممکن است با تقلب یا قصور آغاز نشود. ممکن است با پرسش ساده‌تر اما مخرب‌تری از سوی یک نهاد ناظر آغاز شود: دقیقاً چه کسی مالک خروجی هوش مصنوعی است؟
فرصت هوش مصنوعی واقعی است، اما تنها درصورتی‌که مشتریان و نهادهای ناظر همچنان به شما اعتماد داشته باشند. هیچ‌کس از مسئله اعتماد مستثنا نیست. رهبران حوزه خدمات حرفه‌ای و مالی با یک انتخاب تعیین‌کننده مواجه‌اند؛ به هوش مصنوعی اعتماد کنند و آن را به‌عنوان محور اصلی به کار بگیرند یا منتظر وقوع رویدادها بمانند، مسئولیت‌پذیری را برون‌سپاری کنند و فرسایش اعتبار خود را ببینند.
گلوگاه اصلی، اعتماد است؛ نه فناوری
اهمیت تجاری این موضوع نیز بالاست. سرمایه قابل‌توجهی از سوی شرکت‌های سرمایه‌گذاری خصوصی تاکنون وارد بازار جهانی حسابداری و مالیات شده است. این روند به خدمات حرفه‌ای محدود نخواهد ماند. مدیریت ثروت، کارگزاری‌های وام مسکن، بانک‌های خرده‌فروشی، انجمن‌های اعتباری و تعاونی‌های مسکن و شرکت‌های بیمه نیز با همین چالش مواجه‌اند. اگر هوش مصنوعی بتواند مشاوره مالیاتی را از نو تعریف کند، می‌تواند اعطای وام مسکن را نیز متحول کند. استارتاپ‌های فناوری در سراسر جهان با سرعت در حال ساخت سامانه‌های هوش مصنوعی برای این بخش‌های تحت نظارت هستند.
پذیرندگان اولیه این فناوری نشان می‌دهند که این روند می‌تواند به دو شکل متفاوت پیش برود. سال گذشته، شرکت Deloitte Australia گزارشی را به دولت فدرال ارائه کرد که در آن ارجاعاتی ساختگی وجود داشت؛ خطاهایی تولیدشده توسط هوش مصنوعی که از فرایند بازبینی عبور کرده بودند. Deloitte بخشی از مبلغ قرارداد را بازپرداخت کرد. این ماجرا ظرف چند روز به یک نمونه مطالعاتی جهانی برای اتاق‌های هیئت‌مدیره تبدیل شد. در مه ۲۰۲۶، دادگاه عالی لندن شرکت حقوقی Pinsent Masons را توبیخ کرد؛ زیرا وکلای این شرکت بر اساس اسناد تولیدشده توسط هوش مصنوعی، مطالب نادرستی را به یک قاضی ارائه کردند.
شرکت Allen & Overy یک ابزار هوش مصنوعی برای قراردادها را در اختیار ۳۵۰۰ وکیل در ۴۳ دفتر خود قرار داد. اما رهبری شرکت یک اصل را غیرقابل‌مذاکره دانست؛ پیش از خروج هر چیزی از شرکت، همه چیز باید اعتبارسنجی شود. تفاوت در خود فناوری نبود؛ تفاوت در این بود که آیا شرکت راهکار خود را به‌گونه‌ای طراحی کرده بود که پیش از رسیدن هوش مصنوعی به مشتری، اعتماد را تقویت کند یا نه.
پژوهش آنتروپیک نشان داد که هوش مصنوعی، دست‌کم از نظر نظری، می‌تواند حجم بسیار بیشتری از فعالیت‌های خدمات حرفه‌ای و مالی را نسبت به آنچه شرکت‌ها در عمل به کار گرفته‌اند، خودکار کند. این شکاف، مسئله قابلیت نیست؛ مسئله اعتماد است. بیشتر شرکت‌ها امروز نمی‌توانند به یک پرسش ساده پاسخ دهند: وقتی هوش مصنوعی اشتباه می‌کند (و این اتفاق خواهد افتاد) چه کسی شغل خود را از دست می‌دهد؟ چه کسی هزینه آن را می‌پردازد؟
این معضل شماست: چگونه می‌توانید هوش مصنوعی را با سرعتی متناسب به کار بگیرید، بدون آنکه اعتمادی را که شرکت و حرفه شما بر آن استوار است، از بین ببرید؟
دیدگاه The European Business Review ساده است، حتی اگر پیامدهای آن ساده نباشد:
اعتماد را به هوش مصنوعی برون‌سپاری نکنید؛ بلکه از هوش مصنوعی برای مقیاس‌دهی به مشاوره قابل‌اعتماد استفاده کنید.
اعتماد باید همچنان در اختیار انسان‌ها و نهادهایی باقی بماند که پشتوانه آن هستند. نقش هوش مصنوعی این است که به این افراد کمک کند خدمات بهتر، سریع‌تر و باثبات‌تری ارائه دهند؛ نه اینکه جایگزین قضاوت، اخلاق حرفه‌ای یا مسئولیت‌پذیری آنها شود.
برون‌سپاری اعتماد چه شکلی دارد؟
وقتی شرکت‌ها به‌تدریج وارد مسیر برون‌سپاری اعتماد می‌شوند، هیچ تحویل رسمی و چشمگیری از مسئولیت به ماشین‌ها اتفاق نمی‌افتد. این فرایند کاملاً عادی و روزمره به نظر می‌رسد. یک مدیر، پاراگراف‌های تولیدشده توسط هوش مصنوعی را در گزارشی قرار می‌دهد که برای دنیای پیش از هوش مصنوعی طراحی شده است. فرایند بازبینی تغییری نمی‌کند. هیچ مرحله‌ای وجود ندارد که در آن خروجی هوش مصنوعی به طور مشخص به چالش کشیده شود و هیچ سابقه‌ای از اینکه ادعاهای کلیدی بر چه اساسی پشتیبانی شده‌اند، ثبت نمی‌شود.
چت‌بات‌ها به پرسش‌هایی درباره معافیت‌ها یا مزایا و غرامت‌ها پاسخ می‌دهند؛ گویی کارکنان آموزش‌دیده شرکت هستند، اما بدون محدودیت یا نظارت. وقتی خطاها آشکار می‌شوند، نهادهای ناظر نیز چندان پذیرای این استدلال نیستند که تقصیر را به گردن سیستم بیندازیم. هوش مصنوعی ۳۰ درصد از حجم کاری یک کارمند را بر عهده می‌گیرد، اما هیچ‌کس این ظرفیت آزادشده را به مسیر دیگری هدایت نمی‌کند. این ظرفیت در میان کارهای روزمره و کم‌ارزش ناپدید می‌شود. فرصت سرمایه‌گذاری مجدد روی فعالیت‌های پیچیده‌تر مشتری یا تقویت حاکمیت سازمانی، به طور کامل از دست می‌رود.
بخش قابل‌توجهی از دستورالعمل‌های امروزی در حوزه مقررات و استانداردهای حرفه‌ای، از نظر جهت‌گیری منطقی هستند: «ایمن باشید، عادل باشید، پاسخ‌گو باشید.» اما این دستورالعمل‌ها اغلب به‌درستی تشخیص نمی‌دهند که آسیب دقیقاً از کجا وارد می‌شود. آنها فرض می‌کنند بخش اصلی ریسک درون الگوریتم قرار دارد و بنابراین به‌شدت بر مفاهیمی مانند «توضیح‌پذیری» (Explainability) و بیانیه‌های کلی و ازپیش‌نوشته‌شده تکیه می‌کنند.
استانداردهای حرفه‌ای نیز دچار خطای مشابهی هستند. آنها به‌درستی تأکید می‌کنند که انسان‌ها باید همچنان مسئول باشند، اما به‌ندرت مشخص می‌کنند که نظارت مطلوب بر یک راهکار مجهز به هوش مصنوعی که ذاتاً احتمالاتی است، اما در مقیاس وسیع با لحنی مقتدرانه سخن می‌گوید، دقیقاً چه شکلی دارد. این همان چیزی است که برون‌سپاری اعتماد در حال حاضر به نظر می‌رسد: فرسایش تدریجی مالکیت و مسئولیت روشن انسانی نسبت به آنچه گفته و امضا می‌شود.
اصل «هوش مصنوعی بدون نظارت انسانی ممنوع»
این همان تغییر راهبردی است که همه چیز را دگرگون می‌کند. هوش مصنوعی شما ممکن است در تهیه و پیش‌نویس کارها کمک کند. اما هوش مصنوعی مشتریان و نهادهای ناظر نیز آنها را بررسی خواهد کرد. این دیگر یک فرضیه نیست. در اوت ۲۰۲۵، یک دادگاه در بریتانیا به سازمان مالیاتی و گمرکی این کشور (HMRC) دستور داد مشخص کند آیا در ارزیابی درخواست‌های معافیت مالیاتی تحقیق‌وتوسعه از هوش مصنوعی استفاده کرده است یا خیر. اگر HMRC نتواند استفاده خود از هوش مصنوعی را از نظارت و بررسی پنهان کند، شما نیز نمی‌توانید.
در آزمایش کاربری یک عامل هوش مصنوعی برای برنامه‌ریزی مالیاتی، مشاهده شد که کاربران به طور غریزی خروجی‌ها را با اجرای آنها از طریق Microsoft Copilot، Grok و ChatGPT اعتبارسنجی می‌کردند. آنها قصد سخت‌گیری نداشتند؛ بلکه رفتارشان منطقی بود. اگر یک هوش مصنوعی مشاوره‌ای را ارائه کند، یک هوش مصنوعی دیگر می‌تواند آن را بررسی کند.
در این دنیای جدید، هر خروجی قابل‌ارائه به مشتری به یک سند و گواه قابل‌بررسی تبدیل می‌شود. این خروجی باید نشان دهد ادعاها از کجا آمده‌اند، چه چیزهایی بررسی شده‌اند، در کجا از هوش مصنوعی استفاده شده و کجا یک انسان مسئولیت را بر عهده گرفته است.
اعتماد در مقیاس وسیع از توضیح‌دادن یک «جعبه سیاه» حاصل نمی‌شود؛ بلکه از حاکمیت بر فرایند پیرامون آن حاصل می‌شود؛ فرایندی که شواهد، مسئولیت‌پذیری و امکان جبران و پیگیری را از ابتدا در خود تعبیه کرده باشد. هیچ مشاوره‌ای که با هوش مصنوعی تهیه شده است نباید بدون یک بررسی متناسب با استانداردهای حرفه‌ای مربوطه و بدون تأیید نهایی یک انسان مشخص که درک می‌کند مالکیت خروجی بر عهده اوست، به مشتری ارائه شود. به بیان ساده: هوش مصنوعیِ بدون نظارت انسانی ممنوع.
از عامل‌محوری به پاسخ‌گویی
شرکت‌ها به‌سرعت به سمت هوش مصنوعی عامل‌محور حرکت می‌کنند؛ سیستم‌هایی که با حداقل مداخله انسانی، به‌صورت خودمختار اقدام می‌کنند. این شاید چشم‌اندازی ایده‌آل برای شرکت‌های بزرگ فناوری باشد، اما لزوماً چشم‌انداز مطلوب شما نیست. منطق رقابتی این رویکرد نیز مستحکم است؛ کاملاً عامل‌محور شوید، تعداد کارکنان را کاهش دهید و بهره‌وری را به حداکثر برسانید؛ تا زمانی که یک خطای بدون مالکیت، کل کسبوکار را تضعیف کند.
نرخ دقت ۹۸ درصد ممکن است برای یک چت‌بات هوش مصنوعی مصرفی عالی باشد. اما برای یک مشاور مالیاتی که سالانه مسئول تأیید ۵۰۰ اظهارنامه مالیاتی افراد ثروتمند است و می‌بیند ۱۰ مورد از آنها توسط مقامات مالیاتی مورد اعتراض قرار گرفته‌اند، می‌تواند به پایان کار حرفه‌ای منجر شود. مشاور نمی‌تواند بگوید: «نرخ خطای من در محدوده قابل‌قبول بود.»
در بخش‌های مبتنی بر اعتماد بالا، جایی که مشاوره با مسئولیت شخصی و نظارت مقرراتی همراه است، خودمختاری نمی‌تواند به قیمت پاسخ‌گویی تمام شود. سیستم خلبان خودکار دهه‌هاست وجود دارد، اما هواپیماها همچنان خلبان دارند.
یک نمونه عملی را در نظر بگیرید. یک عامل هوش مصنوعی برای برنامه‌ریزی مالیاتی می‌تواند در عرض چند ثانیه، چندین محاسبه «چه می‌شود اگر» (What-if) را برای یک فرد ثروتمند انجام دهد. اما مشاور مالیاتی همچنان باید خروجی را با عقل سلیم و بررسی حرفه‌ای ارزیابی کند، آن را در زمینه مناسب قرار دهد و به مشاوره‌ای تبدیل کند که مشتری بتواند بر اساس آن اقدام کند.
با طراحی «اپراتور هوش مصنوعی – ناظر انسانی»، مشتری تحلیل سریع‌تر و باثبات‌تری دریافت می‌کند. مشاور زمان کمتری را صرف کار با صفحات گسترده می‌کند و زمان بیشتری را به قضاوت حرفه‌ای اختصاص می‌دهد. اعتماد نیز در همان‌جایی باقی می‌ماند که باید باشد.
پنج آزمون اعتماد پیش از رفتن به سراغ هوش مصنوعی
پیش از آنکه به سراغ یک تحول بزرگ مبتنی بر هوش مصنوعی بروید، اعتماد را در مرکز قرار دهید، نه فناوری را و اجرای این پنج آزمون را در نظر بگیرید. هر آزمون برای جهانی طراحی شده است که در آن هوش مصنوعی مشتریان یا نهادهای ناظر شما در حال نظارت بر خروجی‌های شماست.
- نام چه کسی پای این کار است؟
وقتی هوش مصنوعی درگیر است، درصورتی‌که مشاوره اشتباه باشد آیا می‌توانید در یک جمله بگویید چه کسی مسئول است؟ - آیا می‌توانید مسیر تولید آن را نشان دهید؟
آیا می‌توانید از ابتدا تا انتها نشان دهید که کارِ انجام‌شده به کمک هوش مصنوعی چگونه تولید، بررسی، ثبت و تأیید نهایی شده است؟ - هوش مصنوعی آنها چگونه هوش مصنوعی شما را بررسی خواهد کرد؟
آیا راهکارهای خود را برای جهانی طراحی می‌کنید که در آن سیستمهای هوش مصنوعی مشتریان و نهادهای ناظر، خروجی‌های شما را مورد پرسش و بررسی قرار می‌دهند؟ - زمان آزادشده انسان‌ها کجا رفت؟
ظرفیت آزادشده توسط هوش مصنوعی به کجا می‌رود؟ آیا صرفاً به معنای تعداد کمتری از افراد است که همان کارهای قبلی را انجام می‌دهند یا این ظرفیت به فعالیت‌های ارزش‌آفرینِ مشخص و تعریف‌شده اختصاص می‌یابد؟ - چگونه از درس‌آموخته‌ها استفاده می‌شود؟
با خطاها و موارد نزدیک به خطای هوش مصنوعی چگونه برخورد می‌کنید؟ آیا در سطح کمیته اجرایی (ExCom) سازوکار نظارتی وجود دارد تا خطاها را شناسایی کند، از آنها بیاموزد و اقدامات لازم را اصلاح کند؟
الگو
برای شکست‌های ناشی از نبود پاسخ‌گویی، حافظه‌ای طولانی و پرهزینه وجود دارد. سیستم MCAS در هواپیماهای بوئینگ، یک نرم‌افزار خودکار بود که قضاوت خلبانان را نادیده می‌گرفت. مهندسان نگرانی‌های خود را مطرح کرده بودند، اما مدیران اجرایی بی‌توجه به زنگ خطرهایی که به صدا درآمدند، به سیستم و صرفه‌جویی‌های هزینه‌ای ناشی از آن اعتماد کردند و در نتیجه آن ۳۴۶ نفر جان باختند. در بریتانیا، رسوایی Post Office زندگی انسان‌ها را نابود کرد. بیش از ۹۰۰ مدیر دفاتر پست به‌اشتباه تحت پیگرد قضایی قرار گرفتند، زیرا مدیران اجرایی به یک سیستم رایانه‌ای معیوب بیش از انسان‌هایی که می‌گفتند سیستم اشتباه می‌کند اعتماد کردند. اعتماد کورکورانه به اتوماسیون، نظارت ناکافی و سال‌ها زمان پیش از آنکه کسی متوجه مشکل شود. تا اینکه سرانجام کسی متوجه شد.
شرکت‌های خدمات حرفه‌ای و مالی که هوش مصنوعی را در مقیاس وسیع به کار می‌گیرند، در حال ایجاد شکافی مشابه در پاسخ‌گویی هستند. اتوماسیون به دلیل پیشرفت‌های فناوری پیچیده‌تر شده، اما چالش نظارت همچنان همان است. در سه تا پنج سال آینده، یک مؤسسه مالی بزرگ در آمریکا یا بریتانیا یا یک شرکت بزرگ حسابداری یا حقوقی، با اقدام نظارتی مواجه خواهد شد؛ نه به دلیل سوگیری هوش مصنوعی، بلکه به دلیل آنکه نتوانسته پاسخ‌گویی انسانی در قبال مشاوره‌های مبتنی بر هوش مصنوعی را حفظ کند.
نهاد ناظر همان پرسشی را مطرح خواهد کرد که به دفاعیات تمام نمونه‌های قبلی پایان داده است: «چه کسی مالک این خروجی بود؟»
شرکت‌هایی که اعتماد را در مرکز قرار داده‌اند و از پنج آزمون عبور کرده‌اند، پاسخی برای این پرسش خواهند داشت. شرکت‌هایی که چنین نکرده‌اند، متوجه خواهند شد که پیامدهای این مسئله صرفاً به اعتبار آنها محدود نیست؛ بلکه می‌تواند موجودیت کسب‌وکارشان را به خطر بیندازد.
گزارش حاضر در نسخه July August 2026 نشریه The European Business Review منتشر شده است.
