هوش مصنوعی بدون حکمرانی ریسک‌ساز است

«سید محمد سعید طباطبائی»، مدیرعامل شرکت خدمات انفورماتیک، در رویداد iranAI 2026 با اشاره به پیچیدگی سازمان‌های بزرگ گفت بسیاری از این شرکت‌ها با صدها فرایند مواجه‌اند که برخی از آنها دهه‌ها قبل طراحی شده‌اند. به گفته او، پیش از آنکه همه این فرایندها با هوش مصنوعی بازطراحی شوند، باید مشخص شود که اساساً انجام چنین کاری در همه موارد ضروری و اقتصادی است یا خیر.

او با اشاره به هزینه‌های استفاده از هوش مصنوعی افزود: هزینه‌های سخت‌افزاری و نرم‌افزاری این فناوری می‌تواند برای سازمان‌ها قابل‌توجه باشد و بنابراین باید بررسی شود که استفاده از هوش مصنوعی در هر فرایند چه ارزش افزوده‌ای ایجاد می‌کند و در مقابل چه تبعاتی برای سازمان خواهد داشت.

سازمان‌ها باید ریسک‌های هوش مصنوعی را مدیریت کنند

طباطبائی یکی از مهم‌ترین موضوعات پیش روی سازمان‌های بزرگ را مدیریت ریسک‌های هوش مصنوعی دانست و گفت استفاده از این فناوری می‌تواند ریسک‌های جدیدی را به سازمان تحمیل کند. او با اشاره به تجربه شرکت خدمات انفورماتیک در این زمینه گفت گروه‌های تخصصی در این مجموعه به‌صورت مستمر روی شناسایی و بررسی این ریسک‌ها کار می‌کنند.

به گفته مدیرعامل شرکت خدمات انفورماتیک، یکی دیگر از مسائل اساسی، نحوه مدیریت داده‌هاست. سازمان‌های بزرگ با حجم گسترده‌ای از داده مواجه‌اند و باید مشخص کنند چه داده‌هایی مجاز به ورود به چرخه هوش مصنوعی هستند، حریم خصوصی ذی‌نفعان چگونه حفظ می‌شود و هر نوع داده با چه روشی باید پردازش شود.

آیا می‌توان به خروجی هوش مصنوعی اعتماد کرد؟

طباطبائی همچنین بر ضرورت ارزیابی و آزمون خروجی مدل‌های هوش مصنوعی تأکید کرد. او گفت سازمان‌ها نباید صرفاً به دلیل دریافت یک خروجی از یک مدل هوش مصنوعی، آن را بدون بررسی در فرایندهای سازمانی اجرا کنند.

او با طرح این پرسش که آیا باید به خروجی مدل‌های هوش مصنوعی صددرصد اعتماد کرد یا پیش از استفاده، ارزیابی و تست‌های لازم روی آنها انجام شود، هشدار داد: «تصمیم‌گیری بر اساس خروجی‌های ناپخته می‌تواند آثار مستقیمی بر فرایندهای سازمانی داشته باشد.»

به گفته او، همین موضوع نشان می‌دهد که استفاده گسترده از هوش مصنوعی در سازمان‌های بزرگ به چارچوبی برای ارزیابی، کنترل و نظارت نیاز دارد.

چرا سازمان‌ها به حکمرانی هوش مصنوعی نیاز دارند؟

مدیرعامل شرکت خدمات انفورماتیک در ادامه، حکمرانی هوش مصنوعی (AI Governance) را یکی از الزامات سازمان‌های بزرگ دانست.

او گفت اگر هوش مصنوعی صرفاً یک ابزار ساده در نظر گرفته شود، ممکن است موضوع حکمرانی آن چندان جدی به نظر نرسد، اما با گسترش استفاده از این فناوری در تصمیم‌گیری‌ها و فرایندهای سازمانی، موضوعاتی مانند حریم خصوصی کاربران و کارکنان، مالکیت فکری و نحوه استفاده از داده‌ها اهمیت بیشتری پیدا می‌کند.

طباطبائی تأکید کرد سازمان‌ها باید از مرحله استفاده صرف از هوش مصنوعی عبور کنند و برای نحوه استفاده مسئولانه و ایمن از آن چارچوب مشخص داشته باشند.

ایران باید از هم‌اکنون برای تهدیدهای کوانتومی آماده شود

او در بخش دیگری از سخنان خود به ارتباط میان هوش مصنوعی و امنیت سایبری پرداخت و گفت در حوزه بانکی، مراکز داده به‌طور روزانه با حملات سایبری مواجه‌اند و ورود فناوری‌های جدیدی مانند هوش مصنوعی و رایانش کوانتومی می‌تواند ابعاد این تهدیدها را پیچیده‌تر کند. طباطبائی به‌ویژه درباره ترکیب هوش مصنوعی و رایانش کوانتومی هشدار داد و آن را زمینه‌ای برای ایجاد ریسک‌های جدی در امنیت اطلاعات دانست.

او همچنین با اشاره به آینده رمزنگاری گفت مدل‌های رمزنگاری مورد استفاده در شبکه‌های بانکی در جهان ممکن است در سال‌های آینده با پیشرفت فناوری‌های جدید، از جمله رایانش کوانتومی، با تهدید جدی مواجه شوند.

مدیرعامل شرکت خدمات انفورماتیک تأکید کرد ایران نیز باید برای این سناریوها از پیش برنامه داشته باشد و امنیت زیرساخت‌های بانکی و داده‌های مشتریان را در برابر تهدیدهای آینده تقویت کند.

ایران در هوش مصنوعی از برنامه‌های قدیمی خود عقب افتاده است

طباطبائی در بخش پایانی سخنان خود به سابقه فعالیت‌های هوش مصنوعی و رباتیک در ایران اشاره کرد و گفت در اوایل دهه ۱۳۸۰، فعالیت‌های دانشگاهی در حوزه هوش مصنوعی و رباتیک در کشور جدی بود و حتی برای دستیابی به اهداف بلندمدت در حوزه رباتیک، نقشه راه‌هایی تا سال ۲۰۵۰ تدوین شده بود.

او با اشاره به تجربه حضور تیم‌های ایرانی در مسابقات رباتیک بین‌المللی گفت در آن دوره، تیم‌های ایرانی در رقابت‌های جهانی عملکرد قابل‌توجهی داشتند و فعالیت‌های دانشگاهی کشور در این حوزه مورد توجه بود. به گفته طباطبائی، با وجود این سابقه، ایران در سال‌های بعد نتوانست همگام با سرعت رشد جهانی هوش مصنوعی حرکت کند و فاصله میان فعالیت‌های داخلی و تحولات جهانی افزایش یافته است.

او گفت شرکت‌ها نیز نتوانسته‌اند به اندازه کافی خود را با سرعت رشد دانش و فناوری هوش مصنوعی هماهنگ کنند و این مسئله باعث شده فاصله کشور با روند جهانی در این حوزه بیشتر شود.

امید به نقش دانشگاه شریف در کاهش فاصله ایران

مدیرعامل شرکت خدمات انفورماتیک در پایان با اشاره به برگزاری رویداد iranAI 2026 در دانشگاه صنعتی شریف، ابراز امیدواری کرد چنین رویدادهایی بتوانند به ایجاد مسیرهای جدید برای توسعه هوش مصنوعی در کشور کمک کنند.

طباطبائی دانشگاه شریف را یکی از مراکز مهم کشور در حوزه هوش مصنوعی دانست و ابراز امیدواری کرد برگزاری چنین رویدادهایی ادامه پیدا کند و بتواند زمینه‌ساز همکاری بیشتر میان دانشگاه و صنعت و جبران بخشی از فاصله ایران با تحولات جهانی هوش مصنوعی شود.