اینوتکس ۲۰۲۴ و پنل قانون‌گذاری هوش مصنوعی

برای این حوزه هنوز در مرحله قانون‌گذاری نیستیم

تجربیات جهانی در مورد قانون‌گذاری هوش مصنوعی

«سهیلا خردمندنیا»، مدیر گروه فناوری‌های نوین مرکز پژوهش‌های مجلس، گرداننده این پنل بود و ابتدا درباره تجربیات جهان در حوزه رگولاتوری هوش مصنوعی و رویکردهای اصلی موجود در این حوزه، توضیحاتی داد. او گفت: «کشورهای دنیا در دو حوزه اصلی به موضوع قانون‌گذاری هوش مصنوعی می‌پردازند؛ اول مدیریت مخاطرات احتمالی و پایداری و دوم ایمنی حداکثری سامانه‌ها».

او در توضیح این دو رویکرد اصلی چنین گفت: «در نگاه حکومت‌ها هم دو رویکرد اصلی برای قانون‌گذاری در حوزه هوش مصنوعی وجود دارد. اول کسانی که به توسعه معتقدند و می‌گویند باید به هوش مصنوعی اجازه داد که پیشرفت لازم را بکند و بعدازآن قانون‌گذاری صورت بگیرد. رویکرد دیگر، رویکرد کنترل‌محور است که سیاست‌گذاران معتقدند که هوش مصنوعی به موضوعی انسانی و اجتماعی تبدیل شده و درنتیجه باید زودتر برای آن قانون‌گذاری شود».

اما با هر رویکردی که به موضوع نگاه شود، این نکته را نباید فراموش کرد که کشورها در حال حاضر توسعه هوش مصنوعی را در اولویت خود قرار داده‌اند. مدیر گروه فناوری‌های مرکز پژوهش‌ها دراین‌باره اضافه کرد: «کشورهای جهان از سال ۲۰۲۲ به سمت ایجاد قانون و تکلیف‌گذاری درباره هوش مصنوعی رفته‌اند. ۲۹ کشور در جهان، الان در حال طی کردن مراحل تصویب قوانین هوش مصنوعی هستند اما ۸۱ کشور هم هنوز کاری در این زمینه انجام ندادند».

 آمریکا، چین و اتحادیه اروپا در این زمینه پیشروترین کشورها هستند. خردمندنیا مثال‌هایی از رویکرد این سه کشور آورد و افزود: «اتحادیه اروپا، پایه قانون‌گذاری خود را بر حفاظت از انسان گذاشته و هر آنچه را به انسان آسیب برساند، منع می‌کند؛ اما چین و آمریکا نگاه کنترل و مدیریت داده را اولویت قرار داده‌اند».

او صحبت‌های خود را با ذکر این نکته پایان داد که قانون‌گذاری در حوزه هوش مصنوعی باید با توجه به هر جامعه‌ای انجام شود و گفت: «ساختار قانون‌گذاری برای هوش مصنوعی بسیار به بافت جامعه وابسته است؛ یعنی هرچند امکان این وجود دارد که کشورها از هم الگو بگیرند اما لازم است با توجه به نیازهای جامعه قانون‌گذاری شود».

رویکرد ما در ایران، توسعه‌محور است

در ادامه این پنل، «رضا تقی‌پور انوری»، رئیس فراکسیون هوش مصنوعی مجلس، سخنان خود را با ارائه تاریخچه‌ای از فراکسیون مطبوع خود آغاز کرد و گفت: «فراکسیون هوش مصنوعی از آبان ۱۴۰۱ فعالیت خود را آغاز کرد و در گام نخست، به فرهنگ‌سازی به‌خصوص در حوزه حکمرانی پرداخت. در ادامه، سرفصل‌های مهم حکمرانی استخراج شد. در حال حاضر، در فراکسیون هوش مصنوعی نیازها را شناسایی کرده‌ایم، گرچه لازم است تجارب دیگر کشورها نیز مدنظر قرار گرفته شود».

تقی‌پور در پاسخ به این سؤال که آیا می‌توانیم در ایران، قانون‌گذاری پویا درزمینه هوش مصنوعی داشته باشیم، گفت: «ما در ایران قائل به رویکرد توسعه‌محور هستیم اما درعین‌حال، معتقدیم باید چارچوب نظری قدرتمندی نیز داشته باشیم. ما تجربه‌های پیشین تلخی در این زمینه داریم که اگر از پتانسیل‌های داخلی کشور استفاده نکنیم نمونه‌های خارجی با پول فراوان کار را در دست می‌گیرند و جایی برای شرکت‌های دانش‌بنیان ما باقی نمی‌گذارند.»

رئیس فراکسیون هوش مصنوعی، رویکرد توسعه محور بر پایه دانش‌بنیان داخلی را رویکرد اصلی مدنظر در حوزه هوش مصنوعی دانست و این رویکرد را به دور از مصرف‌گرایی خواند.

او همچنین درباره قانون‌گذاری توضیح داد: «الان رویکرد ما قانون‌گذاری نیست زیرا کار حوزه هوش مصنوعی هنوز کامل پیش نرفته است و در مرحله توسعه اولیه و کارآفرینی هستیم. در این صورت قانون‌گذاری مرحله بعدی است. اولویت ما در حال حاضر سیاست‌گذاری و فرصت‌سازی برای دانش‌بنیان‌های داخلی است».

تقی‌پور ادامه داد: «نکته‌ای که در مجلس یازدهم به آن رسیدیم، داشتن برنامه ملی است. ما باید از بازار داخلی خودمان استفاده کنیم که این بازار، در اختیار شرکت‌های خارجی قرار نگیرد. برای این موضوع در قانون برنامه هفتم به پیشنهاد فراکسیون که تصویب هم شد، ظرف شش ماه باید برنامه هوش ملی نوشته شود».

نباید در برابر هوش مصنوعی غافلگیر شویم

در ادامه این پنل، «محمدرضا قاسمی»، دبیر ستاد راهبری فناوری‌های هوشمند حوزه‌های علمیه، به بدیهی بودن این موضوع اشاره کرد که ما درزمینه هوش مصنوعی از دنیا عقب‌تر ایستاده‌ایم و گفت: «مسلم است که ما درزمینه هوش مصنوعی در حال تلاش هستیم، چون در بسیاری از عرصه‌های فناوری غافلگیر شدیم. یک نمونه از غافلگیری‌های ما برای مثال، فضای مجازی بود که درنهایت تصمیم به مدیریت این فضا گرفته شد».

قاسمی افزود: «این فناوری اقتدارآفرین است و تلاش‌های امروز ما در این زمینه بسیار ابتدایی است و باید وارد زمینه رشد بیشتر شویم».

او در پاسخ به این سؤال که با توجه به فعالیت‌های جهانی در حوزه قانون‌گذاری هوش مصنوعی، جهان و سپس کشور ما به کدام پیش می‌رود؛ گفت: «جریان کلان جهانی در این موضوع، ابزارانگاری می‌کند اما در این میان لازم است که ما جایگاه خودمان را پیدا کنیم».

قاسمی ضمن اشاره به جریان تهدیدمحوری هوش مصنوعی گفت: «تهدیدمحوری جریان دیگری است که موضوع درستی است اما دراین‌باره، ما هنوز به رویکرد درستی نرسیده‌ایم که بتواند هر دو بخش را پوشش دهد».

 درزمینه برخورد با تکنولوژی‌های روز، همیشه موضوع استفاده کودکان و نوجوانان مطرح بوده است. محمدرضا قاسمی نیز دراین‌باره گفت: «کودکان و نوجوانان قشر آسیب‌پذیر هستند که باید به سلامت اجتماعی و روانی آن‌ها توجه شود. این موضوعی است که جهان هم به آن توجه می‌کند. به اعتقاد من دراین‌باره باید با زیست‌بوم فناوری کشور گفت‌وگو داشته باشیم و این گفت‌وگو لازم است ادامه پیدا کند. حتماً باب قانون‌گذاری در سطح قشر آسیب‌پذیر شروع می‌شود. گرچه باید تا چند سال آینده به قانون جامعی در این حوزه برسیم».

اگر در حوزه زیرساخت اقدام نکنیم، به جایی نخواهیم رسید

«سید محمد محمدزاده ضیابری»، دبیر کمسیون هوش مصنوعی و علم داده نظام صنفی رایانه‌ای، درباره قانون‌گذاری هوش مصنوعی گفت: «ابتدا باید بدانیم در قانون‌گذاری دنبال چه چیزی هستیم و بنا بر آن برای هوش مصنوعی قانون تعریف کنیم».

او ادامه داد: «اگر از دیدگاه شرکت‌های فناوری نگاه کنیم، ممکن است، فکر کنیم اگر بدون قانون پیش برویم و با چالش‌ها مواجه شویم بهتر است؛ اما این‌طور نیست و ما در حال حاضر نیز قوانینی داریم که در مرحله اجرا متوقف می‌شوند. برای همین معتقدم اگر در حوزه زیرساخت‌ها نتوانیم کاری کنیم به جایی نمی‌رسیم».

محمدزاده در پاسخ به این سؤال که چطور ظرف هوش مصنوعی خود را بشناسیم و بدانیم چه تعهداتی لازم داریم، گفت: «سرعت تغییرات در این حوزه بسیار بالا است و چیزی که به عنوان یک موضوع شگرف مطرح می‌شود، شش ماه دیگر منقضی شده است. بعضی کشورها در این زمینه، رویکرد بدی دارند؛ برای مثال هندوستان اعلام کرد هرکسی که قصد استفاده از هوش مصنوعی را دارد، باید مجوز بگیرد اما دقیقاً یک ماه بعد از این قانون پشیمان شد».

دبیر کمیسیون هوش مصنوعی، رویکرد اتحادیه اروپا را نسبت به هوش مصنوعی، رویکرد درست‌تری دانست و گفت: «رویکرد اتحادیه اروپا این است که پیشنهاد کرد برای آنچه نمی‌داند چطور پیش می‌رود، الان تصمیم‌گیری نمی‌کند اما اصل را بر حفاظت از انسان در مقابل پیشرفت هوش مصنوعی گذاشته است».

با قانون‌گذاری درباره هوش مصنوعی، منافع مردم در خطر قرار نمی‌گیرد

«محمدشهرام معین»، مشاور رئیس پژوهشگاه ارتباطات و فناوری اطلاعات در حوزه هوش مصنوعی، صحبت‌های خود را با ذکر این موضوع آغاز کرد که انفجار عجیبی که با یادگیری عمیق (Deep Leanrning) و کلان‌داده (Big Data) رخ داده است؛ برای کل جهان موضوعی نگران‌کننده است.

او در پاسخ به این سؤال که آیا این خطر وجود دارد که قبل از قانون‌گذاری، سامانه‌های خارجی ما را در بر بگیرند گفت: «پیشرفت زودهنگام هوش مصنوعی در جهان، هم بارقه امید داشت و هم ترسی به دنبال داشت. برای مثال، پیشرفت شبکه‌های عصبی جدید و شبکه عصبی مولد، هراس ایجاد کرده است. حتی در جهان با پیشرفت هوش مصنوعی ترس از بین رفتن اشتغال وجود دارد».

محمدشهرام معین درباره قانون‌گذاری این حوزه گفت: «مراجع مختلفی هم‌زمان در حال اجرای سند جامع هوش مصنوعی هستند که پیشروتر از تمام آن‌ها، شورای عالی انقلاب فرهنگی است؛ اما در حوزه قانون‌گذاری، مورد خطرناکی وجود دارد و آن، مشخص شدن خط قرمزها است».

او دراین‌باره افزود: «بچه‌ها، امنیت ملی و امنیت داده‌ها جزو خط قرمزهایی هستند که هنگام قانون‌گذاری هوش مصنوعی باید در نظر گرفته شود».

اما در بحث قانون‌گذاری در ابتدا نیاز به آگاهی‌رسانی در سطوح مختلف جامعه است. معین دراین‌باره گفت: «به‌صورت تدریجی باید در حوزه قانون‌گذاری به پیش رفت. اول باید آگاهی‌رسانی شود تا مردم متوجه شوند با قانون‌گذاری، منافعشان تحت خطر قرار نمی‌گیرد؛ بلکه این قانون‌گذاری در جهت منافعشان است».

به اعتقاد او، هرچه سریع‌تر باید در حوزه قانون‌گذاری اقدام شود تا به‌تدریج با توسعه هوش مصنوعی و توسعه آن، رگولاتوری این حوزه نیز پیشرفت کند.

جمع‌بندی پنل

در انتهای این پنل، رئیس فراکسیون هوش مصنوعی مجلس یک جمع‌بندی کلی از موضوعات مطرح‌شده ارائه کرد. او گفت: «مشکل ما درزمینه قانون‌گذاری هوش مصنوعی این است که مطالبی ازاین‌دست تبدیل به مطالبه نمی‌شود و ما در این موضوع تنها هستیم و طرح‌های ما غریب هستند».

تقی‌پور دوباره به این موضوع تأکید کرد که مردم باید آگاه شوند که قانون همیشه برای ایجاد محدودیت نیست بلکه می‌تواند فرصت بسازد.