برخورد پاپ جدید با مسئله هوش مصنوعی چگونه است؟
پاپ لئو در برابر هوش مصنوعی؛ تهدیدی جدید برای بشریت؟
امین رضا کیفرگیر- ۸ مرداد ۱۴۰۴
پاپ، هوش مصنوعی را به یکی از محورهای اصلی دوران رهبری خود تبدیل کرده است، اما در همین حال، سیلیکون‌ولی در تلاش است تا نظر مساعد او را نسبت به این فناوری جلب کند.
تنها دو روز پس از آغاز رسمی دوره رهبری‌اش، پاپ جدید آمریکایی با لحنی آرام و سنجیده در تالاری مملو از کاردینال‌های سرخ‌پوش سخن گفت و بر چالش‌های عصر دیجیتال در حفظ کرامت انسانی تأکید کرد؛ چالشی که تصمیم دارد با اقتدار جایگاه دوهزارساله پاپی به آن پاسخ دهد.
شاهزادگان کلیسای کاتولیک با دقت به سخنان پاپ لئوی چهاردهم گوش می‌دادند، زمانی که برای نخستین بار اولویت‌های دوران رهبری خود را اعلام کرد و آشکار ساخت که انتخاب نام پاپی‌اش به‌طور مستقیم به تحولات فناوری مربوط می‌شود. او توضیح داد که این نام برگرفته از پاپ لئوی سیزدهم است، شخصیتی که در دوران عصر طلایی آمریکا از حقوق کارگران کارخانه‌ها دفاع کرد، هنگامی که غول‌های صنعتی در میان نابرابری شدید و تغییرات پرشتاب بر اقتصاد و جامعه سلطه داشتند.
او خطاب به انجمن کاردینال‌ها گفت: «امروزه، کلیسا گنجینه آموزش‌های اجتماعی‌اش را برای پاسخ به انقلاب صنعتی دیگری و نوآوری‌های حوزه هوش مصنوعی ارائه می‌دهد، نوآوری‌هایی که برای کرامت انسانی، عدالت و کار، چالش‌هایی پدید آورده‌اند.»
کاردینال‌ها ایستادند و برای پاپ جدید و آرمان نامعمولش ابراز احساسات کردند.
هوش مصنوعی و کلیسا
پاپ لئو چهاردهم، که دویست‌وشصت‌وهفتمین پاپ و اهل شهر شیکاگو است، موضوع تهدید بالقوه هوش مصنوعی برای بشریت را به موضوع محوری دوران پاپی خود تبدیل کرده و در این مسیر، بخش فناوری را به چالش می‌کشد، بخشی که سال‌ها تلاش کرده است تا واتیکان را به یک متحد بدل کند.
در دهه گذشته، بسیاری از قدرتمندترین مدیران فناوری در سیلیکون‌ولی به رُم سفر کردند تا در شکل‌گیری نگاه و بیانیه‌های بزرگ مذهب مسیحی جهان درباره نوآوری‌هایشان تأثیرگذار باشند.
رهبران شرکت‌هایی مانند گوگل، مایکروسافت، سیسکو و دیگر غول‌های فناوری با مقامات واتیکان درباره پیامدهای فلسفی و اجتماعی ماشین‌های روزبه‌روز هوشمندتر گفت‌وگو کردند؛ با این امید که بتوانند فواید فناوری‌های نوظهور را به اشتراک بگذارند، مشروعیت اخلاقی جلب کنند و در نهایت، مسیر تأثیرگذاری واتیکان بر دولت‌ها و سیاست‌گذاران را همسو با خود هدایت کنند.
با آنکه این گفت‌وگوها دوستانه بود، اما دیدگاه‌های دو طرف تنها تا حدی هم‌پوشانی دارند. واتیکان خواهان پیمانی بین‌المللی و ضروری در زمینه هوش مصنوعی است. امری که برخی مدیران فناوری تمایلی به آن ندارند.
تعداد قابل توجهی از شرکت‌ها از راهنمایی‌های داوطلبانه و اخلاقی پشتیبانی می‌کنند و ترجیح می‌دهند که هوش مصنوعی تحت قوانین ضروری قرار نگیرد، قوانینی که اتحادیه اروپا به‌تدریج در حال اجرای آنها است.
دولت ترامپ مقررات هوش مصنوعی که در دوره بایدن وضع شده بود را لغو کرد و از تلاش‌های اروپا برای تحمیل مقررات ضروری انتقاد کرد. برخی مدیران فناوری حتی با همان دستورالعمل‌های کلی و غیرضروری نیز مخالف‌اند.
«پاپ فرانسیس» در ابتدای دوران پاپی خود گفته بود که تقریباً بلد نیست با رایانه کار کند. اما هرچه با هوش مصنوعی بیشتر آشنا شد، نگرانی‌های او نیز افزایش پیدا کرد. او به یکی از صداهای برجسته جهان در هشدار نسبت به خطرات بالقوه هوش مصنوعی تبدیل شد و به طور فزاینده با مدیران فناوری دیدار کرد تا در این باره تبادل نظر کنند.
«پاپ لئو» که فارغ‌التحصیل ریاضی است و از نظر فنی از پاپ پیشین آگاه‌تر به شمار می‌رود، در بی‌اعتمادی به هوش مصنوعی بدون ضابطه با فرانسیس هم عقیده بوده و راه او را ادامه می‌دهد.
کاردینال «جوزپه ورسالدی»، که رابطه‌ای دیرینه با پاپ لئو دارد، می‌گوید:
«لئو چهاردهم می‌خواهد جهان علم و سیاست بلافاصله و بدون تعلل به این مسئله بپردازند، بی‌آنکه اجازه دهند پیشرفت علمی با تکبر پیش برود و به کسانی که مجبورند خود را تسلیم قدرت آن کنند، آسیب برساند.»
در این هفته (از زمان انتشار نسخه اصلی این گزارش نزدیک به ۲ ماه می‌گذرد)، واتیکان میزبان مدیران شرکت‌های گوگل، متا، آی‌بی‌ام، آنتروپیک، کوهیر و پالانتیر در «کاخ حواری» است؛ این نشست در قالب یک کنفرانس بین‌المللی دو روزه در شهر رم درباره هوش مصنوعی، اخلاق و همکاری‌های بین‌المللی برگزار می‌شود.
این کنفرانس مشترکا با رهبری «دیوید برگر»، شریک موسسه حقوقی «Wilson Sonsini»که مشاور برخی از بزرگ‌ترین شرکت‌های فناوری است و «پیرلوییجی ماترا»، شریک موسسه «Libra Legal Partners» که با واتیکان همکار است برگزار می‌شود.
پیش‌بینی شده که پاپ در این کنفرانس، پیامی مکتوب به شرکت‌کنندگان ارائه کند، اما او تاکنون و در ابتدای دوران پاپی خودش هنوز جلسه‌ای رسمی با مدیران ارشد شرکت‌های فناوری نداشته است.
گفته شده است که «برد اسمیت»، رئیس شرکت مایکروسافت، قرار است در همین ماه در رم با مقامات واتیکان دیدار کند و شرکت گوگل نیز در حال رایزنی برای برگزاری جلسه‌ای احتمالی با پاپ لئو است.
این دیدارها می‌توانند به شرکت‌هایی که پیشران اصلی در توسعه‌ی هوش مصنوعی هستند، این فرصت را بدهند که دریابند آیا پاپ لئو مشاور همراه و سازنده‌ای خواهد بود یا چالشی جدی و قاطع که در برابر آنها خواهد ایستاد.
برای درک بهتر گفت‌وگوی تقریباً ده ساله میان کلیسای کاتولیک و نخبگان سیلیکون‌ولی، روزنامه «وال‌استریت ژورنال» با نزدیک به ۳۰ نفر از مدیران فناوری، روحانیان، مورخان و آینده‌پژوهان که در این حوزه مشاوره دادند، مصاحبه کرده است.
این افراد گفت‌وگوهای خود را که اغلب به‌صورت محرمانه که درباره‌ی آینده هوش مصنوعی شرح داده‌اند.
پاپ کارگران
اشاره پاپ آمریکایی به دهه ۱۸۹۰، فصل تازه‌ای در روابط دوگانه‌ی کلیسای کاتولیک با سرمایه‌داری به شمار می‌رود. در حالی که «دونالد ترامپ» عصر طلایی را به عنوان دورانی زرین می‌بیند که آمریکا باید به آن بازگردد، پاپ لئو آن دوران را هشدار تاریخی تلقی می‌کند.
«لئو سیزدهم» (Leo XIII)، در اواخر قرن نوزدهم نخستین پاپی بود که به طور نظام‌مند با پیامدهای اجتماعی انقلاب صنعتی مقابله کرد. او که به «پاپ کارگران» شهرت یافته بود، از دولت‌ها خواست قوانینی برای حمایت از کارگران در برابر سرمایه‌داران بی‌رحم آن دوران وضع کنند.
دیدگاه لئو سیزدهم به‌شدت تحت تاثیر یکی از مقامات کلیسایی آمریکا، کاردینال «جیمز گیبونز» از بالتیمور قرار داشت.
گیبونز شرایط دشوار کارگران کارخانه‌ای در ایالات متحده که بسیاری‌شان مهاجران کاتولیک از کشورهایی چون ایتالیا و ایرلند بودند را برای پاپ بازگو کرد. او به پاپ هشدار داد که اگر کلیسا به کارگران کمکی نکند، کمونیست‌های بی‌دین جای آن را خواهند گرفت.
پاپ در یک فرمان تاریخی در سال ۱۸۹۱ با عنوان «Rerum Novarum» به معنای «از امور نو»، از تشکیل اتحادیه‌های کارگری، پرداخت دستمزد کافی و فراهم کردن شرایط کاری ایمن‌تر حمایت کرد. اما در عین حال، حق مالکیت خصوصی و فعالیت آزاد اقتصادی را نیز تأیید نمود.
لئو سیزدهم در آن متن نوشت:
«استخدام نیروی کار و مدیریت تجارت در دستان شمار اندکی قرار گرفته است؛ به طوری‌که تعداد کمی از مردان بسیار ثروتمند توانسته‌اند بر انبوه فقیر کارگر چیره شوند، که چیزی جز برده‌داری در لباسی نو نیست.»
«Rerum Novarum» سنگ‌بنای آموزش اجتماعی مدرن کلیسای کاتولیک شد و الهام‌بخش جنبش‌های کارگری کاتولیک گشت. همچنین بر شکل‌گیری گرایش نیرومندی از سیاست محافظه‌کارانه‌ی میانه‌رو در اروپا پس از جنگ جهانی دوم تأثیر گذاشت. جریانی که به سرمایه‌داری باور داشت، اما خواستار مهارهای قدرتمند برای آن بود.
گفت‌وگو با فناوری‌های بزرگ
در دوران اخیر، کلیسای کاتولیک با صدای بلندتری درباره نابرابری و ضرورت ایجاد اقتصادی فراگیرتر سخن گفته است.
در آغاز، اخلاق در فناوری دغدغه فوری پاپ فرانسیس نبود، او در برخی مواقع نگران این بود که فقیران جهان از دسترسی به رسانه‌های اجتماعی عقب مانده‌اند.
او از توییتر استقبال کرد و به دلیل گرفتن سلفی با بازدیدکنندگان و مؤمنان کاتولیک، در واتیکان به «پاپ اسنپ‌چت» (Snapchat Pope) شهرت یافت.
در سال ۲۰۱۶، واتیکان میزبان شماری از بزرگ‌ترین چهره‌های سیلیکون‌ولی از جمله «مارک زاکربرگ» از شرکت فیسبوک، «تیم کوک» از شرکت اپل و «اریک اشمیت» از شرکت گوگل بود تا درباره این‌که چگونه می‌توان از فناوری در راه خِیر استفاده کرد، گفت‌وگو کنند.
بر اساس گفته‌های افراد آگاه در این جلسه، فرانسیس به اشمیت گفته بود که می‌تواند در راه‌اندازی یک کانال یوتیوب جدید برای واتیکان که مخاطب آن جوانان باشد، کمک کند.
اشمیت گروهی از کارکنان گوگل را برای چند هفته به واتیکان فرستاد تا همکاری کنند، اما آنها از روند کند و پیچیده بوروکراسی واتیکان ناامید شدند و این کانال هرگز راه‌اندازی نشد.
اسقف «پاول تایگ» از کشور ایرلند به سازمان‌دهی مجموعه‌ای از گفت‌وگوها پشت درهای بسته میان مقامات عالی رتبه واتیکان و رهبران فناوری کمک کرد. این جلسات به نام «گفت‌وگوهای مینروا» (Minerva Dialogues)، به افتخار یک کلیسای دومینیکن در شهر رم نامگذاری شد.
در ابتدا، موضوع گفت‌وگوها بیشتر حول وعده‌های دیجیتالی شدن روزافزون بود، اما به‌مرور زمان، شرکت‌کنندگان به بیان نگرانی‌های خود درباره‌ی قطبی شدن سیاسی فزاینده که همراه با این روند به‌وجود آمده بود، پرداختند.
در همین سال‌ها، پاپ فرانسیس نگرانی‌های خود درباره کشتار مردم روهینگیا در میانمار را نیز ابراز کرد، خشونتی که بخشی از آن توسط پست‌های فیسبوکی معروف شده بود.
به مرور زمان، مدیران فناوری شروع به بیان دیدگاه درباره‌ی دستاوردهای پیشِ رو در زمینه‌ی هوش مصنوعی کردند.
اسقف تایگ می‌گوید: «مردم به ما گفتند: ببینید، این موضوع قرار است سؤالاتی درباره‌ی آینده‌ی بشریت مطرح کند و ما علاقه‌مندیم که با همه‌ی منابع سنتی خرد وارد گفت‌وگو شویم.»
فراخوانی برای اخلاق
در اوایل سال ۲۰۱۹، اسقف اعظم «وینچنزو پاگلیا» که در آن زمان ریاست آکادمی پاپی حیات (Pontifical Academy of Life) را بر عهده داشت، گفت که شرکت مایکروسافت درخواستی برای جلسه با رئیس این شرکت، یعنی برد اسمیت ارائه داده تا درباره ابعاد اخلاقی هوش مصنوعی گفت‌وگو کنند.
پاگلیا با وجود آنکه کنجکاو بود، نسبت به نیت مایکروسافت نیز احتیاط و تردید داشت. او می‌گوید: «در دفتر من، برخی گفتند: این آقا دنبال مهر تأیید واتیکان است. شاید ماجرا مربوط به فروش محصولات است.» با این حال، او با برگزاری جلسه موافقت کرد و آن دو به خوبی با یکدیگر کنار آمدند.
پاگلیا گفت: «تقریباً از همان لحظه‌ی اول، نوعی تفاهم دوطرفه شکل گرفت؛ درک مشترکی از اهمیت حیاتی این موضوع وجود داشت.»
کمی بعد، این اسقف اعظم به‌همراه اسمیت به دیدار پاپ رفت. اما زمانی برای ارائه‌ی گزارشی کامل به پاپ در اختیار نبود.
پاپ فرانسیس پیش از ورود اسمیت پرسید:
«به من بگو، این آقا کیست؟» پاگلیا برای جلب توجه پاپ گفت که اسمیت یک وکیل است که در آمریکا به مهاجران کمک می‌کند (اسمیت یکی از بنیان‌گذاران یک نهاد غیردولتی است که به کودکان مهاجر خدمات حقوقی ارائه می‌دهد).
پاپ پاسخ داد: «خب، پس برویم ببینیم.»
پاگلیا توضیح داد: «نمی‌توانستم فقط بگویم: او رئیس شرکت مایکروسافت است. باید تأثیر احساسی می‌گذاشتم.»
مایکروسافت پیش از این روابطی چند ساله اما نه در این سطح بالا با مقامات واتیکان داشت.
اسمیت در این دیدار برای پاپ به‌تفصیل درباره‌ی دیدگاه خود نسبت به هوش مصنوعی صحبت کرد.
او در مصاحبه خود گفت:
«ما این فناوری را در خدمت انسانیت و نه به عنوان جایگزین آن می‌بینیم.»
پاگلیا و برد اسمیت زمینه‌ساز تدوین دستورالعمل‌هایی شدند که با نام «فراخوان رم برای اخلاق در هوش مصنوعی» (Rome Call for AI Ethics) در سال ۲۰۲۰ منتشر شد. شرکت‌هایی همچون آی‌بی‌ام و سیسکو این منشور ۱۲ صفحه‌ای را امضا کردند و متعهد شدند به آن پایبند بمانند.
این تعهدنامه، سازندگان هوش مصنوعی را ملزم می‌کرد که به حریم خصوصی یا حقوق انسانی کاربران آسیب نزنند و در جهت تبعیض بیشتر حرکت نکنند و همچنین تاکید می‌کرد که «طراحان و به کار گیرندگان هوش مصنوعی باید با مسئولیت‌پذیری عمل کنند.» با این حال، برخی از پیشگامان هوش مصنوعی از جمله گوگل و اوپن‌ای‌آی تاکنون آن را امضا نکرده‌اند. پاگلیا امیدوار است که آنها را نیز به پذیرش آن ترغیب کند.
واتیکان به روشنی پتانسیل‌های مثبت هوش مصنوعی را در حوزه‌هایی همچون سلامت، آموزش و گسترش ایمان دینی تشخیص داده است. در عین حال، مسائل اخلاقی دشواری نیز وجود دارد که باید مورد توجه قرار گیرد. آنها امید دارند که روحانیان و رهبران فناوری با یکدیگر همکاری کنند تا مجموعه‌ای از اصول مشترک تدوین شود.
در سال‌های پس از آن، دیدار با پاپ به نوعی آیین عبور برای مدیران نوظهور فناوری بدل شد. از جمله آنها می‌توان به «داریو آمودی» از شرکت آنتروپیک، «آیدن گومز» از کوهیرنس و «مارکوس فلیچ» از شرکت ترا کوانتوم اشاره کرد. فلیچ دیدار با پاپ فرانسیس را «جام مقدس» خود می‌نامد.
فلیچ گفت: «در آن زمان، فضای مثبتی شکل گرفته بود یا به نوعی اجماع وجود داشت که می‌توانیم هوش مصنوعی کلاسیک را برای خیر عمومی ساماندهی و استفاده کنیم. اما باید ساختارهای حکمرانی مناسبی ایجاد کنیم.»
پدر روحانی «اریک سالوبیر»، کشیش دومینیکنی که در برخی جلسات حضور داشت، گفت: «اغلب بازدیدکنندگان با پاپ در مورد ماهیت فناوری و ارتباط آن با امر الهی به گفت‌وگو پرداختند.»
در یکی از جلسات، پاپ فرانسیس وابستگی هوش مصنوعی به محتوای وب به چند زبان محدود، عمدتاً انگلیسی، را با داستان برج بابل مقایسه کرد، جایی که انسان‌های بیش از حد مطمئن به خود، با زبانی واحد قصد ساختن برجی تا آسمان را داشتند، اما خداوند آنها را پراکنده ساخت و پروژه آنها ناکام ماند.
در جلسه‌ای دیگر، پاپ به رهبران فناوری هشدار داد که نباید تصور بر این باشد که چون صرفا داده‌ها می‌توانند رفتار انسان را پیش‌بینی کنند، آنها انسان را به درستی می‌شناسند.
پدر سالوبیر نقل کرد که پاپ گفت: «شما انسان بودن آنها را نخواهید دید، زیرا نمی‌توان انسانیت را به داده‌ها تقلیی داد.»
در سال ۲۰۲۳، تصویری جعلی و تولید شده با هوش مصنوعی از پاپ فرانسیس که یک کاپشن سفید شیک به تن دارد، به یکی از نخستین دیپ‌فیک‌هایی بدل که به‌طور گسترده در فضای مجازی منتشر شد. بسیاری از مردم در سراسر جهان آن را باور کردند.
اواخر همان سال، پاپ درباره‌ی «دیکتاتوری فناورانه» هشدار داد و از دولت‌ها خواست تا یک پیمان بین‌المللی ضروری برای تنظیم‌گری در زمینه هوش مصنوعی تدوین کنند.
در نشستی از اجلاس سران گروه ۷ در سال گذشته، فرانسیس در کنار رئیس جمهور فرانسه، «امانوئل مکرون» و نخست‌وزیر ایتالیا، «جورجیا ملونی» در جلسه کاری با موضوع هوش مصنوعی و انرژی شرکت کرد.
او در سخنرانی خود در اجلاس ۲۰۲۴ رهبران گروه ۷، هوش مصنوعی را «شگفت‌انگیز و در عین حال هولناک» خواند. او هشدار داد که بشر با آینده‌ای بی‌امید روبه‌رو خواهد شد اگر «تصمیم‌گیری توسط ماشین‌ها» جایگزین تصمیمات انسان‌ها درباره‌ی زندگی آنها شود.
در ژانویه‌‌ی امسال، واتیکان در سندی درباره هوش مصنوعی هشدار داد که حتی اگر این فناوری کاربردهای مفیدی داشته باشد، تعداد اندکی از شرکت‌های فناوری می‌توانند ثروت و قدرتی عظیم به دست آورند و این به بهای محرومیت اکثریت مردم خواهد بود. همچنین هشدار داد که ارتش‌ها ممکن است برای توسعه‌ی سلاح‌های خودکار بی‌نیاز از قضاوت یا اخلاق انسانی با یکدیگر رقابت کنند.
کودکان نیز در خطر بزرگ شدن در دنیایی «غیرانسانی» هستند که چت‌بات‌ها راهنمای آنها خواهند بود. پس از درگذشت پاپ فرانسیس در آوریل گذشته، موضوع هوش مصنوعی یکی از بحث‌های مهم در میان کاردینال‌هایی بود که برای انتخاب جانشین او وارد رم شدند.
چندین مقام کلیسایی اروپایی هشدار دادند که هوش مصنوعی در حال تنگ کردن فضای حضور خدا در زندگی مدرن انسان‌هاست. برخی از همتایان آفریقایی آنها نیز نسبت به اشتیاق سیری‌ناپذیر صنعت فناوری به استخراج منابع معدنی زیر خاک سرزمین آنها ابراز نگرانی کردند.
اکنون، همه منتظرند ببینند پاپ لئو چگونه می‌خواهد از اقتدار اخلاقی کلیسا برای پیشبرد قوانین سختگیرانه در زمینه‌ی هوش مصنوعی بهره بگیرد.
کاردینال جوزپه ورسالدی می‌گوید: «این ابزارها نباید شیطانی انگاشته شوند، اما باید تحت نظارت قرار گیرند. سؤال اینجاست که چه کسی آنها را تحت نظارت درمی‌آورد؟ غیرقابل‌باور است که سازندگان این ابزارها مقررات‌گزارش‌های خود باشند. باید یک مرجع برتر و مستقل وجود داشته باشد.»
این گزارش نخستین بار، ۲۷ خرداد ۱۴۰۴ در «وال‌استریت ژورنال» منتشر شده است.
