تحلیل اکونومیست از هشدار پاپ نسبت به هوش مصنوعی

این متن با بیش از ۴۲ هزار کلمه (به‌اندازه یک رمان کوتاه)، به مسائل متعددی می‌پردازد؛ شاید حتی بیش از حد. پاپ خواستار روزنامه‌نگاری مبتنی بر درستی‌سنجی (fact-checked) و دیپلماسی چندجانبه است. او بابت محکومیت دیرهنگام برده‌داری توسط نهاد پاپ عذرخواهی می‌کند. وی مفهوم «جنگ عادلانه» را که اخیراً توسط «جی. دی. ونس»، معاون رئیس‌جمهور آمریکا برای توجیه حمله به ایران به‌کاررفته بود، «منسوخ» اعلام می‌کند. بااین‌حال، هدف محوری این سند، به چالش کشیدن توسعه کنترل‌نشده هوش مصنوعی است.

این امر مقامات اتحادیه اروپا را که برای اعمال محدودیت بر فناوری‌ای که حتی توسط توسعه‌دهندگانش نیز تنها تا حدودی درک شده، با دشواری مواجه بوده‌اند، خرسند خواهد کرد. در میان دعوت‌شدگان برای شرکت در مراسم رونمایی از Magnifica Humanitas در واتیکان، «کریس اولا» هم‌بنیان‌گذار آنتروپیک نیز حضور داشت. او با بیان اینکه وی و سایر پژوهشگران با جنبه‌هایی از مدل‌های توسعه‌یافته‌شان روبه‌رو می‌شوند که «مرموز و حتی نگران‌کننده» است، لحنی هشدارآمیز به بحث افزود.

بااین‌وجود، این بیانیه چیزی فراتر از یک درخواست برای قانون‌گذاری مؤثر یا به تعبیر پاپ لئو، «خلع سلاحِ» هوش مصنوعی است. در هسته فلسفی خود، این متن یک تکذیبیه بر دو دیدگاه رایج در سیلیکون‌ولی و جامعه فناوری پیرامون سرنوشت بشریت است: ترنس‌اومانیسم (تراانسان‌گرایی) و پست‌اومانیسم (پساانسان‌گرایی). لئو مورد اول را به‌عنوان رویکردی که «ارتقای موجودات انسانی از طریق فناوری‌ها» نظیر مهندسی بدن، دستگاه‌ها و الگوریتم‌ها را متصور است، توصیف می‌کند و مورد دوم را «پیوند و هیبریداسیون انسان، ماشین و محیط‌زیست» می‌داند. پست‌اومانیسم در اشکال افراطی خود، چشم‌انتظار نقطه‌ای است که در آن «بشریت در یک مرحله تکاملی جدید از خود فراتر می‌رود». اگرچه لئو از این اصطلاح استفاده نمی‌کند، اما متخصصان فناوری اغلب از آن با عنوان «تکینگی» (Singularity) یاد می‌کنند.

به گفته پاپ لئو، آنچه ترانس‌اومانیسم و پست‌اومانیسم را به هم پیوند می‌دهد، اشتیاق برای «بهینه‌سازیِ ادعاییِ گونه‌ها» است. این همان هدفِ جنبش اصلاح نژاد (eugenics) در قرن بیستم نیز بود که در میان نازی‌ها و فاشیست‌ها محبوبیت داشت. Magnifica Humanitas استدلال می‌کند که ترانس‌اومانیسم و پست‌اومانیسم خطرات مشابهی را به همراه دارند: «اگر با انسان به‌عنوان موجودی رفتار شود که باید کامل شده یا از آن فراتر رود، پذیرش این مسئله که برخی زندگی‌ها کمتر مفید، کمتر مطلوب یا کمتر ارزشمند هستند، آسان‌تر می‌شود. در این صورت، ممکن است توجیهِ «فداکاری‌های ضروری» به نام پیشرفت آغاز شود.»

پاپ لئو استدلال می‌کند که نقص‌ها جزء لاینفک بشریت هستند که «نه علی‌رغم محدودیت‌هایش، بلکه اغلب از طریق آن‌ها شکوفا می‌شود». در این بخش، پاپ در پرحرارت‌ترین حالت خود قرار دارد؛ او می‌نویسد: «ما در درون خود بارِ درس‌هایی را به دوش می‌کشیم که مانند جای زخم رد خود را به جا می‌گذارند؛ خاطرات سفری که با آزادی و شکست شکل گرفته است. تنها به لطف تعامل این عناصر است که شگفتی‌های روح در درون ما رخ می‌دهد.» اصل کلام این است که «بشریت، با تمام عظمت و جراحاتش هرگز نباید جایگزین شود یا از آن فراتر رفت.»

این بیانیه شبیه به شلیک آغازین در یک جنگِ قلمروِ فلسفی به نظر می‌رسد. خوش‌بینی فناورانه سیلیکون‌ولی چشم‌انتظار یک لحظه آخرالزمانی است که در آن انسان‌ها ویژگی‌های خداگونه پیدا می‌کنند. این فرجام‌شناسی به نظر می‌رسد که از روایت مسیحی الگوبرداری شده، اما با این تفاوت که محتوای درونی آن تخلیه و با چیز دیگری جایگزین شده است. پاپ هیچ علاقه‌ای به جهان‌بینی‌ای ندارد که ظهور «هوش جامع مصنوعی» (AGI) را در قالب مفاهیم منجی‌گرایانه (messianic) می‌بیند. اینکه بسیاری از مشتاقان هوش مصنوعیِ متمایل به جریان MAGA، مانند «پیتر تیل» (سرمایه‌گذار تأثیرگذار فناوری)، مسیحیانی پرشور هستند، بر پیچیدگی و حرارت این بحث می‌افزاید.

بااین‌وجود، پاپ لئو تأکید می‌کند که ضدفناوری نیست؛ برعکس، «توسعه فناوری به طور قابل‌توجهی شرایط زندگی بشریت را بهبود بخشیده است.» همچنین ممکن است این توسعه، خروجیِ نوشتاری برخی از مقامات واتیکان را نیز افزایش داده باشد. پاپ‌های امروزی بیانیه‌ها را از ابتدا تا انتها خودشان نمی‌نویسند، بخش‌های روتین‌تر به زیردستان واگذار می‌شود و بر اساس تحلیلی از «لینچ ژانگ»، یک وبلاگ‌نویس حوزه فناوری، به نظر می‌رسد بخش‌هایی از Magnifica Humanitas توسط هوش مصنوعی و به طور خاص توسط Claude نوشته شده است. دست‌پرورده آنتروپیک دارای ویژگی‌های سبکی خاصی است، مانند علاقه به کلمه «genuinely» (حقیقتاً / اصالتاً) که در این بیانیه نیز بازتاب یافته است. یک ابزار تشخیص متن هوش مصنوعی به نام Pangram، حدود ۱۱ درصد از متنِ ۲۰ پاراگراف ابتدایی را به‌عنوان تولیدشده توسط هوش مصنوعی شناسایی کرد. همین آزمایش روی بیانیه‌های قبلی نتیجه صفر درصد را نشان داده بود.

گزارش حاضر در نسخه Mat 30^th 2026 نشریه The Economist منتشر شده است.