جنبشی تحسین‌برانگیز اما خطرناک
نوع‌دوستی مؤثر، بزرگ‌ترین ایده قرن هوش مصنوعی
سید محمدجواد فیاض
- ۲۱ مهر ۱۴۰۵
«اندیشه پیش از عمل می‌آید، همان‌گونه که آذرخش پیش از غرش رعد می‌آید.» این جمله را «هاینریش هاینه»، شاعر آلمانی نوشته بود. در مورد «نوع‌دوستی مؤثر» (Effective Altruism) یا EA نیز همین‌گونه بوده است؛ آموزه‌ای اخلاقی که فیلسوفانی در آکسفورد آن را تدوین کردند و با سرعتی چشمگیر از برج عاج دانشگاه‌ها به راهروهای قدرت راه یافت.
حالا نوع‌دوستان مؤثر سراسر سیلیکون‌ولی را گرفته‌اند، در شرکت‌های پیشرو هوش مصنوعی جهان حضور دارند و اکنون دولت ترامپ را نگران کرده‌اند. پنتاگون وعده می‌دهد: «ایالات متحده هرگز کشوری نوع‌دوستِ مؤثر نخواهد بود.» وزیر جنگ این فلسفه را «نوع‌دوستی معیوب» می‌نامد و برخی دیگر در دولت آن را «پادآرمان‌شهری» می‌خوانند. این حملات را باید نشانه‌ای از نفوذ آن دانست.
برخی گلایه می‌کنند که قرن بیست‌ویکم شاهد اندیشه‌های جدید چندانی نبوده است. در این خلأ، جریان‌هایی مانند MAGA و متحدانش ظهور کرده‌اند و پوپولیسم نوستالژیک را به پروژه سیاسی بزرگ این قرن تبدیل کرده‌اند. اما ایده بزرگ این قرن، نوع‌دوستی مؤثر است. آنچه در دهه ۲۰۰۰ به‌عنوان روشی نخبه‌گرایانه و عجیب برای اثربخش‌تر کردن کمک‌های خیریه آغاز شد، به جنبشی تبدیل شده است که جهان را در معرض محاسبات اخلاقی پیچیده و حتی عجیب‌وغریب قرار می‌دهد. برای بسیاری از پیروان این جنبش، یک ضرورت اخلاقی الزامی برای افرادی که می‌خواهند کار نیکی انجام دهند این است که مانع نابودی بشریت به دست هوش مصنوعی شوند.
نوع‌دوستی مؤثر از نظر جامعه‌شناختی نیز اهمیت دارد. تعداد نوع‌دوستان مؤثر زیاد نیست، اما این ایده نسلی از جوانان بااستعداد را با خود همراه کرده است؛ جوانانی که از رمزارزها و هوش مصنوعی ثروت‌های هنگفتی به دست آورده‌اند. با خلق میلیاردرهای بیشتر به‌واسطه این فناوری، نوع‌دوستان مؤثر میلیاردها دلار را به سمت اهدافی هدایت خواهند کرد که جامعه را شکل می‌دهند. نوع‌دوستان مؤثر در راه‌اندازی OpenAI و آنتروپیک نقش داشتند؛ با این باور که کسانی که خطرات هوش مصنوعی را درک می‌کنند باید توسعه آن را کنترل کنند. تا حدی، اکنون همین اتفاق افتاده است؛ هرچند، به شکلی طعنه‌آمیز آن‌ها با ایجاد آزمایشگاه‌های بیشتر و در نتیجه افزایش رقابت، احتمالاً روند پیشرفت هوش مصنوعی را تسریع کرده‌اند.
همه این‌ها اکنون نوع‌دوستی مؤثر را به موضوعی سیاسی تبدیل کرده است. دولت ترامپ بیم دارد که این جنبش در مهار هوش مصنوعی موفق شود. این دولت بر سر امتناع آنتروپیک از اجازه‌دادن به استفاده از مدل‌هایش در برخی اهداف نظامی، با این شرکت وارد مناقشه شده است. نوع‌دوستان مؤثر برجسته اذعان دارند که هوش مصنوعی ممکن است در نهایت فواید عظیمی به همراه داشته باشد، اما همچنان خواهان کند کردن روند توسعه آن هستند تا احتمال این وضعیت کاهش یابد که یک «ذهن ماشینی» مهارنشدنی در pursuit اهدافی که با اهداف بشریت «ناهمسو» هستند، از کنترل خارج شود.
مخالفت دادگاه با توقف قراردادن نام Anthropic در فهرست سیاه
ارتش ایالات متحده استفاده از ابزارهای پیشرفته هوش مصنوعی در جنگ علیه ایران را تأیید کرد
پنتاگون رسماً Anthropic را به‌عنوان ریسک زنجیره تأمین ایالات متحده معرفی کرد
برخی منتقدان در آمریکا ترجیح می‌دهند این فناوری را با سرعت بیشتری توسعه دهند تا از پیروزی چین در این رقابت جلوگیری کنند. اما وقتی به مقابله با بدبینی افراطی درباره هوش مصنوعی می‌پردازند، برایشان آسان‌تر است که به‌جای خودِ موضوع، با نخبگان فنی و جریان فکری آن درگیر شوند. آن‌ها می‌گویند نوع‌دوستی مؤثر جنبشی متشکل از متعصبان است که به شیوه‌های مختلف، غیردموکراتیک، خطرناک و فرقه‌گونه است.
تماس ناگهانی ترامپ با جنسن هوانگ:
وقتی رئیس‌جمهور آمریکا زنگ زد و روی اسپیکر از هوش مصنوعی دفاع کرد
این توصیف بیش از حد ساده‌انگارانه است. ریشه‌های خیریه این جنبش آشکارا شایسته تحسین است. نوع‌دوستان مؤثر، مانند اکونومیست به تجربه‌گرایی و به‌ویژه از زمانی که با جامعه آنلاین «خردگرا» درآمیختند، به کاربرد تفکر منطقی متعهدند. آن‌ها عقل را بیش از سنت یا هنجارها ارج می‌نهند و با اشتیاق درباره هر موضوعی، هرقدر هم بحث‌برانگیز باشد، در جست‌وجوی حقیقت به بحث می‌پردازند.
چرا آزمایشگاه‌های بزرگ هوش مصنوعی این‌همه فیلسوف استخدام می‌کنند؟
چرا فلسفه در عصر هوش مصنوعی دوباره اهمیت پیدا کرده است؟
هوش چت‌بات را با خودآگاهی اشتباه نگیرید
مسئله فقط فناوری نیست، روایتِ فهم آن نیز مهم است
سایه جنبش فکری خردگرایی بر سر هوش مصنوعی؛ تا چه حد باید همین حالا از هوش مصنوعی بترسیم؟
موفقیت‌های مکرر نوع‌دوستان مؤثر در پیش‌بینی پیشرفت سریع هوش مصنوعی نیز چشمگیر بوده است. آن‌ها درباره خطرات این فناوری برای بشریت نکته مهمی را مطرح می‌کنند. در ۲۸ سپتامبر، OpenAI برنامه انتشار جدیدترین مدل خود را پس از آنکه در آزمایش‌ها بیش از حد خطرناک به نظر رسید، لغو کرد. بسیاری از حوادث ایمنی اخیر شباهت زیادی به سناریوهای ترسناکی دارند که سال‌ها پیش در وبلاگ‌های مرتبط با نوع‌دوستی مؤثر مطرح شده بودند.
بااین‌حال، منتقدان در هشدار درباره اینکه نوع‌دوستان مؤثر به برخی نتایج عجیب می‌رسند، حق دارند. نوع‌دوستان مؤثر، مانند فیلسوفان فایده‌گرای پیش از خود، رفتار اخلاقی را به یک مسئله بهینه‌سازی تقلیل می‌دهند. انسان‌ها چگونه می‌توانند بهترین پیامدها را برای بشریت به‌عنوان یک کل رقم بزنند؟ محاسبات آن‌ها الزامات درونی‌ای مانند «به وعده‌هایت عمل کن» یا «مراقب خانواده‌ات باش» را کم‌اهمیت می‌کند. آنچه اهمیت دارد، کاهش رنج، به‌صورت بی‌طرفانه و در همه‌جا است.
این رویکرد باعث می‌شود دایره بسیار گسترده‌ای از دغدغه‌ها وارد محاسبات اخلاقی آن‌ها شود. به‌سادگی می‌توان فهمید که اخلاقی بودن به معنای کمک به همسایه‌تان است. اما نوع‌دوستان مؤثر می‌پرسند: چرا نباید به همان اندازه برای کمک به کسانی که در نقاط دوردست زندگی می‌کنند تلاش کرد؟ این جنبش در نخستین سال‌های خود، ارتشی از افراد بسیار موفق را تشویق کرد تا مشاغل پردرآمدی در حوزه مالی و مشاوره به دست آورند. ثروت آن‌ها می‌توانست برای انجام امور خیر هزینه شود و در مقایسه با زمانی که خودشان به کارکنان مؤسسات خیریه تبدیل می‌شدند، دستاوردهای بیشتری ایجاد کند.
اما هرچه این جنبش قدرتمندتر شده، عجیب‌تر نیز شده است. برخی نوع‌دوستان مؤثر تمایز اخلاقی میان انسان‌ها و سایر حیوانات را ضعیف می‌دانند، زیرا حیوانات نیز رنج را تجربه می‌کنند. متوقف‌کردن دامداری صنعتی و کمک به میگوها از دغدغه‌های مهم آن‌هاست. در مورد زمان نیز رویکرد آن‌ها خلاف شهود متعارف است. کسانی که هنوز متولد نشده‌اند نیز باید در این محاسبات لحاظ شوند و تعداد آن‌ها ممکن است به تریلیون‌ها نفر برسد. بسیاری از نوع‌دوستان مؤثر «آینده‌نگر» (longtermist) هستند و خود را موظف می‌دانند از خطرات آینده دوردست جلوگیری کنند، حتی اگر این کار به بهای محروم‌کردن اهداف خیرخواهانه امروزی، مانند کمک به فقیرانی باشد که در شرایطی فلاکت‌بار زندگی می‌کنند.
اگر این محاسبات به افراط کشیده شود، می‌تواند به‌نوعی اخلاق منجر شود که نه‌فقط خلاف شهود، بلکه نفرت‌انگیز است. برخی نوع‌دوستان مؤثر معتقدند حیات حشرات، در مجموع، ارزشمندتر از حیات انسان‌هاست، زیرا تعداد حشرات بسیار زیاد است. برخی می‌گویند بهتر است شرایطی فراهم شود که تریلیون‌ها انسان متولد شوند که زندگی‌هایشان تنها اندکی ارزش زیستن داشته باشد، تا اینکه صرفاً میلیاردها انسانی وجود داشته باشند که واقعاً زندگی‌های خوبی دارند. برخی دیگر حتی معتقدند رفاه خودِ هوش‌های مصنوعی نیز روزی اهمیت حیاتی خواهد داشت. آن‌ها منابع را به سمت انسان‌های آینده یا موجودات غیرانسانی آینده هدایت خواهند کرد و از انسان‌هایی که امروز رنج می‌کشند دور خواهند کرد.
احترام‌گذاشتن به عقل و استدلال درست است. اما فیلسوفان اخلاق، از ارسطو تا رالز، می‌دانستند که اگر استدلالی به نتایجی تحمل‌ناپذیر منجر شود، باید گام معیوبی در جایی از آن پنهان شده باشد. بااین‌حال، غریزه نوع‌دوستان مؤثر این است که از نتایج خلاف شهود لذت ببرند، حتی اگر این نتایج منحرف و نامعقول به نظر برسند. یکی از مشکلات، حاشیه خطایی است که ناگزیر همراه با استدلال‌های نوع‌دوستانه مؤثر وجود دارد. هیچ‌کس واقعاً قادر نیست دوراهی‌های اخلاقی مربوط به میلیاردها انسان در زمان حال را به‌درستی وزن‌دهی کند، چه رسد به محاسبات عظیمی که تا آینده امتداد دارند و در آن‌ها تعداد نامشخص افراد، نرخ‌های تنزیل، پیشرفت فناوری و بی‌شمار متغیر دیگر دخیل‌اند. مشکل دیگر این است که انقراض چنان فاجعه‌بار است که در یک حساب‌وکتاب اخلاقی خام، حتی احتمال اندکی از وقوع آن می‌تواند بر دغدغه‌های ملموس انسان‌های امروز غلبه کند.
مشکل سوم این است که وقتی منافع میلیاردها انسان را با یکدیگر مقایسه و وزن‌دهی می‌کنید، کرامت ذاتی فرد را از نظر دور می‌کنید. هرکس که صفحه گسترده‌ای در دست داشته باشد و ادعاهایی بزرگ‌نمایانه درباره آینده بشریت مطرح کند، تنها یک گام با تبدیل‌شدن به یک برنامه‌ریز مرکزی فاصله دارد. وقتی اقتدار اخلاقی در اختیار کسی قرار گیرد، حقوق، رفاه و دیدگاه‌های یک همسایه ممکن است بی‌اهمیت به نظر برسد.
گفته می‌شود انقلاب فرانسه بر پایه عقل و استدلال بنا شده بود؛ اما به اعدام راهبه‌ها انجامید. لنین نیز معتقد بود روشنفکرانی که مارکسیسم را به‌خوبی فراگرفته‌اند، منافع کارگران را بهتر از خود کارگران درک می‌کنند. اگر واقعاً باور داشته باشید که از جانب همه مردم، چه رسد به تریلیون‌ها انسان آینده، عمل می‌کنید، ممکن است در نهایت هر نوع جنایتی را توجیه کنید.
خوشبختانه، بعید است نوع‌دوستان مؤثر به این زودی‌ها گیوتین را دوباره به کار بیندازند. نگرانی اصلی این است که کنترل هوش مصنوعی در نهایت قدرت زیادی در اختیار آن‌ها قرار دهد و اینکه شمار قابل‌توجهی از نوع‌دوستان مؤثر در سیلیکون‌ولی معتقد باشند تنها خودشان شایسته اعتماد برای در اختیار داشتن این فناوری هستند. این ایده‌ای نگران‌کننده است. استدلال نوع‌دوستان مؤثر برای نگرانی درباره هوش‌های مصنوعی بسیار قدرتمند این است که ماشین‌ها ممکن است یک هدف واحد و به طرزی مرگبار اشتباه را بهینه‌سازی کنند. همه ما باید نگران این موضوع نیز باشیم که وقتی گروه کوچکی از انسان‌ها گرفتار همین دام شوند، چه اتفاقی خواهد افتاد.
گزارش حاضر در نسخه October 3rd 2026 نشریه The Economist منتشر شده است.
