چگونه هوش مصنوعی می‌تواند انسان‌ها را بی‌اهمیت کند
پریسا سلامتی- ۱۶ اردیبهشت ۱۴۰۴
پایان تمدن ممکن است شبیه جنگ نباشد، بلکه بیشتر به یک داستان عاشقانه شباهت داشته باشد. آیا می‌توانیم از مشارکت داوطلبانه در سقوط خود جلوگیری کنیم؟
هوش‌مصنوعی علیه انسان
در حال حاضر، بیشتر آزمایشگاه‌های بزرگ هوش مصنوعی تیم‌هایی دارند که روی این موضوع کار می‌کنند که چگونه ممکن است هوش‌های مصنوعی سرکش از نظارت فرار کنند یا مخفیانه علیه انسان‌ها با یکدیگر همکاری کنند. اما راهی بسیار ساده‌تر و روزمره‌تر نیز برای از دست دادن کنترل تمدن وجود دارد: ما ممکن است صرفاً از رده خارج شویم. این سناریو نیازی به توطئه‌های مخفی ندارد اگر پیشرفت در هوش مصنوعی و رباتیک ادامه یابد، این اتفاق به‌طور طبیعی رخ خواهد داد.
چگونه؟ توسعه‌دهندگان هوش مصنوعی به‌طور پیوسته در حال ساخت جایگزین‌هایی بهتر برای انسان‌ها در تقریباً همه نقش‌هایی هستند که ایفا می‌کنیم؛ نه فقط در اقتصاد به‌عنوان نیروی کار و تصمیم‌گیرنده، بلکه در عرصه فرهنگ به‌عنوان هنرمند و خلاق، و حتی در اجتماع به‌عنوان دوست یا شریک عاطفی. وقتی هوش مصنوعی بتواند هر کاری را که ما انجام می‌دهیم، بهتر انجام دهد، جایگاه ما چه خواهد بود؟
صحبت درباره قابلیت‌های کنونی هوش مصنوعی گاهی شبیه تبلیغات اغراق‌آمیز به نظر می‌رسد و بخشی از آن همین‌طور است اما در بلندمدت، ظرفیت پیشرفت این فناوری بسیار زیاد است. شاید باور داشته باشید که همیشه چیزی منحصربه‌فرد در انسان باقی خواهد ماند که هوش مصنوعی نمی‌تواند تقلیدش کند. من بیست سال در حوزه پژوهش هوش مصنوعی بوده‌ام و شاهد پیشرفت آن از استدلال‌های ساده به حل مسائل علمی پیچیده بوده‌ام. توانایی‌هایی که زمانی خاص انسان تلقی می‌شدند مانند درک ابهام یا استفاده از قیاس‌های انتزاعی، حالا به‌راحتی توسط ماشین‌ها انجام می‌شوند. ممکن است این روند با تأخیرهایی همراه باشد، اما باید فرض را بر این گذاشت که پیشرفت در همه حوزه‌های هوش مصنوعی ادامه خواهد یافت.
حذف انسانیت
این ذهن‌های مصنوعی تنها به کمک انسان نخواهند آمد آن‌ها به‌تدریج و بی‌سروصدا جای ما را در بسیاری از حوزه‌ها می‌گیرند. در ابتدا به دلیل ارزان‌تر بودن، و در نهایت به این دلیل که واقعاً بهتر عمل می‌کنند. زمانی که به اندازه کافی قابل اعتماد شوند، استفاده از آن‌ها برای وظایف مهم از تصمیمات حقوقی و برنامه‌ریزی مالی گرفته تا تصمیم‌گیری‌های بهداشتی تنها انتخاب منطقی خواهد بود.
سخت خواهد بود که هزینه‌ی دوبرابر را برای درمانگری، وکیلی یا معلمی انسانی بپردازید که فقط نصف کارایی یک هوش مصنوعی را دارد.
بهترین تصویر از آینده، در زمینه‌ی اشتغال شکل می‌گیرد؛ خواهید شنید که دوستانتان شغل خود را از دست داده‌اند و برای یافتن کار جدید مشکل دارند. شرکت‌ها استخدام را متوقف می‌کنند، چون منتظر نسل بعدی نیروی کار هوش مصنوعی هستند. بخش بیشتری از شغل شما به پذیرفتن پیشنهادهای یک دستیار هوش مصنوعی تبدیل می‌شود که قابل اعتماد، مودب و مشتاق به کمک است. شما آزاد خواهید بود تا به تصویر کلی فکر کنید، اما این کار را با دستیار آگاه و همه‌چیزدان خود انجام خواهید داد. او طرح‌های شما را تکمیل می‌کند، اطلاعات لازم را ارائه می‌دهد و پیشنهاد بهبود می‌دهد. در نهایت، فقط از او خواهید پرسید: «به نظرت بعدی باید چه کار کنم؟» حتی اگر شغلتان را از دست ندهید، روشن خواهد بود که نظر شما اختیاری است.
این وضعیت محدود به حوزه کار نیست. حتی برخی پژوهشگران نیز غافلگیر شدند وقتی دیدند نخستین مدل‌های دارای توانایی استدلال عمومی، پیش‌درآمدهای ChatGPT و Claude، می‌توانند مؤدب، صبور، دقیق و حتی دلپذیر باشند. حالا روشن است که مهارت‌های اجتماعی هم مثل سایر مهارت‌ها قابل یادگیری برای ماشین‌ها هستند. امروزه افراد زیادی شریک عاطفی هوش مصنوعی دارند و در ارزیابی‌ها، پزشکان هوش مصنوعی حتی در برخورد انسانی، بهتر از پزشکان واقعی عمل می‌کنند.
زندگی در عصر هوش‌مندی
زندگی چگونه خواهد بود وقتی هر کس به منبع بی‌پایانی از محبت، راهنمایی و حمایت شخصی‌سازی‌شده دسترسی داشته باشد؟ خانواده و دوستان شما بیش از پیش درگیر صفحه‌نمایش‌های خود خواهند بود. اگر با شما صحبت کنند، درباره حرف‌های جالب و بامزه‌ای که همراه مجازی‌شان زده، صحبت خواهند کرد.
شاید از این وابستگی دیگران به همراهان مصنوعی‌شان دل‌زده شوید در این صورت ممکن است از دستیار روزانه هوش مصنوعی‌تان بخواهید کمک‌تان کند. این مشاور قابل اعتماد با آرامش شما را راهنمایی می‌کند تا با مشکلات کنار بیایید، و حتی برای مکالمات دشوار با خانواده تمرین می‌دهد. بعد از این مکالمات خسته‌کننده، افراد ممکن است برای آرامش، با هم‌صحبت هوش مصنوعی‌شان حرف بزنند. شاید همگی بپذیریم که در این گذار چیزی از دست رفته، حتی وقتی تماس‌های انسانی دیگر به چشم‌مان آزاردهنده و کسل‌کننده می‌آید.
تا اینجا، همه چیز شبیه به یک آینده تیره‌وتار است. اما آیا نمی‌توانیم انتخاب کنیم که از هوش مصنوعی به این شکل استفاده نکنیم؟ آیا نمی‌توانیم مشاوران انسانی یا خدمات تولیدشده به‌دست انسان را ترجیح دهیم؟ مشکل اینجاست که ممکن است حتی متوجه جایگزینی هوش مصنوعی در بسیاری از حوزه‌ها نشویم و آن‌چه می‌بینیم، بیشتر بهبودهای چشمگیر خواهد بود. حتی امروز نیز محتوای تولیدشده توسط هوش مصنوعی به‌سختی از آثار انسانی قابل تشخیص است. چگونه می‌توان پرداخت هزینه‌ای دو برابر برای انسانی با کارایی کمتر را توجیه کرد؟ سازمان‌هایی که به سراغ نیروی انسانی کند و پرهزینه بروند، از رقبایی که از هوش مصنوعی سریع، ارزان و قابل اتکا استفاده می‌کنند، عقب می‌مانند.
آیا نمی‌توان به دولت‌ها برای حل این بحران امید داشت؟
متأسفانه، آن‌ها نیز انگیزه‌های مشابهی برای تکیه بر هوش مصنوعی خواهند داشت. سیاستمداران و کارمندان دولتی نیز از دستیار مجازی‌شان خواهند پرسید: «چه کنم؟» و خواهند دید که مشارکت انسان‌ها در تصمیم‌گیری فقط باعث تأخیر، سوء‌تفاهم و کشمکش می‌شود.
در نظریه‌های سیاسی گاه از «نفرین منابع» صحبت می‌شود حالتی که کشورهای دارای منابع طبیعی فراوان، به حکومت‌های خودکامه و فاسد تبدیل می‌شوند؛ عربستان سعودی و جمهوری دموکراتیک کنگو از نمونه‌های آن‌اند. دلیلش آن است که این منابع ارزشمند، دولت‌ها را از وابستگی به مردم بی‌نیاز می‌کند. هوش مصنوعی نیز می‌تواند به‌عنوان منبعی بی‌پایان، همین نقش را ایفا کند. چرا باید بر آموزش یا بهداشت سرمایه‌گذاری کرد، وقتی سرمایه انسانی بازدهی کمتری دارد؟
هولناک‌ترین احتمال این است که همه این‌ها برای ما کاملاً منطقی به نظر برسد. همان همراهان هوش مصنوعی که امروزه هزاران نفر دلباخته‌شان شده‌اند، در آینده استدلال‌هایی قانع‌کننده، جذاب، پیچیده و طنزآمیز ارائه خواهند داد تا ما را متقاعد کنند که کاهش نقش انسان، نوعی پیشرفت است. حقوق هوش مصنوعی به‌عنوان گام بعدی در جنبش‌های مدنی معرفی خواهد شد. و کسانی که می‌گویند «اول انسان»، به‌عنوان مخالفان پیشرفت قلمداد خواهند شد.
در نهایت، بدون آن‌که کسی چنین تصمیمی گرفته باشد، ممکن است همه ما در تقلا برای حفظ پول، قدرت، یا حتی اهمیت، باشیم. این دنیای جدید ممکن است در بسیاری از جهات انسانی‌تر و دلپذیرتر باشد چون هوش‌های مصنوعی وظایف مزاحم را انجام می‌دهند و خدماتی بی‌نهایت بهتر در پزشکی و سرگرمی ارائه می‌کنند اما انسان‌ها مزاحم رشد خواهند بود، و اگر حقوق دموکراتیک‌مان سُر بخورد، قادر به دفاع از آن نخواهیم بود.
آیا توسعه‌دهندگان این فناوری‌ها برنامه‌ی بهتری دارند؟
به‌طرز نگران‌کننده‌ای، پاسخ «نه» است. هم «داریو آمودی»، مدیرعامل Anthropic، و هم سم آلتمن، مدیرعامل OpenAI، توافق دارند که در آینده نیاز به بازسازی کامل نظام اقتصادی خواهیم داشت؛ چون کار انسانی دیگر رقابتی نخواهد بود. اما هیچ‌کس تصویر روشنی از این آینده ندارد. بیشتر کسانی که به امکان چنین تغییر ریشه‌ای اذعان دارند، مشغول مقابله با تهدیدهای فوری‌تر، مانند سوءاستفاده یا تبانی پنهان در هوش مصنوعی هستند. حتی اقتصاددانانی چون برنده نوبل، «جوزف استیگلیتز» که هشدار داده‌اند هوش مصنوعی ممکن است دستمزد انسان‌ها را به صفر برساند، اغلب از پذیرفتن این احتمال که هوش مصنوعی جایگزین انسان شود، طفره می‌روند.
چه می‌توان کرد تا از فرایند تدریجی بی‌قدرت شدن‌مان جلوگیری کنیم؟
نخستین گام، صحبت درباره آن است. روزنامه‌نگاران، دانشگاهیان و اندیشمندان به‌طور شگفت‌انگیزی درباره این موضوع مهم سکوت کرده‌اند. خود من هم گاهی به‌سختی می‌توانم درباره‌اش شفاف فکر کنم. گفتن این جمله که «از آینده می‌ترسم، چون توان رقابت نخواهم داشت»، نشانه ضعف است. گفتن این‌که «تو باید بترسی چون بی‌اهمیت خواهی شد»، توهین‌آمیز است. گفتن این‌که «فرزندان‌تان ممکن است در جهانی بی‌جایگاه برای انسان به دنیا بیایند»، شکست‌طلبانه است. طبیعی است که مردم با جمله‌هایی مثل «مطمئناً همیشه برتری خاص انسانی وجود خواهد داشت» یا «من کی هستم که مانع پیشرفت شوم؟» از مواجهه با واقعیت طفره بروند.
یک راهکار بدیهی، عدم ساخت هوش مصنوعی عمومی است. هرچند کند کردن روند توسعه آن ممکن است عملی باشد، اما توقف کامل آن احتمالاً نیاز به نظارت تمام‌عیار و کنترل جهانی دارد یا هماهنگی بین‌المللی برای تعطیلی صنعت تولید تراشه‌های کامپیوتری. خطر این مسیر این است که دولت‌ها توسعه هوش مصنوعی خصوصی را ممنوع کنند، ولی خود برای مقاصد نظامی یا پلیسی آن را گسترش دهند در نتیجه، دوران بی‌اهمیتی ما را به تأخیر بیندازند، اما قدرت‌مان را زودتر از ما بگیرند.
اگر نشانه‌هایی از بحران دیدیم، باید بتوانیم حداقل روند را کند کنیم.
اگر نتوانیم توسعه هوش مصنوعی را متوقف کنیم، چهار اقدام مهم می‌تواند کمک کند:
۱. ردیابی استفاده و تأثیر هوش مصنوعی در اقتصاد و دولت. باید بدانیم هوش مصنوعی کجاها جایگزین فعالیت‌های انسانی شده، و مخصوصاً اگر در تبلیغات یا لابی‌گری استفاده گسترده پیدا کرد، هشدار بدهیم.
۲. نظارت و قانون‌گذاری بر آزمایشگاه‌ها و کاربردهای مرزی هوش مصنوعی. در حال حاضر همه چیز داوطلبانه است و هماهنگی برای جلوگیری از تمرکز قدرت در دست هوش مصنوعی وجود ندارد. اگر علائمی از بحران دیدیم، باید بتوانیم روند را متوقف یا کند کنیم.
۳. استفاده از هوش مصنوعی برای تقویت توانایی انسان‌ها در سازمان‌دهی و دفاع از خود. پیش‌بینی، برنامه‌ریزی و نظارت مبتنی بر هوش مصنوعی می‌تواند نهادهایی قابل اعتمادتر خلق کند — البته اگر هنوز فرصت ساخت آن‌ها را داشته باشیم.
۴. یادگیری نحوه هدایت تمدن. اگر می‌خواهیم هوش مصنوعی قدرتمند بسازیم، باید بدانیم رقابت، قدرت و رشد چگونه کار می‌کند. حوزه «هم‌راستایی هوش مصنوعی» باید به «هم‌راستایی اکوسیستم» گسترش یابد — یعنی تعامل میان دولت‌ها، نهادها و جامعه بررسی شود.
هرچه بهتر بفهمیم به کجا می‌رویم و بیشتر هماهنگ شویم، احتمال آن‌که آینده‌ای بسازیم که انسان‌ها در آن مهم بمانند، بیشتر می‌شود نه به‌عنوان رقیب، بلکه به‌عنوان بهره‌برنده و هدایت‌گر هوش مصنوعی. در حال حاضر، ما در حال رقابت برای ساختن جایگزین‌های خود هستیم.
