فانتزی تکنولوژی پشت هوش مصنوعی روی آخرین نفس‌ها می‌چرخد

به عصر «فناوری متوسط» خوش آمدید! این همان چیزی است که می‌خواهم هر بار وقتی کسی با هیجان کودکانه‌ای از من می‌پرسد: «خب، درباره‌ هوش مصنوعی چه نظری داری؟» بگویم؛ هیجانی شبیه پسری که فکر می‌کند امسال تابستان سرانجام قرار است تجربه‌ای بزرگ داشته باشد. من اصلاً «لودیست» (تکنولوژی‌ستیز) نیستم؛ اتفاقاً دقیقاً چون از فناوری‌های نو استفاده می‌کنم، می‌توانم تشخیص دهم چه زمانی با چیزی «متوسط» روبه‌رو هستم.

دانشگاهیان به‌ندرت نماینده‌ خوبی برای کارگران معمولی هستند اما انقلاب «فناوری متوسط» استثناست؛ این انقلاب نخست سراغ ما آمده است. برخی از آن حتی از دل خود ما بیرون آمده‌اند: اختراعات و پژوهش‌های دانشگاهی هیجان‌انگیزی که می‌توانستند واقعاً به جامعه خدمت کنند. با این حال، آنچه تاکنون در دانشگاه دیده‌ایم نشان می‌دهد که کاربردهای هوش مصنوعی در سراسر حوزه‌های کاری و زندگی، خیلی زود رنگ و بوی پوچی و بیهودگی گرفته‌اند.

این گزارش اولین بار در نیویورک‌تایمز منتشر شده است

وعده انقلاب، واقعیت ایمیل‌بازی

بیشتر ما از هوش مصنوعی برای «نجات جان انسان‌ها، به صورت سریع‌تر و بهتر» استفاده نمی‌کنیم بلکه از آن برای بهبودهای سطحی بهره می‌بریم؛ برای مثال برای بیشتر ایمیل زدن؛ حتی پرشورترین مقالات درباره توانمندی هوش مصنوعی در تقویت کارهای اداری، به‌سختی توانسته‌اند مثال‌هایی هیجان‌انگیزتر از این ارائه دهند که: «گزارشی که قبلاً دو روز زمان می‌برد، حالا در دو ساعت نوشته می‌شود!»

بهترین نوآوری فناوری متوسط، یک تهدید است.  هوش مصنوعی یکی از فناوری‌های بسیاری است که وعده‌ تحول از راه تکرار و بهبود تدریجی را می‌دهند، نه از طریق دگرگونی بنیادین. روزی اتوماسیون فروشگاهی وعده داد که مشتریان بتوانند به شکلی بی‌دردسر خرید و خودشان اجناسشان را بسته‌بندی کنند. اما مشخص شد که این اتوماسیون هم چیزی جز «متوسط» نیست؛ صندوق‌داران همچنان در مدیریت فروش بسیار بهترند. به همین ترتیب، شناسایی چهره مبتنی بر هوش مصنوعی نوید داده بود که راهی سریع‌تر و روان‌تر برای احراز هویت در مکان‌هایی مانند فرودگاه‌ها ارائه کند. اما پذیرش آن توسط سازمان امنیت حمل‌ونقل (T. S. A) آن هم با نگرانی‌های حل‌نشده‌ مربوط به حریم خصوصی نه تجربه‌ فرودگاهی را دگرگون کرده و نه صف‌های بازرسی امنیتی را کوتاه‌تر. به طور خلاصه: همه‌چیز همچنان «متوسط» به نظر می‌رسد.

اقتصاددانان «دارون آچموگلو» و «پاسکوال رست‌ریپو» این نوع ناکامی‌های فناورانه را «فناوری‌های متوسط» یا «So-So Technologies» می‌نامند؛ فناوری‌هایی که برخی شغل‌ها را تغییر می‌دهند، مدتی جذاب به نظر می‌رسند و در نهایت به صدایی در پس‌زمینه یا عاملی آزاردهنده تبدیل می‌شوند. مثلاً وقتی مجبورید خرید دو هفته‌ای خود را شخصاً بسته‌بندی کنید.

توهم رادیکالیسم در فناوری‌های پیش‌پاافتاده

هوش مصنوعی به‌ظاهر رادیکال‌تر از اتوماسیون است. میلیاردرهای فناوری به ما وعده می‌دهند که کارگرانی که نتوانند یا نخواهند از هوش مصنوعی استفاده کنند، به عقب رانده خواهند شد. سیاستمداران وعده می‌دهند قوانینی وضع کنند که قدرت هوش مصنوعی را آزاد کند تا کاری انجام دهد؛ هرچند بسیاری از خودشان دقیقاً نمی‌دانند آن کار چیست. مصرف‌کنندگانی که خود را پیشگام می‌دانند، از قدرت پیش‌بینی هوش مصنوعی بسیار بهره می‌برند، اما برای «زندگی در آینده پیش از دیگران» مجبورند نقص‌ها و عملکرد ضعیف آن را بپذیرند.

بقیه ما از این فناوری برای اهدافی بسیار پیش‌پاافتاده‌تر استفاده می‌کنیم. هوش مصنوعی برنامه‌های غذایی تولید می‌کند که مقدار درست مواد مغذی را داشته باشند، به ما می‌گوید تقویم‌هایمان بیش از حد پر شده‌اند و کمک می‌کند ایمیل‌هایی بنویسیم که هیچ‌کس واقعاً مایل به خواندنشان نیست. این است انقلابی «متوسط» برای کارهایی «متوسط».

البته اگر به‌درستی به کار گرفته شود، هوش مصنوعی می‌تواند جان انسان‌ها را نجات دهد. این فناوری در تدوین پروتکل‌های پزشکی و شناسایی الگوها در اسکن‌های رادیولوژی مفید بوده است. اما نکته‌ اساسی اینجاست: چنین هوش مصنوعی‌ای به افرادی نیاز دارد که بلد باشند از آن استفاده کنند. سرعت بخشیدن به تفسیر اسکن‌های رادیولوژی تنها زمانی سودمند است که پزشکی وجود داشته باشد که بتواند براساس آن‌ها اقدام کند. تحلیل کارآمدتر داده‌های تجربی تنها برای متخصصانی مفید است که بلد باشند از تحلیل هوش مصنوعی بهره بگیرند و مهم‌تر از آن، بتوانند کیفیت آن را ارزیابی کنند. انقلابی‌ترین ظرفیت هوش مصنوعی در یاری رساندن به متخصصان برای به‌کارگیری سریع‌تر و بهتر دانش تخصصی‌شان است. اما برای تحقق این امر، وجود متخصصان ضروری است.

تله‌ی «کارگر بی‌سواد» و پرسش‌های هوشمند

این همان خطر بزرگِ تبلیغات اغراق‌آمیز درباره «فناوری متوسط» است. تبلیغات هیچ‌گاه به‌خاطر دقیق بودن پاسخ‌گو نیست بلکه تنها باید جذاب باشد. «مارک کوبان» نمونه بارز این مسئله است؛ او اخیراً در پستی در شبکه اجتماعی «بلواسکای» (Bluesky)، جهانی مبتنی بر هوش مصنوعی را تصور کرد که در آن، یک کارگر با «صفر میزان تحصیلات» از هوش مصنوعی استفاده می‌کند اما یک کارگر ماهر چنین نمی‌کند. به تحلیل کوبان، آن کارگرِ بی‌سواد چون سوار قطار هوش مصنوعی شده و یاد می‌گیرد پرسش‌های درست بپرسد، اغلب به کارمند پربازده‌تری بدل می‌شود، در حالی که کارگر ماهر عقب می‌ماند.

اما مشکل اینجاست؛ پرسیدن پرسش‌های درست، دقیقاً برعکسِ «صفر میزان تحصیلات» را می‌طلبد. شما نمی‌توانید فقط یاد بگیرید که چطور برای یک چت‌بات هوش مصنوعی درخواست (Prompt) بنویسید، بدون آن‌که پیش‌تر تجربه، آگاهی و بله — آموزش — داشته باشید تا بدانید دقیقاً چه می‌کنید. واقعیت و همچنین علم روشن می‌گوید که یادگیری فرایندی انسانی، آشفته و غیرخطی است که در برابر کارآمدسازی مقاومت می‌کند. هوش مصنوعی نمی‌تواند جایگزین آن شود.

انگلِ زیست‌بوم یادگیری

اما هوش مصنوعی یک انگل است. این فناوری خود را به زیست‌بوم پویای یادگیری می‌چسباند و بخش‌هایی از فرایند تصمیم‌گیری را تسریع می‌کند. انگل و میزبان می‌توانند در صلح همزیستی کنند تا زمانی که انگل میزبانش را از گرسنگی نکشد. مشکل سیاسی تبلیغات پیرامون هوش مصنوعی این است که قانع‌کننده‌ترین کاربرد آن دقیقاً همان است که میزبان را می‌خشکاند: معلمان کمتر، مدارک دانشگاهی کمتر، کارگران کمتر و محیط‌های اطلاعاتی سالم کمتر.

من پیش‌تر این نوع «تناقض فناورانه» (Catch-22) را در آموزش عالی دیده‌ام. دانشگاه‌ها مشتریان نهادیِ بزرگ راه‌حل‌های فناورانه هستند. مدارس به «زوم» (Zoom) کمک کردند تا در دوران همه‌گیری کووید-۱۹ و گذار به آموزش از راه دور، رقیبش «اسکایپ» را شکست دهد. زمانی هم مدارس به شرکت اپل کمک کردند تا در دوران افت عملکرد مالی‌اش، درآمد خود را حفظ کند تا بالأخره بازار مصرف‌کننده‌ای برای دستگاه‌هایش پیدا کند. تقریباً تمام انقلاب‌های فناورانه‌ای که قرار است محیط کار آمریکا را دگرگون کنند، پیش‌تر از مسیر دانشگاه‌ها وارد شده‌اند.

با وجود شهرتی که داریم، بیشتر دانشگاهیانی که من می‌شناسم از هر چیزی که به انجام بهتر کارمان کمک کند استقبال می‌کنند. ما در ابتدا با آغوش باز از هوش مصنوعی استقبال کردیم. اما خیلی زود این فناوری به نظر می‌رسید مشکلات بیشتری ایجاد می‌کند تا حل کند. بزرگ‌ترین مشکل برای ما «تقلب» بود.

ماشین‌های پیش‌گویی و تقلب آکادمیک

هر روز آگهی‌های اینترنتی به من نشان می‌دهند که هوش مصنوعی می‌تواند سخنرانی‌ام را پیش‌بینی کند، هم‌زمان آن را رونویسی کند (در حالی که دانشجو احتمالاً مشغول کاری غیر از گوش دادن است)، آن را حاشیه‌نویسی کند، پرسش‌های انشایی، پرسش‌های تحقیقاتی و پرسش‌های امتحانی را پیش‌بینی کند و در نهایت حتی مقاله‌ای را که به دانشجو محول شده، بنویسد. استادان چگونه می‌توانند بهتر از یک «ماشین پیش‌بینیِ تولیدیِ نمایی»، تدریس کنند؟ چگونه می‌توانیم ارزش‌های دانشگاهی مانند ریسک‌پذیری، مطالعه عمیق و صداقت را آموزش دهیم وقتی نادیده گرفتن آن‌ها این‌قدر ساده و ارزان است؟

در ابتدا، دانشگاهیان از تهدید آشکار علیه یکپارچگی علمی به شدت وحشت‌زده شدند. سپس اتفاقی عجیب رخ داد: رویکرد رایج آموزش عالی به هوش مصنوعی از «نگرانی» به «تکمیل‌کننده» تغییر یافت. مردم گفتند: باید با آینده کنار بیاییم، راهی برای ضدتقلب کردن تدریس بیابیم و در همین حین خودمان هم از هوش مصنوعی برای برخی کارها استفاده کنیم. هر دوست دانشگاهی من تاکنون با یک نامه توصیه یا داوری پژوهشی روبه‌رو شده که آشکارا توسط هوش مصنوعی نوشته شده است. این استفاده گسترده و در عین حال «متوسط»، تهدیدی است علیه مدلی که همین حالا هم شکننده اما مهم است: پژوهش‌های داوری‌شده، دانش‌پژوهیِ متفکرانه و تخصصِ تحصیل‌کرده. و این درست همان چیزی است که در عصر «پساحقیقت» نیاز داریم: پژوهش کمتر و پیش‌بینی بیشترِ چیزهایی که دوست داریم بشنویم.

تکرار تاریخ: از MOOCs تا AI

این نخستین بار نیست که نهادها از «نگرانی» به «پذیرش فناوری» تغییر موضع داده‌اند. همین اتفاق در دهه ۲۰۱۰ با «دوره‌های آنلاین باز انبوه» یا MOOCs رخ داد. مبلغان فناوری وعده دادند که دیگر نیازی به این همه استاد نخواهد بود، چراکه یک متخصص می‌تواند به ده‌ها هزار نفر به صورت آنلاین درس بدهد! اما MOOCs هم یک فناوری «متوسط» بودند که به‌سختی می‌توانستند به‌عنوان مکمل عمل کنند چه رسد به اینکه جایگزین «تخصص عمیق» شوند. دریافت اطلاعات هرگز معادلِ توانایی به‌کارگیری آن نیست. اما این مانع از آن نشد که دانشگاه‌ها متخصصان را کاهش دهند یا ویدئوهای آنلاین تولید نکنند. حالا MOOCs از اوج افتاده‌اند اما در بیشتر موارد، متخصصان بازنگشته‌اند.

هوش مصنوعی همین حالا وعده می‌دهد که دیگر نیازی به نهادها یا تخصص نخواهد بود. این فناوری نه‌تنها فرایند نوشتن یک داوری پژوهشی را سرعت می‌بخشد بلکه اساساً الزامِ خواندن یا درک پژوهشی را که قرار است داوری شود، حذف می‌کند. هدف نهایی هوش مصنوعی، طبق ادعای حامیانی مانند کوبان «ارتقای مهارت کارگران» است یعنی آن‌ها را پربازده‌تر کند، در حالی که مدارک دانشگاهی را بی‌اعتبار می‌سازد. به بیان دیگر: هوش مصنوعی خواهان کارگرانی است که بر اساس تخصص تصمیم‌گیری کنند، بدون وجود نهادی که آن تخصص را ایجاد و تأیید کند. تخصص بدون متخصص.

این خیال‌پردازی فناورانه به آخر خط رسیده است. همه می‌دانیم که قرار نیست کار کند. اما این خیال همچنان دانشگاه‌های ریسک‌گریز را مجاب می‌کند و سرمایه‌گذاران مالی را هیجان‌زده می‌سازد زیرا وعده می‌دهد می‌توان یادگیری را کنترل کرد، بدون پرداخت هزینه‌ای که یادگیری واقعی می‌طلبد. فناوری دهه‌هاست انقلاب‌های متوسط خود را متوجه آموزش عالی کرده است، از آموزش تلویزیونی گرفته تا یادآوری‌های تلفن‌های هوشمند. در حال حاضر، هوش مصنوعی همانند همه انقلاب‌های آموزشی فناورانه‌ای است که روی میز من آمده و در تغییر بنیادین شکست خورده‌اند. اغلب آن‌ها به چیزی قناعت می‌کنند که هر فردی با اندکی تفکر انتقادی می‌توانست بگوید: آن‌ها تنها اصلاحات جزئی در فرآیندهای موجود ایجاد می‌کنند. برخی حتی کار بیشتری تولید می‌کنند. تعداد اندکی از آن‌ها کارهای تکراری را کاهش می‌دهند.

سلاحی علیه نیروی کار

انقلاب‌های فناوری متوسط یک ویژگی مشترک دیگر نیز دارند: آن‌ها به‌کارگیری افراد کمتر را توجیه می‌کنند و از بازماندگان می‌خواهند با منابع کمتر کار بیشتری انجام دهند.

اگر می‌خواهید نمونه واقعی کاربرد انقلابی هوش مصنوعی را ببینید، به علوم زیستی یا دانشگاه‌ها نگاه نکنید. به «وزارت به‌اصطلاح کارآمدی دولت» (Department of Government Efficiency) متعلق به ایلان ماسک نگاه کنید که طبق گزارش‌ها در حال بررسی استفاده از هوش مصنوعی برای یافتن اتلاف منابع است. مسئله اینکه آیا کارگران و کارها اتلافی هستند یا خیر، قضاوتی ذهنی است که هوش مصنوعی قادر به انجام آن نیست. اما می‌تواند توجیهی برای آنچه تصمیم‌گیرنده می‌خواهد انجام دهد، فراهم کند. اگر ماسک بخواهد اتلافی پیدا کند، هوش مصنوعی می‌تواند اعدادی به او بدهد که ثابت کند چنین اتلافی وجود دارد.

ممکن است هوش مصنوعی فناوری‌ای متوسط با کاربردهای محدود باشد که نتواند هزینه‌های مالی و زیست‌محیطی خود را توجیه کند. اما ابزاری فوق‌العاده برای تضعیف روحیه کارگرانی است که می‌توانند در چشم برهم‌زدنی دیجیتال، به‌عنوان «اتلاف» طبقه‌بندی شوند. هرچه که هوش مصنوعی بالقوه می‌تواند باشد، در این محیط سیاسی بیشترین قدرتش زمانی است که علیه روحیه کارگران به کار رود.

چنین فناوری متوسطی، در یک دنیای آرمانی، باید سرنوشتی شبیه تلویزیون‌های کلاسی و MOOCs پیدا می‌کرد. جایگاه خود را می‌یافت، اندکی شیوه کار کارکنان دفتری را تغییر می‌داد و آمریکایی‌ها بیشتر وعده‌اش برای دگرگون کردن زندگی را فراموش می‌کردند.

اما اکنون در جهانی زندگی می‌کنیم که در آن «قدرت سیاسی برابر با حقانیت است». تبلیغات چندماهه DOGE برای هوش مصنوعی نشان می‌دهد که قدرت چه تفاوتی می‌تواند برای یک فناوری متوسط ایجاد کند. این فناوری لازم نیست متحول‌کننده باشد تا زندگی و کار ما را تغییر دهد. در دستان نادرست، فناوری متوسط تبدیل به چکشی ضدکارگر می‌شود.