آیا ما در «عصر طلایی حماقت» زندگی می‌کنیم؟

به نقل از گاردین وقتی وارد آزمایشگاه رسانه مؤسسه فناوری ماساچوست (MIT) در کمبریج آمریکا می‌شوید احساس می‌کنید آینده کمی نزدیک‌تر شده است.

لمس آینده

در ویترین‌های شیشه‌ای، نمونه‌هایی از اختراعات عجیب و شگفت‌انگیز به نمایش گذاشته شده‌اند؛ از ربات‌های کوچک رومیزی گرفته تا مجسمه‌ای سوررئالیستی که یک مدل هوش مصنوعی با فرمان طراحی «ست چای از اعضای بدن» ساخته است. در لابی، دستیار هوش مصنوعی تفکیک زباله‌ای به نام «اسکار» (Oscar) می‌تواند به شما بگوید فنجان قهوه مصرف‌شده‌تان را کجا بیندازید.

پنج طبقه بالاتر، «ناتالیا کاسمینا» (Nataliya Kosmyna) پژوهشگر علمی، روی رابط‌های مغز-رایانه پوشیدنی کار می‌کند که امیدوار است روزی به افرادی که به دلیل بیماری‌های تحلیل‌برنده عصبی مانند اسکلروز جانبی آمیوتروفیک (ALS) نمی‌توانند صحبت کنند، امکان ارتباط ذهنی بدهد. کاسمینا بخش زیادی از زمانش را صرف مطالعه و تحلیل وضعیت مغزی انسان‌ها می‌کند. یکی دیگر از پروژه‌های او دستگاهی پوشیدنی است شبیه به عینک است که می‌تواند تشخیص دهد فرد چه زمانی دچار سردرگمی یا کاهش تمرکز شده است. حدود دو سال پیش، او شروع به دریافت ایمیل‌هایی غیرمنتظره از غریبه‌هایی کرد که گزارش می‌دادند از مدل‌های زبانی بزرگ مانند ChatGPT استفاده کرده‌اند و احساس می‌کنند مغزشان تغییر کرده است و حافظه‌شان مثل قبل نیست. آیا چنین چیزی ممکن است؟

خود کاسمینا نیز از سرعتی که مردم به هوش مصنوعی مولد وابسته شدند، شگفت‌زده بود. او متوجه شد همکارانش در محل کار از ChatGPT استفاده می‌کنند و حتی درخواست‌هایی که از پژوهشگران برای پیوستن به تیمش دریافت می‌کرد، تغییر کرده بود. ایمیل‌ها طولانی‌تر و رسمی‌تر شده بودند و گاهی هنگام مصاحبه با داوطلبان در زوم، متوجه می‌شد آن‌ها پیش از پاسخ‌دادن مکث می‌کنند و به کنار نگاه می‌اندازند. آیا در همان لحظه از هوش مصنوعی کمک می‌گرفتند؟ و اگر از هوش مصنوعی استفاده می‌کردند، چقدر از پاسخ‌هایی که می‌دادند را واقعاً می‌فهمیدند؟

اصطکاک مغزی

به همراه همکارانی در MIT، کاسمینا آزمایشی ترتیب داد که در آن با استفاده از نوار مغزی (EEG) فعالیت مغز افراد در هنگام نوشتن مقاله؛ در سه حالت شامل بدون کمک دیجیتال، با کمک موتور جست‌وجو و با کمک ChatGPT بررسی می‌شد. او دریافت هرچه میزان کمک بیرونی بیشتر باشد، سطح اتصال عصبی مغز پایین‌تر است؛ بنابراین کسانی که با ChatGPT می‌نوشتند، فعالیت بسیار کمتری در شبکه‌های مغزی مرتبط با پردازش شناختی، تمرکز و خلاقیت نشان می‌دادند. به بیان دیگر، هرچند کاربران ChatGPT احساس می‌کردند ذهنشان فعال است، اسکن‌ها نشان می‌داد در واقع مغزشان چندان فعالیتی ندارد.
از شرکت‌کنندگان این پژوهش که همگی دانشجوی MIT یا دانشگاه‌های اطراف بودند بلافاصله پس از تحویل کارشان پرسیده شدند آیا می‌توانند چیزی از نوشته خود را به‌خاطر بیاورند. کاسمینا می‌گوید: «تقریباً هیچ‌کدام از گروه ChatGPT نتوانستند حتی یک جمله نقل کنند و این نگران‌کننده است، چون همین‌الان آن را نوشته و هیچ‌چیزی یادشان نیست.»

کاسمینا توضیح می‌دهد که نوشتن مقاله مهارت‌هایی را درگیر می‌کند که در زندگی روزمره نیز حیاتی‌اند؛ توانایی ترکیب اطلاعات، بررسی دیدگاه‌های مختلف و ساختن استدلال و از همین مهارت‌ها در گفت‌وگوهای روزمره استفاده می‌کنید. این آزمایش کوچک بود (۵۴ شرکت‌کننده) و هنوز مورد داوری علمی قرار نگرفته است. بااین‌حال، کاسمینا در ماه ژوئن سال جاری میلادی آن را به‌صورت آنلاین منتشر کرد تا شاید برای پژوهشگران دیگر جالب باشد؛ بی‌آنکه بداند در حال ایجاد یک جنجال رسانه‌ای جهانی است. کاسمینا علاوه بر درخواست‌های خبرنگاران، بیش از ۴۰۰۰ ایمیل از سراسر جهان دریافت کرد، بسیاری از سوی معلمان خسته و مضطرب که احساس می‌کردند دانش‌آموزانشان دیگر درست یاد نمی‌گیرند؛ چون با ChatGPT تکالیف خود را انجام می‌دهند. آن‌ها نگران بودند که هوش مصنوعی نسلی بسازد که می‌تواند کار قابل‌قبولی تولید کند، اما هیچ دانش واقعی یا درکی از مطالب ندارد. به عقیده کاسمینا مسئله اساسی این است که به‌محض دردسترس‌بودن فناوری‌ای که زندگی را آسان‌تر می‌کند، ما به لحاظ تکاملی تمایل داریم از آن استفاده کنیم و می‌گوید: «مغز ما عاشق میان‌برهاست؛ این در ذات ماست. اما مغز برای یادگیری به اصطکاک (friction) نیاز دارد. باید چالشی وجود داشته باشد.»

اگر مغز به اصطکاک نیاز دارد؛ اما به طور غریزی از آن دوری می‌کند، جالب است که وعده فناوری همواره ایجاد تجربه‌ای «بدون اصطکاک» بوده است؛ تجربه‌ای که تضمین کند وقتی از اپی به اپ دیگر یا از صفحه‌ای به صفحه دیگر می‌رویم، هیچ مقاومتی احساس نکنیم. همین تجربه بی‌اصطکاک است که باعث می‌شود بی‌اختیار اطلاعات و کار بیشتری را به دستگاه‌های دیجیتال بسپاریم؛ دلیل اینکه افتادن در «سوراخ‌های خرگوشی اینترنت» آسان و بیرون آمدن از آن دشوار است؛ و دلیل اینکه هوش مصنوعی مولد تا این حد سریع در زندگی بیشتر مردم جا بازکرده است.

ما از تجربه جمعی‌مان می‌دانیم که وقتی به فضای سایبری فوق‌کارآمد عادت می‌کنیم، دنیای واقعی پر از اصطکاک سخت‌تر به نظر می‌رسد. بنابراین از تماس تلفنی اجتناب می‌کنیم، از دستگاه‌های خودپرداز و پرداخت خودکار استفاده می‌کنیم، همه چیز را از طریق اپ سفارش می‌دهیم، گوشی را برمی‌داریم تا جمع ساده‌ای که می‌توانیم در ذهن انجام دهیم را محاسبه کنیم، پیش از یادآوری یک واقعیت آن را جست‌وجو می‌کنیم یا مقصد را در گوگل‌مپ وارد می‌کنیم و از نقطه A تا B در حالت خودکار می‌رویم. شاید دیگر کتاب نخوانیم، چون حفظ تمرکز طولانی‌مدت شبیه اصطکاک است؛ شاید حتی آرزوی خودروی خودران داشته باشیم. آیا این همان آغاز آن چیزی است که نویسنده و کارشناس آموزش، «دیسی کریستودولو» (Daisy Christodoulou)، آن را «جامعه احمق‌زا» (stupidogenic society) می‌نامد؟ مشابه جامعه چاق‌زا (obesogenic society)، که در آن احمق شدن آسان است چون ماشین‌ها به جای تو فکر می‌کنند؟

شرکت‌های هوش مصنوعی مصمم‌اند محصولات خود را پیش از آنکه ما هزینه‌های روانی و شناختی آن را به‌درستی درک کنیم، به عموم عرضه کنند.  

هوش انسانی بیش از آن گسترده و متنوع است که بتوان آن را با واژه‌ای چون «احمق» خلاصه کرد، اما نشانه‌های نگران‌کننده‌ای وجود دارد که این آسایش دیجیتال بهایی سنگین دارد. در کشورهای توسعه‌یافته عضو سازمان همکاری و توسعه اقتصادی (OECD)، شاخص «پیسا» (Pisa) که توانایی خواندن، ریاضی و علوم در نوجوانان ۱۵ساله را می‌سنجند، در سال ۲۰۱۲ به اوج خود رسید. درحالی‌که در قرن بیستم، نمرات IQ به طور جهانی افزایش‌یافته بود که احتمالاً به دلیل بهبود دسترسی به آموزش و تغذیه بهتر بود؛ ولی اکنون در بسیاری از کشورهای توسعه‌یافته به نظر می‌رسد روندی کاهشی داشته باشد.

افت نمرات آزمون‌ها و ضریب هوشی موضوع بحث‌های داغی است. آنچه سخت‌تر می‌توان درباره‌اش تردید داشت، این است که با هر پیشرفت فناورانه، وابستگی ما به ابزارهای دیجیتال عمیق‌تر می‌شود و کارکردن، به‌خاطر سپردن، تفکر و حتی عملکرد مستقل بدون آن‌ها برایمان دشوارتر می‌شود. در دنیای آنلاینِ بی‌پایان و بی‌اصطکاک، شما پیش از هر چیز یک کاربر منفعل و وابسته هستید. در عصر نوظهور اطلاعات نادرست تولیدشده توسط هوش مصنوعی و دیپ‌فیک‌ها، چطور قرار است شک‌گرایی (scepticism) و استقلال فکری مورد نیازمان را حفظ کنیم؟ تا زمانی که به این نتیجه برسیم ذهن ما دیگر متعلق به خودمان نیست و بدون کمک فناوری نمی‌توانیم شفاف فکر کنیم، چه مقدار از ما باقی‌مانده که بتواند مقاومت کند؟

اگر به مردم بگویید نگرانید که ماشین‌های هوشمند با مغز ما چه می‌کنند، خطرش این است که در آینده‌ای نه‌چندان دور، همه به شما بخندند و بگویند چقدر «عقب‌مانده» بوده‌اید. سقراط نگران بود که نوشتن باعث تضعیف حافظه انسان‌ها شود و تنها به درک سطحی منجر گردد نه خرد، بلکه «توهم خرد»؛ استدلالی که شباهت عجیبی با بسیاری از نقدهای امروزی هوش مصنوعی دارد. اما آنچه در واقع رخ داد، این بود که نوشتن و پیشرفت‌های فناورانه بعدی از چاپ گرفته تا رسانه‌های جمعی و عصر اینترنت باعث شدند افراد بیشتری به حجم بیشتری از اطلاعات دسترسی پیدا کنند. آدم‌های بیشتری توانستند ایده‌های بزرگ‌تری پرورش دهند، آن‌ها را آسان‌تر به اشتراک بگذارند و همین ما را به‌عنوان فرد و جامعه، باهوش‌تر و نوآورتر کرد.

در نهایت، نوشتن فقط نحوه دسترسی و حفظ اطلاعات را تغییر نداد؛ بلکه شیوه تفکر ما را هم دگرگون کرد. انسان با داشتن دفتر و قلم می‌تواند کارهای پیچیده‌تری انجام دهد تا بدون آن‌ها. بیشتر مردم نمی‌توانند در ذهن خود ۵۳۶۸۳ را بر ۷ تقسیم کنند، اما روی کاغذ می‌توانند محاسبات طولانی را انجام دهند. انسان‌ها در آنچه متخصصان «تخلیه شناختی» (cognitive offloading) می‌نامند بسیار ماهرند؛ یعنی استفاده از محیط فیزیکی برای کاهش بار ذهنی و این به ما کمک می‌کند وظایف شناختی پیچیده‌تری انجام دهیم. تصور کنید زندگی روزمره بدون تقویم یا یادآورهای گوشی چقدر سخت می‌شد یا بدون گوگل، که همه چیز را به خاطر می‌سپارد. در بهترین حالت، انسان‌های باهوش در همکاری با ماشین‌های هوشمند می‌توانند به دستاوردهای فکری جدیدی برسند و مسائل دشوار را حل کنند و همین حالا هم می‌بینیم که هوش مصنوعی به دانشمندان کمک می‌کند داروهای جدید را سریع‌تر کشف کنند و پزشکان بتوانند سرطان را زودتر و دقیق‌تر تشخیص دهند.

اما مسئله اینجاست: اگر فناوری واقعاً ما را باهوش‌تر می‌کند و ما را به ماشین‌های کارآمد پردازشگر اطلاعات بدل می‌سازد؛ پس چرا این‌قدر احساس حماقت می‌کنیم؟

توجه جزئی پیوسته

سال گذشته، عبارت «پوسیدگی مغز» (brain rot)به‌عنوان واژه سال از سوی انتشارات دانشگاه آکسفورد انتخاب شد؛ اصطلاحی که هم احساس خاص بی‌فکریِ ناشی از وقت‌گذرانی بیش از حد در محتوای بی‌ارزش آنلاین و هم خودِ محتوای مخرب و احمقانه یعنی میم‌های بی‌معنی و آشفتگی زبانیِ تولیدشده توسط هوش مصنوعی را توصیف می‌کند. وقتی تلفن همراه خود را در دست داریم، در ظاهر بیشتر دانش انباشته جهان را در نوک انگشتان خود داریم؛ پس چرا این‌همه وقت صرف مرور مزخرفات می‌کنیم؟

یکی از دلایل این است که ابزارهای دیجیتال ما برای کمک به تفکر شفاف‌تر طراحی نشده‌اند؛ تقریباً همه چیز در فضای آنلاین برای جلب و کسب درآمد از توجه ما طراحی شده است. هر بار که گوشی‌تان را برمی‌دارید تا کاری ساده و مفید مثلاً بررسی اخبار انجام دهید؛ مغز شکارگر-گردآورنده بدوی شما در برابر صنعتی چندمیلیارددلاری قرار می‌گیرد که هدفش منحرف‌کردن مسیر شما و نگه‌داشتن توجهتان به هر قیمتی است. اگر استعاره «کریستودولو» را گسترش دهیم، همان‌طور که یکی از ویژگی‌های «جامعه چاق‌زا» وجود «بیابان‌های غذایی» است؛ یعنی مناطقی که در آن نمی‌توان غذای سالم پیدا کرد، در بخش‌های زیادی از اینترنت هم «بیابان‌های اطلاعاتی» داریم، جایی که تنها غذای مغزی در دسترس، زباله است.

چندوظیفگی دیجیتال به شما حس کاذب کنترل بر امور می‌دهد، بدون آنکه هیچ‌چیز را واقعاً به انجام برسانید.

در اواخر دهه ۹۰، «لیندا استون» (Linda Stone)، مشاور فناوری و استاد دانشگاه نیویورک، متوجه شد دانشجویانش از فناوری به‌گونه‌ای متفاوت از همکارانش در مایکروسافت استفاده می‌کنند. همکارانش در مایکروسافت منظم بودند و روی دو صفحه کار می‌کردند، مثلاً یکی برای ایمیل‌ها و دیگری برای ورد یا اکسل اما دانشجویانش سعی داشتند بیست کار را هم‌زمان انجام دهند. او اصطلاح «توجه جزئی پیوسته» (continuous partial attention) را ابداع کرد تا حالتی استرس‌زا و ناخودآگاه را توصیف کند که در آن انسان می‌کوشد میان چند فعالیت ذهنی دشوار جابه‌جا شود.

چندوظیفگی دیجیتال به ما حس کاذب بهره‌وری می‌دهد، اما اغلب این یک توهم است. استون می‌گوید: «احساس می‌کنی بر اوضاع مسلطی، درحالی‌که هیچ‌چیز را واقعاً تمام نکرده‌ای.» این وضعیت همچنین باعث اضطراب دائمی می‌شود و در یکی از پژوهش‌هایش دریافت ۸۰ درصد از افراد هنگام بررسی ایمیل دچار «توقف تنفس یا آپنه صفحه‌نمایش» (screen apnea) می‌شوند؛ یعنی آن‌قدر در اعلان‌ها غرق می‌شوند که فراموش می‌کنند درست نفس بکشند. استون می‌گوید: «سیستم جنگ یا گریز بدن فعال می‌ماند، چون مدام در تلاش هستی اوضاع را کنترل کنی.» این هوشیاری بیش از حد، هزینه‌های شناختی دارد؛ باعث می‌شود فراموش‌کارتر شویم، تصمیم‌های بدتری بگیریم و تمرکزمان کاهش یابد.

«توجه جزئی پیوسته» هم وجود خود محتوای سطحی آنلاین را توضیح می‌دهد و هم حالت ذهنی «پوسیدگی مغز» را؛ چون مگر چیزی جز فرسودگی شناختی است؟ نقطه‌ای که در آن مقاومت در برابر هجوم حواس‌پرتی دیجیتال را رها می‌کنی و اجازه می‌دهی مغزت در آب‌های گرم و گل‌آلود اینترنت شناور بماند. در نهایت، آنچه برای شرکت‌های فناوری از نظر مالی اهمیت دارد، این نیست که شما واقعاً بخواهید چیزی را بخوانید، گوش دهید یا تماشا کنید؛ بلکه اینکه نتوانید یا نخواهید از آن جدا شوید. به همین دلیل است که سرویس‌های استریم مانند نتفلیکس فیلم‌های تکراری تولید می‌کنند که با عنوان « casual viewing» عرضه می‌شوند و عملاً برای بینندگانی طراحی شده‌اند که واقعاً تماشا نمی‌کنند و پلی‌لیست‌های اسپاتیفای پر از موسیقی‌های کلیشه‌ایِ بی‌نام و نشان است تا برای شنوندگانی که واقعاً گوش نمی‌دهند، پس‌زمینه‌ای با حال‌وهوای «ریلکس» یا «پارتی» فراهم کند.

به‌طورکلی، اینترنت مدرن لزوماً شما را احمق نمی‌کند؛ اما قطعاً شما را طوری تربیت می‌کند که مثل یک احمق رفتار کنید.

فضای هوش مصنوعی

در چنین فضایی بود که هوش مصنوعی مولد با پیشنهادی کاملاً تازه ظهور کرد. تا همین اواخر، شما فقط می‌توانستید وظیفه «به‌خاطر سپردن» یا «پردازش داده‌ها» را به فناوری واگذار کنید؛ اما حالا می‌توانید خودِ «فکرکردن» را هم برون‌سپاری کنید. باتوجه‌به این‌که بیشتر زندگی‌مان را در حالتی از تحریک بیش از حد و آشفتگی ذهنی سپری می‌کنیم، جای تعجب ندارد که بسیاری از مردم از این فرصت استقبال کرده‌اند تا کارهایی را که روزی خودشان انجام می‌دادند؛ مانند نوشتن گزارش‌های کاری، ایمیل‌ها یا برنامه‌ریزی برای تعطیلات را به کامپیوتر بسپارند. در گذار از دوران اینترنت به دوران هوش مصنوعی، ما نه‌تنها حجم بیشتری از اطلاعات کم‌ارزش و بیش از حد پردازش‌شده را مصرف می‌کنیم، بلکه اطلاعاتی را دریافت می‌کنیم که از پیش هضم شده و به‌گونه‌ای ارائه می‌شود که عمداً از عملکردهای مهم انسانی مانند ارزیابی، فیلترکردن و خلاصه‌سازی اطلاعات یا تأمل واقعی بر روی یک مسئله به‌جای پذیرش اولین پاسخ ارائه‌شده عبور می‌کند.

«مایکل گرلیک» (Michael Gerlich)، رئیس «مرکز آینده‌پژوهی راهبردی و پایداری شرکت‌ها» در مدرسه کسب‌وکار سوئیس (SBS – Swiss Business School)، مطالعه‌ای را درباره تأثیر هوش مصنوعی مولد بر تفکر انتقادی را آغاز کرد؛ چون متوجه شد کیفیت بحث‌های کلاسی افت کرده است. او می‌گوید گاهی تمرین‌های گروهی برای دانشجویان تعیین می‌کرد، اما آن‌ها به‌جای گفتگو با یکدیگر، در سکوت نشسته و به لپ‌تاپ‌هایشان نگاه می‌کردند. گرلیک با دیگر مدرسان صحبت کرد و آن‌ها هم پدیده‌ای مشابه را گزارش دادند. او اخیراً مطالعه‌ای بر روی ۶۶۶ نفر از گروه‌های سنی مختلف انجام داد و دریافت افرادی که بیشتر از هوش مصنوعی استفاده می‌کنند، در آزمون‌های تفکر انتقادی نمرات پایین‌تری می‌گیرند. (البته او یادآور می‌شود که پژوهش فعلی فقط رابطه‌ای همبستگی بین این دو نشان می‌دهد؛ مثلاً ممکن است افرادی که توانایی تفکر انتقادی پایین‌تری دارند، تمایل بیشتری به اعتماد به هوش مصنوعی داشته باشند.)

آیا مدارس توانایی پرورش متفکران خلاق را دارند یا قرار است نظام آموزشی، ربات‌های بی‌فکرِ مقاله‌نویسِ هوش مصنوعی تحویل جامعه دهد؟ گرلیک مانند بسیاری از پژوهشگران معتقد است اگر از هوش مصنوعی به‌درستی استفاده شود، می‌تواند ما را باهوش‌تر و خلاق‌تر کند؛ اما شیوه‌ای که بیشتر مردم از آن بهره می‌برند، نتیجه‌ای یکنواخت، بی‌روح و گاه با خطاهای واقعی به همراه دارد. یکی از نگرانی‌ها «اثر لنگر» (anchoring effect) است؛ وقتی سؤالی از یک مدل مولد می‌پرسید، پاسخی که دریافت می‌کنید ذهن شما را در مسیر خاصی هدایت می‌کند و احتمال درنظرگرفتن راه‌های جایگزین را کاهش می‌دهد.
او مثالی می‌زند: «فرض کنید یک شمع دارید. هوش مصنوعی می‌تواند به شما کمک کند آن شمع را بهتر کنید؛ درخشان‌تر، بادوام‌تر، ارزان‌تر و زیباتر اما هرگز آن را به «لامپ» تبدیل نخواهد کرد.» برای گذر از شمع به لامپ، به انسانی نیاز دارید که توانایی تفکر انتقادی دارد؛ کسی که بتواند با رویکردی بی‌نظم، خلاق و غیرقابل‌پیش‌بینی به حل مسئله بپردازد. وقتی شرکت‌ها مانند آنچه در بسیاری از محیط‌های کاری رخ‌داده، ابزارهایی چون «کوپایلوت» را بدون آموزش درست عرضه می‌کنند، در واقع خطر آن را به وجود می‌آورند که تیم‌هایی از «شمع‌سازان قابل‌قبول» بسازند، درحالی‌که جهان به «لامپ‌های با کارایی بالا» نیاز دارد.

مسئله بزرگ‌تر این است که بزرگسالانی که از هوش مصنوعی به‌عنوان میان‌بُر استفاده می‌کنند، دست‌کم در دورانی تحصیل کرده‌اند که هنوز نمی‌شد با کامپیوتر تکالیف را نوشت. در یک نظرسنجی جدید در بریتانیا مشخص شد ۹۲ درصد از دانشجویان دانشگاه‌ها از هوش مصنوعی استفاده می‌کنند و حدود ۲۰ درصد از آن برای نوشتن تمام یا بخشی از تکالیف خود بهره گرفته‌اند.
در چنین شرایطی، واقعاً چقدر یاد می‌گیرند؟ آیا مدارس و دانشگاه‌ها هنوز توانایی پرورش متفکران خلاق و اصیل را دارند تا جوامعی هوشمندتر بسازند یا نظام آموزشی در حال ایجاد ارتشی از ربات‌های ساده‌لوحِ مقاله‌نویسِ هوش مصنوعی است؟

در واقع، آنچه با این فناوری‌ها در حال وقوع است، نوعی «آزمایش روی کودکان» است.

تا پیش از همه‌گیری کرونا، بسیاری از معلمان به‌درستی نسبت به مزایای افزایش فناوری در کلاس تردید داشتند. اما با اجبار مدارس به آموزش آنلاین، شرایط تازه‌ای ایجاد شد و پلتفرم‌هایی مانند Google Workspace for Education، Kahoot! و Zearn به‌سرعت فراگیر شدند. با گسترش هوش مصنوعی مولد، وعده‌های تازه‌ای نیز مطرح شد: آموزش شخصی‌سازی‌شده، کاهش بار کاری معلمان و حتی «انقلاب در یادگیری». اما تقریباً تمام پژوهش‌هایی که مزایای فناوری آموزشی را گزارش می‌کنند، توسط خودِ صنعت فناوری‌های آموزشی تأمین مالی شده‌اند؛ درحالی‌که تحقیقات مستقل در مقیاس بزرگ نشان می‌دهد زمان زیاد صرف‌شده پای صفحه‌نمایش، مانع یادگیری می‌شود.

یک مطالعه جهانی از OECD نشان داد هرچه دانش‌آموزان بیشتر از فناوری در مدرسه استفاده کنند، نتایجشان بدتر می‌شود. «وین هولمز» (Wayne Holmes)، استاد «مطالعات انتقادی هوش مصنوعی و آموزش» در کالج دانشگاهی لندن عنوان می‌کند: «در واقع، چیزی که در حال وقوع است، آزمایش‌کردن روی بچه‌هاست. هیچ مدرک مستقلی در مقیاس بزرگ وجود ندارد که نشان دهد این ابزارها واقعاً مؤثرند. آدم‌های عاقل وقتی کسی به آن‌ها می‌گوید “یه داروی جدید دارم که خیلی خوبه”، فوراً از آن استفاده نمی‌کنند. ما از داروها انتظار داریم آزمایش شوند، توسط متخصصان تجویز شوند. اما ناگهان وقتی پای فناوری آموزشی در میان است که ظاهراً برای مغزهای درحال‌رشد کودکان مفید است گویا دیگر نیازی به این دقت نیست!»

نگرانی‌های فقط به‌خاطر اینکه دانش‌آموزان مدام با دستگاه‌هایشان حواس‌پرت می‌شوند نیست، بلکه چون در دنیایی که پاسخ سریع همیشه در دسترس است، دیگر مهارت تفکر انتقادی و دانش عمیق در آن‌ها شکل نمی‌گیرد. معلمان اعتراف می‌کنند قبلاً وقتی از بچه‌ها می‌پرسیدم آمریکا از نظر سرانه تولید ناخالص داخلی در چه رتبه‌ای قرار دارد، آن‌ها با هم بحث می‌کردند و معلم راهنمایی‌شان می‌کرد. اما حالا قبل از تمام‌شدن سؤال، یکی جواب را گوگل کرده. آن‌ها می‌دانند دانش‌آموزان به طور مداوم از ChatGPT استفاده می‌کنند و اگر نسخه دیجیتال تکلیفشان را نگیرند ناراحت می‌شوند، چون مجبور می‌شوند سؤال را تایپ کنند، نه اینکه آن را کپی و در ChatGPT یا گوگل پیست کنند. گوگل کردن و دادن پاسخ درست، دانش محسوب نمی‌شود. داشتن دانش واقعی باعث می‌شود وقتی چیزی مشکوک یا نادرست می‌شنوی، فکر کنی.

اینترنت همین حالا پر از تئوری‌های توطئه و اطلاعات غلط است و با ظهور محتوای ساختگی هوش مصنوعی، اوضاع بدتر خواهد شد. به‌زعم متخصصان نسل جوان اصلاً برای مواجهه با این موج آماده نیستند. شاید «عصر طلایی حماقت» از آنجایی آغاز نمی‌شود که ما در برابر ماشین‌های ابرهوشمند تسلیم می‌شویم، بلکه از جایی شروع می‌شود که قدرت را به ماشین‌های احمق می‌سپاریم.