زیستن در جامعه دستیاران هوشمند

هوش مصنوعی اکنون همه‌جا حضور دارد. در سه سالی که از انتشار ChatGPT می‌گذرد، هوش مصنوعی از یک نوآوریِ سرگرم‌کننده در مرورگرها، به‌نوعی زیرساختِ پس‌زمینه تغییر ماهیت داده است. این فناوری اکنون گوش‌های شنوا در اتاق معاینه، شریک خاموش در اتاق مدیران ارشد و نویسنده همکار و بی‌نام‌ونشانِ دستورالعمل‌های آموزشی کلاس درس است. College Board گزارش می‌دهد که در حال حاضر ۸۴ درصد از دانش‌آموزان دبیرستانی برای تکالیف مدرسه خود از هوش مصنوعی استفاده می‌کنند. برای مدیران و هیئت‌مدیره‌ها، چشم‌انداز نیروی کار ارزانِ این فناوری غیرقابل‌مقاومت است؛ بر اساس گزارش شرکت تحقیقاتی Gartner میزان هزینه‌کرد در حوزه هوش مصنوعی در سال گذشته به ۱.۸ تریلیون دلار رسیده است. در این میان، هزینه‌های زیست‌محیطی نیز وجود دارد. یک مرکز داده متمرکز بر هوش مصنوعی می‌تواند به‌اندازه ۱۰۰ هزار خانه برق مصرف کند و مراکزی حتی بزرگ‌تر از این نیز در حال ساخت هستند. آن‌طور که پیداست، این «فضای ابری» بسیار سنگین است.

ظهور هوش مصنوعی اغلب به‌عنوان نبرد انسان در برابر ماشین به تصویر کشیده می‌شود، اما این دیدگاه، اصل ماجرا را نادیده می‌گیرد. واقعیتِ امروز، ترکیب انسان به‌علاوه ماشین است که تحت محدودیت‌های بودجه‌ای، در نهادهای دارای نقص نهادی و با تغذیه از داده‌های ناقص عمل می‌کند. درحالی‌که شرکت‌ها برای تولید مدل‌های پیچیده‌تر با یکدیگر رقابت می‌کنند و در آرزوی دستیابی به هوش مصنوعیِ هم‌تراز با هوش انسانی هستند، این کاربردهای پیش‌پاافتاده و روزمره این فناوری است که بیشترین تأثیر را می‌گذارد. یک پزشک بالینی ممکن است کار طاقت‌فرسای مستندسازی را به یک «دستیار نگارش محیطی» (Ambient Scribe) محول کند و بدین ترتیب بتواند به‌جای خیره‌شدن به مانیتور کنار تخت، مستقیماً در چشمان بیمارش نگاه کند. یک مرکز تماس می‌تواند در ساعت ۳ بامداد به ۳۵ زبان پاسخگو باشد، بدون آنکه به ارتشی از کارکنان چندزبانه شیفت شب نیاز داشته باشد.

بااین‌حال، خطر اصلی اینجاست که آسیب‌ها سریع‌تر از مزایا مقیاس‌پذیر شوند و گسترش پیدا کنند. فناوری Deepfake، هوش مصنوعی را به یک سلاح شخصی تبدیل می‌کند و یک ویدئوی دستکاری‌شده می‌تواند اعتبار فرد را مدت‌ها پیش از آنکه کسی بتواند منشأ آن را ثابت کند، از بین ببرد. پدیده «توهم» (Hallucination) در هوش مصنوعی، می‌تواند در یک تکلیف مدرسه‌ای تنها یک دردسر جزئی باشد، اما در یک یادداشت بالینی، به یک ادعای خطرناک تبدیل شود. حتی زمانی که هیچ‌کس سوءنیتی ندارد، این مشارکت نحوه قضاوت افراد را تغییر می‌دهد. خروجی‌های سیستم با اطمینان‌خاطری بی‌مورد ظاهر می‌شوند؛ گویی حاصل تفکری دقیق و سنجیده‌اند. یک «دستیار هوشمند» مبتنی بر هوش مصنوعی، کار و همچنین مسئولیت قانونی را بازتوزیع می‌کند. آنچه به‌عنوان «دستیار» فروخته می‌شود، اغلب به یک نیروی «ناظر» تغییر شکل می‌دهد. این فناوری موهبت سرعت را به ارمغان می‌آورد، اما درعین‌حال تعداد دفعاتی را که انسان باید در مورد اعتماد به پیشنهاد سیستم تصمیم‌گیری کند، چندین برابر می‌کند.