نقش جدید هوش مصنوعی: نقد کتاب را به ربات‌ها بسپارید

یکی از بزرگ‌ترین وعده‌های دانشمندان نوعی فناوری است که بتواند مسئولیت انجام کارهای خسته‌کننده و طاقت‌فرسا را بر عهده گیرد. اما نقد کتاب هم کاری خسته‌کننده به حساب می‌‎آید؟

در قرن‌های 19 و 20، تجهیزات و ماشین‌آلات صنعتی، انسان را از انجام کارهای یدی مکرر و کمرشکن در مزارع نجات داد. در عصر حاضر، هوش مصنوعی با ایفای نقش در بسیاری از عملیات توانسته مزایای بسیاری را به ارمغان بیاورد (از جمله مدیریت لیست‌آهنگ‌های سیستم‌های پخش موسیقی از قبیل اسپاتیفای، انتخاب ویدئوی بعدی در یوتیوب، تمیز کردن کفِ اتاق‌ها و غیره)، اما هوش مصنوعی کماکان قادر به انجام طیف کثیری از فعالیت‌های خسته‌کننده نیست. کارشناسان وعده داده‌اند که روزی، تمام کارهای کسل‌کننده، از جمله کارهای شناختی پیچیده، مانند مصاحبه‌های شغلی یا مدیریت زنجیره‌ تأمین جهانی، به ماشین‌ سپرده خواهند شد.

اما آیا آن روز فرا نرسیده است؟

پس از خواندن «عصر هوش مصنوعی»، کتابی جدید درباره هوش مصنوعی به نوشته هنری اِی. کیسینجر، اریک اشمیت و دانیل هاتنلوچر، انگیزه‌ای برای نوشتن نقد کتاب نداشتم.

من ده‌ها کتاب درباره هوش مصنوعی خوانده‌ام. این کتاب، اگرچه جذاب است و در آن خاطرات یک دیپلمات 98 ساله، نظرات یکی از مدیران سابق گوگل و صحبت‌های پروفسوری از مؤسسه فناوری ماساچوست به چشم می‌خورد، اما نوشته‌ای نسبتاً فراموش‌شدنی در ژانر خود به شمار می‌آید.

سپس ایده‌ای هوشمندانه به ذهنم رسید. چه می‌شد اگر می توانستم نوشتن نقد کتاب را به هوش مصنوعی واگذار کنم و از این مشکل نجات پیدا کنم؟

راه‌اندازی Sudowrite

Sudowrite را راه‌اندازی کردم؛ یک هوش مصنوعی نوشتاری که اخیراً آن را آزمایش کرده بودم. این نرم‌افزار از GPT-3 استفاده می‌کند. GPT-3، محصول OpenAI، خود هوش مصنوعی فوق‌العاده ‌پیشرفته‌ای است که عملکردی شبیه ویژگی تکمیل متن خودکار Gmail دارد و یک نسخه توربوشارژ از آن به شمار می‌آید. بخشی از متن را به نرم‌افزار بدهید و GPT-3 سعی می‌کند با کمک آموخته‌هایی که از بررسی میلیاردها نمونه از نوشته‌های دیگران کسب‌ کرده است، آن را تکمیل کند. GPT-3 این کار را با کمک ابررایانه‌ای انجام می‌دهد که حدود 285,000 پردازنده و یک شبکه عصبی چندلایه دارد؛ این ابررایانه در زمره قدرتمندترین مرورگرهای هوش‌ مصنوعی جهان است. نویسندگان «عصر هوش مصنوعی» GPT-3 را یکی از چند فناوری امیدبخش می‌دانند که «انقلابی در امور انسانی» ایجاد خواهند کرد.

نقد کتاب با Sudowrite

چند پاراگراف اول نقد کتاب را در Sudowrite کپی‌-پیست کرده و از هوش مصنوعی خواستم آن را کامل کند. هوش مصنوعی مطالب زیر را نوشته است:

کتاب «عصر هوش مصنوعی» اثر هنری کیسینجر، اریک اشمیت و دانیل هاتنلوچر، کتاب جدید و جسورانه‌ای در زمینه هوش مصنوعی است. این کتاب برای کسانی که می‌خواهند این فناوری تحول‌آفرین را درک کنند، به راهنمای پرطرفداری تبدیل خواهد شد.

این نویسندگان طیف کاملی از فناوری‌های هوش مصنوعی، از سیستم‌های بینایی کامپیوتر گرفته تا پردازش زبان طبیعی، را بررسی کرده و به‌نحوی درباره آن‌ها دست به قلم برده‌اند که برای متخصصان و برای افراد عادی جذاب باشند.

یکی از الهام‌بخش‌ترین جنبه‌های این کتاب، گستردگی آن است. نویسندگان به‌طور عمیق، پتانسیل هوش مصنوعی را در تمام زمینه‌هایی که انسان فعالیت دارد، بررسی کرده‌اند. آن‌ها تأثیر هوش مصنوعی را بر بهداشت و درمان، اقتصاد، ژئوپلیتیک، قانون، توسعه شهری، حکومت‌داری، روزنامه‌نگاری، ارتش و حتی علوم زیستی توضیح می‌دهند.

کیسینجر، اشمیت و هاتنلوچر از کشف تاریک‌ترین جنبه‌های هوش مصنوعی نیز هراسی نداشته‌اند. آن‌ها از راه‌هایی نام می‌برند که هوش مصنوعی ممکن است دیکتاتورها را قادر سازد بر شهروندان نظارت داشته و  برای ترغیب مردم به ارتکاب خشونت، اطلاعات را دستکاری کنند.

اگرچه هوش مصنوعی درحال‌حاضر از بسیاری جهات زندگی ما را بهتر می‌کند، اما کیسینجر، اشمیت و هاتنلوچر هشدار می‌دهند که سال‌ها طول می‌کشد، تا ما به‌‌عنوان یک گونه‌ زیستی، موفق به ساخت سیستمی باشیم که پاسخگوی نیازهایمان باشد. آن‌ها پیشنهاد می‌کنند ارزش‌هایی را که می‌خواهیم در این هوش ماشینی جدید القا کنیم، به دست فراموشی نسپاریم.

چند نکته بعد از محک زدن هوش مصنوعی

ممنون GPT-3؛ در ادامه لازم است به چند نکته اشاره کنم:

نکته اول این است که هوش مصنوعی موفقیتی بی‌چون‌وچرا نیست. Sudowrite برای نوشتن این متن چند بار تلاش کرد. اولین خروجی مجموعه‌ای از جملات درهم‌تنیده بود که نشان می‌داد GPT-3 در نوعی حلقه بازگشتی عجیب و غریب گیر کرده است (برای مثال، خروجی اول این‌طور شروع می‌شد: «کتابی که درحال‌حاضر در حال خواندن آن هستید، کتابی در کتابخوان نوک است که کتابی درباره یک کتاب است که کتابی درباره یک موضوع است که موضوعی درباره یک موضوع است که موضوعی درباره یک موضوع است.») بعد از چندین مرتبه تهیه خروجی، به نظر می‌رسید که نرم‌افزار به‌طورکلی از نوشتن نقد کتاب صرف‌نظر کرده است و صرفاً نام شرکت‌های فناوری را فهرست می‌کند («گوگل، فیسبوک، اپل، آمازون، آی‌بی‌ام، مایکروسافت، بایدو، تِنسِنت، تسلا، اوبر، ایر‌بی‌ان‌بی، توییتر، اسنپ، علی‌بابا، وی چت، اسلَک.»)

اما هوش مصنوعی به‌سرعت گرم شد و ظرف چند دقیقه پاراگراف‌های تحلیلی ارائه کرد که به‌طرز چشمگیری متقاعدکننده بودند؛ صادقانه بگویم، برخی از آن‌ها بهتر از چیزی بود که خودم می‌توانستم بنویسم.

این مسئله به یکی از مضامین پرتکرار در کتاب «عصر هوش مصنوعی» اشاره می‌کند، مبنی بر اینکه هرچند سیستم‌های هوش مصنوعی امروزی گاهی اوقات درهم‌تنیده و نامنظم هستند، اما به‌سرعت ارتقا می‌یابند و به‌زودی در انجام تعدادی از وظایف مهم، مهارتی در سطح انسان یا بالاتر از او کسب خواهند کرد و وظایف را با روش‌هایی حل خواهند کرد که به ذهن هیچ انسانی خطور نمی‌کند. در آن مرحله، به نقل از نویسندگان، هوش مصنوعی «تمام قلمروهای تجربه انسانی را متحول خواهد کرد.»

نکته دوم اینکه، اگرچه نظر GPT-3 در خصوص گستردگی «عصر هوش مصنوعی» درست بود (با اشاره به فصل‌هایی از کتاب که موضوعاتی از جمله الگوریتم‌های رسانه‌های اجتماعی یا سلاح‌های خودمختار را در بر می‌گرفت)، اما هوش مصنوعی به این مسئله توجه نکرد که این گستردگی هزینه‌بر بوده است. بعضی از قسمت‌های کتاب سرسری و  سطحی به نظر می‌رسد و بسیاری از توصیه‌های آن گیج‌کننده و مبهم هستند.

در فصلی که در خصوص خطرات ژئوپلیتیکی ناشی از هوش مصنوعی نوشته شده بود، نویسندگان به این نتیجه رسیدند که «ملت‌های جهان باید پیرامون موارد سازگار با مفاهیم کرامت ذاتی و عاملیت اخلاقی انسان تصمیماتی فوری اتخاذ کنند.» (خوب، در ادامه دقیقاً همین مسئله را بررسی می‌کنم!) بخش مختصری از کتاب درباره TikTok است (نرم‌افزاری که بیش از یک میلیارد کاربر در سراسر جهان دارد و مالکیت آن از طریق یک شرکت چینی سؤالات بجا و جالبی را درباره حاکمیت ملی و آزادی بیان در ذهن ایجاد می‌کند). این بخش با این نظر کم اهمیت، پایان می‌یابد مبنی بر اینکه «در آینده نزدیک، با مقررات و معماهای ژئوپلیتیکی پیچیده‌تری مواجه خواهیم شد» و هنگامی که نویسندگان توصیه‌های خاصی ارائه می‌کنند، مانند پیشنهاد محدود کردن استفاده از هوش مصنوعی در توسعه سلاح‌های بیولوژیکی، توضیح نمی‌دهند که چگونه این امر تحقق می‌یابد یا چه کسی ممکن است مانع از تحقق آن شود.

در پایان، GPT-3 مهم‌ترین سؤال نقد کتاب را بدون پاسخ گذاشته است: لزوم نوشتن کتاب چیست؟ کیسینجر در زمان اختراع شبکه جهانی وب، 66 ساله شده و یک فعال تمام‌وقت در حوزه هوش مصنوعی یا خوره فناوری به شمار نمی‌آید (آخرین حمله خبرساز وی به دنیای فناوری زمانی بود که به عضویت هیئت‌مدیره Theranos، استارتاپ ورشکسته محصولات تست خون، درآمد.) اشمیت که ده سال مدیریت گوگل را بر عهده داشت، این روزها به دنبال بستن قراردادهای نظامی برای شرکت‌های فناوری‌ بزرگ است و در پایان، اگرچه هاتنلوچر، رئیس دانشکده علوم رایانه استفان شوارتزمن ام‌آی‌تی، فردی واجد صلاحیت در حوزه هوش مصنوعی است، اما مشخص نیست که چه مقدار از کتاب را او نوشته است.

عملکرد مثبت Sudowrite

البته به نکات درستی هم در این کتاب اشاره شده است. نویسندگان، کاری ستودنی انجام داده و از چیزی که من آن را «سرنوشت‌گرایی هوش مصنوعی» می‌نامم، اجتناب کرده‌اند؛ باوری که متأسفانه در محافل فناوری رایج شده مبنی بر اینکه هوش مصنوعی بخشی از آینده‌ اجتناب‌ناپذیر انسان است، آینده‌ای که انسان قادر به کنترل آن نیست. این نویسندگان در عوض نوشته‌اند که: «انسان کماکان کنترل هوش مصنوعی را در دست دارد» و این فرصت را دارد که «آن را با ارزش‌های انسانی شکل دهد.»

آن‌ها همچنین به‌درستی خاطرنشان می‌کنند به‌‌رغم اینکه بسیاری از مردم نگران ربات‌های قاتل هستند که به احساسات سطح انسانی دست یافته و همه ما را با تفنگ می‌کشند، اما خطر بزرگ‌تری در شرف وقوع است و در هوش مصنوعی به ظاهر بی‌ضرری در کمین نشسته است که ما هر روزه از آن استفاده می‌کنیم، مواردی از قبیل الگوریتم‌های رتبه‌دهی به فیدهای نرم‌افزارهای اجتماعی یا سیستم‌های ارسال خودکار که اوبر و لیفت از آن‌ها استفاده می‌کنند.

به نوشته این نویسندگان، «بدون هیاهو و حتی به‌طرز نامحسوسی، در حال ادغام هوش غیرانسانی در ساختار اصلی فعالیت‌های خود هستیم.»

از طرفی، اگرچه کتاب «عصر هوش مصنوعی» خلاصه مفیدی از هوش مصنوعی در اختیار خوانندگان قرار می‌دهد، اما برای کسانی که تازه وارد این حوزه شده‌اند، چندان مناسب نیست. برای نویسندگان این کتاب که وقوف کاملی بر حوزه هوش مصنوعی و نخبگان آن دارند، نوشتن چنین کتابی شرم‌آور است. پس ای کاش…

خب، می‌دانید چیست؟ امروز هوا آفتابی است و من کارهای دیگری دارم که باید انجام بدهم و از طرفی، واقعاً تمایلی به اتمام این نقد کتاب ندارم. ادامه آن را به GPT-3 می‌سپارم.

… پس ای کاش کسی پیدا می‌شد که متنی جامع درباره هوش مصنوعی بنویسد؛ متنی که بسیار دقیق، مسائل فنی را بررسی کند؛ به دست متخصصان این حوزه از صنعت به تحریر درآمده باشد، متخصصانی که هر روز درگیر انجام فعالیت‌های این حوزه هستند؛ متنی جذاب و واضح که به سبک گفتاری ساده نوشته شده باشد.

خودم بهتر از این نمی‌توانستم بنویسم.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید