برنده مدال فیلدز، ریاضیات را برای ایمنی هوش مصنوعی ترک می‌کند

ریاضی‌دانان از سرعت بالای هوش مصنوعی در حل مسائل حل‌نشده ریاضی شگفت‌زده شده‌اند؛ مسئله‌ای که باعث شده برخی از آن‌ها نگران شوند که آیا شغلشان در حال منسوخ‌شدن است.

«ترنس تائو»، برجسته‌ترین ریاضی‌دان جهان می‌گوید این حوزه تنها چند ماه فرصت دارد تا به بحرانی که در پی ظهور هوش مصنوعی ایجاد شده واکنش نشان دهد. اما «جیکوب تزیمِرمن» که تنها چند هفته پیش معتبرترین جایزه ریاضیات یعنی مدال فیلدز را دریافت کرد، معتقد است مسئله حتی از این هم جدی‌تر است. این فناوری می‌تواند زندگی همه انسان‌ها را از اساس تغییر دهد و حتی آن‌ها را در معرض خطر قرار دهد؛ به همین دلیل، او ریاضیات را ترک می‌کند تا روی هوش مصنوعی کار کند.

تزیمِرمن که در حال حاضر استاد دانشگاه تورنتو در کاناداست، یکی از تنها ۶۸ نفری است که تاکنون مدال فیلدز را دریافت کرده‌اند؛ جایزه‌ای آن‌قدر معتبر که اغلب از آن با عنوان «نوبل ریاضیات» یاد می‌شود. اکنون او این حوزه را ترک می‌کند و به OpenAI می‌پیوندد تا در زمینه ایمنی هوش مصنوعی فعالیت کند.

تزیمِرمن در گفت‌وگو با New Scientist در کنگره بین‌المللی ریاضی‌دانان (ICM) در فیلادلفیا، جایی که اعطای مدال فیلدز در آن اعلام شد می‌گوید: «هوش مصنوعی به نقطه‌ای رسیده که اگر قرار است وارد این حوزه شوید، احتمالاً همین حالا زمان مناسبی است، چون اتفاقات با سرعت زیادی در حال رخ‌دادن هستند.» تزیمِرمن می‌گوید سال‌هاست درباره هوش مصنوعی می‌شنود و منتظر بوده ببیند آیا این فناوری واقعاً به‌اندازه‌ای که برخی پژوهشگران پیش‌بینی کرده‌اند، مفید و قدرتمند خواهد شد یا نه.

او اکنون خودش استفاده از هوش مصنوعی را آغاز کرده و شاهد است که برخی مسائل حل‌نشده در ریاضیات که شاید زمانی قصد داشت روی آن‌ها کار کند، توسط هوش مصنوعی حل شده‌اند. ازسوی‌دیگر، موارد ناقض ایمنی نیز وجود دارند؛ مانند حادثه‌ای که در آن عامل هکری OpenAI از کنترل خارج شد و درست پیش از آغاز ICM رخ داد. تزیمِرمن به دلیل سرعت پیشرفت این فناوری، درباره مسیری که ممکن است در پیش داشته باشد نگران است. او می‌گوید: «اگر نگران ازدست‌رفتن کنترل انسان‌ها یا مرگ آن‌ها باشید، خطرات بسیار بزرگ هستند.»

ارائه راه‌حل برای ۱۰ مسئله ریاضی لاینحل

تزیمِرمن در سال ۲۰۲۵ در نگارش مقاله‌ای مشارکت داشت که سناریوهای مختلفی را بررسی می‌کرد که در آن استفاده از هوش مصنوعی به «نابودی همگانی» (omnicide) یا انقراض انسان منجر می‌شود. این سناریوها دامنه گسترده‌ای دارند. یکی از آن‌ها «نابودی همگانی ناخواسته» است؛ وضعیتی که در آن فناوری هوش مصنوعی نسبت به انسان‌ها بی‌تفاوت است و در نتیجه، اولویت تولید غذا را کاهش می‌دهد و پیامد این تصمیم می‌تواند ویرانگر باشد. سناریوی دیگر «نابودی همگانی عمدی» است؛ جایی که عامل‌های هوش مصنوعی علیه ما اقدام می‌کنند و خودشان تصمیم می‌گیرند به تمدن انسانی پایان دهند. سپس مواردی با پیامدهای جانبی‌تر وجود دارند؛ برای مثال، کشورها از هوش مصنوعی برای راه‌اندازی جنگ‌هایی با سطحی بی‌سابقه از مرگ‌ومیر استفاده کنند. هدف این مقاله ایجاد وحشت نبود، بلکه فراهم‌کردن جزئیات کافی برای پژوهشگران بود تا بتوانند تدوین اقدامات مقابله‌ای و پیشگیرانه را آغاز کنند.

تزیمِرمن می‌گوید: «هر وقت چیزی را در ریاضیات درک نمی‌کنم، می‌خواهم فرایندش را ببینم. می‌خواهم به شکلی ملموس با آن درگیر شوم.» ورود نسبتاً تازه او به حوزه ایمنی هوش مصنوعی می‌تواند یک مزیت باشد، زیرا این حوزه قطعاً می‌تواند از ایده‌های جدید بهره ببرد. او می‌گوید: «در حال حاضر، بخش بزرگی از کار در حوزه ایمنی هوش مصنوعی اساساً این است که از مدل هوش مصنوعی می‌خواهیم خوب رفتار کند، بررسی می‌کنیم که آیا خوب رفتار می‌کند یا نه و بعد، اگر برای مدت کافی خوب رفتار کرد، می‌گوییم: خب، احتمالاً همین کافی است.»

یکی از اهداف او در فعالیت‌های آینده‌اش، ایجاد فرایندهای راستی‌آزمایی دقیق‌تر است؛ فرایندهایی که در آن‌ها بتوان قابلیت‌های هوش مصنوعی را به شکلی کنترل‌شده و علمی آزمایش کرد و درعین‌حال محدودیت‌هایی نیز برای آن‌ها اعمال کرد. تزیمِرمن می‌گوید: «می‌توانید دکمه‌ای داشته باشید که مدل نتواند آن را فشار دهد، مگر اینکه اتفاق دیگری رخ داده باشد. در این صورت، صرف‌نظر از اینکه مدل شما چه باشد یا چه نباشد، نمی‌تواند آن دکمه را فشار دهد.»

به گفته او، گفت‌وگوهای زیادی همچنان حول موضوعاتی مانند این می‌چرخند که آیا هوش مصنوعی دارای آگاهی یا خلاقیت است یا نه؛ درحالی‌که آنچه به آن نیاز داریم، چیزی بسیار عملی‌تر و قابل‌اقدام‌تر است. او معتقد است کمیته‌های دولتی و بین‌المللی باید چنین آزمون‌هایی را روی هر مدل هوش مصنوعی که قرار است عرضه شود، اجرا کنند. تزیمِرمن می‌گوید: «می‌خواهم این آزمون‌ها دائماً به‌روزرسانی و درباره آن‌ها بحث شود. می‌خواهم شرکت‌ها در این فرایند مشارکت داشته باشند و همچنین می‌خواهم طرف‌های ثالث نیز در آن حضور داشته باشند.»

تزیمِرمن ممکن است ریاضی‌دانی باشد که می‌خواهد هوش مصنوعی را تغییر دهد، اما نمی‌توان این واقعیت را نادیده گرفت که هوش مصنوعی در حال حاضر تا چه اندازه ریاضیات را تغییر داده است. به‌ندرت روزی می‌گذرد که هوش مصنوعی یک مسئله یا حدس ریاضی سرسخت دیگر را حل نکرده باشد. غم و اندوه قطعاً یکی از احساساتی است که تزیمِرمن در مواجهه با این وضعیت تجربه می‌کند؛ او می‌گوید بخش بزرگی از هویت شخصی‌اش همچنان با ایده ریاضی‌دان بودن گره خورده است. بااین‌حال، در مجموع، او محتاطانه خوش‌بین است. او می‌گوید: «ریاضیات قرار نیست از بین برود، اما بخشی از آن از بین خواهد رفت.»