استفاده از هوش مصنوعی می‌تواند خطرات حملات سایبری را افزایش دهد

«مایکل لونز» (Michael Lones)، استاد دانشکده علوم ریاضی و کامپیوتر دانشگاه Heriot-Watt در مقاله جدیدی استدلال کرده است که هوش مصنوعی مولد می‌تواند سازمان‌ها و عموم مردم را در معرض آسیب‌های ناخواسته قرار دهد. این موارد شامل حملات سایبری، نقض داده‌ها (Data breaches) و سوگیری علیه گروه‌های با نمونه‌های کمتر در داده‌های آموزش مدل‌ها می‌شود؛ هرچند که این فناوری ممکن است مزایای بالقوه‌ای در زمینه کاهش هزینه‌ها و افزایش کارایی به همراه داشته باشد.

مطالعه لونز در مجله Patterns منتشر شده است و بررسی می‌کند که چگونه هوش مصنوعی مولد برای طراحی، ساخت و عملیاتی‌کردن سیستم‌های یادگیری ماشین در طیف وسیعی از بخش‌ها مورداستفاده قرار می‌گیرد. لونز اظهار داشت: «توسعه‌دهندگان یادگیری ماشین باید از خطرات استفاده از هوش مصنوعی مولد در یادگیری ماشین آگاه باشند و تعادلی منطقی بین بهبود قابلیت‌ها و خطراتی که ممکن است به همراه داشته باشد، پیدا کنند.» وی افزود: «باتوجه‌به محدودیت‌های فعلی هوش مصنوعی مولد، می‌توانم بگویم که این یک مثال روشن از این اصل است که صرفاً چون می‌توانید کاری را انجام دهید، به این معنا نیست که باید آن را انجام دهید.»

سیستم‌های یادگیری ماشین، الگوریتم‌هایی هستند که یاد می‌گیرند الگوها را در داده‌ها تشخیص دهند و سپس می‌توانند از آن‌ها برای پیش‌بینی و تصمیم‌گیری در مورد داده‌های جدید استفاده کنند. یادگیری ماشین دهه‌هاست که وجود دارد و بیشتر افراد در زندگی روزمره خود در قالب فیلترهای هرزنامه (Spam filters)، سیستم‌های توصیه‌گر محصول در وب‌سایت‌های تجارت الکترونیک و فیدهای خبری شبکه‌های اجتماعی با آن مواجه می‌شوند. اما از این فناوری در موقعیت‌های حساس و پرخطر نیز استفاده می‌شود؛ مانند تخصیص بیماران به آزمایش‌های دارویی و پردازش خسارت‌های بیمه.

در حدود دو سال گذشته، تلاش‌هایی برای ادغام هوش مصنوعی مولد، عمدتاً در قالب مدل‌های زبانی بزرگ در سیستم‌های یادگیری ماشین صورت گرفته است؛ اما انجام این کار خطرات و محدودیت‌هایی به همراه دارد که توسعه‌دهندگان و عموم مردم باید از آن‌ها آگاه باشند. لونز می‌افزاید: «اگر هوش مصنوعی مولد به روش‌های مختلفی در گردش‌کارها (Workflows) یا سیستم یادگیری ماشین شما کار کند، این اجزا می‌توانند به روش‌های غیرقابل‌پیش‌بینی و دشوار برای درک، با یکدیگر تعامل داشته باشند. توصیه من در حال حاضر این است که از افزودن پیچیدگی بیش از حد در نحوه استفاده از هوش مصنوعی مولد در یادگیری ماشین خودداری کنید؛ به‌ویژه اگر در بخشی فعالیت می‌کنید که دارای ریسک بالایی است و بر زندگی و معیشت افراد تأثیر می‌گذارد.»

مطالعه لونز چهار روشی را بررسی می‌کند که هوش مصنوعی مولد در حال حاضر در یادگیری ماشین به کار می‌رود، این ۴ مؤلفه شامل:

1. یک مؤلفه در یک خط لوله (Pipeline) یادگیری ماشین
2. طراحی و کدنویسی خط لوله یادگیری ماشین
3. تولید داده‌های آموزشی مصنوعی (Synthesize training data)
4. تحلیل خروجی‌های یادگیری ماشین

تمام این کاربردها با خطراتی همراه هستند و اگر از مدل‌های زبانی بزرگ برای چندین وظیفه در یک سیستم یادگیری ماشین استفاده شود یا اگر این مدل‌ها عامل‌محور باشند، یعنی بتوانند به طور مستقل از ابزارهای خارجی برای حل مشکلات استفاده کنند این خطرات تشدید می‌شوند.

یکی از بزرگ‌ترین خطرات این است که مدل‌های زبانی بزرگ گاهی اوقات اشتباه می‌کنند، تصمیمات بدی می‌گیرند و اطلاعات را جعل کرده یا به‌اصطلاح دچار «توهم» (Hallucination) می‌شوند. این خطاها لزوماً قابل پیش‌بینی نیستند و ارزیابی آن‌ها ممکن است دشوار باشد، زیرا مدل‌های زبانی بزرگ به روشی غیرشفاف عمل می‌کنند که این موضوع خود یک مسئله مضاعف برای رعایت الزامات قانونی ایجاد می‌کند.

لونز عنوان می‌کند: «در حوزه‌هایی مانند پزشکی یا مالی قوانینی وجود دارد مبنی بر اینکه باید بتوان نشان داد سیستم یادگیری ماشین قابل‌اتکا (Reliable) است و می‌توانی نحوه رسیدن آن به تصمیمات را توضیح داد. اما به‌محض اینکه شروع به استفاده از مدل‌های زبانی بزرگ می‌کنید، این کار واقعاً سخت می‌شود، زیرا آن‌ها بسیار مبهم (Opaque) هستند. برای عموم مردم مهم است که از محدودیت‌های سیستم‌های هوش مصنوعی مولد آگاه باشند.»

وی در پایان خاطرنشان کرد: «شرکت‌ها این سیستم‌ها را برای اقداماتی مانند کاهش هزینه‌ها مستقر خواهند کرد و این امر ممکن است تجربه‌ای را که کاربران نهایی به دست می‌آورند بهبود بخشد، اما درعین‌حال می‌تواند پیامدهای منفی نظیر سوگیری و بی‌عدالتی را نیز به دنبال داشته باشد.»