هوش مصنوعی چیست؟

اخلاق هوش مصنوعی یک حوزه میان‌رشته‌ای است که به بررسی چگونگی بهینه‌سازی تأثیرات مثبت هوش مصنوعی و کاهش ریسک‌ها و پیامدهای منفی آن می‌پردازد. اصول اخلاقی مرتبط با هوش مصنوعی از طریق سازوکاری به نام حکمرانی هوش مصنوعی به کار گرفته می‌شوند؛ این سازوکار شامل چهارچوب‌هایی است که اطمینان حاصل می‌کنند ابزارها و سیستم‌های مبتنی بر هوش مصنوعی به شکلی ایمن و اخلاق‌مدار عمل کنند.

رویکرد اخلاقی در حکمرانی هوش مصنوعی مستلزم مشارکت طیف وسیعی از ذی‌نفعان از جمله توسعه‌دهندگان، کاربران، سیاست‌گذاران و متخصصان اخلاق است، تا اطمینان حاصل شود که سیستم‌های مرتبط با هوش مصنوعی در راستای ارزش‌های اجتماعی توسعه یافته و مورد استفاده قرار گیرند.

در ادامه، مهم‌ترین ارزش‌های مرتبط با اخلاق و مسئولیت‌پذیری در حوزه هوش مصنوعی آمده است:

توضیح‌پذیری و قابل‌تفسیر بودن
با پیشرفته‌تر شدن هوش مصنوعی، درک فرآیند رسیدن الگوریتم‌ها به نتایج برای انسان‌ها دشوارتر می‌شود. هوش مصنوعی توضیح‌پذیر ( (XAI /  Explainable AI که به سرعت در حال گسترش است، مجموعه‌ای از روش‌هاست که به کاربران کمک می‌کند تا خروجی‌های سیستم را بهتر درک کرده، تفسیر کنند و به آن‌ها اعتماد داشته باشند.. این نوع از هوش مصنوعی به کاربران و متخصصان اجازه می‌دهد تا بفهمند چرا یک مدل خاص به یک تصمیم‌گیری یا پیش‌بینی خاص رسیده است.

عدالت و فراگیری
یادگیری ماشین ذاتاً نوعی تبعیض آماری دارد، یعنی الگوریتم‌ها الگوها و تفاوت‌ها را از درون داده‌ها استخراج می‌کنند تا بتوانند پیش‌بینی یا تصمیم‌گیری کنند. در همین روند، اگر در داده‌ها تفاوت‌هایی میان گروه‌های مختلف (مثلاً جنسیت، نژاد، طبقه اجتماعی و…) وجود داشته باشد، مدل هم آن تفاوت‌ها را «یاد می‌گیرد» و بازتولید می‌کند.

به این حالت تبعیض آماری گفته می‌شود، چون مدل بر اساس آمارهایی که از داده‌ها یاد گرفته، با گروه‌های مختلف به شکل متفاوتی رفتار می‌کند. این تفاوت‌ها ممکن است گاهی عادلانه باشند (مثلاً تفاوت بین بزرگسال و کودک در یک سیستم سلامتی)، اما گاهی هم ناعادلانه یا تبعیض‌آمیز می‌شوند، مثلاً وقتی که الگوریتمی برای استخدام یا اعطای وام، به شکل سیستماتیک به افراد یک گروه خاص شانس کمتری می‌دهد.

در نتیجه حتی اگر مدل‌ها عمدی تبعیض نداشته باشند، به‌طور طبیعی ممکن است تبعیض‌هایی را که در داده‌های آموزشی وجود دارد، بازتولید کنند. برای ترویج عدالت، می‌توان تلاش کرد تا سوگیری‌های الگوریتمی در مرحله گردآوری داده یا طراحی مدل به حداقل برسند و تیم‌هایی متنوع و فراگیر تشکیل شوند.

پایداری و امنیت
یک سیستم هوش مصنوعی پایدار باید بتواند در شرایط غیرعادی یا در برابر حملات مخرب، بدون ایجاد آسیب ناخواسته عمل کند. همچنین این سیستم‌ها باید در برابر دخالت‌های عمدی یا غیرعمدی مقاوم بوده و از آسیب‌پذیری‌های احتمالی محافظت شوند.

پاسخگویی و شفافیت
سازمان‌ها باید مسئولیت‌های روشنی را برای طراحی، پیاده‌سازی و نتایج سیستم‌های هوش مصنوعی تعریف کنند. علاوه بر این، کاربران باید بتوانند نحوه عملکرد این سیستم‌ها را درک کرده و نقاط قوت و ضعف آن‌ها را بشناسند. شفافیت بیشتر باعث می‌شود مصرف‌کنندگان هوش مصنوعی بهتر بفهمند که یک مدل یا سرویس چگونه ساخته شده است.

حریم خصوصی و تطابق با مقررات
بسیاری از چارچوب‌های قانونی از جمله GDPR (General Data Protection Regulation) ، سازمان‌ها را ملزم می‌کنند که هنگام پردازش داده‌های شخصی، اصول حریم خصوصی را رعایت کنند. در این راستا، باید از مدل‌هایی که ممکن است شامل اطلاعات شخصی باشند محافظت شود، کنترل دقیقی بر داده‌های ورودی صورت گیرد و سیستم‌هایی طراحی شوند که در برابر تغییرات قوانین و نگرش‌های اجتماعی انعطاف‌پذیر باشند.

برای مطالعه بیشتر در این مورد می‌توان به کتاب اخلاق در هوش مصنوعی مراجعه کرد