Filter by دسته‌ها
آموزش هوش مصنوعی و انواع آن
آموزش‌های پایه‌ای هوش مصنوعی
اصول هوش مصنوعی
پایتون و ابزارهای یادگیری عمیق
کتابخانه‌ های یادگیری عمیق
یادگیری با نظارت
یادگیری بدون نظارت
یادگیری تقویتی
یادگیری عمیق
یادگیری نیمه نظارتی
آموزش‌های پیشرفته هوش مصنوعی
بینایی ماشین
پردازش زبان طبیعی
پردازش گفتار
چالش‌های عملیاتی
داده کاوی و بیگ دیتا
رایانش ابری و HPC
سیستم‌‌های امبدد
علوم شناختی
دیتاست
اخبار
رسانه‌ها
آموزش پردازش زبان طبیعی
آموزش علوم داده
اینفوگرافیک
پادکست
ویدیو
رویدادها
کاربردهای هوش مصنوعی
کسب‌و‌کار
تحلیل بازارهای هوش مصنوعی
کارآفرینی
هوش مصنوعی در ایران
هوش مصنوعی در جهان
 آیا استفاده از جعبۀ سیاه هوش مصنوعی برای مراقبت‌های بهداشتی اخلاقی و منصفانه است ؟

آیا استفاده از جعبۀ سیاه هوش مصنوعی برای مراقبت‌های بهداشتی اخلاقی و منصفانه است ؟

اخیراً مطالعات گسترده‌ای در زمینۀ اخلاقی بودن یا نبودن استفاده از جعبۀ سیاه هوش مصنوعی برای مراقبت‌های بهداشتی صورت گرفته است. نتیجۀ به‌دست‌آمده نشان می‌دهد که اگر اطلاعات داده‌شده به آن با قوانین فنی و اخلاقی خاصی جمع‌آوری شده باشند، استفاده از جعبۀ سیاه هوش مصنوعی، ایمن‌تر و فراگیرتر خواهد شد.

نحوۀ استفاده از جعبۀ سیاه هوش مصنوعی در مراقبت‌های بهداشتی

جعبۀ سیاه هوش مصنوعی به سیستمی می‌گویند که نحوۀ عملکردش برای کاربر مشخص نباشد. شما هنگام به‌کاربردن این سیستم‌ها تنها می‌توانید داده‌هایی را بدهید و خروجی‌هایی را دریافت کنید و کد سیستم یا منطقی که با آن خروجی به‌‌دست‌آمده‌است، برای شما پوشیده می‌ماند. کریستوف هورمپلی، رئیس بخش هوش مصنوعی یکی از بزرگ‌ترین بانک‌های جهان، در جلسه‌ای که درمورد میزان توضیح‌پذیری جعبۀ سیاه هوش مصنوعی برگزار شده بود، این پرسش را مطرح کرد:

«چگونه می‌توان از بیشترین میزان عملکرد جعبۀ سیاه هوش مصنوعی بهره ببریم؛ بدون آنکه وقت و انرژی زیادی را صرف توضیح پیچیدگی‌های نحوۀ سازوکار آن کنیم؟»

علاوه‌بر هورمپلی، بسیاری از متخصصان بر این باوراند که تمرکز بر توضیح‌پذیری این ابزار به‌جای بهره‌مندی از عملکرد سودمند آن، زمان‌بر و پرهزینه است و اثرات نامطلوب زیست‌محیطی به دنبال دارد. اما با بررسی دقیق‌تر فضاهای ورودی و خروجی می‌توان بدون درک عملکرد درونی به میزان دقت و انصاف جعبۀ سیاه هوش مصنوعی پی برد.

بااین‌همه استفاده از این ابزار در صنعت پزشکی و مراقبت‌های بهداشتی به توضیح بیشتری از سازوکار آن نیاز دارد. برای مثال ممکن است در مواردی نتیجه‌گیری مبتنی‌بر هوش مصنوعی درمورد تصویربرداری تشخیصی، بر نژاد به‌خصوصی به‌طور کاملاً غیر منصفانه تأثیر بگذارد. در این حالت باید با توضیح نحوۀ عملکرد آن، علت این سوگیری‌های نامناسب و ناعادلانه را دریافت. در غیر این صورت استفاده از جعبۀ سیاه هوش مصنوعی در صنعت مراقبت‌های بهداشتی به‌کلی زیر سوال می‌رود و به‌تدریج محدودتر می‌شود.

آیا استفاده از جعبۀ سیاه هوش مصنوعی برای مراقبت‌های بهداشتی اخلاقی و منصفانه است ؟

راه‌حلی که پیشنهاد می‌شود این است که متخصصان اخلاق در مرحلۀ جمع‌آوری و پردازش اطلاعات، با اولویت قرار دادن مسائل اخلاقی و رسیدگی به مسائل مربوط به سوگیری داده‌ها، بر نحوۀ عملکرد جعبۀ سیاه هوش مصنوعی نیز تاثیر بگذارند. در این صورت در آینده کمتر شاهد نتایج غیر منصفانه خواهیم بود. ازسوی‌دیگر در صنعت پزشکی و تجهیزات به‌کارگرفته‌شده در آن، اتحادیۀ اروپا یک چارچوب نظارتی وضع کرده است. در این مقررات، نظارت دقیق و جمع‌آوری مداوم داده‌ها ضروری است. در این حالت کارایی دستگاه‌ها ایمن‌تر و استفاده از جعبۀ سیاه هوش مصنوعی گسترده‌تر و اخلاقی‌تر می‌شود.

جمع بندی

با بهره‌گیری از جعبۀ سیاه هوش مصنوعی تنها ورودی و خروجی داده‌ها برای کاربر مشخص می‌شود و سازوکار و منطق به‌کاررفته در آن، از او پوشیده می‌ماند. در این حالت ممکن است در نتیجۀ به‌دست‌آمده شاهد ناعدالتی‌ها و سوگیری‌های گوناگون باشیم. برای رفع این مشکلات پیشنهاد می‌شود که متخصصان اخلاق بر داده‌های ورودی و خروجی با دقت نظارت داشته باشند. همچنین در صورت مشاهدۀ هرگونه سوگیری، اطلاع دهند. علاوه‌براین با قوانین وضع‌شده درمورد تجهیزات صنعت پزشکی و مراقبت‌های بهداشتی، تا حدود زیادی می‌توان از این آسیب‌های جعبۀ سیاه هوش مصنوعی در امان ماند.

بنر اخبار هوش مصنوعی

مقاله ما چطور بود؟

میانگین امتیاز / 5. تعداد ارا :

مطالب پیشنهادی مرتبط

اشتراک در
اطلاع از
0 نظرات
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها
لطفاً برای تکمیل این فرم، جاوا اسکریپت را در مرورگر خود فعال کنید.