حذف سوگیری الگوریتم های بهداشت و درمان منجر به عملکرد بی‌نقص آن می‌شود

مراقبت‌های بهداشتی مبتنی بر هوش مصنوعی قادر به ایجاد تغییر در تصمیم‌گیری و درمان‌های پزشکی است. البته که این الگوریتم‌ها باید کاملا آزمایش و به طور مداوم کنترل شوند تا عواقب پیش‎بینی‌نشده‌ای برای بیماران نداشته باشند و همچنین باید به حذف سوگیری الگوریتم ها به طور ویژه توجه شود.
پیتر امبی، رئیس موسسه Regenstrief و مدیر اجرایی و دانشیار ارشد اطلاعات و خدمات بهداشتی دانشگاه داروسازی، معتقد است اهمیت هوشیاری الگوریتم‌ها زمانی بیشتر می‌شود که آن را مسئول سوگیری‌های ذاتی در الگوریتم‌های بهداشت و درمان و شاخه‌های آن بدانیم. توصیف هوشیاری الگوریتم، اصطلاحی که دکتر امبی آن را ابداع کرده، می‌تواند روش‌های علمی و فعالیت‌های مربوط به ارزیابی، بررسی ونظارت، درک و جلوگیری از نتیجه معکوس الگوریتم‌ها در بهداشت و درمان باشد.

دکتر امبی در ارتباط با حذف سوگیری الگوریتم ها می‌گوید: «فکر نمی‌کردیم پیش از این که بتوانیم از ایمن بودن و موثربودن یک دارو مطمئن شویم، بیماران را با آن درمان کنیم. اما باید بدانیم که الگوریتمها همانقدر که فواید زیادی دارند، می‌توانند مضر هم باشند و در نتیجه باید درباره آن‌ها مطالعه شود. همچنین درمقایسه با داروها یا دستگاه‌ها، الگوریتم‌ها اغلب دارای پیچیدگی‌های زیادی هستند که باید حتما آن‌ها را درک کرد تا بتوان با آن ارتباط برقرار کرد.»

مطالعات دانشمندان IBM

این تفسیر پاسخی به مطالعات دانشمندان IBM بود که درتلاش هستند تا با رویکردهای مختلف الگوریتم‌ها در مراقبت‌های بهداشتی و درمانی، افسردگی بعد از زایمان را پیش‎بینی کنند. دکتر امبی می‌گوید بر اساس این مطالعه، روش‌های تخریب و تفکیک می‌تواند به رفع اختلالات اساسی در داده‌های مورد استفاده برای توسعه و استقرار رویکردهای هوش مصنوعی کمک کند. او همچنین معتقد است بر اساس مطالعات، ارزیابی و نظارت اثربخشی الگوریتم‌ها امری ضروری است و از نظر اخلاقی هم لازم است که این کار حتما انجام شود.

وی با تاکید بر اهمیت حذف سوگیری الگوریتم ها در حوزه بهداشت و درمان می‌گوید: «عملکرد الگوریتمی هنگامی که با داده‌های مختلف، تنظیمات مختلف و تعاملات مختلف انسان و رایانه به‌کار گرفته می‌شود، تغییر می‌کند. در نتیجه این عوامل می‌توانند ابزاری مفید را به ابزاری تبدیل کنند که ناخواسته باعث آسیب زدن شده است. به همین دلیل است که الگوریتم‌ها باید به طور مداوم مورد ارزیابی قرار گیرند تا نابرابری‌های ذاتی و سیستمی‌شان از بین برود. به همین دلیل مهم است که ما به توسعه ابزارها و توانایی‌ها برای نظارت منظم و هوشمند بر توسعه و استفاده از الگوریتم‌های مربوط به مراقبت‌های بهداشتی و درمانی ادامه دهیم.»

انواع کاربردهای هوش مصنوعی در صنایع مختلف را در هوشیو بخوانید