اشتراک‌گذاری راهی برای فهم سیستم استدلال ربات ها

توانایی استدلال مانند انسان، قابلیت جدید ربات‌ها است و یک تکنیک جدید به نام «اشتراک گذاری»، به دنبال این است که میزان شباهت عملکرد استدلالی هوش مصنوعی با انسان را مقایسه ‌کند. اشتراک گذاری راهی برای فهم سیستم استدلال ربات ها از طریق مقایسۀ آن با هوش انسانی است.

در یادگیری ماشینی، درک اینکه چرا یک مدل تصمیمات خاصی می‌گیرد، اغلب به اندازه صحیح بودن آن تصمیمات مهم است. به عنوان مثال، یک مدل یادگیری ماشینی ممکن است به درستی پیش‌بینی کند که ضایعه پوستی سرطانی است، اما این مدل می‌توانست این کار را با استفاده از یک تصویر غیرمرتبط در یک عکس بالینی انجام دهد؛ این پیش‌بینی درست به توانایی استدلال ربات‌ها مانند انسان‌ مربوط می‌شود.

درک توانایی استدلال ربات‌ها مانند انسان، توسط کارشناسان مورد بررسی قرار گرفته است اما این کاری دشوار است چرا که مدل‌ها معمولاً با استفاده از میلیون‌ها ورودی داده آموزش داده می‌شوند؛ امری که ارزیابی تصمیمات کافی برای شناسایی الگوها را برای انسان تقریباً غیرممکن می‌سازد. و تنها از طریق اشتراک‌گذاری می‌توان راهی برای فهم سیستم استدلال ربات ها پیدا کرد.

اکنون، محققان MIT و IBM Research روشی را ایجاد کرده‌اند که کاربر را قادر می‌سازد تا این توضیحات فردی را جمع‌آوری، مرتب‌سازی و رتبه‌بندی کند تا به سرعت رفتار یک مدل یادگیری ماشینی را تحلیل کند. تکنیک آن‌ها، به نام علاقه مشترک، معیارهای کمیت‌پذیری را در بر می‌گیرد که میزان تطابق استدلال یک مدل با استدلال یک انسان را مقایسه می‌کند و نمایندۀ شباهت هوش مصنوعی و هوش انسان است.

اشتراک‌گذاری می‌تواند به کاربر کمک کند تا به راحتی روندهای مربوط به تصمیم‌گیری یک مدل را کشف کند – برای مثال، شاید مدل اغلب با ویژگی‌های مزاحم و نامربوط، مانند اشیاء پس‌زمینه در عکس‌ها، گیج شود. جمع‌آوری این بینش‌ها می‌تواند به کاربر کمک کند تا به سرعت و کمیت تعیین کند که آیا یک مدل قابل اعتماد و آماده استقرار در یک موقعیت واقعی است یا خیر. اشتراک گذاری از این طریق راهی برای فهم سیستم استدلال ربات ها مانند انسان پیدا خواهد کرد.

اشتراک‌گذاری، راهی برای فهم سیستم استدلال ربات ها به شمار می‌رود؛ موضوعی که مورد توجه انجی بوگوست، نویسنده اصلی و دانشجوی فارغ التحصیل در «گروه تجسم» قرار گرفته است. او در مورد توانایی درک تصمیم‌گیری‌های ربات‌ها می‌گوید: «در توسعه علایق مشترک، هدف ما این است که بتوانیم این فرآیند تجزیه و تحلیل را افزایش دهیم تا بتوانید در سطح جهانی‌تری رفتار مدل خود را درک کنید.» (CSAIL). بوگوست این مقاله را با مشاورش، آرویند ساتیانارایان، استادیار علوم کامپیوتر که گروه تجسم را رهبری می‌کند، و همچنین بنجامین هوور و نویسنده ارشد هندریک استروبلت، هر دو از IBM Research نوشتند.

این مقاله در کنفرانس عوامل انسانی در سیستم‌های محاسباتی ارائه خواهد شد. بوگوست کار بر روی این پروژه را در طی یک دوره کارآموزی تابستانی در IBM تحت نظارت استروبلت آغاز کرد. پس از بازگشت به MIT، بوگوست و ساتیانارایان پروژه را گسترش دادند و به همکاری با استروبلت و هوور ادامه دادند، که به گسترش مطالعات موردی کمک کردند که نشان می‌دهد چگونه می‌توان از این تکنیک در عمل استفاده کرد و اشتراک‌گذاری به عنوان راهی برای فهم سیستم استدلال ربات ها را کاربردی ساخت.

هم‌ترازی استدلال ربات‌ها و استدلال انسانی در علاقه مشترک

اشتراک گذاری به عنوان راهی برای درک سیستم استدلال ربات ها در عملکرد و تصمیم‌گیری قابل رؤیت است. اشتراک‌گذاری از تکنیک‌های محبوبی استفاده می‌کند که نشان می‌دهد چگونه یک مدل یادگیری ماشینی تصمیم خاصی گرفته است که به روش‌های برجسته معروف است. اگر مدل در حال طبقه‌بندی تصاویر است، روش‌های برجسته، قسمت‌هایی از تصویر را برجسته می‌کنند که در زمان تصمیم‌گیری مدل برای آن مهم هستند.

این مناطق به عنوان یک نوع نقشه حرارتی، به نام نقشه برجسته، که اغلب بر روی تصویر اصلی پوشانده شده، مجسم می‌شوند. اگر مدل تصویر را به‌عنوان سگ طبقه‌بندی کرد و سر سگ برجسته شد، به این معنی است که وقتی تصمیم می‌گرفت که تصویر حاوی سگ باشد، آن پیکسل‌ها برای مدل مهم بودند و این یکی از نشانه‌های هم ترازی هوش مصنوعی و هوش انسانی به شمار می‌آید.

اشتراک‌گذاری با مقایسه روش‌های برجسته با داده‌های واقعی کار می‌کند. در مجموعه داده‌های تصویر، داده‌های حقیقت پایه معمولاً حاشیه‌نویسی‌های تولید شده توسط انسان هستند که بخش‌های مربوطه هر تصویر را احاطه می‌کنند. در مثال قبلی، جعبه تمام سگ در عکس را احاطه کرده است. هنگام ارزیابی یک مدل طبقه‌بندی تصویر، Shared Interest، داده‌های برجسته تولید شده توسط مدل و داده‌های حقیقت زمینی تولید شده توسط انسان را برای همان تصویر مقایسه می‌کند تا ببیند تا چه حد آن‌ها در یک راستا قرار دارند.

این تکنیک از چندین معیار برای تعیین کمیت هم‌سویی یا عدم هم‌سویی در تصمیم‌گیری مدل استفاده می‌کند و سپس یک تصمیم خاص را در یکی از هشت دسته طبقه بندی می‌کند. دسته‌ها محدوده را از هم‌تراز بودن کاملاً انسانی (مدل پیش‌بینی درستی انجام می‌دهد و ناحیه برجسته‌شده در نقشه برجسته با کادر تولید شده توسط انسان یکسان است) تا کاملاً منحرف شده (مدل پیش‌بینی نادرستی انجام می‌دهد و از هیچ تصویری استفاده نمی‌کند). ویژگی های موجود در جعبه تولید شده توسط انسان) پوشش می‌دهند. از این طریق اشتراک گذاری راهی برای فهم سیتسم استدلال ربات‌ها خواهد بود.

در یک سر طیف، مدل شما دقیقاً به همان دلیلی که یک انسان تصمیم خواهد گرفت، تصمیم گرفته است و در سوی دیگر طیف، مدل شما و انسان به دلایل کاملاً متفاوتی، تصمیم گرفته اند. این تکنیک به طور مشابه با داده‌های متنی کار می‌کند، جایی که کلمات کلیدی به جای مناطق تصویر برجسته می‌شوند.

اشتراک‌گذاری  و سرعت تصمیم‌گیری

محققان از سه مطالعه موردی برای نشان دادن اینکه چگونه اشتراک گذاری راهی برای فهم سیتسم استدلال ربات‌ها است و برای محققان غیرمتخصص و محققان یادگیری ماشین مفید به شمار می‌آید، استفاده کردند.

در اولین مطالعه موردی، آنها از Shared Interest برای کمک به متخصص پوست استفاده کردند تا تشخیص دهد که آیا می‌تواند به یک مدل یادگیری ماشینی که برای کمک به تشخیص سرطان از روی عکس‌های ضایعات پوستی طراحی شده است، اعتماد کند. اشتراک‌گذاری به متخصص پوست این امکان را داد تا به سرعت نمونه‌هایی از پیش‌بینی‌های صحیح و نادرست مدل را ببیند. در نهایت، متخصص پوست تصمیم گرفت که نمی‌تواند به این مدل اعتماد کند، زیرا این مدل پیش‌بینی‌های زیادی بر اساس مصنوعات تصویری انجام می‌دهد، نه ضایعات واقعی.

«ارزش در اینجا این است که با استفاده از علاقه مشترک، می‌توانیم این الگوها را در رفتار مدل خود مشاهده کنیم.» بوگوست می‌گوید در حدود نیم ساعت، متخصص پوست توانست با اطمینان تصمیم بگیرد که آیا به مدل اعتماد کند یا نه و آیا آن را به کار ببندد یا نه. مشخصاً در این مثال می‌بینیم که اشتراک‌گذاری، راهی برای فهم سیستم استدلال ربات ها به شمار می‌آید. در مطالعه موردی دوم، آن‌ها با یک محقق یادگیری ماشینی کار کردند تا نشان دهند که چگونه اشتراک‌گذاری می‌تواند یک روش برجسته را با آشکار کردن مشکلات ناشناخته قبلی در مدل ارزیابی کند.

تکنیک آنها محقق را قادر می سازد هزاران تصمیم صحیح و نادرست را در کسری از زمان مورد نیاز روش های دستی معمولی تجزیه و تحلیل کند. در مطالعه موردی سوم، آن‌ها از اشتراک‌گذاری علاقه استفاده کردند تا عمیق‌تر در یک نمونه طبقه‌بندی تصویر خاص غوطه‌ور شوند. با دستکاری ناحیه حقیقت تصویر، آن‌ها توانستند یک تجزیه و تحلیل what-if انجام دهند تا ببینند کدام ویژگی‌های تصویر برای پیش بینی‌های خاص مهم هستند.

پژوهشگران از عملکرد خوب اشتراک‌گذاری در این مطالعات موردی تحت تأثیر قرار گرفتند، اما بوگوست هشدار می‌دهد که این تکنیک فقط به خوبی روش‌های برجسته‌ای است که بر اساس آن عمل می‌کند. اگر این تکنیک‌ها دارای سوگیری یا نادرست باشند، اشتراک‌گذاری این محدودیت‌ها را به ارث می‌برد.

در آینده، محققان می‌خواهند اشتراک‌گذاری را برای انواع مختلف داده‌ها، به‌ویژه داده‌های جدولی که در پرونده‌های پزشکی استفاده می‌شوند، اعمال کنند. بنابراین اشتراک‌گذاری تنها راهی برای درک سیستم استدلال ربات ها نخواهد بود بلکه عملکرد آن گسترش پیدا می‌کند. آنها همچنین می‌خواهند از اشتراک‌گذاری علاقه‌مندی برای کمک به بهبود تکنیک‌های برجسته فعلی استفاده کنند.

Boggust امیدوار است که این تحقیق الهام‌بخش کارهای بیشتری باشد که به دنبال تغییر رفتار مدل یادگیری ماشینی به روش‌هایی است که برای انسان معنادار باشد. این ایده تا حدی توسط آزمایشگاه هوش مصنوعی MIT-IBM Watson، آزمایشگاه تحقیقات نیروی هوایی ایالات متحده و شتاب دهنده هوش مصنوعی نیروی هوایی ایالات متحده تأمین خواهد شد.

جدیدترین اخبار هوش مصنوعی ایران و جهان را با هوشیو دنبال کنید