ارائه روشی برای افزایش تمرکز شبکه عصبی عمیق بر سوژه اصلی مبتنی بر توضیح پذیری برای مدل های طبقه بندی

با پیشرفت استفاده از هوش مصنوعی و یادگیری عمیق در سال های اخیر در صنایع حساس و حیاتی مانند سامانه های فرماندهی و کنترل نظامی، وجود عناصری مانند قابلیت اعتماد، توانایی تفسیر نتایج و درک ساختار تصمیم گیری مدل های آموزش داده شده بیش از پیش احساس شده است. به همین منظور راهکارهایی مانند الگوریتم های توضیح پذیری مدل مانند Grad-CAM، SHAP، LIME و... ارائه شده اند. پس از آن در سال های اخیر رویکردی برای افزودن راهنمایی های توضیح پذیری در طی فرآیند آموزش مدل با نام اختصاری EGL نیز مطرح شده است. که هدف آن افزایش دقت پیش بینی و کسب اعتماد کاربر نسبت به نتایج مدل است. در این پژوهش راهکاری نوین با استفاده از رویکرد EGL برای افزایش تمرکز مدل های طبقه بندی بر سوژه اصلی ارائه شده است. تابع هدف پیشنهادی دارای جملاتی برای طبقه بندی، تمرکز بر سوژه اصلی و کاهش توجه به نقاط فاقد اهمیت در تصویر است. روش پیشنهادی بر روی شبکه ResNet۱۸ با مجموعه داده TinyImageNet آموزش مجدد داده شده است و نتایج آن از دو جنبه دقت پیش بینی و کیفیت توضیح پذیری ارتقا یافته است. همچنین در مقایسه با پژوهش های پیشین روش پیشنهادی موجب افزایش تمرکز شبکه عصبی بر روی سوژه اصلی و کاهش تمرکز مدل بر ویژگی های پس زمینه شده است.

کلیدواژه ها:

Deep Neural Networks ، Explainability ، Interpretability ، Explanation-Guided Learning EGL ، Image Classification ، شبکه های عصبی عمیق ، توضیح پذیری ، تفسیر پذیری ، یادگیری مبتنی بر توضیح پذیری EGL ، طبقه بندی تصاویر