هوش مصنوعی توجیه پذیر: ترکیبی سازنده از مرور ادبیات پیشین و مسائل پژوهشی جهت تحقیقات آینده از دیدگاه کاربر

رشد سریع و استفاده از سیستم های مبتنی بر هوش مصنوعی (AI) نگرانی هایی را در مورد توانایی توضیح ایجاد کرده است. مطالعات اخیر تقاضای در حال ظهور برای هوش مصنوعی قابل توضیح (XAI) را موردبحث قرار داده است. بااین حال، بررسی سیستماتیک هوش مصنوعی قابل توضیح از دیدگاه کاربر نهایی می تواند درک جامعی از وضعیت فعلی ارائه دهد و به پر کردن شکاف تحقیقاتی کمک کند. هدف از این مطالعه انجام یک بررسی ادبیات سیستماتیک هوش مصنوعی قابل توضیح از دیدگاه کاربر نهایی و ترکیب یافته ها است. به طور دقیق، اهداف عبارت بودند از: شناسایی ابعاد نیازهای توضیحی کاربران نهایی، بررسی تاثیر توضیح بر ادراک کاربر نهایی، شناسایی شکاف هایی تحقیق و پیشنهاد تحقیقات آینده. در ابتدا، ۱۷۰۷ مجله و مقالات کنفرانسی از پایگاه داده های Scopus و Web of Science بر حسب معیارهای ورود و خروج فیلتر گردیده و سپس ۵۸ مقاله برای SLR انتخاب شد. یافته ها چهار بعد را نشان می دهند که توضیح هوش مصنوعی را شکل می دهند که عبارتند از قالب (فرمت نمایش توضیحی)، کامل بودن (توضیحات باید شامل همه موارد باشد،اطلاعات مورد نیاز، از جمله اطلاعات تکمیلی)، دقت (اطلاعات مربوط به دقت توضیح) وبه روز بودن (توضیح باید حاوی اطلاعات اخیر باشد). علاوه بر این، همراه با نمایش خودکار توضیح، کاربران می توانند در صورت نیاز اطلاعات اضافی را درخواست کنند. ما نیز پنج بعد از اثرات XAI را از جمله اعتماد، شفافیت، قابل فهم بودن، قابلیت استفاده و انصاف را در نظر گرفتیم.

کلیدواژه ها:

هوش مصنوعی توجیه پذیر ، هوش مصنوعی قابل توضیح ، مدل های ماشینی ، هوش مصنوعی مسئول ، هوش مصنوعی