مرور نظام مند رویکردهای توضیح پذیری در طراحی رابطهای هوش مصنوعی و تحلیل نقش بازخوردهای بصری در شکل دهی اعتماد کاربران

با نفوذ روزافزون سیستم های هوش مصنوعی (AI) در حوزه های حساس و پرخطر مسئله «جعبه سیاه» بودن این سیستم ها و عدم شفافیت در فرآیندهای تصمیم گیری آنها به یک چالش اساسی تبدیل شده است. این عدم شفافیت مانع اصلی در برابر شکل گیری اعتماد موثر و کالیبره شده کاربران است. هوش مصنوعی توضیح پذیر (XAI) به عنوان یک حوزه میان رشته ای با هدف شفاف سازی این فرآیندها ظهور کرده است. با این حال، صرف تولید یک توضیح کافی نیست؛ نحوه ارائه این توضیح از طریق رابط کاربری (UI) نقشی حیاتی در اثر بخشی آن دارد. این مقاله با استفاده از روش مرور نظام مند و تحلیل کیفی مفهومی به بررسی جامع رویکردهای توضیح پذیری در طراحی رابط های کاربری هوش مصنوعی و به طور خاص تحلیل نقش کلیدی بازخوردهای بصری در شکل دهی، کالیبراسیون و حفظ اعتماد کاربران می پردازد. با تحلیل و بررسی ادبیات پژوهشی منتشر شده بین سال های ۲۰۱۷ تا ۲۰۲۴، این پژوهش یک طبقه بندی از تکنیک های XAI و مکانیزم های بازخورد بصری متناظر با آنها ارائه می دهد. یافته ها نشان می دهد که بازخوردهای بصری از طریق ترجمه داده های انتزاعی توضیحات مانند اهمیت ویژگی ها یا مثال های متقابل به نمایش های قابل درک مانند نقشه های حرارتی، نمودارهای میله ای یا زبان طبیعی به عنوان یک پل شناختی عمل کرده و به طور مستقیم بر پیشایندهای اعتماد توانایی خیرخواهی و یکپارچگی درک شده از سیستم تاثیر می گذارند. نتایج حاکی از آن است که هیچ رویکرد بصری واحدی برای همه سناریوها بهینه نیست و اثربخشی آن به شدت به عواملی چون نوع مدل AI، پیچیدگی وظیفه، تخصص کاربر و هدف توضیح (مثلا اشکال زدایی یا توجیه تصمیم) وابسته است. این مقاله در نهایت یک مدل مفهومی یکپارچه ارائه می دهد که تعاملات پویا بین تکنیک XAI، طراحی بازخورد بصری، پیشایندهای شناختی اعتماد و رفتار نهایی کاربر را ترسیم می کند و مسیرهای پژوهشی آتی را در جهت طراحی رابط های هوش مصنوعی انسان محور و قابل اعتماد مشخص می سازد.

کلیدواژه ها:

هوش مصنوعی توضیح پذیر (XAI) ، اعتماد به هوش مصنوعی ، طراحی رابط کاربری ، تعامل انسان و کامپیوتر (HCI) ، بازخورد بصری ، تجسم سازی اطلاعات