طراحی سیستم های هوش مصنوعی قابل توضیح با محوریت کاربر؛ مروری بر پژوهش های اخیر

با گسترش استفاده از مدل های پیچیده یادگیری ماشین، مسئله شفافیت و تفسیرپذیری تصمیمات مبتنی بر هوش مصنوعی اهمیت فزاینده ای یافته است. بسیاری از این مدل ها به ویژه مدل های عمیق علی رغم دقت بالا ماهیتی جعبه سیاه دارند و درک منطق تصمیم گیری آن ها برای کاربران نهایی دشوار است. در این میان رویکرد طراحی کاربر محور (User-Centered Design - UCD) نقش مهمی در افزایش کارآمدی سامانه های هوش مصنوعی قابل توضیح (Explainable Artificial Intelligence - XAI) ایفا می کند زیرا توضیحات زمانی موثر خواهند بود که با نیازهای، شناختی، سطح تخصص و اهداف کاربران همخوانی داشته باشند. این مقاله با مرور پژوهش های اخیر بررسی می کند که چگونه اصول UCD می توانند در مراحل مختلف توسعه سامانه های XAI، از تحلیل نیازها و تعریف سناریوهای تعامل تا انتخاب روش های توضیح پذیری و طراحی رابط ارائه توضیح، به صورت نظام مند ادغام شوند. نتایج این مرور نشان می دهد که یکپارچه سازی ساخت یافته XAI و UCD می تواند به کاهش بار شناختی، افزایش اعتماد و بهبود پذیرش کاربران منجر شود. بر این اساس چارچوبی عملی برای هدایت فرایند طراحی و ارزیابی سامانه های XAI کاربر محور پیشنهاد می شود.

کلیدواژه ها:

هوش مصنوعی قابل توضیح (XAI) ، طراحی کاربر محور (UCD) ، مدل های تفسیرپذیر ، تعامل انسان ماشین ، اعتماد کاربران