بررسی هوش مصنوعی توضیح پذیر (XAI) در سیستم های تصمیم گیری هوشمند

رشد سریع فناوری های هوش مصنوعی و به ویژه یادگیری عمیق موجب تحول چشمگیری در سامانه های تصمیم گیری هوشمند شده است. این فناوری ها در حوزه هایی نظیر پزشکی، بانکداری، امنیت سایبری، صنعت اینترنت اشیا و مدل های زبانی بزرگ عملکرد بسیار موفقی از خود نشان داده اند اما پیچیدگی ساختار آن ها باعث شده است که فرایند تصمیم گیری بسیاری از این مدل ها برای کاربران و حتی توسعه دهندگان قابل درک نباشد. این مسئله که از آن با عنوان «جعبه سیاه» یاد می شود، یکی از مهم ترین موانع پذیرش گسترده هوش مصنوعی در کاربردهای حساس به شمار می رود (Rudin, ۲۰۱۹; Anita et al. ۲۰۲۰). در پاسخ به این چالش حوزه هوش مصنوعی توضیح پذیر (Explainable Artificial Intelligence: XAI) با هدف افزایش شفافیت، قابلیت تفسیر، اعتمادپذیری و پاسخگویی مدل های هوشمند توسعه یافته است. روش های متنوعی از جمله LIME، Integrated Gradients، Grad-CAM، SHAP و Counterfactual Explanations برای ارائه توضیح درباره تصمیمات مدل های یادگیری ماشین پیشنهاد شده اند و هر یک مزایا و محدودیت های خاص خود را دارند (Ribeiro et al. ۲۰۱۶; Lundberg & Lee, ۲۰۱۷; Selvaraju et al., ۲۰۱۷; Sundararajan et al., ۲۰۱۷). این مقاله مروری با بررسی ادبیات پژوهشی کلاسیک و مطالعات جدید به معرفی مبانی نظری XAI، طبقه بندی مهم ترین روش های توضیح پذیری، کاربردهای آن در حوزه های مختلف، چالش های فنی و اخلاقی و همچنین مسیرهای آینده پژوهش می پردازد. نتایج مطالعات اخیر نشان می دهد که تمرکز پژوهش ها از صرفا ارائه توضیح برای مدل های جعبه سیاه به سمت توسعه سامانه های انسان محور، قابل اعتماد و منطبق با الزامات قانونی و اخلاقی حرکت کرده است و مدل های زبانی بزرگ نیز به یکی از مهم ترین حوزه های توسعه XAI تبدیل شده اند.

کلیدواژه ها:

هوش مصنوعی توضیح پذیر ، XAI ، قابلیت تفسیر ، یادگیری ماشین ، یادگیری عمیق ، شفافیت ، اعتمادپذیری ، مدل های زبانی بزرگ