هوش مصنوعی توضیح پذیر

هوش مصنوعی توضیح پذیر به عنوان یکی از شاخه های کلیدی در توسعه سامانه های هوشمند، نقش مهمی در افزایش شفافیت، اعتمادپذیری و کارآمدی الگوریتم های یادگیری ماشینی ایفا می کند. در شرایطی که الگوریتم های «جعبه سیاه» اغلب منجر به تصمیماتی غیرقابل درک برای انسان می شوند، ضرورت طراحی مدل های قابل توضیح بیش ازپیش احساس می شود. اهمیت این موضوع زمانی دوچندان می شود که بدانیم در حوزه های امنیت ملی، نظامی و سلامت عمومی، نبود شفافیت می تواند به بحران های جدی در اعتماد اجتماعی و تصمیم گیری های استراتژیک منجر گردد. این پژوهش با تمرکز بر سه رویکرد غالب در هوش مصنوعی توضیح پذیر شامل روش های مبتنی بر برچسب گذاری محلی مانند LIME، روش های مبتنی بر مقادیر شاپلی مانند SHAP، و رویکردهای مبتنی بر تبیین های خلاف واقع، تلاش می کند ابعاد نظری و کاربردی این حوزه را واکاوی نماید. همچنین با بهره گیری از منابع معتبر دانشگاهی از جمله دانشگاه هاروارد و گزارش های پژوهشی اتحادیه اروپا، این مقاله نشان می دهد که چگونه هوش مصنوعی توضیح پذیر می تواند به عنوان ابزاری کلیدی در ارتقای امنیت سایبری، مقابله با عملیات شناختی و مدیریت ریسک در ایران مورداستفاده قرار گیرد. نتایج بررسی ها بیانگر آن است که استفاده هوشمندانه از هوش مصنوعی توضیح پذیر می تواند ضمن تقویت اعتماد اجتماعی به سامانه های هوش مصنوعی، توان تصمیم سازی نهادهای راهبردی ایران را در برابر تهدیدات ترکیبی به طور معناداری ارتقا دهد.

کلیدواژه ها:

هوش مصنوعی توضیح پذیر ، شفافیت الگوریتمی ، عملیات شناختی ، امنیت سایبری