مرور نظام مند پژوهش های مرتبط با به کارگیری هوش مصنوعی توضیح پذیر در سامانه های تشخیص نفوذ شبکه

این مقاله مروری به بررسی ترکیب سه حوزه ی "هوش مصنوعی توضیح پذیر"٬ "سامانه های تشخیص نفوذ" و "حملات خصمانه" می پردازد. هدف آن روشن کردن مسیرهای پژوهش در این زمینه ها با روشن کردن انواع روش های توضیح پذیری٬ تاثیر توضیح پذیری بردقت تشخیص در سامانه های تشخیص نفوذ٬ سوء استفاده ی حمله کنندگان از توضیح پذیری در قالب ساختن داده های خصمانه و روش های مقابله با آن است. برای دستیابی به یک مرور شفاف و سیستماتیک٬ فرآیند شناسایی و غربال گری با رویکرد گزارش دهی PRISMA ۲۰۲۰ و اصول مستندسازی کیچنهام و چارترز انجام شد. با توجه به جدید بودن موضوع٬ در ابتدا از مقالات پایه ای برای تعاریف مهم در این زمینه استفاده شد٬ سپس تعدادی از مقالات معتبر داوری شده جهت معرفی بیشتر روش ها و ابزارهای رایج در این زمینه مورد ببرسی قرار گرفت. نتایج در مقالات نشان می دهد بسته به نوع هدف پژوهش برای توضیح پذیری می توان از ابزارهای رایجی مانند SHAP و LIME به صورت جداگانه یا ترکیبی بهره برد. همچنین زمینه های پژوهش در انتخاب٬ حذف و یا جایگزینی ویژگی های مهمی که با کمک این ابزار بدست آمده مورد بررسی قرار گرفت. در نهایت برای دستیابی به یک ساختار نظام مند در این زمینه٬ مطالعاتی مربوط به سوء استفاده از این ابزار برای ساخت داده های خصمانه و در مقابل آن تلاش برای شناسایی چنین مواردی در سامانه های تشخیص نفوذ نیز بررسی شد٬ تا پژوهش گر دید کاملی به سیر تکامل موضوعات مربوط به این زمینه پیدا کند. همچنین مهم ترین شکاف های پژوهشی حال حاضر در این زمینه نیز مشخص شدند.

کلیدواژه ها:

هوش مصنوعی توضیح پذیر ، سامانه تشخیص نفوذ ، حملات خصمانه ، تفسیرپذیری