پیش بینی ریسک تولید کد مخرب در مدل های زبانی بزرگ با استفاده از تحلیل رفتاری و معنایی مبتنی بر هوش مصنوعی توضیح پذیر

گسترش مدل های زبانی بزرگ (LLMs) در حوزه توسعه نرم افزار، ریسک تولید ناخواسته یا مغرضانه کدهای مخرب را به شدت افزایش داده است. روش های امنیتی سنتی مبتنی بر امضا و قواعد ایستا، به دلیل ناتوانی در تحلیل رفتارهای پویا، تفسیرپذیری پایین و دور خوردن توسط پرامپت های پیچیده (Jailbreak)، کارایی لازم را ندارند. در این پژوهش، یک چارچوب نوین مبتنی بر هوش مصنوعی توضیح پذیر (XAI) برای پیش بینی ریسک تولید کد مخرب در LLMها با تلفیق تحلیل رفتاری پرامپت و تحلیل معنایی کد خروجی ارائه شده است. ما با ترکیب مدل های بازنمایی معنایی عمیق و روش های ارزش گذاری SHAP و LIME، به شناسایی و رتبه بندی شاخص های کلیدی ریسک پرداخته ایم. نتایج شبیه سازی روی مجموعه داده های چالش برانگیز نشان می دهد که چارچوب پیشنهادی به نرخ دقت (Accuracy) ۹۴.۶٪، امتیاز F۱ برابر با ۹۳.۸٪ و شاخص AUC-ROC معادل ۹۶.۲٪ دست یافته است. این نتایج در مقایسه با روش های یادگیری ماشین سنتی و مدل های طبقه بندی متن پایه، بهبود عملکردی بین ۴.۲٪ تا ۷.۵٪ را در صحت پیش بینی نشان می دهد. علاوه بر این، ارائه الگوهای توضیحی در سطح تصمیم گیری مدل، زمان تحلیل امنیتی پرامپت ها را تا ۳۵٪ کاهش داده است که این امر کارآمدی چارچوب پیشنهادی را در پایش بلادرنگ سامانه های تولید کد اثبات می کند.

کلیدواژه ها:

مدل های زبانی بزرگ ، تولید کد مخرب ، هوش مصنوعی توضیح پذیر ، تحلیل رفتاری و معنایی ، ارزیابی ریسک امنیتی.