مروری بر تهدیدات امنیتی، سازوکارهای دفاعی، چارچوب های ارزیابی و شکاف های پژوهشی در سامانه های مبتنی بر تولید تقویت شده با بازیابی

سامانه های مبتنی بر تولید تقویت شده با بازیابی با ترکیب مدل های زبانی بزرگ و پایگاه دانش خارجی، پاسخ های دقیق تر و مستندتری ارائه می دهند، اما همین معماری آسیب پذیری سامانه را نسبت به مدل های زبانی مستقل افزایش داده و تهدیدات جدیدی را در مولفه های بازیابی، پایگاه دانش و تولید پدید آورده است. هم زمان با رشد سریع پژوهش ها، ادبیات امنیت RAG همچنان فاقد چارچوبی یکپارچه برای تحلیل جامع حملات، دفاع ها و روش های ارزیابی است. این پژوهش یک مرور جامع از امنیت این سامانه ها ارائه می کند و با تکیه بر یک مدل تهدید چندبعدی، حملات را بر اساس مولفه هدف، زمان وقوع، سطح دسترسی مهاجم، هدف امنیتی و ماندگاری طبقه بندی و تحلیل می کند. همچنین، راهکارهای دفاعی از منظر محل استقرار، نوع تضمین امنیتی و محدودیت های عملیاتی مقایسه شده و معیارها و پروتکل های ارزیابی امنیت به صورت یکپارچه مرور می شوند. علاوه بر این، چارچوب های جدیدتر مانند چارچوب های عامل محور، چندرسانه ای و چالش های امنیتی آن ها بررسی می شوند. در نهایت، مهم ترین شکاف های پژوهشی از جمله نبود بنچمارک های استاندارد و محدودیت دفاع های فعلی شناسایی می شوند، که مبنایی برای پژوهش های آینده در این حوزه فراهم می کند.

کلیدواژه ها:

تولید تقویت شده با بازیابی ، مدل تهدید ، مسموم سازی پیکره ، ارزیابی امنیت ، مکانیزم های دفاعی