چارچوب امنیتی جامع برای اپلیکیشن های یکپارچه با مدل های زبانی بزرگ: تحلیل عمیق آسیب پذیری های تزریق پرامپت و نشت داده در سیستم های سازمانی

ظهور مدل های زبانی بزرگ (LLMs) و ادغام آن ها در اپلیکیشن های سازمانی، پلتفرم های رزرواسیون و سیستم های مدیریت آموزشی، پارادایم جدیدی در تعامل انسان و ماشین ایجاد کرده است. با وجود قابلیت های بی نظیر این سیستم ها در پردازش زبان طبیعی و اتوماسیون جریان های کاری، معماری یکپارچه آن ها سطح حمله (Attack Surface) گسترده ای را به همراه دارد. این مقاله به صورت سیستماتیک دو تهدید بحرانی «تزریق پرامپت» (مستقیم و غیرمستقیم) و «نشت داده های حساس» را در اپلیکیشن های یکپارچه با LLM ارزیابی می کند. با ارائه یک مدل تهدید ریاضیاتی، نشان می دهیم که چگونه سیستم های متکی بر تولید افزوده بازیابی (RAG) در صورت فقدان کنترل دسترسی مناسب، مستعد استخراج داده های حساس (PII) هستند. در این راستا، یک چارچوب دفاعی چندلایه ای شامل مکانیزم های جداسازی دستور از داده، لایه های محافظتی (Guardrails) اعتبارسنجی ورودی/خروجی، و یکپارچه سازی با سیستم های احراز هویت قوی (مانند OTP) پیشنهاد شده است. نتایج این پژوهش نشان می دهد که امنیت معماری های مبتنی بر LLM نیازمند گذار از امنیت سنتی نرم افزار به سمت نظارت های معنایی و محدودسازی امتیازات در سطح API است.

کلیدواژه ها:

مدل های زبانی بزرگ ، امنیت سایبری ، تزریق پرامپت غیرمستقیم ، نشت داده ، معماری RAG ، کنترل دسترسی ، لایه های محافظ (Guardrails).