داده کاوی مقاوم در برابر حملات رقابتی برای پرامپت های مخفی در مدل های زبانی بزرگ

مدل های زبانی بزرگ (LLMs) به دلیل توانایی های پیشرفته در پردازش و تولید زبان طبیعی، کاربردهای گسترده ای در حوزه های گوناگون یافته اند. با این حال، یکی از چالش های اساسی پیش روی این مدل ها، آسیب پذیری آن ها در برابر حملات رقابتی است. این حملات به ویژه در سناریوهایی که پرامپت های مخفی مورد سوءاستفاده قرار می گیرند، می توانند منجر به رفتارهای پیش بینی نشده و خطرناکی از سوی مدل شوند. چنین وضعیتی یک چالش جدی برای امنیت و اعتمادپذیری این مدل ها محسوب می شود. از آنجا که این آسیب پذیری می تواند در کاربردهای حساس مانند سیستم های پزشکی، مالی یا حقوقی پیامدهای جبران ناپذیری به همراه داشته باشد، ضرورت ارائه راهکارهای مقاوم بیش از پیش مورد نیاز است. این مقاله به بررسی و ارائه چارچوبی نظری نوین برای داده کاوی مقاوم می پردازد که هدف اصلی آن شناسایی و مقابله موثر با حملات رقابتی علیه پرامپت های مخفی در LLMها است. ما در این تحقیق با ارائه مدل سازی ریاضی دقیق، الگوریتمی مقاوم به نام PRI طراحی می کنیم که قادر به تشخیص و خنثی سازی تلاش ها برای استخراج اطلاعات حساس یا وادار کردن مدل به رفتارهای نامطلوب از طریق پرامپت های دستکاری شده است. تحلیل های نظری انجام شده نشان می دهند که این رویکرد می تواند به طور قابل توجهی سطح امنیت و اعتبار مدل های زبانی بزرگ را افزایش دهد.

کلیدواژه ها:

مدل های زبانی بزرگ ، حملات رقابتی ، پرامپت مخفی ، داده کاوی مقاوم ، امنیت هوش مصنوعی