تحلیل حمله تزریق پرامپت و تاثیر روش دیپمایند در جلوگیری از آن

مدل های زبانی بزرگ و چت بات های هوش مصنوعی در خط مقدم دموکراتیک سازی هوش مصنوعی قرار داشته اند. بااین حال، انتشار ChatGPT و ابزارهای مشابه دیگر، با افزایش نگرانی ها درباره دشواری کنترل مدل های زبانی بزرگ و خروجی های آن ها همراه بوده است. در حال حاضر، شاهد یک بازی تعقیب و فرار هستیم که در آن کاربران سعی می کنند از مدل ها با یک حمله ابداعی به نام «تزریق پرامپت» سوء استفاده کنند؛ درحالی که توسعه دهندگان به طور هم زمان تلاش می کنند آسیب پذیری ها را کشف و حملات را مسدود نمایند. در این مقاله، مروری بر این تهدید نوظهور ارائه می دهیم و دسته بندی از حملات معرفی شده ارائه می کنیم که می تواند راهنمای تحقیقات آینده در این زمینه باشد. علاوه بر این، بر اساس ادبیات پژوهشی پیشین و تحقیقات تجربی خودمان، پیامدهای روش مورد نظر را برای کاربران نهایی، توسعه دهندگان و محققان مدل های زبانی بزرگ موردبحث و با ارائه کلی از موضوع دیپ مایند؛ میزان تاثیرگذاری در جلوگیری از حملات سریع تزریق را بررسی می-نماییم.

کلیدواژه ها:

دیپ مایند ، سریع تزریق ، هوش مصنوعی ، هک ، حمله سایبری