حملات تخاصمی در یک مدل تحلیل احساس متن

: شبکه های عصبی عمیق دقت و کارایی بالایی در حل مسائل مختلف دارند اما در برابر نمونه های تخاصمی آسیب پذیر هستند. این دسته از نمونه های مخرب به منظور فریب مدل آموزش دیده و بررسی آسیب پذیری مدل های شبکه عصبی تولید می شوند. در حوزه متن روش های موفق زیادی برای ساخت این نمونه ها ارائه نشده است. در این پژوهش یک روش قوی مبتنی بر گرادیان تابع هزینه مدل برای تولید نمونه-های تخاصمی متنی ارائه شده و نشان داده شده که می توان با جایگزینی تعداد کمی از کلمات موجود در نمونه های اصلی با کلماتی که بیشترین تاثیر منفی را روی تصمیم طبقه بند دارند، نمونه های جدیدی مشابه با نمونه های اولیه برای فریب طبقه بند تحلیل احساس در سطح کلمه تولید نمود. در نهایت با بهره گیری از این نمونه ها دقت دو مدل طبقه بند از پیش آموزش دیده بررسی شد. روش مورد استفاده در این پژوهش، با دست کاری اندک نمونه های ورودی، موفق به کاهش دقت طبقه بندی از ۸۶ درصد به کمتر از ۱۰ درصد شده است.

کلیدواژه ها:

حملات متنی ، نمونه های تخاصمی ، گرادیان تابع هزینه ، تحلیل احساس ، پردازش زبان طبیعی