تحلیل جامع و سیستماتیک آسیب پذیری های امنیتی در پروتکل های واترمارکینگ مدل های هوش مصنوعی مولد

با ظهور پارادایم هوش مصنوعی مولد و گسترش مدل های زبانی بزرگ (LMS) و مدل های انتشار (Diffusion Models) چالش های امنیتی و اخلاقی نوظهوری همچون نقض مالکیت معنوی و اشاعه اطلاعات غلط پدید آمده است. اگرچه واترمارکینگ دیجیتال به عنوان راهکاری محوری برای اثبات اصالت و ردیابی منشا محتوا مطرح شده، اما این پژوهش نشان می دهد که پروتکل های فعلی در برابر حملات خصمانه Adversarial Attacks به شدت آسیب پذیر هستند. در این مقاله با اتخاذ رویکردی فنی و ریاضیاتی مکانیسم های شکست واترمارک در دو حوزه متن و تصویر کالبدشکافی شده است. یافته ها حاکی از آن است که حملات نوین نظیر بازنویسی مبتنی بر خود اطلاعاتی (SIRA)، متن و حملات بازسازی (Regeneration) در تصویر قادرند با بهره گیری از ویژگی های آماری خود مدل های مولد سیگنال های امنیتی را بدون افت کیفیت ادراکی حذف یا جعل کنند. در نهایت با استناد به قضیه عدم امکان (Impossibility Theorem) و نتایج بنچمارک WAVES اثبات می شود که امنیت مبتنی بر مخفی کاری در فضای فعلی ناکارآمد بوده و ضرورت گذار به سمت واترمارکینگ معنایی و امضاهای رمزنگاری شده اجتناب ناپذیر است.

کلیدواژه ها:

هوش مصنوعی مولد (Generative) ، واترمارکینگ دیجیتال (Digital Watermarking) ، حملات خصمانه (Adversarial Attacks) ، مدل های زبانی بزرگ (Large Language Models) ، مدل های انتشار (Diffusion Models) ، SIRA (SIRA Attack)