امنیت نرم افزارهای مبتنی بر هوش مصنوعی، شناسایی آسیب پذیری های نو ظهور و راهکارهای مقابله

گسترش روزافزون نرم افزارهای مبتنی بر هوش مصنوعی، در کنار ایجاد ظرفیت های گسترده برای خودکارسازی، تحلیل داده و تصمیم گیری هوشمند، زمینه شکل گیری تهدیدها و آسیب پذیری های نوظهوری را فراهم کرده است که با الگوهای سنتی امنیت نرم افزار تفاوت دارند. هدف پژوهش حاضر، بررسی ابعاد امنیتی نرم افزارهای مبتنی بر هوش مصنوعی، شناسایی مهم ترین آسیب پذیری های نوظهور و تبیین راهکارهای پیشگیری، تشخیص و مقابله با آن ها است. این پژوهش با رویکرد توصیفی تحلیلی و با استفاده از مطالعات اسنادی و بررسی منابع علمی انجام شده است. یافته های پژوهش نشان می دهد که آسیب پذیری در سامانه های هوش مصنوعی می تواند در مراحل مختلف چرخه عمر، از جمع آوری و آموزش داده تا طراحی مدل، استقرار، تعامل با کاربر و به روزرسانی نرم افزار ایجاد شود. آلودگی داده های آموزشی، حملات خصمانه، دستکاری مدل، تزریق دستور، نشت اطلاعات، سوءاستفاده از مدل های زبانی و مولد، آسیب پذیری عامل های هوشمند و تهدیدهای زنجیره تامین از مهم ترین مخاطرات شناسایی شده هستند. نتایج همچنین نشان می دهد که اتکا به یک لایه امنیتی منفرد برای مقابله با این تهدیدها کافی نیست و ایجاد امنیت پایدار مستلزم اتخاذ رویکردی چندلایه و مبتنی بر مدیریت ریسک است. بر این اساس، استقرار سازوکارهای اعتبارسنجی داده، آزمون امنیتی مدل، کنترل دسترسی، پایش مستمر، تشخیص ناهنجاری، مدیریت آسیب پذیری، حفاظت از زنجیره تامین، ثبت رویدادها و پاسخ گویی به رخدادها باید در تمام چرخه عمر نرم افزار مورد توجه قرار گیرد. در نهایت، حرکت از امنیت واکنشی به سوی امنیت پیش نگر و تاب آور، شرط اساسی استفاده ایمن، پایدار و قابل اعتماد از نرم افزارهای مبتنی بر هوش مصنوعی است.

کلیدواژه ها:

امنیت نرم افزار ، هوش مصنوعی ، آسیب پذیری های نوظهور ، امنیت سایبری