مروری جامع بر امنیت، مدیریت ریسک و اعتماد در سامانه های هوش مصنوعی پیشرفته با تمرکز بر چارچوب AI TRiSM

هوش مصنوعی به عنوان یکی از فناوری های کلیدی تحول دیجیتال، کاربرد گسترده ای در حوزه های حساس نظیر سلامت، حمل ونقل هوشمند، صنایع هوشمند و سامانه های سایبر–فیزیکی پیدا کرده است. با وجود مزایای چشمگیر، افزایش سطح خودمختاری و پیچیدگی مدل های یادگیری ماشین و مدل های مولد، چالش های امنیتی، ریسک های سازمانی و نگرانی های مربوط به اعتمادپذیری را به همراه داشته است. حملات خصمانه، مسموم سازی داده، سرقت مدل، تزریق دستور و تهدیدات ایمنی در سامانه های رباتیک نمونه هایی از این چالش ها هستند. این مقاله مروری با ادغام و تحلیل مطالعات مروری اخیر، به بررسی جامع تهدیدات امنیتی، روش های مدیریت ریسک، سازوکارهای اعتمادسازی و چارچوب AI TRiSM می پردازد. نتایج این مطالعه نشان می دهد که رویکردهای یکپارچه مبتنی بر حکمرانی هوش مصنوعی می توانند نقش موثری در توسعه سامانه های هوشمند امن و قابل اعتماد ایفا کنند..

کلیدواژه ها:

امنیت هوش مصنوعی ، مدیریت ریسک ، اعتمادپذیری ، AI TRiSM ، مدل های مولد ، سامانه های سایبر–فیزیکی