امنیت هوش مصنوعی ISO/IEC ۴۲۰۰۱ Lead Implementer / Lead Auditor برای مدیریت سامانه های هوش مصنوعی: امنیت هوش مصنوعی، امنیت مدل های زبانی بزرگ (LLM Security)، و امنیت عامل های هوش مصنوعی (Agentic AI Security)

پیشرفت شتابان هوش مصنوعی به ویژه در حوزه مدل های زبانی بزرگ و عامل های هوشمند، سازمان ها را با چالش های بی سابقه ای در زمینه امنیت و حاکمیت مواجه ساخته است. استاندارد ایزو ۴۲۰۰۱ به عنوان نخستین استاندارد جهانی سیستم مدیریت هوش مصنوعی، چارچوبی نظام مند برای مدیریت ریسک ها و حصول اطمینان از توسعه و استفاده مسئولانه از سیستم های هوش مصنوعی فراهم می آورد. این پژوهش به بررسی جامع امنیت هوش مصنوعی در سه سطح استاندارد ایزو ۴۲۰۰۱، امنیت مدل های زبانی بزرگ و امنیت عامل های هوش مصنوعی می پردازد و نقش مدیران پیاده ساز و حسابرسان ارشد را در استقرار و ممیزی سیستم های مدیریت هوش مصنوعی مورد کنکاش قرار می دهد. یافته های پژوهش نشان می دهد که تهدیدات امنیتی در مدل های زبانی بزرگ شامل تزریق دستور، مسمومیت داده، افشای اطلاعات حساس و نشت دستورات سیستمی است و عامل های هوش مصنوعی به دلیل برخورداری از استقلال عمل، حافظه پایدار و تعامل با محیط های خارجی، با ریسک های کیفی نوینی مانند مسمومیت حافظه، سوءاستفاده از ابزار و ناهمترازی پدیدارشونده مواجه هستند. استاندارد ایزو ۴۲۰۰۱ با ارائه الزامات برای خط مشی، رهبری، برنامه ریزی، پشتیبانی، عملیات، ارزیابی عملکرد و بهبود مستمر، بستری مناسب برای مدیریت این ریسک ها فراهم می کند. نتایج پژوهش حاکی از آن است که ترکیب پیاده سازی استاندارد ایزو ۴۲۰۰۱ با مکانیزم های امنیتی تخصصی در سطح مدل و عامل، می تواند به طور معناداری سطح امنیت سامانه های هوش مصنوعی را ارتقا دهد و زمینه ساز توسعه پایدار و مسئولانه این فناوری در سازمان ها گردد.

کلیدواژه ها:

استاندارد ایزو ۴۲۰۰۱ ، امنیت مدل های زبانی بزرگ ، امنیت عامل های هوش مصنوعی ، سیستم مدیریت هوش مصنوعی ، حاکمیت هوش مصنوعی