امنیت هوش مصنوعی عامل محور: تحلیل تهدیدها راهبردهای دفاعی ارزیابی امنیت و چالشهای پیش رو

هوش مصنوعی عامل محور با تکیه بر مدل های زبانی بزرگ و برخورداری از قابلیت هایی مانند برنامه ریزی، استفاده از ابزار، حافظه، خودمختاری در حال تبدیل شدن به زیرساختی توانمند برای خودکارسازی فرایندهای پیچیده است. با این حال، انتقال سامانه های هوشمند از نقش پاسخ دهنده به عامل تصمیم گیر و اجراکننده دامنه تهدیدهای امنیتی را به طور محسوسی گسترش می دهد. این مقاله مروری، تهدیدها و آسیب پذیری های شاخص در سامانه های عامل محور را در قالب یک طبقه بندی منسجم بررسی می کند و بر تزریق فرمان و Jailbreak، بهره برداری سایبری خودکار و سوءاستفاده از ابزار، تهدیدهای چندعاملی و سطح پروتکل، خطرهای رابط و محیط و مسائل حکمرانی و خودمختاری تمرکز دارد. در ادامه راهبردهای دفاعی از جمله طراحی مقاوم در برابر تزریق فرمان، تشخیص و جداسازی، اعمال سیاست محدودسازی، قابلیت های sandboxing، پایش زمان اجرا و استانداردهای سازمانی بررسی می شوند. مقاله همچنین تحول معیارها و بنچمارک های ارزیابی را از سنجش صرف توانایی انجام وظیفه به سوی سنجش قابلیت اطمینان، ایمنی و کنترل تحلیل می کند. در نهایت چالش های باز مانند امنیت افق بلندمدت، همکاری چندعاملی، مقاومت در برابر حملات تطبیقی، امنیت عامل های فیزیکی و رابط انسان-عامل برجسته می شوند و بر ضرورت حرکت به سوی سامانه های امن از ابتدا تاکید می شود.

کلیدواژه ها:

هوش مصنوعی عامل محور ، امنیت هوش مصنوعی ، تزریق فرمان ، امنیت سایبری ، سامانه های چندعاملی ، ارزیابی امنیتی