چارچوبی برای ارتقای امنیت و ایمنی سیستم های هوش مصنوعی با تاکید بر اعتمادپذیری، استانداردسازی و کاربردهای اینترنت اشیا

گسترش سریع سیستم های هوش مصنوعی در حوزه های حساس و حیاتی، از جمله سامانه های تصمیم یار، زیرساخت های هوشمند و محیط های مبتنی بر اینترنت اشیا، نگرانی های فزاینده ای را در زمینه امنیت و ایمنی این سیستم ها ایجاد کرده است. ماهیت پیچیده و غیرشفاف بسیاری از مدل های هوش مصنوعی موجب کاهش اعتماد کاربران و افزایش ریسک های عملیاتی، فنی و اخلاقی می شود. هدف پژوهش حاضر، تحلیل نظام مند چالش های امنیت و ایمنی سیستم های هوش مصنوعی و ارائه چارچوبی تحلیلی برای افزایش اعتمادپذیری این سیستم ها با تاکید بر استانداردسازی، اعتبارسنجی و کاربردهای نوین اینترنت اشیا است. در این پژوهش، با استفاده از بررسی ساختارمند منابع علمی معتبر داخلی و خارجی، چالش ها و راهکارهای مرتبط با امنیت و ایمنی سیستم های هوش مصنوعی مورد مطالعه قرار گرفته است. جامعه پژوهش شامل مقالات علمی منتشرشده در پایگاه های معتبر بین المللی در حوزه امنیت، ایمنی و حکمرانی هوش مصنوعی بود که با روش نمونه گیری هدفمند انتخاب شدند. داده ها از طریق تحلیل محتوای کیفی استخراج و با رویکرد مقایسه ای و استنتاجی تحلیل شدند. ابزار گردآوری داده ها شامل چارچوب تحلیل مفهومی امنیت و ایمنی هوش مصنوعی مبتنی بر اصول اعتمادپذیری، شفافیت، تاب آوری و نظارت عملیاتی بود. نتایج پژوهش نشان داد که فقدان استانداردهای یکپارچه، ضعف در فرایندهای اعتبارسنجی و آسیب پذیری در برابر حملات خصمانه از مهم ترین تهدیدهای امنیتی و ایمنی سیستم های هوش مصنوعی به ویژه در محیط های اینترنت اشیا محسوب می شوند. همچنین مشخص شد که ترکیب رویکردهای فنی، مدیریتی و نظارتی می تواند نقش موثری در کاهش ریسک ها و افزایش اعتماد کاربران ایفا کند. در نهایت، این پژوهش با ارائه یک چارچوب یکپارچه، بر ضرورت توجه همزمان به امنیت و ایمنی در طراحی و به کارگیری سیستم های هوش مصنوعی تاکید می کند. نتایج می تواند مبنایی برای توسعه سیاست ها، استانداردها و پژوهش های آینده در حوزه سیستم های هوشمند ایمن و قابل اعتماد باشد.

کلیدواژه ها:

هوش مصنوعی ، امنیت سیستم ها ، ایمنی الگوریتمی ، اعتمادپذیری ، اینترنت اشیا