طراحی چارچوب حکمرانی الگوریتمی مبتنی بر ماتریس تصمیم ریسک برای مدیریت سامانه های هوش مصنوعی در پلیس

گسترش کاربرد سامانه های مبتنی بر هوش مصنوعی در ساختار پلیس، ضرورت طراحی چارچوب های حکمرانی متناسب با ریسک های الگوریتمی را دوچندان کرده است. در این مقاله، مدلی ارائه شده است که با بهره گیری از ماتریس تصمیم ریسک، کاربردهای هوش مصنوعی پلیسی را بر اساس شدت تاثیر بر حقوق اشخاص، درجه خودکارسازی تصمیم و پیامد خطای الگوریتم طبقه بندی می کند. پژوهش حاضر از نظر هدف کاربردی و از حیث روش توصیفی تحلیلی با رویکرد تطبیقی است و بر پایه تحلیل سه سطحی فنی، حقوقی و نهادی انجام شده است. یافته ها نشان می دهد که در وضعیت موجود، سازوکار نظام مند برای ارزیابی پیشینی ریسک، ممیزی دوره ای الگوریتم و تعریف زنجیره مسئولیت در کاربردهای پرخطر وجود ندارد. مدل پیشنهادی با تعریف سطوح ریسک و بسته های کنترلی متناسب در هر سطح، امکان مدیریت ریسک الگوریتمی، تقویت نظارت انسانی معنادار و افزایش شفافیت سازمانی را فراهم می سازد. این چارچوب می تواند مبنای تدوین سیاست های اجرایی و تقنینی در مسیر توسعه پلیس هوشمند حقوق مدار در ایران قرار گیرد.

کلیدواژه ها:

پلیس هوشمند ، تحلیل داده ، عدالت الگوریتمی ، حکمرانی داده ، تنظیم گری مبتنی بر ریسک