ارائه چارچوب حکمرانی سازمانی مبتنی بر کارگزاران هوشمند (AI Agents) برای تحول دیجیتال سازمان های حیاتی با رویکرد هوش مصنوعی مسئولانه

تحول دیجیتال، ظهور مدل های زبانی بزرگ (Large Language Models) و توسعه کارگزاران هوشمند (AI Agents)، پارادایم مدیریت و حکمرانی سازمان ها را دستخوش تغییرات بنیادین کرده است. در این میان، سازمان های حیاتی به دلیل نقش راهبردی در ارائه خدمات عمومی و مدیریت زیرساخت های اساسی، بیش از سایر سازمان ها به چارچوب های نوین حکمرانی مبتنی بر هوش مصنوعی نیاز دارند. با وجود پیشرفت های اخیر در حوزه کارگزاران هوشمند، نبود یک چارچوب جامع که ضمن بهره گیری از قابلیت های تصمیم سازی خودکار، اصول هوش مصنوعی مسئولانه، شفافیت، پاسخگویی، امنیت و نظارت انسانی را نیز دربرگیرد، همچنان یکی از شکاف های مهم پژوهشی به شمار می رود. این پژوهش با هدف ارائه چارچوبی مفهومی برای حکمرانی سازمانی مبتنی بر کارگزاران هوشمند در سازمان های حیاتی انجام شده است. روش پژوهش از نوع کیفی و توسعه ای بوده و با استفاده از مرور نظام مند ادبیات، تحلیل مطالعات پیشین و ترکیب مفاهیم مرتبط با تحول دیجیتال، کارگزاران هوشمند، حکمرانی هوش مصنوعی و هوش مصنوعی مسئولانه، چارچوب پیشنهادی طراحی شده است. چارچوب ارائه شده شامل شش لایه اصلی شامل راهبری راهبردی، مدیریت کارگزاران هوشمند، هوشمندی تصمیم گیری، مدیریت داده، سامانه های عملیاتی و لایه پایش، اخلاق و یادگیری مستمر است که تعامل میان انسان و هوش مصنوعی را در قالب رویکرد Human-in-the-Loop تضمین می کند. نوآوری اصلی پژوهش، ارائه یک مدل یکپارچه برای استقرار و حکمرانی کارگزاران هوشمند در سازمان های حیاتی با تاکید بر شفافیت الگوریتمی، مدیریت ریسک، امنیت اطلاعات و پاسخگویی است. نتایج نشان می دهد به کارگیری این چارچوب می تواند ضمن افزایش کیفیت تصمیم گیری، چابکی سازمانی، بهره وری و تاب آوری دیجیتال، زمینه استقرار ایمن و مسئولانه سامانه های مبتنی بر هوش مصنوعی را فراهم سازد. یافته های این پژوهش می تواند مبنایی برای سیاست گذاری، طراحی معماری سازمان های هوشمند و توسعه تحقیقات آینده در حوزه حکمرانی هوش مصنوعی و تحول دیجیتال باشد.

کلیدواژه ها:

کارگزاران هوشمند (AI Agents) ، حکمرانی هوش مصنوعی ، تحول دیجیتال ، هوش مصنوعی مسئولانه ، سازمان های حیاتی ، مدل های زبانی بزرگ (LLMs) ، حکمرانی سازمانی ، شفافیت الگوریتمی (XAI)