از جعبه سیاه تا سامانه قابل حسابرسی مروری تحلیلی بر توضیح پذیری اعتماد و پاسخگویی در تصمیم یارهای هوش مصنوعی بالینی

با گسترش کاربرد هوش مصنوعی در نظام سلامت سامانه های تصمیم یار بالینی (CDSS) به یکی از اجزای کلیدی فرآیندهای تشخیص و درمان تبدیل شده اند. با این حال افزایش پیچیدگی مدل های یادگیری عمیق و حرکت به سوی سامانه های خودمختار چالش های مهمی در زمینه شفافیت، اعتماد، پاسخگویی و قابلیت حسابرسی ایجاد کرده است. این مقاله با رویکرد مرور تحلیلی، به بررسی مفهومی و انتقادی سه محور کلیدی «توضیح پذیری»، «اعتماد» و «پاسخگویی» در سامانه های هوش مصنوعی بالینی می پردازد و تلاش می کند گذار از مدل های جعبه سیاه به سامانه های قابل حسابرسی را تبیین کند. در این مطالعه ادبیات علمی منتشر شده بین سال های ۲۰۱۸ تا ۲۰۲۶ از پایگاه های معتبر علمی و اسناد سیاست گذاری بین المللی بررسی و با استفاده از تحلیل مضمون مفاهیم بنیادین استخراج و در قالب یک چارچوب اجتماعی فنی سازمان دهی شده اند. یافته ها نشان می دهد که موفقیت سامانه های هوش مصنوعی در محیط بالینی تنها به دقت الگوریتمی وابسته نیست بلکه به میزان توانایی آنها در ایجاد توضیح پذیری قابل فهم برای کاربران، تقویت اعتماد در تعامل انسان-ماشین و فراهم سازی سازوکارهای شفاف پاسخگویی و حسابرسی وابسته است. نتایج همچنین نشان می دهد که اعتماد به سامانه های هوش مصنوعی یک ویژگی ایستا نیست بلکه در فرآیند استفاده و در بستر تعامل میان پزشک، فناوری و سازمان شکل می گیرد. علاوه بر این، پاسخگویی در سامانه های هوش مصنوعی ماهیتی توزیع شده دارد و نیازمند بازتعریف مسئولیت در سطح فردی، سازمانی و سیستمی است. در نهایت مقاله استدلال می کند که آینده هوش مصنوعی در سلامت نه در توسعه مدل های دقیق تر بلکه در طراحی سامانه های قابل فهم، قابل اعتماد و قابل حسابرسی نهفته است که بتوانند به صورت هم افزا در کنار تصمیم گیران انسانی عمل کنند.

کلیدواژه ها:

هوش مصنوعی بالینی ، توضیح پذیری ، اعتماد ، پاسخگویی ، قابلیت حسابرسی ، سامانه های تصمیم یار بالینی ، هوش مصنوعی قابل اعتماد