نقش هوش مصنوعی تفسیرپذیر در سیستم های پشتیبان تصمیم گیری بالینی گذار از جعبه سیاه به تشخیص های قابل اعتماد

فناوری هوش مصنوعی و به ویژه مدل های پیشرفته یادگیری عمیق پتانسیل های شگرف و تحول آفرینی در ارتقای کیفیت سیستم های هوشمند پشتیبان تصمیم گیری بالینی ایفا می کنند اما ماهیت مبهم و به اصطلاح جعبه سیاه این الگوریتم های پیچیده همواره باعث کاهش معنادار اعتماد متخصصان علوم پزشکی و ایجاد چالش های جدی در پاسخگویی حقوقی و پذیرش گسترده در محیط های درمانی شده است. این پژوهش به صورت یک مطالعه مروری نظام مند با جستجوی گسترده در پایگاه های داده معتبر جهانی از جمله اسکوپوس، پاب مد و آی تریپل ئی اکسپلور بر اساس ترکیبی از واژگان کلیدی تخصصی مرتبط با هوش مصنوعی تفسیرپذیر و سیستم های پشتیبان تصمیم گیری بالینی و با رعایت دقیق استانداردهای گزارش دهی پریسما انجام شد. از میان انبوه مقالات اولیه در نهایت ۶۸ مطالعه اصیل که به طور مشخص کاربرد فنون تفسیرپذیری را در تحلیل داده های بالینی غیرتصویری و فرآیند تصمیم سازی پزشکان گزارش کرده بودند مورد استخراج داده و تحلیل نهایی قرار گرفتند. نتایج نشان داد که روش های فنی مانند SHAP، LIME و گرادکام به ترتیب بیشترین میزان کاربرد را در تبیین خروجی های مدل های یادگیری مجموعه ای و یادگیری عمیق داشته اند. هوش مصنوعی تفسیرپذیر گامی حیاتی در جهت ایجاد سیستم های تصمیم یار بالینی شفاف و قابل اعتماد است اما موفقیت آن مستلزم طراحی کاربرمحور، ارزیابی استاندارد توضیحات و آموزش های تخصصی بالینی است. برای دستیابی به اعتماد واقعی باید تعادل ظریفی بین صحت فنی توضیحات و درک عملی پزشکان برقرار شود.

کلیدواژه ها:

هوش مصنوعی تفسیرپذیر ، سیستم پشتیبان تصمیم گیری بالینی ، شفافیت ، اعتماد به هوش مصنوعی ، SHAP