چت بات های مبتنی بر هوش مصنوعی در خدمات مشاوره و سلامت روان: مرور نظام مند شواهد درباره اثربخشی، ایمنی و تجربه کاربر

با گسترش سریع مدل های زبانی بزرگ (Large Language Models; LLMs) و سامانه های هوش مصنوعی مولد، استفاده از این فناوری ها در ارزیابی سلامت روان و روان پزشکی به طور فزاینده ای مورد توجه قرار گرفته است. با وجود گزارش های امیدوارکننده درباره توانایی این مدل ها در پردازش داده های بالینی، شناسایی علائم و پشتیبانی از تصمیم گیری تشخیصی، شواهد موجود از نظر نوع وظیفه، جمعیت مورد بررسی، مدل مورد استفاده و معیارهای ارزیابی ناهمگون است. پژوهش حاضر با هدف شناسایی، ارزیابی و سنتز نظام مند شواهد تجربی درباره کاربرد مدل های زبانی بزرگ در ارزیابی سلامت روان و روان پزشکی انجام شد. این مطالعه یک مرور نظام مند با سنتز روایی و موضوعی شواهد بود که فرایند شناسایی، غربالگری و انتخاب مطالعات بر اساس اصول PRISMA ۲۰۲۰ انجام گرفت. مطالعات تجربی مرتبط با کاربرد مدل های زبانی بزرگ یا هوش مصنوعی مولد در تشخیص، غربالگری، شناسایی علائم، ارزیابی روان آسیب شناختی، ارزیابی خطر، مصاحبه بالینی و استدلال تشخیصی بررسی شدند. همچنین، شواهد مربوط به سوگیری، اعتماد، اتکا و تعامل توجه قرار گرفت. پس از غربالگری و ارزیابی مطالعات، ۳۶ مطالعه واجد شرایط وارد سنتز نهایی شدند. یافته ها نشان دادند که مدل های زبانی بزرگ در برخی وظایف، از جمله غربالگری افسردگی و اضطراب، استخراج علائم از متون بالینی، تشخیص اختلالات شناسایی خطر خودکشی و روان پریشی، قابلیت های قابل توجهی نشان داده اند. بااین حال، عملکرد مدل ها به صورت یکنواخت و مستقل از زمینه نبود و عواملی مانند نوع و کیفیت داده های ورودی، پیچیدگی مورد، مدل مورد استفاده، نسخه مدل، راهبرد متنی، معیار مرجع و نحوه تعامل انسان با سامانه بر نتایج اثر می گذاشتند. علاوه بر عملکرد تشخیصی، شواهد مربوط به سوگیری، اعتماد، اتکای بیش ازحد و پیروی نشان داد که ارزیابی قابلیت بالینی این فناوری مستلزم توجه هم زمان به عوامل فنی و انسانی است. در مجموع، شواهد موجود از ظرفیت مدل های زبانی بزرگ به عنوان ابزارهای پشتیبان فرایند ارزیابی سلامت روان حمایت می کند، اما ناهمگونی مطالعات، محدودیت اعتبارسنجی در محیط های واقعی بالینی و وجود چالش های مربوط به سوگیری، قابلیت اعتماد و تعامل انسان هوش مصنوعی، استفاده مستقل این مدل ها را با محدودیت مواجه می سازد. مطالعات آینده باید با استفاده از داده های واقعی و مطالعات آینده نگر و چندمرکزی، قابلیت تعمیم، ایمنی، پایداری و عملکرد این فناوری ها را در شرایط بالینی واقعی ارزیابی کنند.

کلیدواژه ها:

مدل های زبانی بزرگ ، هوش مصنوعی مولد ، سلامت روان ، غربالگری ، استدلال بالینی.