مروری بر چالش های طراحی تعامل انسان و هوش مصنوعی در اپلیکیشن های سلامت روان

در سال های اخیر، اپلیکیشن های سلامت روان مبتنی بر هوش مصنوعی، به ویژه چت بات های مکالمه محور و دستیارهای مبتنی بر مدل های زبانی بزرگ، از ابزارهای کمکی ساده به عامل های تعاملی پیچیده ای تبدیل شده اند که مستقیما و بدون واسطه با کاربرانی در وضعیت های روانی آسیب پذیر گفت وگو می کنند. این دگرگونی، مجموعه ای از چالش های طراحی تعامل انسان و رایانه را پیش کشیده که با اصول کلاسیک این حوزه تفاوت های بنیادین دارد و نیازمند بازاندیشی در چارچوب های موجود طراحی است. هدف این مقاله ی مروری، شناسایی، طبقه بندی و تحلیل مهم ترین چالش های طراحی تعامل انسان و هوش مصنوعی در اپلیکیشن های سلامت روان است. بدین منظور، ادبیات پژوهشی منتشرشده میان سال های ۲۰۲۰ تا ۲۰۲۵ میلادی، در کنار گزارش های مستند از رخدادهای واقعی صنعت، به شیوه ای روایی مرور و ترکیب شده است. یافته ها نشان می دهند هفت دسته چالش اصلی بر طراحی این محصولات سایه افکنده اند: کالیبراسیون نادرست اعتماد کاربر، فقدان شفافیت و تبیین پذیری در تصمیم های الگوریتمی، مرز میان همدلی شبیه سازی شده و اصالت ارتباط انسانی، ناکارآمدی در مدیریت ایمنی هنگام بحران های حاد، سوگیری های الگوریتمی ناشی از داده های آموزشی نامتوازن، شکل گیری وابستگی عاطفی و پیوندهای شبه اجتماعی با عامل های مصنوعی، و ملاحظات حریم خصوصی داده های به شدت حساس هیجانی. بررسی دو رخداد مستند صنعتی، از جمله توقف اضطراری یک چت بات آموزشی و یک دعوای حقوقی مرتبط با مرگ یک نوجوان، نشان می دهد این چالش ها صرفا نظری نیستند و پیامدهای واقعی و گاه جبران ناپذیری در پی دارند. مقاله در پایان، یک چارچوب ترکیبی از اصول طراحی مسئولانه را، با اتکا به سنتز یافته های مرورشده، پیشنهاد می دهد که می تواند راهنمای عملی طراحان، پژوهشگران و سیاست گذاران این حوزه در ساخت محصولاتی باشد که هم از قابلیت های هوش مصنوعی مولد بهره می برند و هم کرامت و ایمنی کاربر آسیب پذیر را در مرکز توجه قرار می دهند.

کلیدواژه ها:

هوش مصنوعی ، تعامل انسان و رایانه ، سلامت روان ، چت بات ، طراحی تجربه ی کاربری