چارچوب اخلاقی-روانشناختی برای طراحی هوش مصنوعی در مشاوره سلامت روان

پژوهش حاضر با هدف تدوین یک چارچوب اخلاقی–روانشناختی برای طراحی و پیاده سازی سامانه های هوش مصنوعی در حوزه مشاوره سلامت روان انجام شد. ضرورت مطالعه از تلاقی دو واقعیت ناشی می شود: حساسیت ذاتی داده ها و رابطه درمانی از یک سو و گسترش کاربرد ابزارهای هوش مصنوعی در خدمات روانی از سوی دیگر. یافته ها نشان می دهد که یک چارچوب یکپارچه باید هم زمان شامل سازوکارهای فنی (مثلا رمزنگاری و ذخیره سازی امن)، رویه های مدیریتی و حقوقی (مکانیزم های رضایت آگاهانه و نظارت مقرراتی)، و ملاحظات روانشناختی (تقویت همدلی دیجیتال و ارجاع به انسان در موارد بحرانی) باشد. همچنین پیشنهاد شد نقش هوش مصنوعی به صورت مکمل و نه جایگزین درمانگر انسانی تعریف گردد. پژوهش نتیجه می گیرد که به کارگیری دستورالعمل های پیشنهادی می تواند ریسک های اخلاقی و روان شناختی مرتبط با کاربرد AI در مشاوره را کاهش داده و پذیرش و اثربخشی خدمات دیجیتال سلامت روان را افزایش دهد. پیشنهاد می شود چارچوب در مطالعات تجربی آتی اعتبارسنجی گردد.

کلیدواژه ها:

هوش مصنوعی ، حریم خصوصی داده ها ، سوگیری الگوریتمی ، رابطه درمانی ، اخلاق در سلامت روان