چالش های حریم خصوصی و رضایت آگاهانه در استفاده از چت بات های مشاوره ای برای افراد آسیب پذیر

پژوهش حاضر به بررسی چالش های حریم خصوصی و رضایت آگاهانه در استفاده از چت بات های مشاوره ای برای افراد آسیب پذیر می پردازد. چت بات های مبتنی بر هوش مصنوعی مولد به طور فزاینده ای به عنوان ابزاری مقیاس پذیر و در دسترس برای حمایت از سلامت روان استفاده می شوند، به ویژه برای جمعیت هایی که به خدمات سنتی دسترسی محدودی دارند. با این حال، این فناوری ها چالش های اخلاقی و حقوقی بی سابقه ای را ایجاد می کنند. کاربران آسیب پذیر—از جمله نوجوانان، سالمندان، پناهندگان، افراد با اختلالات روانی شدید و سایر گروه های محروم—در مواجهه با این سیستم ها در معرض خطرات تشدیدشده قرار دارند. یافته های پژوهش نشان می دهد که مدل های فعلی رضایت آگاهانه برای کاربردهای مشاوره ای AI ناکافی هستند و کاربران اغلب اطلاعات شخصی حساس خود را بدون درک کامل از خطرات به اشتراک می گذارند (Kwesi et al., ۲۰۲۵). همچنین، جمع آوری و تجاری سازی داده های سلامت روان در بستر پلتفرم های تجاری، حقوق بنیادین حریم خصوصی را تهدید می کند و می تواند منجر به بهره کشی از افراد در وضعیت آسیب پذیر شود. این مقاله با مرور مبانی نظری، تحلیل چارچوب های حقوقی موجود (GDPR، HIPAA، AI Act) و بررسی مطالعات تجربی اخیر، راهکارهایی برای طراحی سیستم های مطمئن تر و اخلاقی تر مبتنی بر حریم خصوصی پیشنهاد می دهد. نتایج حاکی از آن است که بدون اصلاحات اساسی در فرآیندهای رضایت آگاهی و تقویت حفاظت از داده ها، گسترش چت بات های مشاوره ای می تواند آسیب های ناخواسته ای به جمعیت های آسیب پذیر وارد کند.

کلیدواژه ها:

چت بات مشاوره ای ، حریم خصوصی ، رضایت آگاهانه ، افراد آسیب پذیر ، سلامت روان ، داده های سلامت