اخلاق و حریم خصوصی در کاربرد هوش مصنوعی در روانشناسی مدرسه: مرور نظام مند چالش ها و راهکارها

گسترش سریع هوش مصنوعی در محیط های آموزشی، فرصت های تازه ای برای شناسایی نیازهای دانش آموزان، شخصی سازی آموزش، تحلیل داده های رفتاری و تحصیلی و ارائه حمایت های روان شناختی ایجاد کرده است. در روان شناسی مدرسه، کاربرد این فناوری می تواند در زمینه هایی مانند غربالگری مشکلات هیجانی و رفتاری، تحلیل الگوهای یادگیری، شناسایی دانش آموزان در معرض خطر، پشتیبانی از تصمیم گیری مشاوران و ارائه خدمات اولیه روان شناختی مورد توجه قرار گیرد. با این حال، ورود هوش مصنوعی به حوزه ای که مستقیما با اطلاعات شخصی، روان شناختی، خانوادگی و تحصیلی دانش آموزان سروکار دارد، پرسش های جدی اخلاقی و حقوقی ایجاد می کند. حفظ محرمانگی اطلاعات، رضایت آگاهانه، امنیت داده ها، شفافیت عملکرد سامانه ها، مسئولیت پذیری، جلوگیری از سوگیری الگوریتمی و حفظ نقش انسان از مهم ترین این مسائل هستند. پژوهش های اخیر در ایران نیز نشان داده اند که حریم خصوصی و داده ها، تصمیم گیری اخلاقی، روابط انسانی و حکمرانی هوش مصنوعی از مهم ترین چالش های اخلاقی استفاده از این فناوری در مدارس هستند. پژوهش حاضر با هدف بررسی نظام مند چالش های اخلاقی و حریم خصوصی ناشی از کاربرد هوش مصنوعی در روان شناسی مدرسه و شناسایی راهکارهای مناسب برای استفاده مسئولانه از این فناوری انجام شده است. روش پژوهش، مرور نظام مند مطالعات و منابع علمی مرتبط است و تلاش شده است ابعاد اخلاقی کاربرد هوش مصنوعی در محیط مدرسه از منظر حفظ حریم خصوصی، امنیت اطلاعات، رضایت آگاهانه، عدالت، شفافیت، سوگیری، مسئولیت حرفه ای و رابطه انسانی بررسی شود. یافته ها نشان می دهد که هرچه میزان اطلاعات حساس جمع آوری شده توسط سامانه های هوشمند بیشتر باشد، ضرورت ایجاد سازوکارهای دقیق برای حفاظت از داده ها نیز افزایش می یابد. از سوی دیگر، استفاده از الگوریتم هایی که منطق تصمیم گیری آنها برای مشاور، والدین یا دانش آموز روشن نیست، می تواند اعتماد به خدمات روان شناختی مدرسه را کاهش دهد. مطالعات داخلی نیز بر ضرورت تدوین چارچوب های اخلاقی، آموزش کاربران و توجه همزمان به ابعاد فناورانه، انسانی و تربیتی تاکید کرده اند. نتایج این مرور نشان می دهد که استفاده اخلاق مدار از هوش مصنوعی در روان شناسی مدرسه مستلزم آن است که فناوری به عنوان ابزار پشتیبان متخصصان به کار گرفته شود، نه جایگزین روان شناس، مشاور یا تصمیم گیر انسانی. همچنین لازم است مدارس، پیش از جمع آوری و پردازش اطلاعات دانش آموزان، درباره نوع داده های مورد استفاده، هدف جمع آوری، نحوه ذخیره سازی، افراد دارای دسترسی و شیوه حذف اطلاعات، سیاست های روشن و قابل فهم داشته باشند. در کنار این موارد، آموزش سواد هوش مصنوعی و اخلاق حرفه ای به مشاوران و کارکنان مدارس، ارزیابی مستمر سامانه ها، کنترل سوگیری الگوریتمی و ایجاد سازوکار پاسخ گویی می تواند زمینه استفاده ایمن تر و مسئولانه تر از هوش مصنوعی را فراهم سازد. پژوهش های انجام شده در ایران نیز بر ضرورت نظارت، آموزش کاربران و ایجاد چارچوب های مناسب برای استفاده مسئولانه از هوش مصنوعی تاکید دارند.

کلیدواژه ها:

هوش مصنوعی ، روان شناسی مدرسه ، اخلاق حرفه ای ، حریم خصوصی ، امنیت داده ها ، دانش آموزان ، مشاوره مدرسه ، سوگیری الگوریتمی