چالش های سوگیری الگوریتمی و عدالت آموزشی

یکی از جدی ترین چالش های هوش مصنوعی در ارزیابی، مسئله سوگیری الگوریتمی است. وتزلر و همکاران (۲۰۲۴) نشان دادند که تصحیح مبتنی بر هوش مصنوعی دارای سوگیری ثابت و قابل اندازه گیری است. پژوهش منتشرشده در مجله مرزهای آموزش (۲۰۲۵) نیز تاکید می کند که بزرگ ترین نگرانی های پژوهشگران در این حوزه «حریم خصوصی داده ها»، «سوگیری الگوریتمی» و «اطلاعات نادرست» هستند. این سوگیری ها ممکن است دانش آموزانی را که سبک های نگارشی یا بیان های فرهنگی متفاوت دارند، در معرض نقص در ارزیابی قرار دهد. نمونه تاریخی آموزنده ای در این زمینه وجود دارد: در یک کشور اروپایی، استفاده از الگوریتم هوش مصنوعی برای تعیین نمرات امتحانات پایانی در دوران همه گیری کرونا به رسوایی ملی انجامید، زیرا سیستم تمایل داشت نمرات دانش آموزان از مدارس کم امتیاز را کاهش دهد و نمرات دانش آموزان مدارس پرامتیاز را افزایش دهد. دولت در نهایت مجبور شد سیستم را کنار بگذارد و به معلمان اجازه دهد نمرات را خودشان تعیین کنند (مجله مرزهای آموزش، ۲۰۲۵).چیما و همکاران (۲۰۲۴) نیز بر این نکته تاکید می کنند که سوگیری در الگوریتم های هوش مصنوعی می تواند نابرابری ها را تداوم بخشیده و انصاف و اثربخشی سیستم های آموزشی مبتنی بر هوش مصنوعی را تضعیف کند. این چالش نشان می دهد که طراحی و پیاده سازی سیستم های تصحیح خودکار نمی تواند صرفا مسئله فنی باشد و باید ملاحظات اجتماعی، فرهنگی و اخلاقی را نیز در بر گیرد.