تاثیر سوگیری داده های آموزشی بر عملکرد الگوریتم های یادگیری ماشین، یک مرور نظام مند ادبیات با تحلیل مفهومی برای ایران

موضوع این مقاله بررسی تاثیر سوگیری داده های آموزشی بر عملکرد الگوریتم های یادگیری ماشین در حوزه های حساس است. هدف اصلی شناسایی الگوهای مشترک و تفاوت های سوگیری داده در چهار حوزه ی عدالت کیفری، استخدام، پزشکی و آموزش و تحلیل پیامدهای آن برای سیاستگذاری در ایران است. پژوهش به روش مرور نظام مند ادبیات (SLR) اساس چارچوب ۲۰۲۰ PRISMA انجام شده و طی آن ۱۵ مقاله ی مرتبط مورد تحلیل کیفی قرار گرفته است. نتایج نشان می دهد «سوگیری نمایندگی و سوگیری اندازه گیری پر بسامد ترین انواع سوگیری هستند، در تمام حوزه ها گروه های اقلیت نرخ خطای بالاتری را تجربه می کنند و معیارهای رایج دقت محور قادر به آشکارسازی این نابرابری ها نیستند. همچنین چارچوب مفهومی چرخه ی بازتولید سوگیری به عنوان مدلی برای تبیین تعامل خطاهای فنی و بازخوردهای اجتماعی پیشنهاد شده است. در نهایت بر ضرورت همراه سازی قضاوت انسانی با تصمیم گیری الگوریتمی و طراحی معیارهای عدالت بومی تاکید می شود.

کلیدواژه ها:

سوگیری داده ، یادگیری ماشین ، عدالت الگوریتمی ، مرور نظام مند ادبیات ، PRISMA