تبعیض الگوریتمی (سازوکارها چالشها و راهبردهای کاهش سوگیری در سامانه های هوش مصنوعی)

با گسترش استفاده از الگوریتمهای یادگیری ماشین و سامانه های هوش مصنوعی در فرآیندهای تصمیم گیری، تبعیض الگوریتمی به یکی از مهمترین چالشهای اخلاقی اجتماعی و حقوقی عصر داده محور تبدیل شده است. این پدیده لزوما حاصل قصد آگاهانه طراحان نیست، بلکه میتواند در داده های آموزشی ،تاریخی کم نمایی گروههای خاص متغیرهای جانشین طراحی تابع هدف و شیوه ارزیابی مدل شکل گیرد در این مقاله تبعیض الگوریتمی به وضعیتی اطلاق میشود که خروجی یک سامانه خودکار به صورت نظام مند و ناموجه به زبان افراد یا گروههای خاص تمام شود. پژوهش حاضر با رویکرد مروری - تحلیلی سازوکارهای شکل گیری سوگیری را در چرخه حیات الگوریتم بررسی میکند و با مرور نمونه هایی از عدالت کیفری بینایی ماشین و استخدام پیامدهای اخلاقی و اجتماعی آن را تحلیل می نماید. سپس چالشهایی مانند موازنه میان دقت و عدالت محدودیت دسترسی به داده و مدل موانع حقوقی و تعدد تعاریف ریاضی عدالت بررسی میشوند در نهایت چارچوبی سه سطحی شامل راهبردهای فنی و داده محور ساختاری و سازمانی و حکمرانی و حقوقی پیشنهاد میشود. یافته تحلیلی مقاله نشان میدهد که کاهش تبعیض الگوریتمی صرفا با اصلاح کد یا مدل محقق نمی شود و مستلزم مداخله مستمر بین رشته ای و پاسخگو در سراسر چرخه حیات سامانه های هوش مصنوعی است

کلیدواژه ها:

تبعیض الگوریتمی ، سوگیری داده ها ، اخلاق هوش مصنوعی ، یادگیری ماشین ، عدالت الگوریتمی ، تبیین پذیری