وقتی عدالت محاسباتی کافی نیست: شکاف میان عدالت الگوریتمی و عدالت سازمانی از منظر اخلاق کسب وکار

وقتی عدالت محاسباتی کافی نیست: شکاف میان عدالت الگوریتمی و عدالت سازمانی از منظر اخلاق کسب وکار

https://doi.org/10.21203/rs.3.rs-11076896/v1

https://gist.science/paper/rs/rs-11076896

نویسنده: سید جلال الدین حسینی

گسترش هوش مصنوعی در سازمان ها، به ویژه در حوزه هایی مانند استخدام، ارزیابی عملکرد و مدیریت منابع انسانی، پرسش های مهمی درباره عدالت و اخلاق در تصمیم گیری های سازمانی ایجاد کرده است. اگر یک الگوریتم بر اساس معیارهای فنی، منصفانه طراحی شده باشد، آیا می توان نتیجه گرفت که تصمیم های مبتنی بر آن نیز از دیدگاه کارکنان عادلانه اند؟

این پرسش، محور اصلی پژوهشی با عنوان When Computational Fairness Is Not Enough: Explaining the Gap Between Algorithmic Fairness and Organizational Justice from a Business Ethics Perspective است که به بررسی شکاف میان عدالت الگوریتمی و عدالت سازمانی از منظر اخلاق کسب وکار می پردازد.

نکته محوری این پژوهش آن است که عدالت محاسباتی و عدالت سازمانی دو مفهوم مرتبط، اما متمایزند. یک سامانه هوش مصنوعی ممکن است در محاسبات خود برخی معیارهای انصاف را رعایت کند؛ بااین حال، کارکنان همچنان ممکن است فرایند تصمیم گیری را غیرشفاف، غیرقابل اعتراض یا فاقد پاسخ گویی بدانند. بنابراین، ارزیابی عدالت در تصمیم گیری های الگوریتمی نباید صرفا به عملکرد فنی مدل ها محدود شود، بلکه باید تجربه انسانی و زمینه اخلاقی و سازمانی تصمیم ها را نیز در بر گیرد.

از این منظر، شفافیت در تصمیم گیری، پاسخ گویی سازمانی، توضیح پذیری الگوریتم ها، نظارت معنادار انسانی و فراهم کردن امکان اظهارنظر و اعتراض برای کارکنان، از جمله ملاحظاتی هستند که می توانند در پیوند میان انصاف فنی و عدالت ادراک شده در سازمان نقش داشته باشند. مسئله صرفا این نیست که الگوریتم چگونه تصمیم می گیرد؛ بلکه این نیز اهمیت دارد که تصمیم چگونه توجیه می شود، چه کسی مسئول پیامدهای آن است و افراد متاثر از تصمیم تا چه اندازه امکان فهم، بیان دیدگاه و پیگیری اعتراض خود را دارند.

این بحث برای مدیریت منابع انسانی اهمیت ویژه ای دارد؛ زیرا استفاده از هوش مصنوعی در تصمیم های مرتبط با زندگی حرفه ای افراد، علاوه بر کارایی و دقت، مستلزم توجه به کرامت انسانی، مشروعیت فرایندهای تصمیم گیری و مسئولیت اخلاقی سازمان است. از این رو، حکمرانی مسئولانه هوش مصنوعی باید فراتر از سنجش شاخص های فنی عدالت حرکت کند و سازوکارهایی برای تبدیل اصول اخلاقی به رویه های واقعی و پاسخ گو در سازمان فراهم آورد.

این پژوهش می کوشد به بحث نظری درباره رابطه عدالت الگوریتمی، عدالت سازمانی و اخلاق کسب وکار کمک کند و توجه را به این نکته جلب سازد که فنی بودن یک تصمیم لزوما به معنای عادلانه بودن تجربه انسانی ناشی از آن نیست.

دسترسی به پژوهش

نسخه پیش چاپ مقاله در Research Square:

https://doi.org/10.21203/rs.3.rs-11076896/v1

نسخه توضیحی مقاله در Gist.Science:

https://gist.science/paper/rs/rs-11076896

(خلاصه فنی پژوهش

در محیط کار امروز، تحولی آرام اما بنیادین در حال وقوع است. شرکت ها بیش از گذشته به هوش مصنوعی روی آورده اند تا درباره استخدام، ارتقای شغلی و ارزیابی عملکرد کارکنان تصمیم گیری کنند. وعده این سامانه ها، ایجاد محیطی است که در آن همه کارکنان بر اساس قواعدی یکسان و دقیق ارزیابی شوند؛ بدون آنکه خستگی، قضاوت های شخصی یا سوگیری هایی که ممکن است بر تصمیم مدیران انسانی تاثیر بگذارند، در نتایج دخالت داشته باشند. برای اطمینان از عملکرد درست این سامانه ها، دانشمندان علوم رایانه طی سال های گذشته مفهوم «عدالت الگوریتمی» را توسعه داده اند. این مفهوم، رویکردی فنی برای بررسی محاسبات و اطمینان از آن است که رایانه به طور نظام مند، گروهی از افراد را بر اساس عواملی مانند نژاد، جنسیت یا سن بر گروهی دیگر ترجیح ندهد. این اقدام ضروری است؛ اما در چنین رویکردی، عدالت عمدتا مسئله ای ریاضی تلقی می شود که می توان با کدنویسی بهتر و داده های پاک تر آن را حل کرد.

بااین حال، افرادی که در زندگی حرفه ای خود با پیامدهای این تصمیم ها مواجه می شوند، رایانه نیستند؛ بلکه انسان هایی هستند که عدالت را نه فقط بر اساس نتیجه نهایی، بلکه بر مبنای نحوه برخورد با خود در جریان تصمیم گیری ارزیابی می کنند. برای آنان مهم است که بدانند چرا تصمیمی اتخاذ شده، آیا در صورت بروز خطا فرصتی برای بیان دیدگاه و اعتراض دارند و آیا در نهایت، فرد یا مرجعی انسانی مسئولیت نتیجه را بر عهده می گیرد. اینجاست که مفهوم «عدالت سازمانی» مطرح می شود؛ مفهومی برخاسته از حوزه اخلاق کسب وکار که تجربه انسانی افراد از عدالت را بررسی می کند. برای مدت ها این فرض وجود داشت که اگر محاسبات منصفانه باشند، افراد نیز تصمیم حاصل از آن ها را منصفانه تلقی خواهند کرد. بااین حال، دیدگاه های جدیدتر نشان می دهند که این فرض، ناقص و بالقوه مسئله ساز است.

پژوهش مفهومی اخیر سید جلال الدین حسینی، مربی سازمان آموزش فنی و حرفه ای ایران، این تصور را به چالش می کشد که یک الگوریتم از نظر ریاضی بی نقص، لزوما محیط کاری عادلانه ای ایجاد می کند. این مقاله داده های جدیدی از یک شرکت مشخص ارائه نمی دهد و به معرفی ابزار نرم افزاری تازه ای نیز نمی پردازد؛ بلکه با تلفیق پژوهش های موجود در علوم رایانه، اخلاق کسب وکار و روان شناسی سازمانی، چارچوبی نظری برای تحلیل این مسئله ارائه می کند. استدلال اصلی نویسنده آن است که میان آنچه رایانه منصفانه محاسبه می کند و آنچه کارکنان در عمل عادلانه تجربه می کنند، شکافی معنادار وجود دارد. این شکاف که در مقاله از آن با عنوان «شکاف اخلاقی» (Ethical Gap) یاد می شود، از آنجا ناشی می شود که سازمان ها اغلب بر کیفیت فنی الگوریتم تمرکز می کنند و به سازوکارهای انسانی پیرامون آن توجه کافی ندارند.
بر اساس این پژوهش، یک الگوریتم ممکن است از نظر آماری فاقد سوگیری باشد، اما همچنان از دید افرادی که تحت تاثیر تصمیم های آن قرار می گیرند، عمیقا ناعادلانه به نظر برسد. برای مثال، سامانه ای را برای استخدام در نظر بگیریم که در داده های خود تبعیض را به خوبی کنترل کرده است، اما همچون یک «جعبه سیاه» عمل می کند؛ یعنی توضیحی درباره علت رد درخواست داوطلب ارائه نمی دهد و امکان اعتراض یا بازبینی تصمیم را نیز فراهم نمی سازد. در چنین وضعیتی، محاسبات ممکن است از نظر فنی صحیح باشند، اما تجربه فرد از فرایند تصمیم گیری، تجربه ای بیگانه کننده و ناعادلانه خواهد بود. نویسنده استدلال می کند که سازمان برای تحقق عدالت واقعی، نباید صرفا به اصلاح کدهای نرم افزاری بسنده کند، بلکه باید نظامی برای حکمرانی اخلاقی هوش مصنوعی ایجاد کند. چنین نظامی مستلزم شفافیت در فرایند تصمیم گیری، ارائه توضیحات روشن، حفظ نظارت انسانی به منظور امکان مداخله و فراهم کردن فرصت های واقعی برای بیان نگرانی ها و دیدگاه های کارکنان است.
این مقاله مدلی مشخص برای توضیح چگونگی تعامل این عوامل ارائه می کند. بر اساس این مدل، حکمرانی اخلاقی همچون پلی میان خروجی فنی منصفانه و تجربه عدالت سازمانی عمل می کند؛ به این معنا که سازوکارهای حکمرانی، انصاف محاسباتی را به فرایندی قابل فهم، پاسخ گو و معنادار برای افراد تبدیل می کنند. در نبود چنین پلی، حتی پیشرفته ترین سامانه های هوش مصنوعی نیز ممکن است اعتماد کارکنان را تضعیف کنند. پژوهش برای تبیین این موضوع، چهار سناریوی احتمالی را مطرح می کند. نخست، «مشروعیت هم راستا» (Aligned Legitimacy) که در آن، هم محاسبات منصفانه اند و هم افراد فرایند و نتایج را عادلانه تلقی می کنند. دوم، «کسری مشروعیت» (Legitimacy Deficit) که در آن، با وجود انصاف محاسباتی، افراد به دلیل فقدان شفافیت یا پاسخ گویی، فرایند را ناعادلانه تجربه می کنند. سوم، «مشروعیت کاذب» (False Legitimacy) که وضعیتی خطرناک است؛ زیرا افراد ممکن است تصمیم ها را عادلانه بدانند، درحالی که از سوگیری های پنهان سامانه آگاهی ندارند. چهارم، «بی عدالتی آشکار» (Manifest Injustice) که در آن، هم محاسبات و هم تجربه افراد از عدالت با مشکل مواجه است.
یافته های نظری این پژوهش نشان می دهد که راه حل، کنارگذاشتن هوش مصنوعی نیست؛ بلکه باید شیوه حکمرانی و نظارت بر آن تغییر کند. سازمان ها باید از این پرسش که «آیا الگوریتم عادلانه است؟» فراتر بروند و بپرسند: «آیا سازمان در نحوه مدیریت و نظارت بر الگوریتم، عادلانه عمل می کند؟» این تغییر نگرش، مسئولیت را از خود کد نرم افزاری به انسان ها، سیاست ها و سازوکارهایی منتقل می کند که بر طراحی، استقرار و استفاده از الگوریتم نظارت دارند. هرچه هوش مصنوعی در تصمیم های حساس تری مانند اخراج کارکنان یا رد درخواست ارتقای شغلی نقش پیدا کند، اهمیت این تضمین های اخلاقی نیز بیشتر می شود. اگر سازمان تصمیمی تعیین کننده برای زندگی حرفه ای یک فرد را به سامانه ای ماشینی واگذار کند، بی آنکه امکان توضیح، بازبینی انسانی یا اعتراض موثر فراهم باشد، ممکن است اعتماد و تعهد نیروی کار خود را از دست بدهد؛ حتی اگر محاسبات سامانه از دقت بالایی برخوردار باشند.
در نهایت، مقاله نتیجه می گیرد که دقت فنی و رعایت معیارهای محاسباتی عدالت، برای تحقق انصاف ضروری اند، اما به تنهایی کفایت نمی کنند. عدالت سازمانی واقعی از ترکیب الگوریتمی مناسب و فرایندی انسانی، شفاف و پاسخ گو شکل می گیرد. تحقق این هدف مستلزم ایجاد فرهنگی سازمانی است که در آن کارکنان احساس کنند مورد احترام اند، اطلاعات لازم را در اختیار دارند و صدایشان شنیده می شود. نویسنده پیشنهاد می کند که پژوهش های آینده، این ایده ها را در محیط های واقعی سازمانی بررسی کنند تا روشن شود صنایع و فرهنگ های مختلف چگونه با شکاف های اخلاقی ناشی از تصمیم گیری الگوریتمی مواجه می شوند.
پیام نهایی پژوهش روشن است: ساختن آینده ای عادلانه در دنیای کار، صرفا به نرم افزارهای بهتر نیاز ندارد؛ بلکه مستلزم تعهد به ارزش های انسانی و اخلاقی ای است که محاسبات رایانه ای به تنهایی قادر به تضمین آن ها نیستند.)