آینده قضاوت، بخش دوم تاملی بر ورود هوش مصنوعی به دستگاه قضایی

میان عقل انسانی و قدرت الگوریتم، کجا باید ایستاد؟

در بخش نخست این یادداشت و در امتداد یادداشت " تاملی بر ورود هوش مصنوعی به دستگاه قضایی " به اتاق های بی پنجره پرداختیم؛ به دادگاه هایی که بی قاضی حکم می دهند، و به الگوریتم هایی که لباس قضاوت بر تن کرده اند. اما اکنون، پرسشی ضروری تر در پیش داریم ؛
اگر قرار باشد هوش مصنوعی وارد دستگاه قضایی شود، چگونه می توان از آن بهره برد، بدون آنکه «عدالت» را در این میان قربانی کنیم؟

این یادداشت، تلاشی ست برای عبور از نگاه صرفا هشدارآمیز به نگاهی که میان ظرفیت و خطر تمایز قائل شود؛ نگاهی که نه در ستایش خام فناوری گرفتار شود، و نه در ترس و تعصبات کورکورانه از آن متوقف شود.

آیینه ای که عدالت را نشان نمی دهد، بلکه بازتاب قدرت است

هوش مصنوعی همان قدر که می تواند ابزار عدالت باشد، می تواند منجر به بی عدالتی نیز باشد؛ چرا؟ چون الگوریتم ها نه بی طرف اند و نه بی ریشه. آنها از داده هایی تغذیه می کنند که ساختارهای قدرت، تبعیض، خطاهای قضایی، و سوگیری های تاریخی در آن ریشه دوانده اند.

در ایالات متحده، الگوریتم های ارزیاب خطر تکرار جرم مانند COMPAS نشان دادند که در تحلیل ریسک مجرمان، بی توجه به زمینه های اجتماعی، به طور ناعادلانه ای علیه سیاه پوستان عمل می کنند. این الگوریتم ها، واقعیت ها را تحلیل نمی کنند؛ آنچه به آن ها خورانده ایم را بازتولید و به عنوان خوراک تحویل میدهند.

آیا می توان الگوریتمی عادلانه یافت و ساخت؟

پاسخ در طراحی و نظارت است. اگر بپذیریم که هیچ داده ای بی طرف نیست، باید الگوریتم ها را طوری طراحی کنیم که بتوانند نه صرفا با آمار، بلکه با منطق انسانی عدالت تعامل داشته باشند.

پیش نیاز این امر عبارتند از ؛

شفافیت الگوریتمی: هیچ قاضی ای بدون توجیه حکم نمی دهد؛ پس چرا یک AI بتواند بدون قابلیت تبیین تصمیم بگیرد؟

ممیزی اخلاقی الگوریتم ها: در بسیاری کشورها، نهادهایی برای بررسی اخلاقی، تبعیض زدایی و اعتبارسنجی الگوریتم های قضایی شکل گرفته اند. ایران نیز نیازمند چنین ساختاری ست.

تعریف دقیق نقش: هوش مصنوعی نباید جانشین قاضی باشد، بلکه باید نقش دستیار مشورتی قضات را ایفا کند. تصمیم نهایی باید انسانی بماند.

عدالت الگوریتمی به بازتعریف عدالت نیاز دارد

در جهانی که داده ها محور تصمیم اند، پرسش کلیدی این است: آیا می توان عدالت را در قالب داده و کد در آورد ؟

عدالت صرفا «برابری رویه ای» نیست؛ بلکه تناسب، انصاف و فهم زمینه های انسانی نیز هست. هوش مصنوعی این لایه ها را درک نمیکند ، مگر آنکه ما آن ها را برایش تعریف کنیم و بسازیم.

اینجاست که فلسفه ی حقوق وارد عمل می شود:

عدالت از نگاه راولز یعنی انصاف در توزیع منابع و فرصت ها؛

از دید دورکین، یعنی تفسیر درست از حقوق در بستر ارزش های اخلاقی و قائل به حقوق برابر؛

و از منظر فقه اسلامی، یعنی رعایت عدل در تعادل میان حق و تکلیف، عدالت در نظام قضایی را اینگونه بیان میدارد ؛ قضاوت باید بر اساس عدالت و با توجه به شواهد و دلایل قانونی انجام شود.

همه این مفاهیم، از انسان می خواهند فهم کند، نه فقط محاسبه. و در همین نقطه است که AI به ابزار بدل می شود و نه قاضی.

ایران در دو راهی فرصت و خطر

ایران امروز در آغاز مسیری ست که دیگران سال ها پیموده اند. میلیون ها رای در بانک های داده ثبت شده، سامانه های تحلیل و طبقه بندی در حال شکل گیری اند، و «پیشنهاد رای» دیگر مفهومی انتزاعی نیست.

اما در این بستر، سه خطر جدی قابل پیش بینی است:

1. نبود شفافیت داده ها: هیچ داده پاکی وجود ندارد، اگر درباره نحوه گردآوری و پالایش آن توضیح داده نشود.
2. ضعف نظارت قضایی بر الگوریتم ها: اگر نهادی برای ارزیابی نحوه عملکرد این سامانه ها نباشد، عدالت در پشت صحنه خفه می شود.
3. تمرکز قدرت در یک الگوریتم واحد: نباید عدالت را به یک سیستم غیرپاسخ گو واگذار کرد. باید میان رقابت الگوریتم ها و نظارت عمومی تعادل برقرار کرد.

پیشنهادهایی برای استفاده درست از AI در قضاوت 

برای استفاده از هوش مصنوعی در ایران، می توان پیشنهادهایی را مطرح کرد:

مرحله بندی تدریجی کارکردها: از نقش های ساده تری مانند تحلیل آماری آراء آغاز شود و به پیشنهاد رای برسد، نه برعکس.

تشکیل نهاد داوری الگوریتم ها: متشکل از قضات، پژوهشگران، جامعه شناسان و متخصصان AI که به صورت شفاف، بر عملکرد سامانه ها نظارت کند.

الزام به مستندسازی تصمیم الگوریتمی: مثل رای قضات که نیازمند استدلال است، هر خروجی AI باید قابل فهم و قابل نقد باشد.

تدوین منشور حقوق کاربران قضایی در مواجهه با AI: افراد حق داشته باشند بدانند چگونه الگوریتم درباره آنها تصمیم گرفته و حق اعتراض داشته باشند.

سخن پایانی: عدالت را از نو تعریف کنیم، آنگاه آموزش دهیم

پیش از آنکه هوش مصنوعی را وارد قضاوت کنیم، باید از خود بپرسیم:
آیا ما عدالت را به درستی درک کرده ایم؟

اگر پاسخ روشن نیست، باید ابتدا مفاهیم بنیادین قضاوت، انصاف و مسئولیت را بازخوانی کنیم. عدالت صرفا صدور حکم نیست؛ بلکه احترام به انسان در بستر قانون است.

و هوش مصنوعی، اگر نتواند این احترام را درک کند، تنها یک ماشین است؛ با سرعتی بالا، و شاید بی رحم تر از هر قاضی انسانی.