از پارادوکس مسئولیت تا عاملیت توزیع شده: چارچوبی برای هوش مصنوعی مسئول در سلامت

ورود هوش مصنوعی به حوزه سلامت، یکی از عمیق ترین چالش های فلسفی و اخلاقی عصر حاضر را ایجاد کرده است: وقتی الگوریتمی تشخیصی یا درمانی خطا می کند و بیمار آسیب می بیند، چه کسی «فاعل اخلاقی» است؟

در فلسفه اخلاق کلاسیک، فاعل اخلاقی باید سه شرط اساسی داشته باشد: اراده مستقل، آگاهی از پیامدها و توانایی انتخاب واقعی. هوش مصنوعی فاقد هر سه شرط است. این واقعیت، «پارادوکس مسئولیت» را شکل می دهد؛ موجودی که فاعل اخلاقی نیست، اما تصمیماتش پیامدهای اخلاقی واقعی دارد.

مدل های سنتی مسئولیت (مسئولیت سازنده، مسئولیت کاربر بالینی یا مسئولیت بیمار) هر یک به تنهایی ناکافی اند. الگوریتم های یادگیری عمیق اغلب رفتارهای غیرقابل پیش بینی (جعبه سیاه) نشان می دهند، کادر درمان به تدریج دچار سوگیری اتوماسیون می شوند و رضایت آگاهانه بیمار نیز در عمل کامل نیست.

راه حل پیشنهادی، مفهوم «عاملیت توزیع شده» است. در این چارچوب، مسئولیت به صورت طیفی میان چهار لایه توزیع می شود:

1. لایه طراحی (سازنده الگوریتم)
2. لایه نظارت (نهادهای تنظیم گر)
3. لایه اجرا (پزشک و کادر درمان)
4. لایه آگاهی (بیمار)

سهم هر لایه بر اساس سه عامل پیش بینی پذیری خطا، نظارت پذیری خروجی و شفافیت الگوریتم تعیین می شود. این رویکرد نه تنها با فلسفه اخلاق غربی (نظریه شبکه کنشگران) سازگار است، بلکه با مبانی فقهی «تسبیب»، «مباشره» و قاعده «الغنم بالغرم» نیز همخوانی دارد.

به عنوان پژوهشگر هوش مصنوعی که هم زمان در حوزه فقه و مبانی حقوق تحصیل کرده ام، معتقدم آینده هوش مصنوعی در سلامت ایران نیازمند تغییر پارادایم از «فاعل واحد» به «عاملیت توزیع شده» است. این تغییر، هم شفافیت الگوریتم ها را افزایش می دهد، هم سواد هوش مصنوعی کادر درمان را ضروری می سازد و هم زمینه قانون گذاری مسئولانه را فراهم می کند.

هوش مصنوعی ابزار است، نه فاعل اخلاقی. مسئولیت اما باید هوشمندانه و عادلانه توزیع شود.