وقتی هوش مصنوعی پاسخ می دهد، چه کسی مسئول است؟
از دقت الگوریتم تا اعتبار فقهی و حقوقی
هوش مصنوعی به سرعت از یک فناوری تخصصی به بخشی از زندگی علمی، اجتماعی و حرفه ای انسان تبدیل شده است. امروز دانشجو برای یافتن اطلاعات، پژوهشگر برای تحلیل داده، پزشک برای تشخیص، حقوقدان برای بررسی اسناد و حتی پژوهشگر علوم اسلامی برای جست وجوی منابع می تواند از یک سامانه هوشمند کمک بگیرد. اما در پس این کاربرد ساده، پرسشی بنیادین وجود دارد: اگر یک سامانه هوش مصنوعی پاسخی بسیار دقیق، مستند و حتی در ۹۵ درصد موارد درست ارائه کند، آیا می توان به همان اندازه که به یک انسان متخصص اعتماد می کنیم، به آن نیز اعتماد کرد؟
پاسخ، برخلاف تصور رایج، لزوما مثبت نیست. یکی از مهم ترین یافته های بحث فقه الگوریتمی، ضرورت تفکیک میان «دقت فنی» و «حجیت» است. دقت فنی مفهومی آماری و توصیفی است؛ یعنی سامانه در مجموعه ای از آزمون ها تا چه اندازه پیش بینی درست ارائه کرده است. اما حجیت، مفهومی هنجاری است و به این پرسش می پردازد که آیا اعتماد به یک خروجی، برای شخص اعتمادکننده موجه و معذر است یا خیر. بنابراین ممکن است سامانه ای از نظر آماری بسیار دقیق باشد، اما خروجی آن در یک موقعیت خاص فاقد حجیت باشد. برعکس، ممکن است یک خروجی با دقت متوسط، در کنار قرائن دیگر، بتواند در حد یک قرینه معتبر مورد استفاده قرار گیرد.
این تمایز برای دانشگاه نیز اهمیت جدی دارد. در بسیاری از حوزه های علمی، معیار اصلی ارزیابی یک سامانه، «دقت» آن است؛ اما در حوزه هایی که تصمیم بر اساس خروجی سامانه می تواند آثار اخلاقی، حقوقی یا شرعی داشته باشد، دقت به تنهایی کافی نیست. باید پرسید داده از کجا آمده، چگونه جمع آوری شده، چه فرایندی بر آن اعمال شده و آیا امکان بررسی و بازسازی مبنای خروجی وجود دارد. به تعبیر روشن تر، داده دیجیتال ذاتا حجت نیست؛ زنجیره اعتبار داده است که اهمیت دارد.
از همین جا مسئله دوم آشکار می شود: آیا هوش مصنوعی می تواند جایگزین متخصص یا تصمیم گیرنده انسانی شود؟ در تحلیل فقهی کتاب، پاسخ درباره جایگزینی هوش مصنوعی با مجتهد منفی است؛ زیرا استنباط در معنای دقیق اصولی، صرفا پردازش اطلاعات نیست، بلکه به فاعلی مختار، صاحب فهم، دارای ملکه و متعهد به مسئولیت اخلاقی نیاز دارد. بنابراین هوش مصنوعی می تواند ابزار قدرتمندی برای گردآوری و پردازش اطلاعات باشد، اما این امر آن را به «فاعل استنباط» تبدیل نمی کند. همین منطق را می توان در بسیاری از حوزه های دانشگاهی نیز به کار گرفت: استفاده از ابزار هوشمند با واگذاری مسئولیت علمی به آن یکسان نیست.
اما مسئله به اعتبار خروجی ختم نمی شود. فرض کنیم یک سامانه الگوریتمی خطا کند و این خطا موجب خسارت شود. در اینجا پرسش مهم تر شکل می گیرد: مسئول چه کسی است؟ خود الگوریتم؟ شرکت سازنده؟ برنامه نویس؟ مالک سامانه؟ یا کاربری که بر اساس خروجی آن تصمیم گرفته است؟
از منظر تحلیل فقهی، پاسخ را نمی توان با انتساب شخصیت مستقل به ماشین حل کرد. قواعدی مانند تسبیب، اتلاف و غرور می توانند برای تحلیل مسئولیت بازیگران انسانی در زنجیره تولید و استفاده از سامانه به کار گرفته شوند. در محیط الگوریتمی، چون تصمیم نهایی ممکن است مستقیما توسط سامانه صادر شود، بررسی مسئولیت اشخاص دخیل غالبا در قالب «تسبیب» اهمیت پیدا می کند و باید رابطه علیت، تقصیر، تعدی یا تفریط و نقش هر یک از عوامل بررسی شود.
در نتیجه، مواجهه علمی با هوش مصنوعی نباید از «اعتماد یا بی اعتمادی مطلق» آغاز شود. راه درست، یک فرایند مرحله ای است: نخست باید فناوری و کارکرد واقعی آن شناخته شود؛ سپس موضوع فقهی یا حقوقی دقیقا شناسایی گردد؛ اعتبار داده و خروجی بررسی شود؛ مبانی اصولی بر آن تطبیق پیدا کند؛ حکم شرعی از سوی صاحب صلاحیت استنباط شود؛ آثار حقوقی آن بررسی گردد و در نهایت، اگر زیانی رخ داده است، مسئولیت میان عوامل انسانی دخیل تحلیل شود. کتاب این مسیر را در قالب یک الگوی هفت مرحله ای صورت بندی می کند.
اهمیت این الگو در آن است که فناوری را نه دشمن دانش سنتی می بیند و نه جانشین انسان. هوش مصنوعی می تواند فرایند شناخت موضوع را سریع تر و در برخی موارد دقیق تر کند، اما این تغییر عمدتا در سطح گردآوری و پردازش اطلاعات موضوعی رخ می دهد و به معنای تغییر ماهیت استنباط نیست.
از این منظر، مسئله اصلی آینده این نیست که «آیا هوش مصنوعی جای انسان را می گیرد؟» پرسش دقیق تر این است که در کدام مرحله می توان به ماشین اعتماد کرد، بر چه اساسی می توان به خروجی آن استناد کرد و در صورت خطا، مسئولیت بر عهده چه کسی خواهد بود؟ پاسخ به این پرسش، نیازمند گفت وگویی میان فناوری، فقه، حقوق، اخلاق و علوم انسانی است؛ گفت وگویی که در آن نه شیفتگی نسبت به فناوری جای تحلیل را بگیرد و نه ترس از فناوری مانع شناخت ظرفیت های آن شود.