چرا هوش مصنوعی قابل اعتماد کافی نیست؟ گذار از اعتماد الگوریتمی به نهادهای اعتماد خودتولید

چرا هوش مصنوعی قابل اعتماد کافی نیست؟

گذار از اعتماد الگوریتمی به نهادهای اعتماد خودتولید

هوش مصنوعی با سرعتی چشمگیر از یک ابزار تحلیلی به بخشی از زیرساخت تصمیم گیری جوامع تبدیل شده است. بانک ها از الگوریتم ها برای اعتبارسنجی مشتریان استفاده می کنند، شرکت های بیمه قیمت گذاری و ارزیابی خسارت را به مدل های هوشمند می سپارند، دانشگاه ها از هوش مصنوعی در آموزش و ارزیابی بهره می گیرند و دولت ها به سمت استفاده از سامانه های الگوریتمی برای تخصیص منابع، تنظیم گری و ارائه خدمات عمومی حرکت می کنند.

در چنین شرایطی، پرسش اصلی دیگر این نیست که آیا هوش مصنوعی وارد نهادهای ما خواهد شد؛ بلکه پرسش این است که وقتی تصمیم های مهم به صورت مشترک توسط انسان و الگوریتم اتخاذ می شوند، اعتماد چگونه شکل می گیرد، چگونه حفظ می شود و پس از بروز خطا چگونه می توان آن را ترمیم کرد؟

پاسخ رایج به این پرسش، توسعه «هوش مصنوعی قابل اعتماد» یا Trustworthy AI است. این رویکرد بر ویژگی هایی مانند شفافیت، توضیح پذیری، ایمنی، رعایت حریم خصوصی، عدالت، قابلیت ردیابی و پاسخ گویی تاکید می کند. بدون تردید، هیچ نظام تصمیم گیری هوشمندی بدون این ویژگی ها شایسته استفاده در حوزه های حساس نیست؛ اما مسئله اساسی آن است که اعتماد اجتماعی و نهادی را نمی توان صرفا به ویژگی های فنی یک الگوریتم تقلیل داد.

یک الگوریتم ممکن است از نظر فنی دقیق، ایمن و توضیح پذیر باشد، اما نهادی که از آن استفاده می کند همچنان غیرشفاف، غیرپاسخ گو یا فاقد سازوکار اعتراض و اصلاح باشد. بنابراین، «قابل اعتماد بودن فناوری» شرط لازم است، اما برای «قابل اعتماد بودن نهاد» کافی نیست.

مسئله فقط کیفیت الگوریتم نیست

چارچوب مدیریت ریسک هوش مصنوعی موسسه ملی استاندارد و فناوری آمریکا، قابلیت اعتماد را بخشی از طراحی، توسعه، استفاده و ارزیابی سامانه های هوش مصنوعی می داند و سازمان ها را به مدیریت مستمر ریسک های این سامانه ها دعوت می کند. چارچوب NIST

اصول هوش مصنوعی سازمان همکاری و توسعه اقتصادی نیز بر شفافیت، توضیح پذیری، ایمنی، قابلیت اصلاح، ردیابی و پاسخ گویی بازیگران هوش مصنوعی تاکید دارد. بر اساس این اصول، افراد متاثر از تصمیم های الگوریتمی باید بتوانند منطق تصمیم را درک کنند و در صورت زیان، امکان به چالش کشیدن آن را داشته باشند. اصول هوش مصنوعی OECD

رویکرد اتحادیه اروپا نیز ایجاد «اکوسیستم اعتماد» را در کنار نوآوری، ایمنی و حمایت از حقوق بنیادین دنبال می کند. قانون هوش مصنوعی اتحادیه اروپا بر مبنای سطوح مختلف ریسک بنا شده و برای سامانه های پرخطر، الزاماتی در زمینه شفافیت، نظارت انسانی و مدیریت ریسک پیش بینی کرده است. رویکرد اتحادیه اروپا به هوش مصنوعی

این چارچوب ها گامی ضروری و ارزشمندند، اما عمدتا از این پرسش آغاز می کنند که چگونه می توان یک سامانه هوش مصنوعی را ایمن تر، منصفانه تر و پاسخ گوتر کرد. پرسش مکمل و عمیق تر آن است که چگونه باید نهادی را طراحی کرد که حتی با تغییر فناوری، مدیران، داده ها و شرایط محیطی، همچنان قادر به تولید، ارزیابی و بازسازی اعتماد باشد؟

در اینجا واحد تحلیل دیگر فقط «الگوریتم» نیست؛ بلکه «نهاد» است.

اعتماد، ویژگی ماشین نیست

اعتماد را نمی توان درون یک الگوریتم نصب کرد. اعتماد یک رابطه اجتماعی و نهادی است که میان تصمیم گیرنده، شهروند، مشتری، کارمند، قانون گذار و سایر ذی نفعان شکل می گیرد.

هنگامی که یک بانک درخواست تسهیلات فردی را رد می کند، متقاضی فقط درباره دقت مدل اعتبارسنجی پرسش ندارد. او می خواهد بداند چه داده هایی استفاده شده اند، مسئول تصمیم چه کسی است، آیا اطلاعات نادرست قابل اصلاح اند، آیا امکان اعتراض وجود دارد و اگر تصمیم تبعیض آمیز باشد چه نهادی پاسخ گو خواهد بود.

در صنعت بیمه نیز توضیح پذیری مدل قیمت گذاری به تنهایی اعتماد ایجاد نمی کند. بیمه گذار باید بتواند مبنای ارزیابی ریسک یا رد خسارت را بفهمد، تصمیم را به چالش بکشد و از وجود مرجعی مستقل برای بازبینی و جبران خطا مطمئن باشد.

در دانشگاه، حتی اگر یک سامانه هوشمند بتواند عملکرد دانشجو را با دقت بالایی ارزیابی کند، مشروعیت تصمیم آن به وجود قواعد روشن، نظارت انسانی، امکان اعتراض، حفاظت از داده ها و مسئولیت پذیری دانشگاه وابسته است.

بنابراین، اعتماد به تصمیم های مبتنی بر هوش مصنوعی فقط از کیفیت مدل حاصل نمی شود؛ بلکه محصول معماری نهادی پیرامون آن مدل است.

چهار شکاف در رویکرد فناوری محور

تمرکز صرف بر «هوش مصنوعی قابل اعتماد» ممکن است چهار شکاف مهم را نادیده بگیرد.

۱. شکاف میان انطباق و رفتار واقعی

ممکن است سازمانی دارای آیین نامه اخلاق هوش مصنوعی، کمیته نظارت و مجموعه ای از شاخص های رسمی باشد، اما این قواعد در تصمیم های روزمره آن تاثیر واقعی نداشته باشند. وجود مقررات، لزوما به معنای اجرای موثر، یادگیری سازمانی یا پاسخ گویی نیست.

۲. شکاف مسئولیت

هرچه تصمیم گیری میان مدیر، متخصص داده، تامین کننده فناوری و الگوریتم توزیع شود، احتمال مبهم شدن مسئولیت افزایش می یابد. در چنین وضعیتی، خطا رخ می دهد، اما هیچ کس خود را مالک نهایی تصمیم نمی داند.

۳. شکاف یادگیری

بسیاری از نظام های نظارتی پس از وضع قواعد، ثابت باقی می مانند؛ درحالی که مدل ها، داده ها، رفتار کاربران و ریسک های اجتماعی دائما تغییر می کنند. نهادی که نتواند از اعتراض ها، خطاها و پیامدهای پیش بینی نشده یاد بگیرد، به تدریج اعتماد خود را از دست می دهد.

۴. شکاف مشروعیت

یک تصمیم ممکن است از نظر فنی درست باشد، اما از نظر اجتماعی نامشروع تلقی شود. مشروعیت فقط از دقت آماری حاصل نمی شود؛ بلکه به مشارکت ذی نفعان، عدالت رویه ای، امکان شنیده شدن و ادراک انصاف وابسته است.

این شکاف ها نشان می دهند که اعتماد را نمی توان صرفا با ممیزی الگوریتم یا انتشار گزارش فنی ایجاد کرد. اعتماد باید در ساختار، فرایند و رفتار نهاد تولید شود.

نهاد اعتماد خودتولید چیست؟

در چارچوب «نهادهای اعتماد خودتولید» یا Self-Generating Trust Institutions، نهاد قابل اعتماد نهادی نیست که از شهروندان بخواهد به آن اعتماد کنند؛ بلکه نهادی است که سازوکارهای تولید، آزمون، ترمیم و بازتولید اعتماد را در درون خود نهادینه کرده باشد.

واژه «خودتولید» به معنای استقلال کامل نهاد از انسان، قانون یا جامعه نیست. چنین نهادی خودمختار و بی نیاز از نظارت بیرونی نیست. منظور این است که سازوکارهای اعتماد در آن صرفا به فضیلت شخصی مدیران، تبلیغات سازمانی یا مداخله های مقطعی وابسته نباشد.

یک نهاد اعتماد خودتولید باید بتواند:

• تصمیم ها و مبانی آن ها را قابل مشاهده کند؛
• خطاها و اعتراض ها را دریافت و پردازش کند؛
• مسئولیت تصمیم را به افراد و واحدهای مشخص منتسب سازد؛
• آثار واقعی تصمیم ها را ارزیابی کند؛
• قواعد و مدل های خود را بر اساس شواهد اصلاح کند؛
• و مشروعیت خود را به صورت مستمر در معرض ارزیابی ذی نفعان قرار دهد.

در این الگو، اعتماد نتیجه عملکرد تکرارشونده یک چرخه نهادی است، نه محصول یک ادعای اخلاقی یا موفقیت فنی موقت.

معماری چهارگانه تولید اعتماد

برای عملیاتی کردن این مفهوم، می توان چهار سازوکار به هم پیوسته را در نظر گرفت.

۱. شفافیت و قابلیت ردیابی

هر تصمیم مهم باید دارای ردپای قابل بررسی باشد: چه داده هایی استفاده شده اند؟ چه مدلی به کار رفته است؟ چه انسانی تصمیم را تایید کرده و چه کسی مسئول پیامدهای آن است؟

شفافیت به معنای انتشار انبوه اطلاعات فنی نیست. شفافیت موثر باید متناسب با مخاطب باشد و امکان فهم، ارزیابی و پیگیری تصمیم را فراهم کند. توضیحی که فقط متخصصان آن را می فهمند، برای شهروند یا مشتری شفافیت واقعی ایجاد نمی کند.

۲. اعتراض پذیری و مشارکت

فرد متاثر از تصمیم الگوریتمی باید بتواند آن را به چالش بکشد. اعتراض نباید یک فرایند تشریفاتی باشد؛ بلکه باید به بازبینی واقعی داده، مدل و تصمیم منجر شود.

در سطحی گسترده تر، ذی نفعان باید در طراحی قواعد استفاده از هوش مصنوعی مشارکت داشته باشند. مشارکت، مشروعیت را از مرحله پس از تصمیم به مرحله طراحی تصمیم منتقل می کند.

۳. پاسخ گویی و جبران

هر نظام تصمیم گیری باید دارای مالک مسئول باشد. سازمان نمی تواند مسئولیت تصمیم را به الگوریتم واگذار کند. حتی اگر مدل توسط شرکتی بیرونی طراحی شده باشد، نهادی که از آن برای تصمیم گیری درباره مردم استفاده می کند، مسئول پیامدهای آن است.

پاسخ گویی بدون امکان جبران ناقص است. اگر تصمیمی نادرست یا زیان بار باشد، باید مسیر اصلاح تصمیم، جبران خسارت و جلوگیری از تکرار آن روشن باشد.

۴. یادگیری و اصلاح نهادی

تفاوت بنیادی نهاد اعتماد خودتولید با سازمانی که صرفا قواعد اخلاقی دارد، در توانایی یادگیری آن است. اعتراض ها، خطاها، انحراف های داده ای و پیامدهای پیش بینی نشده باید به ورودی اصلاح مدل و قواعد تبدیل شوند.

این چرخه را می توان چنین نمایش داد:

تصمیم ← مشاهده پیامد ← دریافت بازخورد ← تشخیص خطا ← اصلاح قاعده یا مدل ← تصمیم جدید

اگر این چرخه به طور مستمر و قابل نظارت عمل کند، نهاد فقط اعتماد موجود را مصرف نمی کند؛ بلکه ظرفیت تولید و ترمیم اعتماد را در خود توسعه می دهد.

کاربرد در بانک، بیمه، دانشگاه و DAO

در بانکداری، نهاد اعتماد خودتولید فقط مدل اعتبارسنجی دقیق ندارد؛ بلکه دلایل رد یا پذیرش درخواست را توضیح می دهد، امکان اصلاح داده ها و اعتراض مشتری را فراهم می کند، سوگیری مدل را می سنجد و نتایج اعتراض ها را در بازطراحی نظام اعتبارسنجی به کار می گیرد.

در صنعت بیمه، چنین نهادی از هوش مصنوعی فقط برای کاهش هزینه یا کشف تقلب استفاده نمی کند. فرایند قیمت گذاری، ارزیابی خسارت و مدیریت ریسک را به سامانه ای پاسخ گو، قابل اعتراض و یادگیرنده تبدیل می کند. اگر الگویی از رد ناعادلانه خسارت مشاهده شود، نظام باید بتواند آن را تشخیص دهد، مدل را اصلاح کند و خسارت واردشده را جبران نماید.

در دانشگاه، استفاده از هوش مصنوعی باید در چارچوبی انجام شود که مسئولیت علمی استاد و دانشگاه را حفظ کند. الگوریتم می تواند پیشنهاد دهد، تحلیل کند و هشدار دهد؛ اما تصمیم های موثر بر آینده تحصیلی افراد باید دارای نظارت انسانی، قابلیت اعتراض و مسئولیت مشخص باشند.

در سازمان های خودگردان غیرمتمرکز یا DAO نیز ثبت شفاف تراکنش ها و اجرای خودکار قراردادهای هوشمند به تنهایی مشروعیت ایجاد نمی کند. یک DAO ممکن است از نظر فنی شفاف باشد، اما قدرت رای در آن متمرکز، مشارکت صوری و امکان اصلاح تصمیم های نادرست محدود باشد. اعتماد زمانی شکل می گیرد که سازوکارهای پیشنهاد، گفت وگو، اعتراض، حل اختلاف، اصلاح قواعد و بازتوزیع قدرت در معماری حکمرانی آن تعبیه شده باشند.

اعتماد خودتولید، اعتماد بی قیدوشرط نیست

یکی از سوءبرداشت های احتمالی این است که هدف چنین نهادی، افزایش دائمی اعتماد عمومی است. اما اعتماد بیشتر همیشه مطلوب نیست. گاهی کاهش اعتماد، واکنشی عقلانی به پنهان کاری، تبعیض یا بی کفایتی است.

هدف نهاد اعتماد خودتولید، تولید «اعتماد کور» نیست؛ بلکه ایجاد شرایطی است که در آن اعتماد بتواند بر شواهد، تجربه و قابلیت پاسخ گویی استوار شود. چنین نهادی باید امکان بی اعتمادی سازنده، پرسشگری و اعتراض را نیز به رسمیت بشناسد.

از این منظر، اعتراض شهروند یا مشتری تهدیدی برای نهاد نیست؛ بلکه یکی از حسگرهای یادگیری آن است. نهادی که اعتراض را سرکوب می کند، شاید در کوتاه مدت تصویر ثبات ایجاد کند، اما ظرفیت تشخیص خطا و ترمیم اعتماد را از دست می دهد.

گذار از کنترل فناوری به معماری نهادی

مسئله حکمرانی هوش مصنوعی را نباید فقط به این پرسش محدود کرد که چگونه الگوریتم ها را کنترل کنیم. پرسش بنیادی تر آن است که چگونه نهادهایی بسازیم که بتوانند در تعامل مستمر میان انسان، فناوری و جامعه، مشروعیت و اعتماد خود را حفظ و بازسازی کنند.

هوش مصنوعی قابل اعتماد همچنان ضروری است؛ اما باید درون نهادی قرار گیرد که:

• شفافیت را به قابلیت فهم تبدیل کند؛
• پاسخ گویی را به مسئولیت مشخص پیوند دهد؛
• مشارکت را از تشریفات به بخشی از تصمیم گیری ارتقا دهد؛
• اعتراض را به ورودی یادگیری تبدیل کند؛
• و اصلاح را به یک فرایند دائمی، نه واکنشی مقطعی، بدل سازد.

آینده حکمرانی صرفا به الگوریتم های بهتر وابسته نیست. این آینده به نهادهایی نیاز دارد که بتوانند خود را مشاهده کنند، از پیامدهای تصمیم هایشان بیاموزند، خطاهایشان را اصلاح کنند و دوباره شایستگی اعتماد را به دست آورند.

تفاوت اصلی همین جاست: «هوش مصنوعی قابل اعتماد» می پرسد چگونه یک فناوری را شایسته اعتماد کنیم؛ اما «نهاد اعتماد خودتولید» می پرسد چگونه یک نظام انسانی–فناورانه را به گونه ای طراحی کنیم که اعتماد را مستمرا تولید، آزمون و ترمیم کند.

این گذار از اعتماد به ابزار، به اعتماد مبتنی بر معماری نهادی است؛ معماری ای که شاید بتواند بنیان حکمرانی آینده در بانک، بیمه، دانشگاه، دولت و سازمان های غیرمتمرکز باشد.