نهادهای اعتمادآفرین در برابر الیگارشی دیجیتال: چارچوبی برای حکمرانی فناوری های نوظهور

نهادهای اعتمادآفرین در برابر الیگارشی دیجیتال: چارچوبی برای حکمرانی فناوری های نوظهور

قدرت فناوری را دیگر نمی توان فقط با سرعت پردازش، دقت الگوریتم یا ارزش بازار شرکت ها سنجید. پرسش تعیین کننده این است که چه کسی قواعد دسترسی به دانش، فرصت های اقتصادی و خدمات اساسی را تعیین می کند و تصمیم او چگونه قابل اعتراض و اصلاح است. هنگامی که زیرساخت های دیجیتال به واسطه های ضروری زندگی اجتماعی تبدیل می شوند، حکمرانی آنها نیز از موضوعی صرفا تجاری فراتر می رود. استدلال این یادداشت آن است که پاسخ پایدار به تمرکز قدرت دیجیتال، افزایش تبلیغاتی اعتماد نیست؛ ساخت نهادهایی است که شایستگی اعتماد را به طور مستمر، قابل سنجش و قابل اعتراض نشان دهند.

کتاب The Nerd Reich: Silicon Valley Fascism and the War on Democracy نوشته گیل دوران، نقطه عزیمتی برای طرح این مسئله است. دوران درباره گرایش هایی در بخشی از نخبگان فناوری هشدار می دهد که جایگزینی نهادهای انتخابی با اشکالی از حاکمیت شرکتی را مطلوب می دانند. این ادعا و تعبیر سیاسی تند کتاب را نباید به تمام اکوسیستم فناوری تعمیم داد. ارزش تحلیلی مسئله، در عبور از داوری درباره اشخاص و بررسی شرایطی است که تحت آن، مزیت فناورانه می تواند به قدرت قاعده گذاری کم پاسخ گو تبدیل شود

الیگارشی دیجیتال چگونه شکل می گیرد؟

در این یادداشت، «الیگارشی دیجیتال» به وضعیتی اطلاق می شود که شمار محدودی بازیگر، علاوه بر منابع اقتصادی، اختیار نامتناسبی بر زیرساخت، گردش اطلاعات و قواعد مشارکت دیگران پیدا می کنند، بی آنکه در برابر افراد اثرپذیر به اندازه کافی پاسخ گو باشند. بنابراین، بزرگ بودن یک شرکت، موفقیت تجاری یا ثروتمندبودن بنیان گذار، به تنهایی نشانه الیگارشی نیست. مسئله، پیوند تمرکز منابع با ضعف نظارت و محدودشدن امکان به چالش کشیدن تصمیم هاست.

این پیوند می تواند از چند مسیر تقویت شود. کنترل زیرساخت، وابستگی دیگران را افزایش می دهد؛ انباشت داده، مزیت یادگیری و شناخت بازار ایجاد می کند؛ تعیین استانداردها و شرایط دسترسی، رفتار کسب وکارهای وابسته را شکل می دهد؛ و کنترل توزیع محتوا می تواند بر دیده شدن مسائل عمومی اثر بگذارد. این سازوکارها الزاما به سلطه منتهی نمی شوند، اما در غیاب رقابت موثر و پاسخ گویی، زمینه آن را فراهم می کنند.

تحلیل OECD درباره زیرساخت هوش مصنوعی نیز نگرانی رقابتی را صرفا به خود مدل ها محدود نمی کند و منابع محاسباتی، تراشه های پیشرفته و ساختار زنجیره تامین را مورد توجه قرار می دهد (OECD, 2025). برداشت نهادی از این بحث آن است که آزادی انتخاب در سطح خدمات، هنگامی شکننده می شود که تامین کنندگان آن خدمات به چند گلوگاه مشترک وابسته باشند.

بااین حال، شواهد را باید دقیق خواند. مطالعه OECD در سال ۲۰۲۶، پذیرش هوش مصنوعی غیرمولد را با افزایش معنادار قدرت بازار مرتبط نمی یابد؛ در مقابل، میان تمرکز نوآوری در هوش مصنوعی و تمرکز فروش، همبستگی گزارش می کند. شواهد توصیفی آن برای هوش مصنوعی مولد نیز هم فرصت هایی برای بنگاه های کوچک و هم مزیت هایی برای بنگاه های برخوردار از قابلیت های پیشین نشان می دهد. این یافته ها به معنای اثبات رابطه علی یا سرنوشت انحصاری همه فناوری های هوشمند نیستند؛ بلکه ضرورت تفکیک میان توسعه دهندگان، استفاده کنندگان و لایه های مختلف بازار را روشن می کنند

اعتماد نهادی با رضایت کاربر یکسان نیست

اعتماد نهادی را می توان انتظار موجه از عملکرد شایسته، منصفانه و قابل اتکای یک نهاد در شرایط عدم اطمینان دانست؛ انتظاری که فقط به ویژگی شخصی مدیر یا شهرت برند متکی نیست، بلکه از قواعد، رویه ها و ضمانت های پاسخ گویی پشتیبانی می گیرد.

در تحلیل این مفهوم، سه امر باید از هم جدا شوند: «اعتمادپذیری» به کیفیت عملکرد و ترتیبات نهادی مربوط است؛ «اعتماد ادراک شده» برداشت مردم از آن کیفیت است؛ و «اتکای عملی» رفتار آنان در استفاده از خدمات یا پذیرش تصمیم هاست. این سه لزوما هم جهت نیستند. فرد ممکن است به یک پلتفرم اعتماد نداشته باشد، اما به دلیل نبود جایگزین از آن استفاده کند. همچنین ممکن است نهادی بر اثر شهرت و تبلیغات اعتماد بالایی جلب کند، بی آنکه سازوکارهای کافی برای حفاظت از حقوق کاربران داشته باشد.

ازاین رو، تعداد کاربران، نرخ بازگشت یا رضایت از سرعت خدمت، به تنهایی معیار اعتماد نهادی نیست. این شاخص ها ممکن است کارایی، عادت یا وابستگی را اندازه بگیرند. هدف حکمرانی نیز نباید بیشینه کردن اعتماد به هر قیمت باشد؛ هدف، متناسب کردن اعتماد با شواهد اعتمادپذیری است. آشکارشدن یک ضعف واقعی ممکن است در کوتاه مدت اعتماد را کاهش دهد، اما برای اصلاح نهاد ضروری باشد.

پیمایش اعتماد OECD، قابل اتکابودن، پاسخ گویی به نیازها، گشودگی، درستکاری و انصاف را در تحلیل اعتماد به نهادهای عمومی بررسی می کند. یافته های آن نیز میان احساس داشتن صدای سیاسی، تصمیم گیری مبتنی بر شواهد و اعتماد، ارتباط آماری نشان می دهد. این نتایج مربوط به نهادهای عمومی اند و مستقیما اثبات کننده رفتار کاربران پلتفرم ها نیستند؛ بااین حال، اهمیت توجه به کیفیت حکمرانی در کنار کیفیت خدمت را برجسته می کنند

حق خروج جای حق مشارکت را نمی گیرد

در برخی روایت های حکمرانی دیجیتال، امکان خروج از یک پلتفرم یا پیوستن به اجتماعی دیگر، ضمانت اصلی آزادی معرفی می شود. اما این ضمانت تنها زمانی معنادار است که جایگزین قابل استفاده وجود داشته باشد و هزینه خروج قابل تحمل باشد. فردی که سابقه شغلی، اعتبار تجاری، شبکه مشتریان یا دسترسی آموزشی اش به یک زیرساخت وابسته است، ممکن است روی کاغذ حق خروج داشته باشد، اما در عمل نتواند از آن استفاده کند.

به همین دلیل، رابطه میان نهاد دیجیتال و افراد را نمی توان همیشه به قرارداد فروشنده و مشتری فروکاست. وقتی تصمیم یک سامانه بر معیشت، آموزش، سلامت یا دسترسی مالی اثر جدی دارد، فرد باید بتواند دلیل تصمیم را مطالبه کند، به آن اعتراض کند و در قواعد اثرگذار بر حقوق خود سهمی داشته باشد.

این نکته درباره ساختارهای ظاهرا غیرمتمرکز نیز صدق می کند. توزیع فنی شبکه، به خودی خود توزیع اختیار تصمیم گیری را تضمین نمی کند. در یک سازمان مبتنی بر بلاک چین، باید جداگانه پرسید حق رای، امکان تغییر قواعد و اختیار کنترل منابع چگونه توزیع شده اند. نام فناوری نمی تواند جای بررسی ساختار قدرت را بگیرد.

ایاد رحوان در ایده «جامعه در حلقه»، نظارت انسانی را با سازوکارهایی برای مذاکره درباره ارزش های ذی نفعان و پایش تعهدات پیوند می دهد

دلالت تحلیلی این رویکرد آن است که حضور یک اپراتور انسانی، بدون نمایندگی منافع افراد اثرپذیر، لزوما مسئله مشروعیت را حل نمی کند. معماری نهادهای اعتمادآفرین

در چارچوب مفهومی پیشنهادی «نهادهای اعتماد خودتولید»، نهاد باید ظرفیت تولید شواهد، تشخیص فاصله میان تعهد و عملکرد، و اصلاح قابل راستی آزمایی را در ساختار خود تعبیه کند. «خودتولید» در اینجا به معنای اعتماد خودکار یا بی نیازی از نظارت بیرونی نیست؛ به معنای پیوندزدن اعتمادپذیری با رویه های مستمر درونی و نظارت مستقل است. این چارچوب، پیشنهادی برای طراحی و آزمون نهادی است، نه تضمینی از پیش اثبات شده برای موفقیت.

نخست، شفافیت عمیق باید رابطه داده، تصمیم، منفعت و مسئولیت را روشن کند. انتشار انبوه اسناد یا کد کافی نیست؛ فرد اثرپذیر باید توضیح قابل فهم دریافت کند و ممیز مستقل به شواهد لازم دسترسی داشته باشد. سطح افشا نیز باید با حفاظت از حریم خصوصی و امنیت متناسب باشد. شفافیت موثر، اطلاعات را قابل استفاده می کند، نه صرفا قابل مشاهده.

دوم، حکمرانی مشارکتی باید به افراد اثرپذیر امکان اثرگذاری بر قواعد بدهد. این مشارکت می تواند از مشورت مستند و نمایندگی کاربران تا حضور متخصصان مستقل در بازبینی تصمیم ها شکل بگیرد. معیار، تعداد جلسات نیست؛ باید معلوم باشد کدام نظر پذیرفته شده، کدام رد شده و چرا. مشارکت بدون اثرگذاری، بیشتر نمایش مشروعیت است تا سازوکار حکمرانی.

سوم، پاسخ گویی داده محور باید ادعاهای ایمنی، انصاف و کارآمدی را قابل آزمون کند. نرخ خطا در گروه های مختلف، زمان رسیدگی به اعتراض، میزان تکرار آسیب و نتیجه اصلاحات، نمونه هایی از شاخص های مرتبط اند. ارزیابی نیز نباید منحصرا در اختیار همان واحدی باشد که سامانه را ساخته یا از گسترش آن منفعت می برد.

چهارم، هم عاملی انسان و الگوریتم مستلزم انسانی است که تخصص، زمان، اطلاعات و اختیار واقعی برای مداخله داشته باشد. امضای انسانی بر خروجی ماشین، اگر امکان مخالفت موثر وجود نداشته باشد، مسئولیت پذیری ایجاد نمی کند. در سامانه های عامل گرا نیز حدود اختیار، مجوز اقدامات حساس و مسئول پیامدها باید پیش از واگذاری کار مشخص شود.

پنجم، کنترل تمرکز قدرت باید وابستگی های نهادی و فناورانه را هدف قرار دهد. قابلیت انتقال داده، تعامل پذیری همراه با حفاظت مناسب، کاهش هزینه جابه جایی و شفافیت تعارض منافع می توانند بخشی از این طراحی باشند. در سطح سیاست عمومی، نظارت بر رفتار ضدرقابتی ضروری است؛ در سطح سازمان، نباید امکان نظارت و اصلاح، به اراده انحصاری یک تامین کننده وابسته بماند.

ششم، ظرفیت مهار ریسک باید امکان محدودکردن آسیب را پیش از گسترش آن فراهم کند. آزمون متناسب با کاربرد، استقرار مرحله ای، ثبت رویدادها، امکان توقف یا بازگشت و مسیر روشن جبران، اجزای چنین ظرفیتی اند. نهادی که فقط پس از وقوع بحران مسئولیت را جست وجو می کند، هنوز مدیریت ریسک را به بخشی از معماری خود تبدیل نکرده است.

این پیشنهادها با جهت گیری کلی چارچوب مدیریت ریسک هوش مصنوعی NIST هم راستایی دارند؛ چارچوبی که اعتمادپذیری را به دقت محدود نمی کند و ایمنی، شفافیت، پاسخ گویی، انصاف و حفاظت از حریم خصوصی را نیز در نظر می گیرد. البته هم راستایی مفهومی، به معنای تایید تجربی چارچوب پیشنهادی حاضر نیست

اعتماد در چرخه اصلاح آزموده می شود

این معماری زمانی ارزش عملی پیدا می کند که میان سه فرایند پیوند برقرار شود: فراهم کردن مبنای موجه برای اتکا، ارزیابی مغایرت های عملکرد با تعهدات، و اصلاح مسئولانه همراه با راستی آزمایی. ثبت شکایت، اگر به تشخیص و اصلاح نرسد، اعتمادپذیری تولید نمی کند؛ همان طور که اعلام اصلاح، بدون بررسی نتیجه، تضمینی برای تغییر نیست.

برای مثال، فرض کنیم یک سامانه بیمه ای درخواست فردی را رد کرده است. توضیح کلی «تصمیم مبتنی بر الگوریتم» کفایت نمی کند. باید مشخص شود داده مرتبط چه بوده، مسئول تصمیم کیست، اعتراض چگونه مستقل بررسی می شود و اگر خطایی نظام مند کشف شد، چه کسانی دیگر ممکن است متاثر شده باشند. اصلاح واقعی فقط تغییر نتیجه یک پرونده نیست؛ می تواند بازبینی داده، مدل یا قاعده تصمیم گیری و رسیدگی به پرونده های مشابه را نیز ضروری کند.

در سنجش این چرخه، کاهش تعداد شکایت ها لزوما نشانه بهبود نیست؛ ممکن است مسیر اعتراض دشوار شده باشد. در مقابل، افزایش اولیه اعتراض ها پس از دسترس پذیرشدن سازوکار رسیدگی، می تواند نشانه آشکارشدن مسائل پنهان باشد. معیار مهم تر، کیفیت رسیدگی، کاهش تکرار آسیب و تایید اثربخشی اصلاح است.

مهار قدرت بدون مسدودکردن نوآوری

اجرای این چارچوب نیز هزینه و مخاطره دارد. الزامات پیچیده و یکسان برای همه بنگاه ها ممکن است ورود نوآوران کوچک را دشوار و موقعیت بنگاه های بزرگ را تثبیت کند. بنابراین، شدت ارزیابی و نظارت باید با دامنه اثر، حساسیت داده و برگشت پذیری تصمیم متناسب باشد. سامانه ای برای پیشنهاد محتوا با سامانه ای که درباره حق برخورداری از خدمت اساسی تصمیم می گیرد، نیاز نظارتی یکسانی ندارد.

از سوی دیگر، انتقال همه اختیار به نهاد عمومی نیز پاسخ کافی نیست. تنظیم گر هم ممکن است با تعارض منافع، ضعف تخصص یا تمرکز قدرت روبه رو شود. حکمرانی اعتمادآفرین باید هم شرکت و هم ناظر را پاسخ گو کند؛ از طریق استقلال ارزیابی، انتشار دلایل تصمیم، امکان اعتراض و مشارکت ذی نفعان. مسئله، انتخاب میان قدرت خصوصی و قدرت دولتی نیست؛ مسئله، محدودکردن قدرت غیرقابل پرسش در هر دو حوزه است.

در نهایت، پاسخ به الیگارشی دیجیتال، فناوری هراسی نیست؛ بازطراحی رابطه قدرت و مسئولیت است. نوآوری زمانی به منفعت عمومی پایدار تبدیل می شود که افراد فقط مصرف کننده خروجی نباشند، بلکه صاحب حق در برابر تصمیم نیز شناخته شوند. نهاد اعتمادآفرین از جامعه نمی خواهد به نیت مدیران یا وعده فناوری اطمینان کند؛ ترتیباتی ایجاد می کند که عملکرد آن قابل بررسی، خطای آن قابل اعتراض و قدرت آن قابل مهار باشد.

آینده مطلوب دیجیتال، آینده ای نیست که در آن مردم کمتر پرسش کنند؛ آینده ای است که نهادها در برابر پرسش، توان پاسخ، اصلاح و اثبات اصلاح داشته باشند.