آیا ماشین می تواند نگهبان باشد؟ درباره نظارت الگوریتمی، حریم خصوصی و مرز آزادی

آیا ماشین می تواند نگهبان باشد؟ درباره نظارت الگوریتمی، حریم خصوصی و مرز آزادی

۵ آبان ۱۴۰۵

روزی روزگاری نگهبان، انسانی بود با چشم و حافظه ای محدود: می توانست چند چهره را به خاطر بسپارد، چند کوچه را بپاید و در پایان شیفت، فراموش کند. امروز نگهبان، ماشینی است که نه خسته می شود، نه فراموش می کند و نه چشم برمی دارد. دوربین های مجهز به تشخیص چهره، در لحظه، چهره هر عابر را با فهرست های تحت تعقیب مقایسه می کنند؛ شهری که در آن قدم می زنیم، پیش از آن که ما را بشناسد، ما را «شناسایی» کرده است. پرسش این یادداشت ساده است، اما پاسخش سرنوشت آزادی را رقم می زند: آیا ماشین می تواند نگهبان باشد؟ و اگر می تواند، نگهبانی اش تا کجا مشروع است؟

از پان اپتیکون تا شهر دیده شده

میشل فوکو، با الهام از طرح زندان پان اپتیکون جرمی بنتام، نشان داد که قدرت مدرن بیش از آن که بر تنبیه بدنی تکیه کند، بر «دیده شدن همیشگی» استوار است: زندانی ای که نمی داند چه وقت دیده می شود، خود خود را مهار می کند. نظارت الگوریتمی، این منطق را به کمال رسانده است. تفاوت در اینجاست: در پان اپتیکون بنتام، برج نگهبانی در مرکز بود و زندانی می دانست که ممکن است دیده شود؛ در شهر هوشمند امروز، برج ناپیداست، نگهبان نامرئی است و شهروند حتی نمی داند چه وقت در معرض دید قرار گرفته است. این «دیده شدن بی خبر»، صورت تازه ای از قدرت است: قدرتی که نه با زور، بلکه با پیش بینی و طبقه بندی عمل می کند.

اعداد، ابعاد این دگرگونی را نشان می دهند. بازار جهانی تشخیص چهره در سال ۲۰۲۵ حدود ۸/۵۸ میلیارد دلار برآورد شده و پیش بینی می شود در سال ۲۰۲۶ به حدود ۹/۹۵ میلیارد دلار برسد و تا سال ۲۰۳۱ از مرز ۲۰ میلیارد دلار بگذرد. این رشد، فقط رشد یک فناوری نیست؛ رشد یک زیرساخت دیدن است. در لندن، پلیس متروپولیتن در آزمایشی شش ماهه از اکتبر ۲۰۲۵ تا مارس ۲۰۲۶، دوربین های تشخیص چهره زنده را به جای ون های پلیس بر تیرهای چراغ برق در کرویدون نصب کرد و در ۲۴ عملیات، ۱۷۳ نفر را دستگیر کرد؛ یعنی به طور متوسط هر ۳۵ دقیقه یک بازداشت. پلیس اعلام کرد جرم در آن محدوده ۱۰/۵ درصد و جرایم خشونت علیه زنان و دختران ۲۱ درصد کاهش یافته است. در سال ۲۰۲۵ نیز بیش از ۳/۵ میلیون چهره در لندن اسکن شد که به ۱۰۱۰ بازداشت انجامید. و در ۱۶ مه ۲۰۲۶، برای نخستین بار در یک دموکراسی بزرگ غربی، تشخیص چهره زنده در جریان تظاهرات به کار رفت و چهره حدود ۸۰ هزار معترض در دو راهپیمایی لندن اسکن شد؛ اقدامی که گروه دیده بان «بیگ برادر واچ» آن را «تشدیدی هراس انگیز» خواند و هشدار داد که «بررسی هویت بیومتریک نمی تواند پیش شرط آزادی بیان شود».

خطای ماشین، هزینه اش را انسان می پردازد

مدافعان نظارت الگوریتمی می گویند: اگر ماشین دقیق است، چرا از آن نترسیم؟ پاسخ در تفاوت میان «دقت آزمایشگاهی» و «دقت خیابانی» نهفته است. موسسه ملی استاندارد و فناوری آمریکا (NIST) در آزمون های خود نشان داده است که نرخ تطابق اشتباه در میان گروه های جمعیتی یکسان نیست: در تطابق یک به چند، زنان آفریقایی تبار بیشترین نرخ خطا را دارند و در مجموع، خطاها در زنان بیش از مردان است. پژوهش های دیگر نشان می دهند که کیفیت پایین تصاویر نظارتی، تاری، نور کم و زاویه نامناسب، می تواند دقت الگوریتم را به طور چشمگیری کاهش دهد؛ یعنی همان تصویری که در خیابان واقعی در دسترس است، دقیقا همان تصویری است که ماشین در آن بیشتر خطا می کند. خطای ماشین در دنیای واقعی، یک عدد در جدول نیست؛ یک بازداشت اشتباه، یک شب بازداشتگاه و یک لکه بر حیثیت انسانی است که هیچ به روزرسانی نرم افزاری آن را پاک نمی کند.

اینجا همان نقطه ای است که یادداشت های پیشین این قلم درباره «عاملیت توزیع شده» به آن رسیده بود: وقتی تصمیم بازداشت از دل زنجیره ای از دوربین، الگوریتم، اپراتور و افسر می گذرد، مسئولیت در میان حلقه ها پخش و در عمل گم می شود. ماشین «پیشنهاد» می دهد، انسان «تایید» می کند، اما در عمل، پیشنهاد ماشین به ندرت رد می شود. این همان «تکنوکراسی پنهان» است: تصمیمی که به ظاهر انسانی است، اما در باطن ماشینی.

لنز ایرانی اسلامی: حریم، کرامت و قاعده لاضرر

از منظر حکمت اسلامی، مسئله نظارت پیش از آن که مسئله «امنیت» باشد، مسئله «حریم» و «کرامت» است. قرآن کریم، تجسس را نهی می کند: «و لا تجسسوا»؛ فقه، ورود به حریم خصوصی را بی اذن ناروا می داند و قاعده «لاضرر» هر ضرری را، ولو به بهانه مصلحت، مردود می شمارد. البته مصلحت حفظ امنیت، در فقه جایگاهی بلند دارد و «حفظ نظام» از واجبات است؛ اما مصلحت، مجوز بی قیدوشرط نیست. در فقه، تزاحم میان امنیت و حریم، با اصل «قدر متیقن» و «اقل ضرر» حل می شود: کمترین مداخله ای که امنیت را تامین کند، نه بیشترین مداخله ای که فناوری اجازه می دهد.

از همین جا می توان به سنت ایرانی «حریم» نیز رسید: در معماری ایرانی، خانه اندرونی داشت و کوچه حریم؛ حریم نه یک تجمل، که شرط کرامت بود. شهروندی که می داند هر قدمش ثبت و طبقه بندی می شود، دیگر آن شهروند آزاد پیشین نیست؛ او خود را سانسور می کند، از تجمع می پرهیزد و از بیان نظر مخالف بازمی ایستد. این همان «اثر سردکننده» است که نظریه پردازان آزادی بیان از آن سخن می گویند: نظارت فراگیر، حتی اگر هیچ کس را بازداشت نکند، آزادی را، از راه ترس از دیده شدن، محدود می کند. «حاکمیت داده» در اینجا معنایی تازه می یابد: حاکمیت داده، فقط مالکیت سرورها نیست؛ حق شهروند است بر اینکه دیده نشود، مگر به حکم قانون و به قدر ضرورت.

تجربه جهان: منع در اروپا، گسترش در جاهای دیگر

اتحادیه اروپا با «قانون هوش مصنوعی» نخستین چارچوب جامع جهان را وضع کرد: از ۲ فوریه ۲۰۲۵، شناسایی بیومتریک بلادرنگ از راه دور در فضاهای عمومی برای مقاصد انتظامی، با استثنائات محدود، ممنوع شد و جریمه تخلف از ممنوعیت ها تا ۳۵ میلیون یورو یا ۷ درصد گردش مالی جهانی پیش بینی شده است. بااین حال، همان قانون، اجرای تعهدات سامانه های پرخطر را، با اصلاحیه «اومنی بوس دیجیتال»، تا ۲ دسامبر ۲۰۲۷ به تعویق انداخت؛ یعنی حتی سخت گیرترین قانون گذار جهان نیز میان «منع» و «مهلت» در نوسان است. در سوی دیگر، بریتانیا که قانون ویژه ای برای این فناوری ندارد، استفاده از آن را بدون قانون مصوب گسترش می دهد؛ چنان که به گزارش دیده بان ها، پلیس متروپولیتن شمار استقرارهای هفتگی تشخیص چهره زنده را میان ژوئیه ۲۰۲۵ تا ژوئیه ۲۰۲۶ دو برابر کرده است. پیام روشن است: فناوری، منتظر قانون نمی ماند؛ اگر قانون دیر برسد، واقعیت میدانی جای قانون را می گیرد.

چارچوبی چهارلایه برای نگهبانی مشروع

اگر بپذیریم که ماشین می تواند «ابزار» نگهبانی باشد اما هرگز «صاحب» نگهبانی نیست، آنگاه می توان چارچوبی چهارلایه برای استفاده مشروع از نظارت الگوریتمی پیشنهاد کرد:

لایه یکم: مشروعیت قانونی پیشینی. هیچ استقرار نظارتی بدون مجوز قانونی صریح، محدوده زمانی و مکانی مشخص، و ارزیابی اثر بر حقوق بنیادین نباید آغاز شود. استثنا نباید قاعده شود و «آزمایش» نباید پوششی برای استقرار دائمی باشد؛ چنان که تجربه لندن نشان داد، «پایلوت» به سرعت به زیرساخت دائمی بدل می شود.

لایه دوم: ضرورت و تناسب. پیش از هر دوربین، باید ثابت شود که هدف امنیتی با ابزار کم مداخله تر قابل تامین نیست. جایی که گشت انسانی یا دوربین غیرهوشمند کافی است، تشخیص چهره زنده، مصداق «تجسس بیش از ضرورت» و مخالف قاعده لاضرر است.

لایه سوم: پاسخ گویی انسانی و جبران پذیری. هر تطابق ماشینی باید «سرنخ» تلقی شود، نه «دلیل»؛ تصمیم نهایی باید با انسان باشد و انسان تصمیم گیر باید بتواند، و جرات کند، پیشنهاد ماشین را رد کند. برای هر بازداشت اشتباه، سازوکار جبران روشن و علنی باید وجود داشته باشد؛ مسئولیتی که در زنجیره گم شود، مسئولیتی است که عملا وجود ندارد.

لایه چهارم: شفافیت و نظارت همگانی. شمار استقرارها، شمار چهره های اسکن شده، شمار تطابق ها و بازداشت ها، و نرخ خطا به تفکیک گروه های جمعیتی باید به صورت دوره ای و عمومی منتشر شود. شهروند باید بداند کجا، چه وقت و چرا دیده می شود؛ وگرنه نظارت، از ابزار امنیت به ابزار ارعاب بدل می شود.

سخن پایانی

ماشین می تواند نگهبان باشد، اما فقط نگهبانی که زیر نگاه انسان است، در چارچوب قانون حرکت می کند و هر خطایش جبران می شود. نگهبانی که خود دیده نمی شود، اما همه را می بیند، دیگر نگهبان نیست؛ حاکم نامرئی است. تمدنی که حریم شهروند را پاس می دارد، تمدنی است که می داند امنیت پایدار نه از دیده شدن همیشگی، بلکه از اعتماد میان دولت و ملت برمی خیزد. پرسش نهایی این نیست که آیا می توانیم همه را ببینیم؛ فناوری این توان را به ما داده است. پرسش این است که آیا باید؟ و پاسخ خردمندانه، پاسخی است که از دل فقه، فلسفه و تجربه مشترک بشر برمی خیزد: ببین، اما به قدر ضرورت؛ نگهبانی کن، اما با کرامت؛ و هرگز فراموش مکن که پشت هر چهره ای که اسکن می کنی، انسانی ایستاده است که حق دارد دیده نشود.

منابع و داده ها: گزارش های بازار تشخیص چهره (Mordor Intelligence / ResearchAndMarkets، ۲۰۲۵–۲۰۲۶)؛ پلیس متروپولیتن لندن، گزارش پایلوت کرویدون (اکتبر ۲۰۲۵ تا مارس ۲۰۲۶)؛ گزارش های Statewatch و State of Surveillance درباره نخستین استفاده از تشخیص چهره زنده در تظاهرات لندن (۱۶ مه ۲۰۲۶)؛ آزمون های NIST درباره تفاوت های جمعیتی در تشخیص چهره (FRVT)؛ متن و زمان بندی اجرایی قانون هوش مصنوعی اتحادیه اروپا (AI Act) و اصلاحیه اومنی بوس دیجیتال (۲۰۲۶).