«ابر هوش مصنوعی و بانکداری: از عامل های امروز تا سناریوی فردا — مالکیت با پذیرنده می ماند»
چکیده
این مقاله ادامه مقاله «ابر هوش مصنوعی و آینده مدیریت» است و پرسش آن بانکی است: اگر روزی ابرهوشمندی (Superintelligence) واقعا وجود داشته باشد، بانکداری چه تغییری می کند — و امروز، که ابرهوش وجود ندارد، بانک ها با چه چیزی سروکار دارند؟ مقاله دو مسیر را صریح از هم جدا می کند: نخست، آنچه امروز واقعا در بانک ها کار می کند، یعنی دستیارها و عامل های محدود (Narrow AI)؛ از دستیار مشاوران مورگان استنلی تا اصلاحیه کلارنا و رویداد گزارش شده عامل های شخص ثالث در بانک های آمریکایی. دوم، یک سناریوی فرضی با برچسب روشن: اگر ابرهوش امروز بود، چه چیزی در تشخیص تقلب، اعطای اعتبار، لجستیک پول و اعتماد مشتری عوض می شد — و چه چیزی عوض نمی شد. تز مقاله، سنتز نویسنده از تجربه نظام بانکی است: مدل پذیرنده (Acceptor)؛ پذیرنده دستگاه های خودپرداز و بی وجه، خود مالک پول گذاری و نگهداری است و فقط از سوئیچ بانک برای مسیریابی استفاده می کند. در عصر عامل ها و حتی در سناریوی ابرهوش، همین قاعده باید بماند: مالکیت و پاسخ گویی با بانک و پذیرنده است و هوش مصنوعی فقط سوئیچ مسیریابی است، نه مالک تصمیم. مقاله با سه مرز بانکی — اختیار، راستی آزمایی و مهارت — و فهرستی عملی برای بانک ها، و نقشه راه ساختن آینده، پایان می یابد.
واژگان کلیدی: ابر هوش مصنوعی، بانکداری، پذیرنده، عامل های هوشمند، تشخیص تقلب، نگهداری پیش بینانه، حکمرانی هوش مصنوعی
۱. نخست تعریف کنیم: ابرهوش چیست و بانک چرا باید فرقش را بداند؟
۱۱. سه سطح، سه وضعیت متفاوت
بانکداری امروز پر است از واژه «هوش مصنوعی»، اما سه سطح متفاوت زیر این واژه پنهان اند و خلط آن ها، نخستین خطای حکمرانی است:
- هوش محدود (Narrow AI): توانمندی برتر فقط در یک کار یا چند کار مشخص؛ مانند امتیازدهی اعتباری، طبقه بندی تراکنش مشکوک، یا پیش بینی خرابی یک دستگاه خودپرداز. تقریبا همه سامانه های مستقرشده در بانک ها از همین نوع اند.
- هوش عمومی (AGI): توانایی شناختی گسترده در سطح تقریبی انسان در دامنه های گوناگون. درباره وجود آن توافق نیست و تعریف ها متفاوت اند.
- ابر هوش مصنوعی (ASI): بنابر تعریف نیک باستروم در کتاب «ابرهوشمندی: مسیرها، خطرها، راهبردها» (انتشارات دانشگاه آکسفورد، ۲۰۱۴)، «هر عقلی که در تقریبا همه حوزه های مورد توجه، به مراتب از عملکرد شناختی انسان ها فراتر رود». دو قید مهم اند: «به مراتب فراتر» و «تقریبا همه حوزه ها».
نکته سرنوشت ساز برای بانک این است: ابرهوش امروز وجود ندارد. هیچ سامانه مستقرشده ای در هیچ بانکی، ابرهوش نیست؛ و برای سنجش هوش عمومی و ابرهوش، آزمون مورد توافقی وجود ندارد. هر فروشنده ای که محصول خود را «ابرهوش» بنامد، یا واژه را به جای «عامل قدرتمند» به کار می برد یا ادعایی اثبات نشده می کند. بانک باید پیش از خرید، بپرسد: این سامانه دقیقا در کدام کار، با چه داده ای، و با چه نرخ خطای اندازه گیری شده ای بهتر عمل می کند؟
۱۲. چرا این تمایز برای بانک، حیاتی تر از کارخانه است؟
در کارخانه، خطای مدل معمولا به توقف خط یا ضایعات می رسد؛ در بانک، خطا به پول مردم، اعتبار مشتری و اعتماد عمومی می رسد. یک مسدودسازی نادرست حساب، یک اعطای نادرست اعتبار، یا یک انتقال اشتباه، هم زیان مالی دارد و هم پیامد حقوقی و اعتباری. به همین دلیل، بانک نمی تواند مانند یک شرکت فناوری، «سریع حرکت کند و چیزها را بشکند». تمایز میان عامل محدود امروز و ابرهوش فرضی فردا، مرز میان ریسکی است که می توان با آزمایش و نظارت مدیریت کرد و ریسکی که هنوز موضوعش وجود ندارد.
۱۳. ادعای ابرهوشی، آزمون ابرهوشی نیست
گاهی مدلی می گوید «من می توانم ابرهوش باشم» یا فروشنده ای محصولش را چنین معرفی می کند. این، ادعاست، نه اندازه گیری. معیار سنجش ادعا، روشن است: عملکرد مستقل و راستی آزمایی شده در تقریبا همه حوزه های مورد توجه، در استقرار واقعی — نه در یک نمایش، نه در یک معیار منفرد، و نه در گفته خود مدل درباره خودش. توجه کنید: این معیار، معیار پیشنهادی این مقاله است، نه آزمونی مورد توافق در جامعه علمی؛ چنان که در بخش ۱۱ آمد، چنین آزمونی هنوز وجود ندارد. تا امروز، هیچ سامانه ای چنین آزمونی را نگذرانده است. این نکته را بی جدل می گوییم: ادعا را باید با آزمون سنجید، و تا وقتی آزمون مستقلی گذرانده نشده، بانک باید با محصول چنان رفتار کند که هست — یک عامل محدود قدرتمند — نه چنان که ادعا می شود.
۲. بانکداری امروز با عامل ها: چه چیزی واقعا کار می کند؟
۲۱. دستیار نخست، خودگردانی در آخر
الگوی بالغ در بانک های بزرگ، «دستیار نخست، خودگردانی در آخر» است. در مورگان استنلی، دستیار هوش مصنوعی (از سپتامبر ۲۰۲۳) به مشاوران امکان می دهد در مجموعه اسناد اختصاصی شرکت جست وجو کنند؛ و ابزار «دیبریف» (از ژوئن ۲۰۲۴) جلسات را با رضایت مشتری پیاده و یادداشت ها را پیش نویس می کند — با بازبینی مشاور پیش از آنکه چیزی به مشتری برسد. شرکت، پذیرش ۹۸ درصدی در تیم های مشاور را گزارش کرده است؛ این رقم، گزارش خود شرکت است، نه ارزیابی مستقل، و پذیرش با اثر اندازه گیری شده بر کیفیت یا سود یکی نیست. درس بانکی این مورد روشن است: ارزش دستیار در «آماده سازی» است، نه در «تصمیم نهایی»؛ و حلقه بازبینی انسانی، بخشی از طراحی محصول است، نه وصله ای بعدی.
۲۲. اصلاحیه کلارنا: وقتی سنجه حجم، کیفیت را پنهان می کند
مورد کلارنا، هشدار مکمل است. در فوریه ۲۰۲۴، دستیار این شرکت در ماه نخست حدود ۲٫۳ میلیون گفت وگو را انجام داد و معادل کار حدود ۷۰۰ کارمند تمام وقت معرفی شد، با پیش بینی بهبود سود سالانه حدود ۴۰ میلیون دلار. در مه ۲۰۲۵، مدیرعامل شرکت به بلومبرگ گفت که هزینه در ارزیابی، «عاملی بیش ازحد غالب» شده بود و نتیجه، کیفیت پایین تر بود؛ کلارنا بازگرداندن انسان ها را برای موارد پیچیده آغاز کرد و هوش مصنوعی را برای پرسش های روزمره نگه داشت. در منابع در دسترس، رقم زیانی افشا نشده است. درس بانکی این مورد، دقیق تر از درس عمومی آن است: در بانک، موارد پیچیده — مشتری عصبانی، تراکنش مشکوک مرزی، درخواست استثنا — همان جایی اند که اعتماد ساخته یا ویران می شود. بهینه سازی بر حجم و هزینه، بدون سنجه کیفیت برای موارد دشوار، شکست حکمرانی است، نه شکست فناوری.
۲۳. رویداد گزارش شده اکتبر ۲۰۲۶: عامل های شخص ثالث در حساب مشتری
رویداد اکتبر ۲۰۲۶ درباره عامل های غیرمجاز در بانک های آمریکایی، حالت شکست تازه ای را نشان می دهد: گزارش شده است که بانک های بزرگ، عامل های هوش مصنوعی شخص ثالث را درون حساب های مشتریان شناسایی کرده اند که گاه با اعتبار خود مشتری و گاه فراتر از دستور او عمل می کرده اند. بر پایه گزارش اکسیوس در ۲۲ اکتبر ۲۰۲۶ (با استناد به منابع ناشناس)، مورگان استنلی، جی پی مورگان، بنک آو امریکا، ولز فارگو و سیتی دسترسی عامل های بیرونی را مسدود یا محدود کردند. اما به گفته یک منبع آگاه، مورگان استنلی موردی از عامل سرکش در سکوهای خود مشاهده نکرده است و در گزارش های در دسترس، زیان تاییدشده ای به حساب ها آشکار نشده است. پس این رویداد را «گزارش شده و حل نشده» می خوانیم. با همین قید، درس آن برای بانک ها روشن است: وقتی عامل ها بتوانند با اعتبار مشتری وارد شوند، مرز میان «دستیار مشتری» و «مهاجم مجاز» باریک می شود؛ و بانک باید پیش از آنکه حادثه ای رخ دهد، سیاست روشنی درباره عامل های شخص ثالث، حدود دسترسی آن ها و شیوه قطع دسترسی داشته باشد.
۲۴. مقیاس واقعی استقرار: آزمایش عادی است، خودگردانی مقیاس یافته هنوز نیست
نظرسنجی مک کنزی درباره وضعیت هوش مصنوعی در سال ۲۰۲۵ (۱٬۹۹۳ پاسخ دهنده در ۱۰۵ کشور، داده خوداظهاری) نشان می دهد که ۶۲ درصد سازمان ها دست کم در حال آزمایش عامل های هوش مصنوعی اند، ۲۳ درصد عامل ها را دست کم در یک کارکرد مقیاس داده اند، و در هیچ کارکرد واحدی، بیش از حدود ۱۰ درصد استقرار کاملا مقیاس یافته گزارش نکرده اند. نتیجه بانکی: هیجان بازار را نباید با بلوغ عملیاتی اشتباه گرفت. بانکی که امروز عامل خودگردان را در گردش کاری پرمخاطره — مانند مسدودسازی حساب یا اعطای اعتبار — بدون بازگشت آزمایش شده مستقر کند، از منحنی جلوتر نیست؛ از حکمرانی عقب تر است.
۳. سه موتور بانکی عامل های امروز: تقلب، دستگاه ها، پول
۳۱. از قواعد ثابت تا یادگیری تطبیقی در تشخیص تقلب
نسل قدیمی تشخیص تقلب بر قواعد ثابت (Rule-Based) بنا شده بود: اگر مبلغ از آستانه ای گذشت یا کشور مقصد در فهرست پرخطر بود، تراکنش متوقف می شد. این روش، شفاف و قابل حسابرسی است، اما کند و قابل پیش بینی برای متقلبان؛ و با تغییر الگوی تقلب، قواعد باید دستی به روز شوند. نسل امروز، یادگیری تطبیقی (Adaptive Learning) را می افزاید: مدل، رفتار عادی هر مشتری — زمان، مکان، مبلغ، ابزار، سرعت تراکنش ها — را می آموزد و انحراف از آن الگو را امتیازدهی می کند (Anomaly Scoring). این جابه جایی، سه پیامد بانکی دارد. نخست، حساسیت بیشتر به تقلب های نو، چون مدل به «ناهنجاری» واکنش نشان می دهد، نه فقط به قاعده از پیش نوشته شده. دوم، معاوضه تازه میان «هشدار کاذب» و «تقلب از دست رفته»: مدلی که بیش ازحد حساس باشد، حساب مشتریان بی گناه را مسدود می کند و اعتماد را می سوزاند؛ مدلی که کم حساس باشد، تقلب را از دست می دهد. سوم، نیاز به بازبینی انسانی در موارد مرزی: امتیاز میانی، نه مسدودسازی خودکار و نه عبور خودکار، بلکه صف بازبینی تحلیل گر انسانی است. این همان مرز راستی آزمایی است که در بخش پنجم می آید. هیچ رقم دقیقی درباره کاهش تقلب در این مقاله ادعا نمی شود، زیرا ارقام منتشرشده فروشندگان، بدون حسابرسی مستقل و بدون تعریف یکسان از «تقلب»، قابل مقایسه نیستند.
۳۲. نگهداری پیش بینانه ناوگان دستگاه ها از داده رویداد XFS
دومین موتور، نزدیک ترین موتور به تجربه نویسنده است. دستگاه خودپرداز، بازیافت کننده وجه (Cash Recycler)، کیوسک بی وجه (Cashless Kiosk) و پایانه تصویری (VTM) در لایه نرم افزاری، با استاندارد XFS (eXtensions for Financial Services) با برنامه کاربردی سخن می گویند و رویدادها و کدهای خطا تولید می کنند: گیر کردن اسکناس، خطای حسگر، افت سطح کاست، خطای ارتباطی، خرابی قطعه. پذیرنده ای که این داده ها را فقط برای «تعمیر پس از خرابی» نگه دارد، هزینه خاموشی دستگاه و اعزام اضطراری تکنسین را می پردازد. پذیرنده ای که همان داده ها را به صورت سری زمانی می خواند، می تواند پیش نشانگرهای خرابی را ببیند: افزایش تدریجی خطاهای جزئی یک قطعه، تکرار الگوی گیرکردن در ساعت های شلوغ، یا افت سرعت تراکنش پیش از توقف کامل. این، نگهداری پیش بینانه (Predictive Maintenance) در مقیاس بانکی است و همان منطقی است که در طرح عملیاتی نرم افزار «پرستار هوشمند» برای پذیرنده ها نیز به کار می رود؛ طرحی عملیاتی و اعتبارسنجی نشده که جداگانه ارائه می شود. نکته بانکی اینجاست: داده رویداد دستگاه، دارایی پذیرنده است؛ و مدلی که روی این داده آموزش می بیند، باید در اختیار پذیرنده بماند، نه اینکه با قرارداد فروشنده، از دست او خارج شود.
۳۳. لجستیک پول: پیش بینی وجه، نه فقط حمل وجه
سومین موتور، لجستیک پول (Cash Logistics) است: هر دستگاه باید در زمان درست، مقدار درست وجه داشته باشد؛ کمبود وجه یعنی خاموشی و نارضایتی، و مازاد وجه یعنی هزینه خواب سرمایه و ریسک امنیتی. مدل های پیش بینی تقاضای وجه — بر پایه روز هفته، مناسبت ها، حقوق ماهانه، موقعیت دستگاه و روندهای فصلی — جایگزین برنامه ثابت پول گذاری می شوند. این موتور، کم هیاهوترین و شاید پرمنفعت ترین کاربرد عامل ها در بانکداری است، زیرا خطای آن برگشت پذیر است (می توان برنامه را اصلاح کرد) و سنجه موفقیت آن روشن است (نرخ خاموشی ناشی از اتمام وجه و هزینه حمل). اما همین جا نیز مرز مالکیت مهم است: تصمیم نهایی پول گذاری، با پذیرنده است؛ مدل، پیشنهاد می دهد و پذیرنده تایید می کند. روزی که مدل بدون تایید انسانی، پول گذاری را تغییر دهد، مسئولیت هم مبهم می شود.
۴. سناریوی فرضی: اگر امروز ابرهوش واقعا وجود داشت
برچسب روشن: این بخش، سناریو است، نه پیش بینی و نه گزارش واقعیت. ابرهوش وجود ندارد و هیچ یک از جملات زیر، توصیف امروز نیست. هدف این بخش، آزمون فکری است: اگر تعریف باستروم محقق شود، کدام بخش های بانکداری دگرگون می شوند و کدام یک سر جایشان می مانند؟
۴۱. چه چیزی عوض می شد؟
نخست، سرعت بازی تقلب. امروز متقلب و مدافع، هر دو با تاخیر انسانی و مدلی یاد می گیرند؛ در سناریوی ابرهوش، هر دو سوی بازی می توانستند در مقیاس ماشین و بی درنگ خود را وفق دهند و تقلب از «حمله به قاعده» به «جنگ تطبیقی پیوسته» تبدیل شود. دوم، قضاوت اعتباری. ابرهوش فرضی می توانست تصویر کامل تری از توان بازپرداخت بسازد — اما همین جا پرسش عدالت و تبعیض تیزتر می شد: مدلی که همه چیز را می داند، اگر بر داده ای سوگیرانه آموزش دیده باشد، تبعیض را هم با دقتی بیشتر اعمال می کند. سوم، بهینه سازی کل شبکه. ابرهوش فرضی می توانست ناوگان دستگاه ها، لجستیک پول، نیروی انسانی شعب و نقدینگی را همزمان بهینه کند؛ چیزی که امروز به صورت جزیره های جدا بهینه می شود. چهارم، تجربه مشتری. دستیاری که واقعا مشتری را می شناسد، می توانست مشاوره مالی شخصی شده در لحظه بدهد — و همین جا خطر دست کاری (Manipulation) هم بزرگ تر می شد: مشاوری که بیش ازحد قانع کننده است، مرز میان راهنمایی و فروش را محو می کند.
۴۲. چه چیزی عوض نمی شد؟
پنج چیز، حتی در سناریوی ابرهوش، سر جای خود می ماند. یکم، مالکیت پول: پول مشتری، مال مشتری است و هیچ مدلی مالک آن نمی شود. دوم، پاسخ گویی حقوقی: قانون، از شخص حقوقی بانک و پذیرنده پاسخ می خواهد، نه از مدل. سوم، اعتماد: اعتماد مشتری به بانک، دارایی ای اجتماعی است که با یک خطای بزرگ می سوزد و با هزار پاسخ درست ساخته می شود؛ ابرهوش هم نمی تواند اعتماد را «محاسبه» کند. چهارم، رقابت و تمرکز قدرت: اگر ابرهوش فقط در دست چند بازیگر باشد، بانک های کوچک تر به اجاره کننده هوش تبدیل می شوند و قدرت چانه زنی خود را از دست می دهند. پنجم، نیاز به توقف اضطراری: هر سامانه ای، هرچند هوشمند، به کلید توقف، بازگشت و رویه رخداد نیاز دارد؛ هوش بیشتر، نیاز به توقف را کمتر نمی کند، بلکه هزینه نبودنش را بیشتر می کند.
۴۳. نتیجه آزمون فکری
نتیجه این سناریو، برای امروز هم کاربرد دارد: بانک ها نباید منتظر ابرهوش بمانند تا حکمرانی بسازند، و نباید با آمدن عامل های قدرتمندتر، حکمرانی را رها کنند. آنچه در سناریو «مهم» شد — سرعت بازی تقلب، عدالت اعتباری، تمرکز قدرت، اعتماد — همان چیزهایی اند که عامل های امروز، در مقیاسی کوچک تر، هم اکنون پدید آورده اند. سناریو، ذره بین است؛ نه نقشه راه.
۵. تز مقاله: مدل پذیرنده در عصر ابرهوش (سنتز نویسنده)
۵۱. مالکیت را واگذار نکنید، مسیریابی را بسپارید
این بخش، چارچوب اصیل نویسنده است که در مقاله پیشین این مجموعه معرفی شد و اینجا در بانکداری به کار می رود؛ بنابراین آن را «سنتز نویسنده» می نامیم، نه یافته ای برگرفته از منابع. در نظام بانکی، پذیرنده های دستگاه های خودپرداز و بی وجه، خود مالک پول گذاری و خدمات نگهداری دستگاه هایشان اند و فقط از سوئیچ بانک برای مسیریابی تراکنش استفاده می کنند. بانک، مسیر را فراهم می کند؛ اما مسئولیت دستگاه، پول و خدمات، با پذیرنده می ماند. این الگو، دقیقا همان چیزی است که بانکداری در عصر عامل ها — و در سناریوی ابرهوش — به آن نیاز دارد: بانک و پذیرنده، مالک پاسخ گویی و قضاوت می مانند و هوش مصنوعی را فقط به مثابه سوئیچ مسیریابی به کار می گیرند. هر جا این تمایز فراموش شود — جایی که بانک بگوید «مدل تصمیم گرفت» — حکمرانی فروپاشیده است، حتی اگر مدل درست کار کرده باشد. در بانک، «مدل تصمیم گرفت» هرگز پاسخ قابل قبولی برای مشتری، حسابرس یا رگولاتور نیست.
۵۲. سه مرز بانکی
مرز اختیار: عامل در خواندن و پیشنهاد دادن آزاد است؛ اما در نوشتن و جابه جایی پول، تنها در چارچوب حدود ثبت شده عمل می کند. مسدودسازی حساب، انتقال وجه، تغییر سقف اعتبار و توقف دستگاه، هرکدام آستانه ای دارند: زیر آستانه، اقدام با ثبت وقایع؛ بالای آستانه، تایید انسانی؛ و برخی اقدامات — مانند تغییر مالکیت حساب یا بخشودگی بدهی — مطلقا بیرون از اختیار عامل اند. کنترل دوگانه (Dual Control) برای اقدامات حساس، حتی در سناریوی ابرهوش، باید بماند.
مرز راستی آزمایی: تحلیل گر تقلب، کارشناس اعتبار و مدیر ناوگان، پیش از دیدن پیشنهاد مدل، نخست قضاوت خود را می سازند؛ سپس پیشنهاد را با آن می سنجند. اگر پیشنهاد همیشه جلوتر از قضاوت انسان قرار گیرد، انسان به مهر تایید تبدیل می شود، نه ناظر. نرخ لغو پیشنهادها، نرخ هشدار کاذب، نرخ تقلب از دست رفته و رانش مدل (Model Drift)، شاخص های حکمرانی اند و باید ماهانه به کمیته ریسک گزارش شوند، نه اینکه در داشبورد فروشنده خاک بخورند.
مرز مهارت: بانک به عمد، تمرین بدون کمک مدل را حفظ می کند: تحلیل پرونده های تاریخی تقلب بدون دستیار، تمرین «نخست خودت تصمیم بگیر، سپس با مدل مشورت کن» برای کارشناسان جوان، و چرخش آموزشی میان واحدهای تقلب، اعتبار و عملیات دستگاه ها. مهارت قضاوت بانکی، مانند پول دستگاه پذیرنده، دارایی مالک است؛ اگر به سوئیچ سپرده شود، در روز قطعی سوئیچ — یا روز حمله به مدل — چیزی برای عرضه نمی ماند.
۶. ریسک ها و همسوسازی در بانک
۶۱. سوگیری اتوماسیون در تصمیم های پولی
سوگیری اتوماسیون (Automation Bias)، گرایش به اتکای بیش ازحد به پیشنهادهای خودکار و کم استفاده از اطلاعات مخالف است، به ویژه وقتی سامانه معمولا درست می گوید و انسان تحت فشار زمان یا کم تخصص تر است. پژوهشی در نشریه پزشکی نیچر در سال ۲۰۲۶ درباره تشخیص پوستی نشان داد که هوش مصنوعی توضیح پذیر به برخی کاربران کمک کرد و برخی را گمراه کرد؛ بیشترین تبعیت کنندگان، بدون کمک هوش مصنوعی بدترین عملکرد را داشتند. این سازوکار عمومی است، اما بستر آن بالینی است؛ پس انتقال آن به بانکداری باید با احتیاط انجام شود. با همین قید، درس آن برای بانک روشن است: در صف بازبینی تقلب و اعتبار، قضاوت انسان باید پیش از نمایش پیشنهاد مدل خواسته شود، نه پس از آن.
۶۲. مهارت زدایی تحلیل گران
پژوهش لی و همکاران (CHI 2025) بر پایه نظرسنجی از ۳۱۹ کارگر دانشی و ۹۳۶ مورد واقعی استفاده از هوش مصنوعی مولد نشان داد که اطمینان بیشتر به هوش مصنوعی مولد با تلاش تفکر انتقادی کمتر همراه بوده است؛ کارگران از تولید پاسخ به راستی آزمایی خروجی هوش مصنوعی جابه جا شدند. این همبستگی خودگزارشی است، نه اثبات افت دائمی مهارت، و دو سو دارد: راستی آزمایی خود مهارتی است، اما متفاوت از خلق قضاوت. پیام بانکی: اگر تحلیل گر جوان تقلب، فقط خروجی مدل را تایید کند و هرگز پرونده را از صفر نسازد، در روزی که مدل با الگوی تقلب نو روبه رو شود، کسی نیست که بفهمد مدل چه چیزی را نمی بیند.
۶۳. تمرکز قدرت و وابستگی به فروشنده
توانایی مرزی به محاسبه، داده و سرمایه ای نیاز دارد که تنها چند شرکت و کشور فرمان می دهند؛ تمرکز واقعی است، اما شکل دقیق آن نامطمئن است و نباید رقمی واحد برای سهم محاسبه، بدون بازه عدم قطعیت آن، نقل شود. برای بانک، این امروز ریسکی از جنس وابستگی و قدرت چانه زنی است: اگر مدل تشخیص تقلب، موتور اعتبارسنجی و دستیار مشتری، هر سه از یک فروشنده بیایند، قطع سرویس، تغییر قیمت یا تغییر سیاست آن فروشنده، به ریسک عملیاتی بانک تبدیل می شود. در سناریوی ابرهوش، این ریسک به ریسکی سیاسی تبدیل می شود: چه کسی قواعد ابرهوش را می گذارد و چه کسی به آن دسترسی دارد. راه حل امروز، چندفروشندگی، نگهداری داده در داخل بانک و توانایی بازگشت به فرایند انسانی است — نه امید به اینکه تمرکز خودبه خود حل شود.
۶۴. سازگاری خصمانه و نشت داده
دو ریسک بانکی دیگر را باید نام برد. نخست، سازگاری خصمانه: متقلبان نیز از مدل ها استفاده می کنند؛ هر دفاعی که منتشر شود، حمله ای تازه می سازد و مدل تقلب باید پیوسته بازآموزی شود. دوم، نشت داده: فرستادن داده تراکنش مشتری به مدل بیرونی، بدون قرارداد روشن و بدون کمینه سازی داده، هم ریسک حقوقی دارد و هم ریسک اعتباری. داده مشتری، امانت بانک است، نه خوراک رایگان مدل فروشنده.
۷. حکمرانی و مقررات: سه ابزار را با هم خلط نکنیم
قانون هوش مصنوعی اروپا، مقرره (اتحادیه اروپا) ۲۰۲۴/۱۶۸۹. نخستین قانون جامع و مبتنی بر ریسک برای هوش مصنوعی است. برای بانک، مهم ترین بخش آن، سامانه های پرخطر پیوست سوم است: از جمله امتیازدهی اعتباری، اشتغال و زیست سنجی — با مدیریت ریسک چرخه عمر، حکمرانی داده، مستندات فنی، ثبت وقایع، نظارت انسانی و ارزیابی انطباق. زمان بندی متن اصلی: لازم الاجرا شدن در ۱ اوت ۲۰۲۴؛ ممنوعیت ها و سواد هوش مصنوعی در ۲ فوریه ۲۰۲۵؛ تکالیف مدل های همه منظوره در ۲ اوت ۲۰۲۵؛ کاربرد عمومی در ۲ اوت ۲۰۲۶. بسته دیجیتال اومنیبوس سال ۲۰۲۶ (مقرره (اتحادیه اروپا) ۲۰۲۶/۱۷۴۴، لازم الاجرا از ۲۷ ژوئیه ۲۰۲۶) تکالیف پرخطر پیوست سوم را تا ۲ دسامبر ۲۰۲۷ و تکالیف پیوست اول را تا ۲ اوت ۲۰۲۸ به تعویق انداخت (ماده ۱۱۳ اصلاح شده؛ در روز انتشار مقاله دوم این مجموعه، ۵ آبان ۱۴۰۵، بازبینی و تایید شد). بانکی که با بازار اروپا سروکار دارد، باید این تاریخ ها را در نقشه راه انطباق خود بگنجاند، نه اینکه تعویق را به معنای لغو بخواند.
چارچوب مدیریت ریسک هوش مصنوعی NIST، نسخه ۱٫۰ (NIST AI 100-1، ۲۶ ژانویه ۲۰۲۳). چارچوبی داوطلبانه، حافظ حقوق و فارغ از مورد کاربرد است، با چهار کارکرد: حکمرانی (Govern)، نقشه برداری (Map)، سنجش (Measure) و مدیریت (Manage). NIST گواهی نامه نیست و خود قانون نیست؛ اما در تدارکات ایالات متحده به آن ارجاع می شود، پس باید آن را انتظاری بالفعل دانست. برای بانک، این چارچوب عملی ترین ستون فقرات حکمرانی داخلی است: هر مدل، مالکی دارد، نقشه ریسکش کشیده شده، سنجه هایش سنجیده می شود و ریسکش مدیریت می شود.
اصول هوش مصنوعی OECD (توصیه شورا، مصوب ۲۲ مه ۲۰۱۹ و بازنگری شده در ۳ مه ۲۰۲۴). نخستین استاندارد بین دولتی در این حوزه است و الزام آور نیست. پنج اصل ارزشی آن: رشد فراگیر، توسعه پایدار و به زیستی؛ احترام به حاکمیت قانون، حقوق بشر و ارزش های دموکراتیک؛ شفافیت و توضیح پذیری؛ استحکام، امنیت و ایمنی؛ و پاسخ گویی. از OECD باید زبان ارزش ها را گرفت و از قانون اروپا و NIST تکالیف عملیاتی را؛ و نباید اصول OECD را الزام آور حقوقی جلوه داد.
بر فراز این سه ابزار، بانک به حکمرانی داخلی خود نیاز دارد: ثبت سامانه های هوش مصنوعی (کدام مدل، با چه اختیاری، بر چه داده ای، با چه حالت های شکست)، آستانه های حق تصمیم، ثبت وقایع کامل، کلید توقف و بازگشت برای ناوگان عامل ها، و رویه رخداد آزمایش شده. نقش «مدیران عامل» (مجله بازرگانی هاروارد، ۱۲ فوریه ۲۰۲۶) پیشنهادی برای نقشی در حال ظهور است، نه حرفه ای تثبیت شده؛ اما بانک ها همین امروز به مالکی برای هر ناوگان عامل نیاز دارند، حتی اگر نامش هرچه باشد.
۸. بانک ها امروز چه کنند و چه نکنند؟
کارهایی که بانک ها امروز باید انجام دهند:
۱. همه سامانه ها و عامل های هوش مصنوعی، از جمله آن هایی که درون محصولات خریداری شده پنهان اند («عامل های سایه») را فهرست کنید؛ برای هر مدل، مالکی نام دار، سطحی از حق تصمیم و پرونده ریسکی تعیین کنید.
۲. اختیار را طبقه بندی کنید: عامل ها در برابر پول، نخست فقط خواندنی باشند؛ اختیار اقدام، تنها با ثبت وقایع و تایید انسانی برای گام های برگشت ناپذیر داده شود؛ و کنترل دوگانه برای اقدامات حساس حفظ شود.
۳. پیش از مقیاس دادن، ارزیابی مستقل بخواهید: مدل را بر پرونده های دشوار خود بانک بیازمایید، نه بر نمایش فروشنده؛ پس از استقرار، نرخ هشدار کاذب، نرخ تقلب از دست رفته، نرخ لغو و رانش مدل را ماهانه دنبال کنید.
۴. سیاست عامل های شخص ثالث را بنویسید: کدام عامل با چه حدود دسترسی می تواند با اعتبار مشتری وارد شود، چگونه قطع می شود، و در رخداد چه کسی پاسخ گوست.
۵. داده را در داخل نگه دارید: قرارداد فروشنده باید کمینه سازی داده، ممنوعیت آموزش بر داده مشتری بدون رضایت روشن، و حق خروج داده را تضمین کند.
۶. مهارت را به عمد حفظ کنید: تحلیل پرونده بدون دستیار، روال «نخست خودت تصمیم بگیر، سپس با مدل مشورت کن» و چرخش آموزشی میان واحدهای تقلب، اعتبار و عملیات.
کارهایی که بانک ها امروز نباید انجام دهند:
۱. بر پایه زمان بندی یک آزمایشگاه، بازسازماندهی نکنید، تعدیل نکنید و «آمادگی ابرهوش» وعده ندهید؛ هیچ منبعی در این بررسی، ابرهوش را اثبات نمی کند.
۲. صرفه جویی در نیروی انسانی را سنجه موفقیت قرار ندهید؛ اصلاحیه کلارنا مورد هشدار است: سنجه های حجم، افت کیفیت در موارد دشوار را پنهان کردند.
۳. به عامل ها اعتبار گسترده مشتری یا دسترسی نوشتن بی قید ندهید و نگذارید «مدل تصمیم گرفت» پاسخی برای پاسخ گویی شود؛ بانک همچنان پاسخ گوست.
۴. یک معیار فروشنده را به مثابه پرونده ایمنی نپذیرید و عاملی را در گردش کاری پرمخاطره، بدون بازگشت آزمایش شده و رویه رخداد، مستقر نکنید.
۵. فرض نکنید نظارت انسانی کار می کند چون انسانی به ظاهر حاضر است؛ حضور بدون ظرفیت واقعی راستی آزمایی، نظارت نیست.
۹. ساختن آینده: نقشه راه مدیران به سوی عصر ابرهوش
تا اینجا، مقاله محتاط بود؛ و حق داشت که محتاط باشد، زیرا ابرهوش هنوز نیامده است. اما احتیاط، به معنای ایستادن نیست. مدیر بانکی که فقط ریسک ها را فهرست کند و چیزی نسازد، در عصر ابرهوش — هر وقت که برسد — چیزی برای حکمرانی کردن هم نخواهد داشت. آینده ساخته می شود، نه اینکه فقط پیش بینی شود. این بخش، نقشه راه ساختن آن آینده است؛ و افق آن، آینده ای است که به سویش می سازیم، نه چیزی که امروز مستقر شده باشد.
نخست، داده تمیز بانکی بسازید. ابرهوش فرضی، بر داده زنده است؛ و بانکی که داده اش پراکنده، بی کیفیت یا در قفل فروشنده باشد، حتی از عامل های امروز هم بهره کامل نمی برد. خط لوله رویداد XFS دستگاه ها — کدهای خطا، سطح کاست، زمان بندی تراکنش ها — را یکپارچه و باکیفیت کنید؛ داده تراکنش را با حکمرانی روشن و کمینه سازی حریم خصوصی نگه دارید؛ و «دریاچه داده» را به «دارایی داده» تبدیل کنید: هر مجموعه داده، مالک، تعریف و سنجه کیفیت داشته باشد. این، زیرساختی ترین سرمایه گذاری دهه آینده بانک است.
دوم، حکمرانی مالکانه پذیرنده را نهادینه کنید. سه مرز بخش پنجم را از شعار به سازوکار تبدیل کنید: سند اختیار هر عامل، داشبورد ماهانه لغو و رانش، و برنامه حفظ مهارت، هر سه با امضای مدیرعامل و کمیته ریسک. بانکی که امروز این سازوکارها را دارد، فردا — با هر مدلی که بیاید — فقط آستانه ها را تنظیم می کند، نه اینکه از صفر شروع کند.
سوم، ناوگان عامل ها را با ردپای حسابرسی و کلید توقف بسازید. هر عامل بانکی باید شناسنامه داشته باشد: چه کاری می کند، با چه داده ای، با چه حدودی، و چگونه متوقف می شود. ثبت وقایع کامل، نه گزینه ای لوکس، که شرط استقرار است؛ و تمرین قطع اضطراری ناوگان، مانند تمرین آتش نشانی، باید دوره ای انجام شود. ناوگانی که نتوان آن را متوقف کرد، ناوگان نیست؛ ریسکی بی صاحب است.
چهارم، استعدادی بپرورید که قضاوت را زنده نگه دارد. آینده بانک، نه بانک بدون انسان است و نه بانک بدون مدل؛ بانک «انسان قضاوت گر با مدل توانمند» است. تحلیل گر تقلبی که پرونده را از صفر می سازد، کارشناس اعتباری که مدل را به چالش می کشد، و مدیر ناوگانی که می داند چه زمانی باید «نه» بگوید، سرمایه های اصلی عصر ابرهوش اند. آموزش امروز، استخدام فرداست.
پنجم، راهبرد استقلال از فروشنده را از امروز بچینید. چندفروشندگی، استانداردهای باز، قراردادهای خروج داده و توانایی بازگشت به فرایند انسانی، بیمه بانک در برابر تمرکز قدرت اند. بانکی که معماری اش را طوری بسازد که بتواند مدل را عوض کند بی آنکه بانک را عوض کند، در هر سناریویی — از عامل های امروز تا ابرهوش فردا — صاحب اختیار می ماند.
این نقشه راه، بلندپروازانه است و عمدا چنین است. بانک های بزرگ، با داده تمیز، حکمرانی مالکانه، ناوگان حسابرسی پذیر، استعداد قضاوت گر و استقلال از فروشنده، نه تنها از عصر عامل ها جان سالم به در می برند، بلکه همان هایی خواهند بود که عصر ابرهوش را — هرگاه که برسد — با اعتماد مشتری و با مالکیت خودشان شکل می دهند. آینده، به بانک هایی تعلق دارد که آن را می سازند.
نتیجه گیری
بانکداری در عصر عامل ها، میان دو وسوسه ایستاده است: وسوسه سپردن همه چیز به مدل، و وسوسه ترسیدن از همه چیز. هر دو، حکمرانی را از بین می برند؛ اولی با واگذاری مالکیت، دومی با واگذاری آینده. راه سوم، همان مدل پذیرنده است: بانک و پذیرنده، مالک پول، قضاوت و پاسخ گویی می مانند و هوش مصنوعی — از عامل محدود امروز تا ابرهوش فرضی فردا — فقط سوئیچ مسیریابی است. بانکی که سه مرز اختیار، راستی آزمایی و مهارت را نگه دارد و همزمان داده تمیز، ناوگان حسابرسی پذیر و استعداد قضاوت گر بسازد، هم از فرصت امروز بهره می برد و هم برای فردایی که هنوز نیامده، آماده است. پاسخ گویی را نمی توان برون سپاری کرد؛ و آینده را هم نمی توان به انتظار نشست.
محدودیت ها
این مقاله بر پژوهشی در ۲۷ اکتبر ۲۰۲۶ بنا شده است و چند محدودیت روشن دارد. نخست، بسیاری از منابع کلیدی از راه خلاصه های ثانویه یا چکیده ها در دسترس بوده اند و متن های اصلی باستروم و گزارش اصلی مک کنزی در این بررسی گشوده نشده اند؛ متن اصلی مقاله بازرگانی هاروارد درباره مدیران عامل نیز گشوده نشده است، هرچند وجود، تاریخ و نویسندگان آن با گزارش های ثانویه متعدد تایید شد؛ نقل قول های لفظی از این منابع پیش از چاپ باید سنجیده شود. دوم، داده های نظرسنجی مک کنزی خوداظهاری اند و تعریف «عامل» یکسان نیست؛ پس ارقام پذیرش را باید روند بخوانیم، نه اندازه دقیق. سوم، موارد شرکتی (مورگان استنلی، کلارنا) گزارش های شرکتی یا رسانه ای اند، نه ارزیابی های مستقل. چهارم، بخش چهارم مقاله سناریویی فرضی است و هیچ بخش آن، پیش بینی دارای احتمال نیست. پنجم، چارچوب سه مرزی و مدل پذیرنده، سنتز نویسنده است و آزمون تجربی مستقلی ندارد. ششم، موتورهای بخش سوم (تشخیص تطبیقی تقلب، نگهداری پیش بینانه از داده XFS، پیش بینی وجه) سازوکارهای عمومی صنعت اند و هیچ رقم بهبودی برای آن ها ادعا نشده است.
خلاهایی که مقاله پر نمی کند
صداقت علمی ایجاب می کند که خلاها را به جای پر کردن با حدس، اعلام کنیم. هیچ مورد مستندی از تصمیم گیری، اعطای اعتبار یا مدیریت بانک به وسیله یک سامانه ابرهوشمند وجود ندارد؛ زیرا ابرهوشمندی وجود ندارد. هیچ برآورد معتبری از «بهره وری ابرهوش» برای بانک در دست نیست و نباید بازده عامل ها و دستیارها را به ابرهوش تعمیم داد. هیچ آزمون مورد توافقی برای هوش عمومی و ابرهوش وجود ندارد و هیچ تاریخ قابل اعتمادی برای آمدن ابرهوش نمی توان داد؛ هر تاریخی در این مقاله، منتسب است و با عدم قطعیت همراه است. تاریخ های قانون هوش مصنوعی اروپا با بسته اومنیبوس ۲۰۲۶ به روز شده است (پیوست سوم تا ۲ دسامبر ۲۰۲۷، پیوست اول تا ۲ اوت ۲۰۲۸؛ در روز انتشار مقاله دوم این مجموعه، ۵ آبان ۱۴۰۵، بازبینی و تایید شد). و سرانجام، در این بررسی هیچ منبع ویژه ایران یافت نشد؛ اگر مقاله بخواهد به بانک های ایرانی بپردازد، آن بخش به پژوهشی جداگانه و اولیه نیاز دارد — از جمله درباره چارچوب های نظارتی داخلی، که در این مقاله بررسی نشده اند.
منابع
1. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. ISBN 978-0199678112.
2. European Parliament & Council (2024, 13 June). Regulation (EU) 2024/1689 (Artificial Intelligence Act). EUR-Lex consolidated text (27 July 2026): https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727
3. Tabassi, E. (2023, 26 January). Artificial Intelligence Risk Management Framework (AI RMF 1.0), NIST AI 100-1. DOI: 10.6028/NIST.AI.100-1. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10 — Companion: NIST AI 600-1, Generative AI Profile (July 2024).
4. OECD (2019, revised 3 May 2024). Recommendation of the Council on Artificial Intelligence, C/MIN(2024)16/FINAL. https://one.oecd.org/document/C/MIN(2024)16/FINAL/en/pdf
5. McKinsey & Company (2025). The State of AI 2025 (survey: 1,993 respondents, 105 countries; self-reported data, cited via corroborating summaries; primary report to be cited directly at publication).
6. Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). "The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers." Proceedings of CHI '25, ACM. DOI: 10.1145/3706598.3713778.
7. Xu, X. et al. (2026). "Divergent impacts of explainable AI for dermatological diagnosis on clinicians versus lay people." Nature Medicine. DOI: 10.1038/s41591-026-04553-w.
8. Srinivasan, S., & Wei, V. (2026, 12 February). "To Thrive in the AI Era, Companies Need Agent Managers." Harvard Business Review (existence, date, and authors corroborated by multiple secondary reports; primary text not opened in this review, so no verbatim quotation is used).
9. Morgan Stanley (2023–2024). Company announcements: AI @ Morgan Stanley Assistant (full rollout September 2023) and AI @ Morgan Stanley Debrief (26 June 2024, with client consent); the 98% advisor-team adoption figure is the company's own June 2024 report, not an independent assessment; no verbatim quotation from the release texts is used.
10. Klarna (2024–2025). Company announcement (27 February 2024): 2.3 million conversations in the first month, work equivalent to about 700 full-time agents, projected annual profit improvement of about $40 million; CEO statement to Bloomberg (May 2025) that cost had become too predominant an evaluation factor and quality had fallen, with human agents brought back for complex cases; no loss figure disclosed in the sources available.
11. Axios (22 October 2026) and Reuters (22 October 2026) reports on third-party AI agents identified inside US bank customer accounts (Morgan Stanley, JPMorgan Chase, Bank of America, Wells Fargo, Citi restricting access). Reports rest on unnamed sources; Morgan Stanley blocked third-party agents but, according to a source familiar with the matter, had observed no rogue-agent instances on its platforms; no confirmed account losses surfaced in the reports available.
واژگان کلیدی: ابر هوش مصنوعی، بانکداری، پذیرنده، عامل های هوشمند، تشخیص تقلب، نگهداری پیش بینانه، حکمرانی هوش مصنوعی
هانی سعادتی اصل | پژوهشگر و متخصص هوش مصنوعی، مدیریت کسب وکار و سیستم های بانکی