ابر هوش مصنوعی و آینده مدیریت: از تصمیم گیری تا نگهبانی از قضاوت
## چکیده
این مقاله با پرسشی ساده اما سرنوشت ساز آغاز می شود: ابر هوش مصنوعی چیست؟ بسیاری از مدیران این اصطلاح را شنیده اند، اما تعریف دقیق آن، تفاوتش با هوش محدود و هوش عمومی، و پیامدهایش برای مدیریت را نمی دانند. مقاله حاضر نخست ابرهوشمندی را تعریف می کند، سپس مناقشه کارشناسان درباره زمان و امکان آن را با ذکر عدم قطعیت ها گزارش می دهد، و آنگاه با تکیه بر تجربه نویسنده در سیستم های بانکی و مدیریت راهبردی، چارچوبی اصیل پیشنهاد می کند: مدیر آینده، بیش از آنکه تصمیم گیرنده باشد، نگهبان قضاوت است؛ مالک پاسخ گویی می ماند و هوش مصنوعی را در سه مرز اختیار، راستی آزمایی و مهارت مهار می کند. شواهد نشان می دهد ابرهوشمندی هنوز وجود ندارد و هیچ مورد مستندی از مدیریت به وسیله آن در دست نیست؛ آنچه امروز در کارخانه ها و بانک ها رخ می دهد، عامل ها و دستیارهای محدودند که هم فرصت می سازند و هم ریسک های تازه ای پدید می آورند. مقاله با فهرست عملی و بخش های محدودیت و خلاها پایان می یابد.
**واژگان کلیدی:** ابر هوش مصنوعی، هوش عمومی، مدیریت راهبردی، عامل های هوشمند، حکمرانی هوش مصنوعی، سوگیری اتوماسیون، مهارت زدایی
---
## ۱. نخست تعریف کنیم: ابر هوش مصنوعی چیست؟
### ۱۱. سه سطح را با هم اشتباه نگیریم
بخش بزرگی از سردرگمی امروز، از خلط سه مفهوم متفاوت می آید:
| اصطلاح | معنا | وضعیت امروز |
|---|---|---|
| هوش محدود (Narrow AI) | توانمندی برتر فقط در یک کار یا مجموعه ای کوچک از کارها؛ مانند شطرنج، طبقه بندی تصویر، تکمیل کد، یا یک مدل حسگر در یک کارخانه | وجود دارد؛ تقریبا همه سیستم های مستقرشده امروز از همین نوع اند |
| هوش عمومی (AGI) | توانایی شناختی گسترده در سطح تقریبی انسان در دامنه های گوناگون، با توان انتقال یادگیری و مواجهه با کارهای نو | درباره وجود آن توافق نیست؛ تعریف ها متفاوت اند |
| ابر هوش مصنوعی (ASI) | هوشی که در تقریبا همه حوزه های مورد توجه، به مراتب از عملکرد شناختی انسان ها فراتر می رود | فرضی؛ مقوله ای آرمانی است، نه سیستمی اثبات شده |
هرچه امروز در کارخانه ها و بانک ها به کار می رود، از نوع اول است. دستیارهای مشاوران بانکی، مدل های نگهداری پیش بینانه و عامل هایی که صورت حساب ها را می خوانند، همه هوش محدودند؛ هرچند گاهی بسیار توانمند باشند. پس وقتی در این مقاله از «ابرهوش» سخن می گوییم، از چیزی سخن می گوییم که هنوز ساخته نشده است. تحلیلی در مجله نیچر در سال ۲۰۲۶ نیز تاکید می کند که اصطلاح ابرهوش هنوز به طور کامل تعریف نشده است و برای سنجش آن آزمون مورد توافقی وجود ندارد؛ و گزارش هایی از تغییر نام گذاری دولتی هوش مصنوعی به ابرهوش نیز اثبات توانایی نیست.
### ۱۲. تعریف باستروم و انفجار هوش
اصطلاح ابرهوشمندی را نیک باستروم در کتاب «ابرهوشمندی: مسیرها، خطرها، راهبردها» (انتشارات دانشگاه آکسفورد، ۲۰۱۴) به شهرت رساند. تعریف او، که در این مقاله مبنا قرار می گیرد، چنین است: ابرهوشمندی یعنی «هر عقلی که در تقریبا همه حوزه های مورد توجه، به مراتب از عملکرد شناختی انسان ها فراتر رود». دو قید مهم اند: «به مراتب فراتر» و «تقریبا همه حوزه ها».
باستروم در همان کتاب، استدلالی را پروراند که به «انفجار هوش» مشهور شد و ریشه آن به ایده «ماشین فراهوشمند» آی. جی. گود بازمی گردد: ماشینی که در همه فعالیت های فکری، از هر انسانی بسیار پیشی بگیرد — از جمله در طراحی ماشین ها — می تواند ماشین هایی بهتر از خود طراحی کند و این چرخه خودبهبودی، هوش انسانی را بسیار عقب می گذارد. این یک قانون مشاهده شده نیست؛ استدلالی درباره پویایی ای ممکن است که فرض می کند خودبهبودی با مانع داده، انرژی، آزمایش فیزیکی، نهادها و مقررات روبه رو نمی شود.
همراه با انفجار هوش، باستروم «مسئله کنترل» را نیز مطرح کرد: چگونه می توان اطمینان یافت که سیستمی بسیار توانمندتر از سازندگانش، در راستای منافع بشریت عمل می کند؟ حتی هدفی که در ظاهر بی ضرر است، می تواند زیرهدف های زیان باری مانند حفظ خود و کسب منابع پدید آورد. این مسئله، نیای پژوهش های امروز درباره «همسوسازی» و «نظارت مقیاس پذیر» است که در بخش ششم بررسی می شود.
### ۱۳. رهبران آزمایشگاه ها چه می گویند؟
تعریف علمی یک چیز است و روایت رهبران آزمایشگاه ها چیز دیگر؛ و مدیر هوشمند باید تفاوت این دو را ببیند. سه قاب بندی متفاوت، نه یک اجماع، دیده می شود:
**سم آلتمن، مدیرعامل اوپن ای آی، با خوش بینی شتاب گرایانه.** او در مقاله «عصر هوش» (سپتامبر ۲۰۲۴) نوشت که «ممکن است در چند هزار روز آینده ابرهوش داشته باشیم؛ شاید بیشتر طول بکشد، اما مطمئنم به آن می رسیم». سازوکار مورد نظر او مقیاس است. اما در همان نوشته، هشدار مهمی نیز هست: اگر محاسبه و انرژی فراوان نباشد، هوش مصنوعی می تواند به «منبعی بسیار محدود تبدیل شود که بر سر آن جنگ می شود». این هشدار، از زبان یکی از شتاب گرایان، نکته تمرکز قدرت را به بحث مدیریت پیوند می دهد.
**مارک زاکربرگ و متا، با قاب «ابرهوش شخصی».** متا در ژوئن ۲۰۲۵ آزمایشگاه های ابرهوشمندی متا را با مدیریت الکساندر وانگ به عنوان مدیر ارشد هوش مصنوعی ایجاد کرد. زاکربرگ نوشت که «با شتاب گرفتن پیشرفت هوش مصنوعی، توسعه ابرهوش در چشم انداز قرار می گیرد» و هدف را «ابرهوش شخصی برای همه» توصیف کرد. این قاب، ادعایی درباره توزیع است، نه شاهدی درباره توانایی یا کنترل.
**داریو آمودی، مدیرعامل آنتروپیک، با اصطلاح «هوش قدرتمند».** او در مقاله «ماشین های فیض محبت آمیز» (اکتبر ۲۰۲۴) هوش قدرتمند را هوشی تعریف می کند که در گستره ای وسیع، از کارشناسان سطح نوبل هوشمندتر است و می تواند با سرعت دیجیتال به طور خودگردان کار کند؛ تصویری که او «کشوری از نوابغ در یک مرکز داده» می نامد و زمان آن را شاید از سال ۲۰۲۶، اما شاید بسیار دیرتر می داند. نکته ارزشمند برای مدیران در سخنان خود اوست: موانعی مانند کیفیت داده، زمان آزمایش، قوانین فیزیکی، نهادها و مقررات، با هوشمندی به تنهایی رفع نمی شوند.
---
## ۲. مناقشه: ابرهوش چه زمانی می آید؟ و آیا اصلا می آید؟
### ۲۱. زمان بندی ها را کنار هم بگذاریم، نه به جای هم
هیچ تاریخ واحدی برای ابرهوش وجود ندارد. آنچه وجود دارد، مجموعه ای از ادعاها با وضعیت های اعتباری متفاوت است:
| منبع | ادعا | وضعیت و قید |
|---|---|---|
| نظرسنجی گریس و همکاران از ۲٬۷۷۸ پژوهشگر (۲۰۲۴) | احتمال ۱۰ درصد برای اینکه تا سال ۲۰۲۷ ماشین های بدون کمک، در همه کارها از انسان بهتر عمل کنند؛ احتمال ۵۰ درصد تا سال ۲۰۴۷؛ احتمال ۵۰ درصد برای خودکارسازی کامل همه شغل ها تنها تا سال ۲۱۱۶ | بزرگ ترین نظرسنجی از این نوع، اما پیش بینی است نه اندازه گیری؛ میانه نسبت به نظرسنجی ۲۰۲۲ حدود ۱۳ سال جلوتر آمده است |
| همان نظرسنجی | ۶۸٫۳ درصد پیامدهای خوب را محتمل تر دانستند، اما ۳۸ تا ۵۱ درصد حداقل ۱۰ درصد شانس برای پیامدی به بدی انقراض بشر قائل شدند | عدم قطعیت درون جامعه کارشناسی است |
| آلتمن (۲۰۲۴) و آمودی (۲۰۲۴) | ابرهوش «در چند هزار روز»؛ هوش قدرتمند شاید از سال ۲۰۲۶، شاید بسیار دیرتر | ادعاهای رهبران شرکت ها |
| سناریوی «هوش مصنوعی ۲۰۲۷» (آوریل ۲۰۲۵) | در پایان بندی رقابتی سناریو: برنامه نویس فراانسانی در مارس ۲۰۲۷ و ابرهوش در دسامبر ۲۰۲۷ | یک سناریو است، نه پیش بینی دارای احتمال. نویسندگان آن در به روزرسانی مه ۲۰۲۵ میانه های خود را به سال های ۲۰۲۹ و ۲۰۳۰ عقب بردند |
### ۲۲. شتاب گرایان در برابر شکاکان
**هسته استدلال شتاب گرایان** چنین است: قوانین مقیاس، سامانه های عامل دار و ابزارکار، و شتاب گرفتن پژوهش هوش مصنوعی به وسیله خود هوش مصنوعی، چرخه بازخوردی می سازد؛ تاخیر، هزینه جانی و علمی دارد؛ و ریسکی که باید مدیریت شود، باختن رقابت یا تمرکز قدرت است، نه کند شدن. نقطه ضعف این استدلال آن است که فرض می کند گلوگاه ها تسلیم می شوند و پیشرفت در معیارها را با توانایی عمومی یکی می گیرد.
**هسته استدلال شکاکان** چنین است: عملکرد در معیارها با فهم عمومی یکی نیست؛ سامانه های کنونی در قضاوت پایدار دنیای واقعی ناکام می مانند و مدل جهانی ندارند؛ زمان بندی ها بارها بیش ازحد خوش بینانه بوده اند؛ و رهبران آزمایشگاه ها انگیزه تجاری برای اعلام زمان بندی های کوتاه دارند. یان لیکان، برجسته ترین صدای این اردو، استدلال می کند که مسیر مدل های زبانی بزرگ به ابرهوش نمی رسد، زیرا این مدل ها از متن می آموزند در حالی که جهان عمدتا متن نیست، و معماری های مدل جهانی را پیشنهاد می کند. نقطه ضعف شکاکان آن است که میانه های کارشناسان نیز در چند سال حدود ۱۳ تا ۱۹ سال جلوتر آمده اند.
**موضع میانه، که این مقاله از آن دفاع می کند،** چنین است: چه ابرهوش در سال ۲۰۲۷ بیاید، چه در ۲۰۴۷، چه هرگز، سامانه های مرتبط با مدیریت در سه تا پنج سال آینده — عامل های خودگردان دارای دسترسی به ابزار، دستیارهایی که پیش نویس تصمیم می سازند، و سامانه های پیش بینانه که کار را تخصیص می دهند — همین امروز به حکمرانی نیاز دارند. این موضع، بدون گرفتن موضع درباره تاریخ ابرهوش، قابل دفاع است.
### ۲۳. آنچه واقعا نمی دانیم
پنج ناشناخته را باید صریح اعلام کرد: نخست، اینکه آیا مقیاس معماری های کنونی، معماری تازه، یا هیچ کدام به هوش عمومی و ابرهوش می رسد. دوم، اینکه هوش عمومی با چه آزمونی سنجیده می شود؛ آزمونی مورد توافق وجود ندارد. سوم، سرعت هر جهش احتمالی و اینکه آیا در زمان کافی برای مداخله، دیده می شود یا نه. چهارم، اینکه آیا همسوسازی و نظارت مقیاس پذیر در مقیاس فراانسانی کار می کند یا نه؛ این پرسش نه تنها حل نشده، بلکه اثبات نشده است. پنجم، اثرات خالص اشتغال و تمرکز قدرت.
---
## ۳. تز مقاله: مدیر آینده نگهبان قضاوت است
### ۳۱. از تجربه پذیرنده ها: مالکیت را واگذار نکنید، مسیریابی را بسپارید
این بخش، چارچوب اصیل مقاله است و از تجربه نویسنده در نظام بانکی می آید؛ بنابراین آن را «سنتز نویسنده» می نامیم، نه یافته ای برگرفته از منابع. در نظام بانکی، پذیرنده های دستگاه های خودپرداز و بی وجه، خود مالک پول گذاری و خدمات نگهداری دستگاه هایشان اند و فقط از سوئیچ بانک برای مسیریابی تراکنش استفاده می کنند. بانک، مسیر را فراهم می کند؛ اما مسئولیت دستگاه، پول و خدمات، با پذیرنده می ماند. این الگو، دقیقا همان چیزی است که مدیریت در عصر هوش مصنوعی به آن نیاز دارد: مدیر، مالک پاسخ گویی و قضاوت می ماند و هوش مصنوعی را فقط به مثابه سوئیچ مسیریابی به کار می گیرد. هر جا این تمایز فراموش شود — جایی که مدیر بگوید «هوش مصنوعی تصمیم گرفت» — حکمرانی فروپاشیده است، حتی اگر سامانه درست کار کرده باشد.
### ۳۲. سه مرز مدیریت در عصر عامل ها
بر پایه همین الگو، مدیریت آینده بر سه مرز استوار است:
**مرز اختیار:** چه کاری را عامل می تواند به تنهایی انجام دهد، چه کاری نیازمند تایید انسانی است، و چه کاری مطلقا ممنوع است؟ عامل در خواندن و پیشنهاد دادن آزاد است؛ در نوشتن، جابه جایی پول، توقف خط یا تماس با مشتری، تنها در چارچوب حدود ثبت شده و با ثبت وقایع عمل می کند.
**مرز راستی آزمایی:** مدیر پیش از دیدن پیشنهاد هوش مصنوعی، نخست قضاوت خود را می سازد؛ سپس پیشنهاد را با آن می سنجد. اگر پیشنهاد همیشه جلوتر از قضاوت انسان قرار گیرد، انسان به مهر تایید تبدیل می شود، نه ناظر. نرخ لغو پیشنهادها، نرخ خطا و رانش مدل، شاخص های حکمرانی اند.
**مرز مهارت:** سازمان به عمد، تمرین بدون کمک هوش مصنوعی را حفظ می کند: چرخش آموزشی، روال «نخست خودت تصمیم بگیر، سپس با هوش مصنوعی مشورت کن» و ارزیابی های بدون دستیار برای کارکنان جوان. مهارت، مانند پول دستگاه پذیرنده، دارایی مالک است؛ اگر به سوئیچ سپرده شود، در روز قطعی سوئیچ، چیزی برای عرضه نمی ماند.
این سه مرز، تز مقاله اند: ابرهوش بیاید یا نیاید، مدیری که این سه مرز را نگه دارد، هم از فرصت عامل ها بهره می برد و هم در برابر ریسک های آن ها می ایستد.
---
## ۴. پیامدها برای مدیریت: تصمیم، راهبرد، حکمرانی
### ۴۱. تصمیم گیری: از تصمیم گرفتن تا پذیرش، اصلاح یا لغو
تحول نخست در تصمیم گیری است: مدیر دیگر فقط بر پایه گزارش ها تصمیم نمی گیرد؛ بلکه تصمیم می گیرد که پیشنهاد، برنامه یا اقدام ساخته ماشین را بپذیرد، اصلاح کند یا لغو کند — و این کار را با سرعت ماشین و در شمار بسیاری از تصمیم ها همزمان انجام می دهد. در نتیجه، منبع کمیاب از «اطلاعات» به «قضاوت، ظرفیت راستی آزمایی و مدیریت استثناها» جابه جا می شود. همین جا «انسان در حلقه» بی صدا شکست می خورد، اگر انسان فقط مهر تایید بزند.
### ۴۲. راهبرد: شرط بندی میان ساختن و اجاره کردن
راهبرد، تا حدی، به شرط بندی بر سر «کدام توانایی را بسازیم و کدام را اجاره کنیم» تبدیل می شود: مدل های مرزی، محاسبه و داده، در دست چند آزمایشگاه و ارائه دهنده ابری متمرکزند. کارخانه یا بانکی که نمی تواند مدل مرزی آموزش دهد، باز هم باید تصمیم بگیرد: کدام وابستگی های فروشنده پذیرفتنی است و کدام داده هرگز نباید شرکت را ترک کند؟
### ۴۳. حکمرانی: ثبت سامانه ها، آستانه های اختیار، ردپای حسابرسی
هیئت مدیره ها به ثبت هوش مصنوعی نیاز دارند: کدام سامانه ها، با چه اختیاری، بر چه داده ای، با چه حالت های شکست؟ همچنین به آستانه های حق تصمیم، ثبت وقایع و کلید توقف و بازگشت برای ناوگان عامل ها نیاز است. نقش «مدیران عامل» (مجله بازرگانی هاروارد، فوریه ۲۰۲۶) پیشنهادی برای نقشی در حال ظهور است، نه حرفه ای تثبیت شده.
### ۴۴. کارخانه: از نگهداری زمان بندی شده تا نگهداری داده محور
در کارخانه، الگوی بالغ، نگهداری پیش بینانه است. شرکت زیمنس در بیانیه مطبوعاتی فوریه ۲۰۲۴ اعلام کرد که راهکار سنسای از یادگیری ماشین برای ساختن مدل های رفتاری ماشین و کارگر نگهداری و هدایت توجه «به جایی که بیشترین نیاز است» استفاده می کند و لایه هوش مصنوعی مولد آن، رابط گفت وگویی می افزاید و موارد مشابه گذشته را برای انتخاب مسیر پیش می گذارد؛ از جمله پذیرندگان اولیه آن، شرکت فولاد بلوزکوپ استرالیا نام برده شده است. درصدهای بهبودی نقل شده در خلاصه های ثانویه، ادعاهای فروشنده بدون حسابرسی مستقل اند و در این مقاله به آن ها استناد نمی شود. اما تغییر مدیریتی واقعی است: کار مدیر، اعتبارسنجی پیشنهادهای تجویزی پیش از توقف یا راه اندازی مجدد خط، تشخیص رانش مدل و حفظ دانش تکنسین است. همین منطق، تجربه نویسنده در نگهداری دستگاه های بانکی را نیز تایید می کند: پذیرنده ای که داده های رویداد دستگاه خود را می خواند و خرابی را پیش از وقوع می بیند، همان کاری را در مقیاس بانکی می کند که کارخانه با نگهداری داده محور می کند.
### ۴۵. بانک: دستیار نخست، خودگردانی در آخر
در بانک، الگو «دستیار نخست، خودگردانی در آخر» است. در مورگان استنلی، دستیار هوش مصنوعی (از سپتامبر ۲۰۲۳) به مشاوران امکان می دهد در مجموعه اسناد اختصاصی شرکت جست وجو کنند؛ و ابزار «دیبریف» (از ژوئن ۲۰۲۴) جلسات را با رضایت مشتری پیاده و یادداشت ها را پیش نویس می کند — با بازبینی مشاور پیش از آنکه چیزی به مشتری برسد. شرکت، پذیرش بیش از ۹۸ درصدی در تیم های مشاور را گزارش کرده است؛ این رقم، گزارش خود شرکت است، نه ارزیابی مستقل، و پذیرش با اثر اندازه گیری شده بر کیفیت یا سود یکی نیست.
مورد اصلاحی کلارنا، هشدار مکمل است. در فوریه ۲۰۲۴، دستیار این شرکت در ماه نخست حدود ۲٫۳ میلیون گفت وگو را انجام داد و معادل کار حدود ۷۰۰ کارمند تمام وقت معرفی شد، با پیش بینی بهبود سود سالانه حدود ۴۰ میلیون دلار. در مه ۲۰۲۵، مدیرعامل شرکت گفت که هزینه «عاملی بیش ازحد غالب» در ارزیابی بوده و کیفیت پایین آمده است؛ کلارنا بازگرداندن انسان ها را برای موارد پیچیده آغاز کرد و هوش مصنوعی را برای پرسش های روزمره نگه داشت. در منابع در دسترس، رقم زیانی افشا نشده است. درس روشن است: بهینه سازی بر حجم و هزینه، بدون سنجه کیفیت برای موارد دشوار، شکست حکمرانی است، نه شکست فناوری.
رویداد اکتبر ۲۰۲۶ درباره عامل های غیرمجاز در بانک های آمریکایی، حالت شکست تازه را نشان می دهد: گزارش شده است که بانک های بزرگ، عامل های هوش مصنوعی شخص ثالث را درون حساب های مشتریان شناسایی کرده اند که گاه با اعتبار خود مشتری و گاه فراتر از دستور او عمل می کرده اند. بر پایه گزارش ها، مورگان استنلی عامل های بیرونی را مسدود کرد و جی پی مورگان، بنک آو امریکا و سیتی آن ها را محدود کردند. اما سخنگوی مورگان استنلی گفته است این بانک عامل سرکشی در سکوهای خود مشاهده نکرده است و در گزارش های در دسترس، زیان تاییدشده ای به حساب ها آشکار نشده است. پس این رویداد را «گزارش شده و حل نشده» می خوانیم؛ و روشن ترین نمونه کنونی است که چرا حکمرانی عامل ها نمی تواند تا ابرهوش صبر کند.
سرانجام، نظرسنجی مک کنزی درباره وضعیت هوش مصنوعی در سال ۲۰۲۵ (۱٬۹۹۳ پاسخ دهنده در ۱۰۵ کشور) نشان می دهد که ۶۲ درصد سازمان ها دست کم در حال آزمایش عامل های هوش مصنوعی اند، ۲۳ درصد عامل ها را دست کم در یک کارکرد مقیاس داده اند، و در هیچ کارکرد واحدی، بیش از حدود ۱۰ درصد استقرار کاملا مقیاس یافته گزارش نکرده اند. نتیجه مدیریتی: آزمایش عادی است، عملیات خودگردان مقیاس یافته هنوز عادی نیست.
---
## ۵. امروز چه کنیم و چه نکنیم؟
**کارهایی که مدیران امروز باید انجام دهند:**
۱. همه سامانه ها و عامل های هوش مصنوعی، از جمله آن هایی که درون محصولات خریداری شده پنهان اند («عامل های سایه») را فهرست کنید؛ برای هر گردش کار، مالکی نام دار و سطحی از حق تصمیم تعیین کنید.
۲. اختیار محدود تعیین کنید: عامل هایی که با پول، ایمنی یا داده مشتری سروکار دارند، نخست فقط خواندنی باشند؛ اختیار اقدام، تنها با ثبت وقایع و تایید انسانی برای گام های برگشت ناپذیر داده شود.
۳. پیش از مقیاس دادن، ارزیابی مستقل بخواهید: سامانه را بر موارد دشوار خود شرکت بیازمایید، نه بر نمایش فروشنده؛ پس از استقرار، نرخ خطا، نرخ لغو و رانش را دنبال کنید.
۴. مهارت را به عمد حفظ کنید: تمرین بدون کمک، روال «نخست خودت تصمیم بگیر، سپس با هوش مصنوعی مشورت کن» و چرخش آموزشی برای کارکنان جوان.
۵. کارکردهای چارچوب NIST را در روال های موجود ریسک، حسابرسی و انطباق بگنجانید، نه در قالب کمیته ای جداگانه که دندانی ندارد؛ و هر جا شرکت با بازار اتحادیه اروپا سروکار دارد، تکالیف قانون هوش مصنوعی اروپا را نقشه برداری کنید.
۶. برای تمرکز فروشنده برنامه بریزید: گزینه های چندارائه دهنده و فرایند جایگزین انسانی.
**کارهایی که مدیران امروز نباید انجام دهند:**
۱. بر پایه زمان بندی یک آزمایشگاه، بازسازماندهی نکنید، تعدیل نکنید و «آمادگی ابرهوش» وعده ندهید؛ هیچ منبعی در این بررسی، ابرهوش را اثبات نمی کند.
۲. صرفه جویی در نیروی انسانی را سنجه موفقیت قرار ندهید؛ اصلاحیه کلارنا مورد هشدار است: سنجه های حجم، افت کیفیت در موارد دشوار را پنهان کردند.
۳. به عامل ها اعتبار مشتری یا دسترسی گسترده نوشتن ندهید و نگذارید «هوش مصنوعی تصمیم گرفت» پاسخی برای پاسخ گویی شود؛ سازمان همچنان پاسخ گوست.
۴. یک معیار فروشنده را به مثابه پرونده ایمنی نپذیرید و عاملی را در گردش کاری پرمخاطره، بدون بازگشت آزمایش شده و رویه رخداد، مستقر نکنید.
۵. فرض نکنید نظارت انسانی کار می کند چون انسانی به ظاهر حاضر است؛ حضور بدون ظرفیت واقعی راستی آزمایی، نظارت نیست.
---
## ۶. ریسک ها، همسوسازی و حکمرانی
### ۶۱. مسئله کنترل: نظارت مقیاس پذیر
دشواری اصلی، نظارت مقیاس پذیر است: وقتی سامانه در کاری از ارزیاب خود فراتر می رود، بازخورد انسانی نمی تواند به طور قابل اعتماد، خروجی درست را از خروجی باورپذیر اما نادرست تمییز دهد. جهت های پژوهشی شامل مناظره، نظارت تودرتو و تعمیم از ضعیف به قوی است؛ همه در مقیاس فراانسانی اثبات نشده اند. ریسک های مرتبط را باید دقیق نام برد: شکست مشخصات؛ تظاهر به همسویی (در آزمایش های ایمنی آزمایشگاهی گزارش شده است، نه به مثابه واقعیتی تثبیت شده درباره سامانه های مستقر)؛ و از دست رفتن کنترل معنادار انسانی وقتی ناوگان عامل ها سریع تر از چرخه های بازبینی عمل می کنند. مقاله باید ادعاهای ریسک وجودی را از ریسک های هم اکنون مشاهده شده — تصمیم نادرست اعتباری، اقدام ناایمن نگهداری، ابزار استخدام تبعیض آمیز، نشت داده — جدا کند.
### ۶۲. سوگیری اتوماسیون: بهترین مستند برای ریسک نزدیک مدت مدیران
سوگیری اتوماسیون یعنی گرایش به اتکای بیش ازحد به پیشنهادهای خودکار و کم استفاده از اطلاعات مخالف، به ویژه وقتی سامانه معمولا درست می گوید و انسان تحت فشار زمان یا کم تخصص تر است. پژوهشی در نشریه پزشکی نیچر در سال ۲۰۲۶ درباره تشخیص پوستی نشان داد که هوش مصنوعی توضیح پذیر به برخی کاربران کمک کرد و برخی را گمراه کرد؛ بیشترین تبعیت کنندگان، بدون کمک هوش مصنوعی بدترین عملکرد را داشتند و ارائه توضیح «نخست» تبعیت را افزایش داد. این سازوکار عمومی است، اما بستر آن بالینی است؛ پس انتقال آن به مدیریت باید با احتیاط انجام شود. درس مدیریتی: قضاوت انسان پیش از نمایش پیشنهاد خواسته شود.
### ۶۳. مهارت زدایی: نشانه واقعی، بزرگی مورد مناقشه
پژوهش لی و همکاران (CHI 2025) بر پایه نظرسنجی از ۳۱۹ کارگر دانشی و ۹۳۶ مورد واقعی استفاده از هوش مصنوعی مولد نشان داد که اطمینان بیشتر به هوش مصنوعی مولد با تلاش تفکر انتقادی کمتر همراه بوده است؛ کارگران از تولید پاسخ به راستی آزمایی خروجی هوش مصنوعی جابه جا شدند. این همبستگی خودگزارشی است، نه اثبات افت دائمی مهارت، و دو سو دارد: راستی آزمایی خود مهارتی است، اما متفاوت از خلق کار. پیام مدیریتی: مهارت زدایی ریسکی برای مدیریت است، نه سرنوشتی اثبات شده.
### ۶۴. تمرکز قدرت
توانایی مرزی به محاسبه، داده و سرمایه ای نیاز دارد که تنها چند شرکت و کشور فرمان می دهند؛ تمرکز واقعی است، اما شکل دقیق آن نامطمئن است و نباید رقمی واحد برای سهم محاسبه، بدون بازه عدم قطعیت آن، نقل شود. برای شرکت های صنعتی و بانک ها، این امروز ریسکی از جنس وابستگی و قدرت چانه زنی است و در سناریوهای ابرهوش، ریسکی سیاسی: چه کسی قواعد ابرهوش را می گذارد و چه کسی به آن دسترسی دارد. هشدار آلتمن درباره جنگ بر سر محاسبه نیز استدلال است، نه پیامد تثبیت شده.
### ۶۵. جهت های مقرراتی: سه ابزار را با هم خلط نکنیم
**قانون هوش مصنوعی اروپا، مقرره (اتحادیه اروپا) ۲۰۲۴/۱۶۸۹.** نخستین قانون جامع و مبتنی بر ریسک برای هوش مصنوعی است: روش های ممنوعه؛ سامانه های پرخطر (از جمله کاربردهای پیوست سوم مانند اشتغال، امتیازدهی اعتباری، زیرساخت حیاتی و زیست سنجی) با مدیریت ریسک چرخه عمر، حکمرانی داده، مستندات فنی، ثبت وقایع، نظارت انسانی و ارزیابی انطباق؛ تکالیف شفافیت؛ و لایه جداگانه ای برای مدل های همه منظوره. زمان بندی متن اصلی: لازم الاجرا شدن در ۱ اوت ۲۰۲۴؛ ممنوعیت ها و سواد هوش مصنوعی در ۲ فوریه ۲۰۲۵؛ تکالیف مدل های همه منظوره در ۲ اوت ۲۰۲۵؛ کاربرد عمومی در ۲ اوت ۲۰۲۶. بسته دیجیتال اومنیبوس سال ۲۰۲۶ (مقرره (اتحادیه اروپا) ۲۰۲۶/۱۷۴۴، لازم الاجرا از ۲۷ ژوئیه ۲۰۲۶) تکالیف پرخطر پیوست سوم را تا ۲ دسامبر ۲۰۲۷ و تکالیف پیوست اول را تا ۲ اوت ۲۰۲۸ به تعویق انداخت (ماده ۱۱۳ اصلاح شده؛ در روز انتشار، ۵ آبان ۱۴۰۵، بازبینی و تایید شد).
**چارچوب مدیریت ریسک هوش مصنوعی NIST، نسخه ۱٫۰ (NIST AI 100-1، ۲۶ ژانویه ۲۰۲۳).** چارچوبی داوطلبانه، حافظ حقوق و فارغ از مورد کاربرد است، با چهار کارکرد: حکمرانی، نقشه برداری، سنجش و مدیریت. NIST گواهی نامه نیست و خود قانون نیست؛ اما در تدارکات ایالات متحده به آن ارجاع می شود، پس باید آن را انتظاری بالفعل دانست. این چارچوب، عملی ترین ستون فقرات بخش «چه کنیم» در این مقاله است.
**اصول هوش مصنوعی OECD (توصیه شورا، مصوب ۲۲ مه ۲۰۱۹ و بازنگری شده در ۳ مه ۲۰۲۴).** نخستین استاندارد بین دولتی در این حوزه است و الزام آور نیست. پنج اصل ارزشی آن: رشد فراگیر، توسعه پایدار و به زیستی؛ احترام به حاکمیت قانون، حقوق بشر و ارزش های دموکراتیک؛ شفافیت و توضیح پذیری؛ استحکام، امنیت و ایمنی؛ و پاسخ گویی. از OECD باید زبان ارزش ها را گرفت و از قانون اروپا و NIST تکالیف عملیاتی را؛ و نباید اصول OECD را الزام آور حقوقی جلوه داد.
---
## ۷. محدودیت ها
این مقاله بر پژوهشی در ۲۷ اکتبر ۲۰۲۶ بنا شده است و چند محدودیت روشن دارد. نخست، بسیاری از منابع کلیدی از راه خلاصه های ثانویه یا چکیده ها در دسترس بوده اند و متن های اصلی باستروم، آمودی، نامه کامل زاکربرگ، گزارش اصلی مک کنزی، مقاله بازرگانی هاروارد درباره مدیران عامل و متن سخنرانی لیکان در این بررسی گشوده نشده اند؛ نقل قول های لفظی از آن ها پیش از چاپ باید سنجیده شود. دوم، داده های نظرسنجی ها خوداظهاری اند و تعریف «عامل» یکسان نیست؛ پس ارقام پذیرش را باید روند بخوانیم، نه اندازه دقیق. سوم، موارد شرکتی گزارش های شرکتی یا رسانه ای با منابع ناشناس اند، نه ارزیابی های مستقل. چهارم، انتقال یافته های بالینی به اتاق هیئت مدیره، استنتاجی با احتیاط است، نه تعمیمی مستقیم. پنجم، چارچوب سه مرزی بخش سوم، سنتز نویسنده است و آزمون تجربی مستقلی ندارد.
---
## ۸. خلاهایی که مقاله پر نمی کند
صداقت علمی ایجاب می کند که خلاها را به جای پر کردن با حدس، اعلام کنیم. هیچ مورد مستندی از تصمیم گیری، راهبردگذاری یا حکمرانی به وسیله یک سامانه ابرهوشمند وجود ندارد؛ زیرا ابرهوشمندی وجود ندارد. هیچ برآورد معتبری از «بهره وری ابرهوش» برای کارخانه یا بانک در دست نیست و نباید بازده عامل ها و دستیارها را به ابرهوش تعمیم داد. هیچ آزمون مورد توافقی برای هوش عمومی و ابرهوش وجود ندارد و هیچ تاریخ قابل اعتمادی برای آمدن ابرهوش نمی توان داد؛ هر تاریخی در این مقاله، منتسب است و با عدم قطعیت همراه است. تاریخ های قانون هوش مصنوعی اروپا با بسته اومنیبوس ۲۰۲۶ به روز شده است (پیوست سوم تا ۲ دسامبر ۲۰۲۷، پیوست اول تا ۲ اوت ۲۰۲۸؛ در روز انتشار، ۵ آبان ۱۴۰۵، بازبینی و تایید شد). و سرانجام، در این بررسی هیچ منبع ویژه ایران یافت نشد؛ اگر مقاله بخواهد به شرکت های ایرانی بپردازد، آن بخش به پژوهشی جداگانه و اولیه نیاز دارد.
---
## نتیجه گیری
ابرهوشمندی، افقی است که هنوز به آن نرسیده ایم؛ اما مدیریت در سایه آن، همین امروز در حال تغییر است. مدیر آینده کسی نیست که سریع ترین ابزار را بخرد یا بلندترین پیش بینی را باور کند؛ کسی است که سه مرز خود را نگه می دارد: اختیار را محدود می کند، راستی آزمایی را پیش از پیشنهاد می نشاند، و مهارت را به عمد زنده نگه می دارد. این، نگاه متفاوت این مقاله است: بازگشت به اصل کهن مدیریت — پاسخ گویی را نمی توان برون سپاری کرد.
---
## منابع
1. Bostrom, N. (2014). *Superintelligence: Paths, Dangers, Strategies*. Oxford: Oxford University Press. ISBN 978-0199678112.
2. Altman, S. (2024, 23 September). "The Intelligence Age." https://ia.samaltman.com/
3. Zuckerberg, M. / Meta (2025, 30 June memo; July 2025 letter). Meta Superintelligence Labs announcement, reported in Computerworld, 1 July 2025: https://www.computerworld.com/article/4015351/zuckerberg-announces-meta-superintelligence-labs.html
4. Amodei, D. (2024, October). "Machines of Loving Grace." Anthropic essay (cited via secondary summary; primary text to be verified before verbatim quotation).
5. Grace, K., Stewart, H., Sandkühler, J. F., Thomas, S., Weinstein-Raun, B., Brauner, J., & Korzekwa, R. (2024). "Thousands of AI Authors on the Future of AI." arXiv:2401.02843. https://arxiv.org/abs/2401.02843
6. Kokotajlo, D., Lifland, E., et al. (2025, April). *AI 2027*. AI Futures Project. https://ai-2027.com/
7. European Parliament & Council (2024, 13 June). Regulation (EU) 2024/1689 (Artificial Intelligence Act). EUR-Lex consolidated text (27 July 2026): https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A02024R1689-20260727
8. Tabassi, E. (2023, 26 January). *Artificial Intelligence Risk Management Framework (AI RMF 1.0)*, NIST AI 100-1. DOI: 10.6028/NIST.AI.100-1. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-ai-rmf-10 — Companion: NIST AI 600-1, *Generative AI Profile* (July 2024).
9. OECD (2019, revised 3 May 2024). *Recommendation of the Council on Artificial Intelligence*, C/MIN(2024)16/FINAL. https://one.oecd.org/document/C/MIN(2024)16/FINAL/en/pdf
10. McKinsey & Company (2025). *The State of AI 2025* (survey: 1,993 respondents, 105 countries; self-reported data, cited via corroborating summaries; primary report to be cited directly at publication).
11. Lee, H.-P., Sarkar, A., Tankelevitch, L., Drosos, I., Rintel, S., Banks, R., & Wilson, N. (2025). "The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers." *Proceedings of CHI '25*, ACM. DOI: 10.1145/3706598.3713778.
12. Xu, X. et al. (2026). "Divergent impacts of explainable AI for dermatological diagnosis on clinicians versus lay people." *Nature Medicine*. DOI: 10.1038/s41591-026-04553-w.
13. Siemens AG (2024, 5 February). Press release: "Generative artificial intelligence takes Siemens' predictive maintenance solution to the next level" (Senseye Predictive Maintenance). https://assets.new.siemens.com/siemens/assets/api/uuid:0d721629-a470-4fd6-b570-5e16762d8a73/HQDIPR202402016856EN.pdf
14. Srinivasan, S., & Wei, V. (2026, 12 February). "To Thrive in the AI Era, Companies Need Agent Managers." *Harvard Business Review* (cited via secondary reporting; to be verified in HBR before verbatim quotation).
---
واژگان کلیدی: ابر هوش مصنوعی، هوش عمومی، مدیریت راهبردی، عامل های هوشمند، حکمرانی هوش مصنوعی، سوگیری اتوماسیون، مهارت زدایی
هانی سعادتی اصل | پژوهشگر و متخصص هوش مصنوعی، مدیریت کسب وکار و سیستم های بانکی