هوش مصنوعی عملیات آمریکا در ایران را سرعت بخشید؛ اکنون زمان بازاندیشی در نقش انسان است

موسسه واشنگتن برای سیاست خاور نزدیک

| پاتریشیا برنان | ۲ نوامبر ۲۰۲۶

برگردان: بنیامین صادقی(صلح پژوه)

این جنگ نشان داده است که جنگ مبتنی بر هوش مصنوعی می تواند «زنجیره کشتار» را شتاب دهد. با این حال، تحلیلگران انسانی همچنان باید بدانند چه زمانی توصیه های ماشین را زیر سوال ببرند تا از پیامدهای زیانبار عملیاتی یا راهبردی جلوگیری شود.

بر پایه گزارش ها، نیروهای آمریکایی در جریان «عملیات خشم حماسی» در بیست وچهار ساعت نخست بیش از ۱٬۰۰۰ هدف و طی سی وهشت روز بیش از ۱۳٬۰۰۰ هدف را هدف قرار دادند. به گفته دریاسالار براد کوپر، فرمانده سنتکام، آمریکا در کمتر از چهل روز به اهداف نظامی خود دست یافت و توان ایران را برای «نمایش قدرت فراتر از مرزهایش و تهدید منطقه و... منافع ما» تضعیف کرد. او همچنین اشاره کرد که ادغام هوش مصنوعی در سنتکام به فشرده سازی فرایندهایی کمک کرده که پیش تر ساعت ها یا روزها طول می کشید و اکنون در چند ثانیه انجام می شود؛ این نکته مزیت های عملیاتی بالقوه سامانه های مبتنی بر هوش مصنوعی را برجسته می کند. این مزیت ها فقط به هدف گیری سریع تر محدود نبود، بلکه شامل انتشار سریع اطلاعات حیاتی درباره تهدیدها به هواپیماهای آمریکایی فعال در آسمان های پرمخاطره هم می شد. سپهبد مایکل کانلی، فرمانده فرماندهی عملیات ویژه نیروی هوایی، به هوش مصنوعی اعتبار داد که زمان انتقال اطلاعات به کابین خلبان را از حدود بیست یا سی دقیقه به تنها دو یا سه ثانیه رسانده و خدمه آمریکایی را در برابر تهدیدهای ایران ایمن تر کرده است.

ارتش آمریکا دهه هاست در فناوری هایی سرمایه گذاری می کند که نیروی انسانی و زمان لازم برای شناسایی و مکان یابی اهداف را کاهش دهند و به این ترتیب «زنجیره کشتار» را کوتاه تر کنند. جنگ ایران بازده عملیاتی بالقوه این سرمایه گذاری ها را نشان داد: سامانه های مبتنی بر هوش مصنوعی صدها منبع اطلاعاتی را با هم ترکیب کردند و با سرعت و مقیاسی بی سابقه توصیه های هدف گیری تولید کردند. در مرکز این توانمندی ها «سامانه هوشمند میون» از شرکت پالانتیر بود که اطلاعات منابع و سکوهای گوناگون را یکپارچه می کرد تا اهداف را شناسایی و اولویت بندی کند. «کلود» از شرکت آنتروپیک لایه ای استدلالی به این سامانه افزود و «لتیس» از شرکت آندوریل داده های حسگرها را برای پشتیبانی از آگاهی موقعیتی و عملیات خودمختار یکپارچه می کرد.

البته جنگ مبتنی بر هوش مصنوعی در خاورمیانه پدیده ای تازه نیست. اسراییل سال هاست از سامانه هایی مانند «گاسپل» و «لاوندر» و دیگر سامانه های هدف گیری مبتنی بر هوش مصنوعی برای ترکیب اطلاعات و تولید توصیه های هدف استفاده می کند. به تازگی نیز گزارش شده که سنتکام ابزاری شبیه میون را برای پشتیبانی از تعیین اهداف و تبادل اطلاعات عربستان علیه نیروهای حوثی در یمن به کار برده است. سنتکام همچنین از نخستین گروه ضربت دوجانبه نظامی آمریکا در حوزه هوش مصنوعی با امارات متحده عربی خبر داد. این تحولات نشان می دهد هوش مصنوعی در عملیات نظامی سراسر منطقه روزبه روز بیشتر ادغام می شود و اهمیت به کارگیری گسترده درس های «عملیات خشم حماسی» را دوچندان می کند.

با این همه، یکی از مهم ترین درس ها این است که پیش از آنکه این توانمندی های قدرتمند در عملیات آمریکا و شرکا بیش از این گسترش یابند، نقش هوش مصنوعی در فرایند هدف گیری باید دقیق تر بررسی شود. هنوز روشن نیست هوش مصنوعی در اوج جنگ چقدر دقیق عمل کرد، حملات چقدر موثر بودند، و اپراتورهای انسانی تا چه اندازه به آن تکیه کردند. صرف نظر از نتایج این جنگ خاص، هدف گیری با سرعت ماشین این خطر کلی را ایجاد می کند که تصمیم گیران انسانی یا به گلوگاه فرایند تبدیل شوند یا به مهر تاییدی صرف؛ و هر دو حالت می تواند پیامدهای عملیاتی و راهبردی نامطلوبی داشته باشد.

این تنش فراتر از تصمیم های هدف گیری منفرد می رود و شاید بر شیوه جنگیدن واشینگتن نیز اثر بگذارد. هوش مصنوعی ممکن است به نیروهای آمریکایی توان بدهد هزاران هدف را پشت سر هم بزنند، اما ظرفیت هدف گیری بیشتر لزوما به معنای اثر راهبردی بیشتر نیست. اگر در دسترس بودن هدف ها تعیین کند که چه چیزی مورد حمله قرار گیرد، فرایند هدف گیری ممکن است به جای خدمت به راهبرد، خود راهبرد را تعیین کند. این موضوع به ویژه در یک کارزار نظامی طولانی اهمیت دارد، جایی که مهمات محدود باید صرف اهدافی شود که مستقیم ترین سهم را در تحقق اهداف آمریکا دارند.

خطرهای اتکای بیش ازحد به هوش مصنوعی

با گسترش همکاری هوش مصنوعی سنتکام در منطقه، چالش تنها به تعیین اینکه کدام فناوری، چه زمانی و به کدام شریک منتقل شود محدود نمی ماند. واشینگتن باید مطمئن شود نیروهای آمریکایی و شرکا آماده اند توصیه های تولیدشده توسط هوش مصنوعی را نقادانه ارزیابی کنند. این موضوع به ویژه اهمیت دارد چون سرعت پردازش هوش مصنوعی زمان کمتری و شاید انگیزه کمتری به تحلیلگران می دهد تا توصیه های ماشینی را به چالش بکشند. زیر فشار جنگ، تاخیرهای ناشی از اعتبارسنجی بیشتر انسانی ممکن است کارکنان را به تایید خودکار توصیه های هوش مصنوعی سوق دهد، به جای آنکه لایه ای اضافی از دقت و وارسی باشند.

یک راه جلوگیری از این وضع این است که تحلیلگران دو چیز متفاوت را با هم اشتباه نگیرند: «اطمینان ماشینی» و «اطمینان درباره هدف». تحلیلگران به طور سنتی با بررسی اطلاعات تاریخی و جاری و درخواست گردآوری اطلاعات بیشتر، اطمینان درباره هدف را می سازند و شناختی عمیق از آن پیدا می کنند. اما توصیه های تولیدشده توسط هوش مصنوعی این الگو را تغییر می دهد: تحلیلگران به جای ساختن اطمینان درباره هدف، توصیه ای از پیش قالب بندی شده دریافت می کنند و از آن ها خواسته می شود آن را تایید کنند. ساختن اطمینان درباره هدف و اعتبارسنجی اطمینان ماشین پس از وقوع، دو کار شناختی متفاوتند و خطر در اینجاست که اطمینان ماشین به جای اطمینان کافی درباره خود هدف گرفته شود.

این تمایز اهمیت دارد، زیرا هوش مصنوعی ممکن است اطلاعات را درست پردازش کند و باز هم توصیه ای نادرست بدهد، آن هم زمانی که داده های زیربنایی کهنه یا عمدا دستکاری شده باشند. حمله آمریکا به یک مدرسه دخترانه ایرانی در فوریه را در نظر بگیرید که بیش از ۱۶۰ کشته برجا گذاشت. گزارش ها حاکی است که این مکان در پایگاه داده ای از آژانس اطلاعات دفاعی همچنان هدف نظامی شناسایی می شد و تصاویر ممکن است تغییر کاربری جزیی آن به کاربری غیرنظامی را به روشنی نشان نداده باشند. افزون بر تلفات جانی، این حمله پیام رسانی راهبردی آمریکا را تضعیف کرد و به تهران امکان داد ادعا کند نیروهای آمریکایی مرتکب جنایت جنگی شده اند. هرچند تحقیقات ادامه دارد و نقش هوش مصنوعی در این فاجعه هنوز مشخص نشده است، این رویداد آسیب پذیری بالقوه ای را نشان می دهد: هدف گیری مبتنی بر هوش مصنوعی می تواند با شتاب دادن به زنجیره کشتار پیش از آنکه تحلیل گران اطلاعات کهنه یا متناقض را شناسایی کنند، خطاها را بزرگ تر کند. بنابراین توازن درست نظارت انسانی برای ایجاد اطمینان قابل اتکا درباره هدف، بدون قربانی کردن مزیت سرعت هوش مصنوعی، حیاتی است.

تنظیم درست همکاری انسان و ماشین

دستیابی به این توازن مستلزم «اعتماد کالیبره شده» به سامانه های مبتنی بر هوش مصنوعی است. در پژوهش های اتوماسیون و هوش مصنوعی، «اعتماد کالیبره شده» به میزانی گفته می شود که اپراتورهای انسانی بر اساس توانایی ها و قابلیت اتکای ارزیابی شده یک سامانه به خروجی آن تکیه می کنند. در بافت نظامی، این یعنی دانستن این که چه زمانی به توصیه های هدف گیری هوش مصنوعی اعتماد کنیم، چه زمانی آن ها را زیر سوال ببریم و چه زمانی نادیده شان بگیریم. اتکای بیش ازحد می تواند خطاهای هدف گیری ای ایجاد کند که اهداف گسترده تر سیاست آمریکا را تضعیف می کند، و اتکای کمتر از حد می تواند به از دست رفتن فرصت ها بینجامد. برای مثال، در سپتامبر نیروهای آمریکایی تقریبا یک کشتی تجاری چینی را در خاورمیانه توقیف می کردند، چون یک تحلیلگر به ارزیابی نادرست هوش مصنوعی اتکا کرده بود که محموله کشتی به سلاح هسته ای مربوط است. هواپیماهای آمریکایی در راه بودند و کارکنان آماده سوار شدن به کشتی می شدند که تحلیلگران باتجربه تر خطا را کشف کردند.

در واقع، میزان نظارت انسانی باید با ماهیت هدف و پیامد خطا متناسب باشد. برای مثال، یک بیل مکانیکی در یک تاسیسات هسته ای ایرانی که به تازگی تایید شده، ممکن است به نظارت کمتری نیاز داشته باشد تا هدفی که اخیرا راستی آزمایی نشده و در میان جمعیت غیرنظامی قرار دارد. آمریکا سرمایه گذاری سنگینی برای تسریع زنجیره کشتار کرده است، اما نبردهای اخیر در خاورمیانه نشان می دهد که باید به همان اندازه آگاهانه در آموزش انسان هایی سرمایه گذاری کند که در این زنجیره کار می کنند، تا بتوانند هم پای آن حرکت کنند و افسار هوش مصنوعی را درست در دست بگیرند. حتی با افزایش سرعت و مقیاس عملیات نظامی در اثر چرخه های سریع تر هدف گیری، تحلیلگران انسانی باید منابع زیربنایی توصیه های هوش مصنوعی را بشناسند، اطلاعات متناقض یا دستکاری شده را به سرعت تشخیص دهند و بدانند چه زمانی به گردآوری یا راستی آزمایی بیشتر نیاز است.

این درس ها به یک درگیری احتمالی با چین هم قابل تعمیم است؛ رقیبی که توان به چالش کشیدن قابلیت ها، حسگرها و شبکه های آمریکا را دارد. این می تواند شامل خراب کردن هدف گیری مبتنی بر هوش مصنوعی در مقیاسی بزرگ تر و با پیچیدگی بیشتر از طریق ردیابی های جعلی، جعل سیگنال، طعمه ها و دیپ فیک باشد. آنتروپیک اخیرا دریافته است که مدل های هوش مصنوعی در شناسایی جعل سیگنال عملکرد ضعیفی دارند؛ به بیان دیگر، دشمنان لازم نیست مستقیما سامانه های هدف گیری آمریکا را نفوذ کنند، اگر بتوانند آنچه را این سامانه ها می بینند پیوسته دستکاری کنند.

با توجه به این نگرانی ها، معیار هدف گیری موثر مبتنی بر هوش مصنوعی نباید صرفا این باشد که انسان در حلقه باقی مانده است، بلکه باید این باشد که آن انسان می دانسته چه زمانی به ماشین اعتماد کند. یک تیم موثر انسان و ماشین، قضاوت را حفظ می کند بی آنکه سرعت را بی جهت فدا کند؛ از جمله با درک این که چه زمانی پیامدهای خطا ایجاب می کند زنجیره کشتار کندتر شود و چه زمانی نه.

توصیه های سیاستی

با توجه به تجربه های حاصل در جریان و پس از «عملیات خشم حماسی»، مقام های دفاعی آمریکا باید راهبردی جامع برای به کارگیری هوش مصنوعی تدوین کنند که قضاوت انسانی را تقویت کند، پادمان های فنی بسازد، عملکرد هوش مصنوعی را به طور مستمر ارزیابی کند و درس های شرکا را در خود بگنجاند. تمرکز این راهبرد باید بر عناصر زیر باشد:

ارزیابی عملکرد هوش مصنوعی در درگیری ایران. پنتاگون باید بازبینی های بیرونی از عملکرد هوش مصنوعی در عملیات رزمی سفارش دهد، از جمله دقت توصیه های هدف گیری تولیدشده توسط هوش مصنوعی و میزان اتکای انسان ها به این خروجی ها یا به چالش کشیدن آن ها.

ارتقای سواد هوش مصنوعی در سراسر ارتش. پنتاگون باید سواد هوش مصنوعی را در آموزش رسمی تحلیلگران بگنجاند و آن ها را بارها در شرایط واقع گرایانه با این فناوری مواجه کند. تمرین ها باید شامل اطلاعات کهنه، فریب دشمن، حسگرهای تضعیف شده و الگوریتم هایی با درجات مختلف قابلیت اتکا باشند و تحلیلگران را وادار کنند عملکرد خود را ارزیابی کنند و بسنجند که سطح اتکایشان به هوش مصنوعی مناسب بوده یا نه.

توسعه مدل های اعتبارسنجی ماشین بر ماشین. معماری هدف گیری آینده باید مدل ها و حسگرهایی را که مستقل توسعه یافته اند در خود بگنجاند تا تناقض ها یا ناهنجاری ها را در توصیه های تولیدشده توسط هوش مصنوعی شناسایی کنند. این مدل ها باید در برابر عملکرد انسان و عملکرد تیم انسان ماشین آزمایش شوند تا مشخص شود آیا اعتبارسنجی ماشینی مستقل، تشخیص خطا را بهبود می بخشد یا نه. چنین اعتبارسنجی ای باید نظارت انسانی را تقویت کند، نه جایگزین آن شود، و پادمانی اضافی فراهم کند.

گسترش گفت وگو با متحدان و شرکا. سنتکام باید گفت وگوهای منظم خاورمیانه ای درباره درس های آموخته شده برگزار کند و بر تعامل موجود در حوزه هوش مصنوعی با اسراییل، عربستان و امارات بنا کند. پنتاگون همچنین باید این گفت وگو را در سطح جهانی گسترش دهد تا رویکردهای مشترکی برای هدف گیری مبتنی بر هوش مصنوعی شکل بگیرد، مبتنی بر بهترین شیوه های جاافتاده در همکاری انسان و ماشین و هماهنگ با حقوق مخاصمات مسلحانه.

گنجاندن پادمان های فنی بیشتر برای هوش مصنوعی. پنتاگون باید پادمان های فنی ای بگنجاند که داده های احتمالا کهنه یا مسموم شده را نشان دار کنند، سهم های تولیدشده توسط ماشین را در محصولات اطلاعاتی نهایی به روشنی مشخص کنند، و اعتبارسنجی مستقل موقعیت هدف ها و داده های حسگری زیربنای توصیه های هدف گیری هوش مصنوعی را الزامی کنند.

درباره نویسنده: سرهنگ دوم پاتریشیا برنان، عضو دوره ۲۰۲۶–۲۷ فرماندهی نیروی هوایی در موسسه واشینگتن است. او پیش تر فرماندهی اسکادران اطلاعاتی ۳۰۳ در پایگاه هوایی اوسان در کره جنوبی را بر عهده داشت. دیدگاه ها، نتیجه گیری ها و توصیه های این مقاله فقط از آن اوست و بیانگر مواضع یا سیاست های رسمی نیروی هوایی یا هیچ نهاد دیگری از دولت آمریکا نیست.