فراتر از خطای الگوریتم: بازاندیشی مسئولیت در سامانه های هوش مصنوعی نظامی (مطالعه موردی حادثه میناب)

گسترش استفاده از سامانه های هوش مصنوعی در عملیات نظامی، پرسش های تازه ای درباره حدود مسئولیت حقوقی و اخلاقی در قبال خطاها و پیامدهای ناشی از این سامانه ها مطرح کرده است. در حادثه مدرسه شجره طیبه در میناب، که در جریان حمله نظامی ایالات متحده آمریکا و اسرائیل به ایران رخ داد، حدود ۱۶۸ دانش آموز جان خود را از دست دادند. در برخی گزارش ها و تحلیل های منتشرشده درباره این حادثه، احتمال نقش آفرینی سامانه های هوشمند در فرایند هدف گیری یا بروز خطای مرتبط با آن ها مطرح شده است. مقاله حاضر با بهره گیری از روش توصیفی- تحلیلی و با تکیه بر مطالعه موردی حادثه مدرسه شجره طیبه، می کوشد بررسی کند که روایت انتساب این حادثه به «خطای هوش مصنوعی» تا چه اندازه با مبانی حقوق بین الملل بشردوستانه و چارچوب های نوین مسئولیت سازگار است و این روایت چه تاثیری بر انتساب مسئولیت به کنشگران انسانی و سازمانی دارد.چارچوب نظری پژوهش بر مفاهیمی چون شکاف مسئولیت، علیت شبکه ای، نظریه خلق خطر، کنترل انسانی معنادار و مسئولیت شبکه ای استوار است. تحلیل انجام شده نشان می دهد که حتی در فرض نقش آفرینی سامانه های هوشمند در فرایند هدف گیری، حادثه را نمی توان صرفا به یک خطای الگوریتمی فروکاست، بلکه باید آن را نتیجه فرایندی پیچیده و چندلایه دانست که در آن طراحان سامانه، تامین کنندگان داده، اپراتورها و سطوح مختلف فرماندهی هر یک می توانند در شکل گیری پیامد نهایی نقش داشته باشند.نوآوری این پژوهش در طرح مفهوم «مسئولیت شبکه ای» به عنوان چارچوبی تحلیلی برای فهم توزیع مسئولیت در سامانه های پیچیده مبتنی بر هوش مصنوعی و همچنین تاکید بر ضرورت حفظ و تقویت «کنترل انسانی معنادار» در کاربردهای نظامی این فناوری است. بر این اساس، استدلال می شود که تقلیل چنین حوادثی به «خطای هوش مصنوعی»، بدون بررسی دقیق شواهد، ساختار تصمیم گیری و نقش کنشگران انسانی، می تواند تمرکز تحلیل را از مسئولیت های انسانی و سازمانی منحرف ساخته و فرایند پاسخگویی حقوقی را با چالش مواجه کند.

کلیدواژه ها:

حادثه میناب ، شکاف مسئولیت ، علیت شبکه ای ، کنترل انسانی معنادار ، هوش مصنوعی