MultiSHAP؛ روشی تازه برای فهمیدن اینکه مدل های چندوجهی چطور «می بینند» و «می خوانند»
مدل های هوش مصنوعی چندوجهی — مدل هایی که هم تصویر می بینند و هم متن می خوانند — این روزها در همه جا هستند؛ از پاسخ به سوال درباره یک عکس تا کمک به پزشک در خواندن تصاویر پزشکی. اما یک مشکل بزرگ دارند: ما معمولا نمی دانیم خروجی آن ها دقیقا بر اساس کدام بخش تصویر و کدام کلمه متن ساخته شده است. این مدل ها جعبه سیاه اند و همین، اعتماد به آن ها را در کاربردهای حساس دشوار می کند.
در مقاله ای که ۷ نوامبر ۲۰۲۶ در مجله npj Artificial Intelligence (از مجموعه Nature) منتشر شد، پژوهشگران دانشگاه پنسیلوانیا چارچوبی به نام MultiSHAP معرفی کرده اند که دقیقا همین نقطه ضعف را هدف می گیرد. ایده اصلی ساده و در عین حال قدرتمند است: به جای اینکه فقط بگوییم «این بخش از تصویر مهم بود» یا «این کلمه مهم بود»، MultiSHAP نشان می دهد کدام «جفت» از عناصر با هم تعامل کرده اند — مثلا کدام تکه از تصویر با کدام توکن متن با هم باعث آن خروجی خاص شده اند. برای این کار از شاخص تعامل شپلی (Shapley) استفاده می کند.
نکته مهم این روش آن است که به درون مدل دسترسی نمی خواهد؛ نه به پارامترها، نه به گرادیان ها و نه به وزن های توجه. فقط با یک رابط پرس وجو که اجازه دست کاری جداگانه ورودی تصویری و متنی را بدهد کار می کند. این یعنی MultiSHAP را می توان حتی روی مدل های بسته و تجاری هم به کار برد؛ مدل هایی که سازنده شان درون آن ها را در اختیار کسی نمی گذارد.
آزمایش ها روی بنچمارک های چندوجهی نشان می دهد این چارچوب تعامل های مرتبط با رفتار واقعی مدل را در سطح ورودی ثبت می کند و تناظرهای تکه–توکن برآوردشده اطلاعاتی فراتر از برجستگی تک وجهی دارند. به زبان ساده: فهم
یدن «چه چیزی با چه چیزی» ترکیب شده، بیشتر از فهمیدن «چه چیزی مهم بوده» به ما می گوید مدل چطور فکر می کند.
به نظرم اهمیت این کار فراتر از یک تکنیک توضیحی دیگر است. وقتی مدل های چندوجهی وارد حوزه هایی مثل پزشکی، آموزش و تصمیم گیری های مهم می شوند، شفافیت دیگر یک ویژگی لوکس نیست؛ پیش شرط اعتماد است. روشی که بدون دسترسی به درون مدل کار کند، عملا در دنیای واقعی قابل استفاده است و می تواند به ترکیب های دیگری از وجه ها هم گسترش پیدا کند.
منبع:
Wang, Z. & Wang, K. (2026). MultiSHAP: a Shapley-based framework for explaining cross-modal interactions in multimodal AI models. npj Artificial Intelligence. DOI: 10.1038/s44387-026-00164-5 — https://www.nature.com/articles/s44387-026-00164-5