از جعبه سیاه تا شفافیت مروری بر توضیح پذیری و توصیفی بودن در مدل های عمیق با تاکید بر روندهای نوین و کاربردها

با گسترش کاربرد مدل های یادگیری عمیق در حوزه های حساس مانند پزشکی، حقوق و صنعت نیاز به شفافیت و قابلیت تفسیر این مدل ها به مسئله ای اساسی تبدیل شده است. توضیح پذیری و توصیفی بودن دو رویکرد مکمل برای افزایش اعتماد و کنترل بر این سامانه ها هستند. در این مقاله پس از مرور، مفاهیم، دسته بندی ها و معیارهای ارزیابی به بررسی پیشرفته ترین روش های توضیح پذیری شامل نقشه های سالینسی، انتساب، ویژگی، روش های مبتنی بر نمونه، توضیح مبتنی بر مفهوم و نقش مدل های بزرگ زبانی و چندوجهی مانند GPT-۴, BLIP-۲, Gemini پرداخته می شود. همچنین چالش های نوظهور نظیر مقیاس پذیری، ارزیابی انسانی، شخصی سازی و ملاحظات اخلاقی مورد بحث قرار گرفته و در نهایت چشم انداز آینده این حوزه با تاکید بر سامانه های تعاملی و استانداردسازی ترسیم می شود. این مقاله می تواند به عنوان مرجعی جامع برای پژوهشگران و فعالان حوزه هوش مصنوعی در درک وضعیت کنونی و مسیرهای پیش روی توضیح پذیری مورد استفاده قرار گیرد.

کلیدواژه ها:

هوش مصنوعی ، قابل توضیح ، تفسیرپذیری ، مدل های چندوجهی ، روش های تفسیر پس از آموزش