شبکه های عصبی کالموگروف-آرنولد (KAN): مبانی نظری معماری های توسعه یافته و ارزیابی انتقادی

معماری های متداول شبکه های عصبی مانند پرسپترون های چندلایه یا شبکه های کانولوشنی هنوز با چالش هایی نظیر نیاز به حجم بالای داده، مصرف منابع زیاد، ضعف در تفسیرپذیری و همگرایی ناپایدار مواجه هستند. در پاسخ به این چالش ها رویکردهای نوینی در طراحی معماری شبکه های عصبی پیشنهاد شده اند که در آنها ساختار ریاضی و تئوریک مدل ها نقش محور تری ایفا می کند. یکی از این رویکردهای نوین شبکه های کالموگروف-آرنولد یا به اختصار KAN است که الهام گرفته از قضیه بازنمایی کالموگروف-آرنولد در تحلیل توابع است. KAN با جایگزینی وزن های عددی بین لایه ها با توابع یک متغیره یادگیرپذیر مانند B-spline یا توابع فوریه، ساختاری جدید برای یادگیری روابط غیرخطی پیشنهاد می دهد. این تغییر باعث افزایش توان مدل در تقریب توابع پیچیده، کاهش تعداد پارامتر و مهم تر از همه تفسیرپذیری نتایج یادگیری شده می گردد. در این مقاله پژوهش های مرجع و اثرگذار در حوزه شبکه های KAN شامل مدل های پایه KAN، نسخه ی زمانی، کانولوشنی، ساختارهای بدون گرادیان، اتوانکودرهای مبتنی بر KAN و مدل های فوریه ای به طور دقیق بررسی شده اند. هر یک از این مدل ها برای حل نوع خاصی از مسائل طراحی شده اند ولی همگی بر اصل بنیادی کالموگروف-آرنولد تکیه دارند. در این بررسی ضمن تحلیل دقیق ساختار فنی و نوآوری های هر مدل، نقاط قوت و ضعف آنها نیز با استناد به نتایج تجربی گزارش شده در مقالات تحلیل شده است. در پایان مسیرهای پیشنهادی برای توسعه آینده شبکه های KAN ارائه شده است.

کلیدواژه ها:

شبکه کالموگروف-آرنولد ، KAN ، اسپلاین ، تفسیرپذیری