بررسی چند روش برای دستیابی به یادگیری افزایشی با شبکه های عصبی

انسان ها و حیوانات قادرند به طور مداوم در طول زندگی خود دانش و مهارت های جدیدی را کسب کرده و آن ها را بهبود ببخشند. این توانایی که با عنوان یادگیری افزایشی یا مادام العمر شناخته می شود، توسط مجموعه ای غنی از سازوکارهای عصب شناختی میانجی گری می شود. یادگیری افزایشی یکی از موضوعات مهم در یادگیری ماشین است که هدف آن به روزرسانی مدل با داده های جدید بدون از بین رفتن دانش قبلی می باشد. این رویکرد در مقابل یادگیری سنتی قرار دارد که نیازمند دسترسی به کل داده ها به طور همزمان است. در سال های اخیر، روش های مختلفی برای پیاده سازی یادگیری افزایشی ارائه شده اند که می توان آن ها را به سه دسته اصلی تقسیم کرد: روش های همگن سازی (regularization-based) که با محدود کردن تغییرات پارامترهای شبکه در هنگام یادگیری اطلاعات جدید، از فراموشی جلوگیری می کنند؛ روش های مبتنی بر پاسخ (reply-based) که از ذخیره یا بازسازی نمونه هایی از داده های قدیمی استفاده می کنند؛ و روش های مبتنی بر معماری پویا (dynamic architectures) که ساختار شبکه را با ورود اطلاعات جدید گسترش می دهند. این مقاله به بررسی و مقایسه این سه رویکرد اصلی پرداخته و نقاط قوت و ضعف هر یک را تحلیل می کند. همچنین برخی از پیشرفت های نوین در معماری و الگوریتم های یادگیری افزایشی را بررسی می کند و در نهایت به بررسی چند نمونه از کاربرد های آن می پردازد.

کلیدواژه ها:

فراموشی فاجعه بار ، یادگیری افزایشی ، یادگیری مادام العمر