بهبود کارایی الگوریتم فرایادگیری مبتنی بر بهینه ساز با پیشگیری از بیش برازش

بر خلاف پیشرفت های موجود در حوزه فرایادگیری باناظر، این الگوریتم ها به دلیل ماهیت استفاده از مجموعه داده محدود با مشکل بیش برازش مواجه هستند. در یادگیری باناظر اقدامات چشمگیری برای پرداختن به مسئله بیش برازش انجام شده است. با این وجود، این روش ها غالبا در فرایادگیری باناظر موثر نیستند. جهت فائق آمدن به مشکل بیش برازش در فرایادگیری مبتنی بر بهینه ساز، سعی بر این است تا با ایجاد تغییرات تصادفی در محاسبه پارامترهای شبکه عصبی در حلقه درونی فرایادگیر، اثر بیش برازش را کاهش داد. در این مقاله یک روش موثر جهت پیشگیری از بیش برازش در فرایادگیری مبتی بر بهینه ساز ارایه شده است. دراین روش با استفاده از یک توزیع گوسی استاندارد با انحراف معیار متغیر به صورت تصادفی، مقادیر بردار گرادیان در بهینه ساز حلقه درونی فرایادگیری تغییر می کند. روش پیشنهادی بوسیله مجموعه داده های استاندارد مورد آزمایش قرار گرفت و مشاهده گردید که دقت مدل بهبود و قدرت تعمیم پذیری و سرعت همگرایی مدل افزایش می یابد.

کلیدواژه ها:

بهینه سازی ، بیش برازش ، شبکه های عصبی ، فرایادگیری ، فرایادگیری همه منظوره ، گرادیان کاهشی