یادگیری شبکه عصبی با روش لونبرگ-مارکوارت بهبودیافته

دراین مقاله روشی جدید برای افزایش سرعت همگرایی و کارایی روش لونبرگ-مارکوارت ارائه می شود. روش لونبرگ-مارکوارت یک روش مبتنی بر نیوتن است که در بهینه سازی و تعیین ضرایب شبکه های عصبی دارای کارایی مناسبی در مقایسه با سایر روش ها ازجمله روش پس انتشارخطا است. بااین حال، عملکرد این روش به طور قابل توجهی به انتخاب ضریب دمپینگ مناسب بستگی دارد. ازجمله روش های مختلف تعیین ضریب دمپینگ، روش جستجو خطی مارکوارت و روش های مبتنی بر نرم خطا و مبتنی بر نرم ژاکوبین می باشند که در این مقاله با بررسی نقاط ضعف و قوت این روش ها، یک روش ترکیبی جهت افزایش سرعت همگرایی ارائه می شود. درروش پیشنهادی بازه جستجوی ضریب دمپینگ و درنتیجه مقدار پارامتر نرخ تنظیم کاهش یافته است. با انجام این اصلاحات دقت جستجوی ضریب دمپینگ افزایش یافته و سرعت همگرایی روش پیشنهادی افزایش می یابد. به منظور ارزیابی روش پیشنهادی، یادگیری یک شبکه عصبی برای شناسایی یک تابع غیرخطی پیچیده، یک مساله رگرسیون و یک مساله طبقه بندی مورد شبیه سازی قرارگرفته و نتایج به دست آمده نشان می دهد که روش پیشنهادی در مقایسه با سایر روش های مورد بررسی، دارای کارایی مناسبی بوده و توانسته است خطای یادگیری را به حد قابل قبولی کاهش داده و سرعت همگرایی بالاتری داشته باشد.

کلیدواژه ها:

ضریب دمپینگ ، الگوریتم لونبرگ-مارکوارت ، الگوریتم نیوتن ، یادگیری شبکه های عصبی ، بهینه سازی غیرخطی