استفاده از هموارکننده ی L1/2 در یادگیری گرادیانی شبکه های عصبی خود سازمانده

یکی از معیارهای مورد اهمیت در آموزش شبکه های عصبی، سرعت همگرایی می باشد. تحقق یافتن این معیاروابسته به آموزش مطلوب پارامترها و تعیین اندازه ی مناسب برای شبکه می باشد. چالشی که در شبکه هایعصبی، به ویژه در شبکه ی عصبی پیشخور وجود دارد این است که سایز شبکه در ابتدای فرآیند آموزش توسططراح تعیین می گردد و چنانچه پیچیدگی مساله از پیچیدگی ساختار شبکه بیشتر باشد، خطا در ابتدای فرآیندآموزش به مقدار قابل توجهی افزایش می یابد و این امر باعث کاهش سرعت همگرایی می گردد. در این راستابرای تعیین اندازه ی مطلوب برای شبکه با توجه به پیچیدگی مساله از شبکه ی عصبی خودسازمانده استفادهمی کنیم. چالشی که در شبکه های عصبی خودسازمانده وجود دارد آن است که سرعت همگرایی پایینی دارندو قادر به تشخیص تعداد نامحدودی الگو نمی باشند، درنتیجه برای بهبود سرعت همگرایی از الگوریتم (Batch gradient(Bg به همراه رگولاریزیشن L1/2 که توسط یک تابع هموارکننده، هموار شده است، استفاده می نماییم تا بدین ترتیب درکنار آموزش مطلوب پارامترهای شبکه، سرعت همگرایی بالا رود. نتایج حاصل از پیادهسازی و مقایسه ی روش حاضر با روش های پایه، از نظر معیار سرعت همگرایی، نشان از برتری روش پیشنهادیدر بهبود صحت و بهبود سرعت همگرایی را می دهد.