بهبود یادگیری شبکه های عصبی با استفاده از ضرایب بهینه در الگوریتم لونبرگ-مارکوارت
- سال انتشار: 1402
- محل انتشار: پنجمین کنفرانس بین المللی محاسبات نرم
- کد COI اختصاصی: CSCG05_165
- زبان مقاله: فارسی
- تعداد مشاهده: 41
نویسندگان
دا نشجوی کارشناسی ارشد، دانشگاه شهید باهنر کرمان
عضو هیئت علمی، دانشگاه شهید باهنر کرمان؛
چکیده
انعطاف پذیری، قابلیت و کارایی بالای شبکه های عصبی سبب شده که در طیف گسترده ای از کاربردها مورد استفاده قرار گیرند. استفاده از یادگیری مناسب برای شبکه عصبی اهمیت بسیار بالایی دارد و برای این منظور می توان از روش های بهینه سازی استفاده کرد که می توان آن ها را به دو دسته کلی: مبتنی بر هوش و مبتنی بر گرادیان، تقسیم کرد. در روش های مبتنی بر گرادیان معمولا از گرادیان مرتبه اول (روش متداول) و گرادیان مرتبه دوم (روش نیوتن) استفاده می شود. در روش های مبتنی بر گرادیان مرتبه دوم سعی شده که سرعت همگرایی نسبت به روش گرادیان متداول افزایش یابد، منتهی حجم محاسبات (ماتریس هسین) نیز افزایش می یابد. برای جبران مسئله محاسبات ماتریس هسین روش هایی ارائه شده است، از جمله روش لونبرگ-مارکوارت که در آن به جای محاسبه ماتریس هسین، فقط قسمتی از آن که دارای محاسبات کم است استفاده می شود که با این ایده حجم محاسبات کاهش یافته ولی همچنان سرعت همگرایی بسیار مناسب است. در این روش با افزودن پارامتری به نام ضریب همبستگی، ترکیبی از روش های گرادیان مرتبه اول و مرتبه دوم ارائه شده است. در این مقاله مسئله یادگیری شبکه عصبی با استفاده از روش لونبرگ-مارکوارت حل شده است و همچنین سعی شده که با ایده گرفتن از روش روزن بروک، روشی مناسب برای تعیین ضریب همبستگی ارائه شود. نهایتا روش پیشنهادی برای یادگیری شبکه عصبی به منظور شناسایی یا مدلسازی یک تابع غیرخطی استفاده شده است و نتایج بدست آمده با نتایج حاصل از روش ازدحام ذرات (مبتنی بر هوش جمعی) و روش گرادیان متداول مقایسه شده است که برتری روش پیشنهادی را نشان می دهد.کلیدواژه ها
یادگیری شبکه های عصبی،الگوریتم های بهینه سازی،الگوریتم های مبتنی بر گرادیان مرتبه دوم،الگوریتم لونبرگ،مارکوارتمقالات مرتبط جدید
- Development the Product Design Process Using Quality Function Deployment and Operational Research
- Numerical Analysis of the Electronic Cooling of a Flat Plate Immersed in the Saturated R۱۳۴a Based on the Pool Boiling Theory
- شناسایی و رتبه بندی عوامل موثر بر عیوب ساختاری میل لنگ خودرو (مطالعه موردی: شرکت صنایع ریخته گری ایران)
- انتخاب استراتژی بهینه نگهداری و تعمیرات با استفاده از مدل های تصمیم گیری چندمعیاره (مطالعه موردی: شرکت فرآورده غذایی بینارزن)
- The Evolving Landscape of Distributed Denial of Service (DDoS) and Denial of Service (DoS) Attacks A Comprehensive Analysis
اطلاعات بیشتر در مورد COI
COI مخفف عبارت CIVILICA Object Identifier به معنی شناسه سیویلیکا برای اسناد است. COI کدی است که مطابق محل انتشار، به مقالات کنفرانسها و ژورنالهای داخل کشور به هنگام نمایه سازی بر روی پایگاه استنادی سیویلیکا اختصاص می یابد.
کد COI به مفهوم کد ملی اسناد نمایه شده در سیویلیکا است و کدی یکتا و ثابت است و به همین دلیل همواره قابلیت استناد و پیگیری دارد.