روش پیش تعلیم لایه به لایه دوسویه برای تعلیم شبکه های عصبی عمیق
- سال انتشار: 1394
- محل انتشار: مجله هوش محاسباتی در مهندسی برق، دوره: 6، شماره: 2
- کد COI اختصاصی: JR_ISEE-6-2_001
- زبان مقاله: فارسی
- تعداد مشاهده: 168
نویسندگان
دانشجوی دکتری، دانشکده مهندسی پزشکی، دانشگاه صنعتی امیرکبیر، تهران، ایران
- دانشیار، دانشکده مهندسی پزشکی، دانشگاه صنعتی امیرکبیر، تهران، ایران
چکیده
در این مقاله، یک روش پیش تعلیم دوسویه برای همگرا نمودن تعلیم شبکه های عصبی عمیق با یادگیری دیگرانجمنی ارائه شده است. تعلیم این شبکه ها به دلیل مواجه بودن با تعداد بالای کمینه های موضعی اغلب همگرا نمی گردد. این در حالی است که با مقداردهی اولیه مناسب وزن های شبکه، می توان از بسیاری از کمینه های موضعی اجتناب نمود. روش پیش تعلیم لایه به لایه دوسویه روشی سریع و کارا می باشد که در یک مسیر دوسویه به طور جلوسو و عقب سو با استفاده از ورودی ها و خروجی های مطلوب شبکه، به تنظیم مقادیر اولیه وزن های آن می پردازد. برای این منظور از تعلیم شبکه های کمکی یک لایه پنهان مبتنی بر وزن های لایه تحت پیش تعلیم از شبکه عمیق و وزن های کمکی استفاده می شود. سپس مقادیر وزن حاصل از تعلیم اینها در ساختار اصلی شبکه تحت پیش تعلیم قرار داده می شوند و برای تنظیم دقیق وزن ها، تعلیم یکپارچه صورت می گیرد. این روش برای پیش تعلیم وزن های سه شبکه عصبی عمیق بازشناس فرد، حالت های احساسی و ارقام دستنوشتار مورد استفاده قرار گرفت و نشان داده شد که با به کارگیری این روش پیش تعلیم، سرعت همگرایی تعلیم به طور چشمگیری افزایش می یابد. همچنین میزان بازشناسی ها در پایگاه داده های چهره به میزان قابل توجهی بهبود می یابد که حاکی از افزایش قدرت تعمیم شبکه با استفاده از این روش می باشد.کلیدواژه ها
پیش تعلیم, دوسویه, دیگرانجمنی, ساختار عمیق, شبکه های عصبی چند لایه, همگرایی تعلیماطلاعات بیشتر در مورد COI
COI مخفف عبارت CIVILICA Object Identifier به معنی شناسه سیویلیکا برای اسناد است. COI کدی است که مطابق محل انتشار، به مقالات کنفرانسها و ژورنالهای داخل کشور به هنگام نمایه سازی بر روی پایگاه استنادی سیویلیکا اختصاص می یابد.
کد COI به مفهوم کد ملی اسناد نمایه شده در سیویلیکا است و کدی یکتا و ثابت است و به همین دلیل همواره قابلیت استناد و پیگیری دارد.