بهینه سازی تطبیقی هایپرپارامترهای عامل یادگیری عمیق با استفاده از الگوریتم ژنتیک چندهدفه بهبودیافته

بهینه سازی هایپرپارامترها یکی از چالش های اساسی در توسعه مدل های یادگیری عمیق است، زیرا انتخاب نامناسب آن ها می تواند منجر به کاهش دقت پیش بینی، افزایش زمان آموزش و تحمیل هزینه های محاسباتی بالا شود. روش های سنتی تنظیم هایپرپارامترها در مواجهه با فضای جستجوی بزرگ و غیرخطی شبکه های عصبی عمیق با محدودیت های جدی مواجه اند. در سال های اخیر، الگوریتم های تکاملی چندهدفه به عنوان رویکردی کارآمد برای بهینه سازی همزمان چند معیار عملکردی معرفی شده اند، اما بسیاری از این روش ها همچنان با مشکلاتی نظیر همگرایی زودهنگام و کاهش تنوع جمعیت مواجه هستند.در این پژوهش، یک الگوریتم ژنتیک چندهدفه بهبود یافته با مکانیزم های تطبیقی انتخاب و بازترکیب برای بهینه سازی همزمان هایپرپارامترهای شبکه های عصبی عمیق ارائه می شود. روش پیشنهادی به گونه ای طراحی شده است که دو هدف متعارض شامل حداکثرسازی دقت پیش بینی و حداقل سازی پیچیدگی محاسباتی و زمان آموزش را به صورت همزمان بهینه کند. کارایی الگوریتم پیشنهادی بر روی شبکه های عصبی کانولوشنی و بازگشتی و با استفاده از مجموعه داده های معیار ارزیابی شده است. نتایج تجربی نشان می دهد که روش ارائه شده منجر به افزایش دقت مدل ها و کاهش قابل توجه زمان آموزش شده و قادر به تولید مجموعه ای متنوع از جواب های بهینه پارتو با تعادل مناسب بین اهداف متعارض است. این نتایج بیانگر آن است که الگوریتم ژنتیک چندهدفه بهبود یافته می تواند به عنوان یک چارچوب موثر و کاربردی برای بهینه سازی هایپرپارامترهای شبکه های عصبی عمیق مورد استفاده قرار گیرد.

کلیدواژه ها:

بهینه سازی هایپرپارامترها ، الگوریتم ژنتیک چندهدفه ، یادگیری عمیق ، بهینه سازی پارتو ، NSGA-II