مقایسه تجربی بهینه سازهای تطبیقی و غیرتطبیقی در طبقه بندی تصاویر با شبکه های عصبی کانولوشنی

در یادگیری عمیق در حوزه بینایی کامپیوتر تحول بنیادینی ایجاد کرده و عملکرد شبکه های عصبی کانولوشنی (CNN) در طبقه بندی تصاویر به ویژه در مجموعه داده های استانداردی مانند CIFAR-۱۰ قابل توجه و حائز اهمیت است. در این مطالعه، عملکرد سه الگوریتم بهینه سازی برجسته Adam، SGD با مومنتوم و RMSprop برای طبقه بندی تصاویر CIFAR-۱۰ با استفاده از یک شبکه CNN سبک با ۱۲۲٬۵۷۰ پارامتر آموزش پذیر مقایسه شد. تمام مدل ها به مدت ۱۰ دوره با اندازه دسته ۶۴ آموزش دیدند و عملکرد آن ها بر اساس دقت نهایی، خطای نهایی و زمان آموزش ارزیابی شد. نتایج نشان داد که SGD با مومنتوم با دقت ۶۷.۵۸٪ و خطای نهایی ۰.۹۴۸۶ بهترین عملکرد را نسبت به Adam (۶۶.۲۹٪، خطا ۰.۹۵۵۳) و RMSprop (۶۶.۸۵٪، خطا ۱.۱۲۰۷) دارد. این یافته ها تاکید می کند که حتی در معماری های سبک و با پیچیدگی متوسط، روش های کلاسیک و غیرتطبیقی می توانند از روش های تطبیقی پیشرفته تر عملکرد بهتری ارائه دهند. تحلیل روند همگرایی نشان داد که SGD با مومنتوم، همگرایی پایدار و تدریجی دارد، در حالی که Adam و RMSprop گرچه همگرایی اولیه سریع تر دارند، اما در نهایت دقت کمتری ارائه می کنند. زمان آموزش برای هر سه روش در بازه ۱۲ تا ۱۴ دقیقه بود، بنابراین تاثیر اصلی بهینه ساز بر کیفیت همگرایی و توانایی تعمیم مدل است. این مطالعه راهنمای عملی مهمی برای انتخاب بهینه ساز مناسب در وظایف طبقه بندی تصاویر فراهم می کند.

کلیدواژه ها:

یادگیری عمیق ، بهینه سازی الگوریتم ها ، شبکه های عصبی کانولوشنی ، SGD ، Adam ، RMSprop