ارائه روش فشرده سازی ماتریس خلوت با حفظ دقت و حداقل سربار در شتاب دهنده های شبکه عصبی عمیق مبتنی بر الگوریتم یادگیری ماشین

امروزه شبکه های عصبی عمیق که یکی از مهمترین ابزار های یادگیری ماشین هستند، بسیار حائز اهمیت است این شبکه ها، پیشرفت سریع و قابل ملاحظه ای در حل مسائل مختلف از جمله تشخیص تصویر، پردازش زبان طبیعی، و تشخیص گفتار داشته اند. مصرف بالای منابع و پردازش های سنگین محاسباتی از چالش های اصلی در استفاده از شبکه های عصبی عمیق است. از سوی دیگر،به دلیل وجود تعداد زیاد پارامترها و وزن ها ، این شبکه ها نیاز به حافظه ی زیادی دارند. این مساله می تواند باعث ایجاد سربار زیاد، به خصوص در سیستم های مبتنی بر ابری یا دستگاه های محدود منابع، بشود و به تبع مشکل ساز باشد. بنابراین، پژوهش در زمینه فشرده سازی ماتریس های خلوت که در شبکه های عصبی عمیق استفاده می شود، حائز اهمیت است. از روش های فشرده سازی، می توان برای کاهش حجم اطلاعات استفاده کرد و هم زمان سرعت پردازش را هم افزایش داد. این پژوهش به ارائه ی دو روش جدید برای فشرده سازی ماتریس های خلوت می پردازد که در روش اول پیشنهادی به فشرده سازی عناصر نسبت به فاصله آنها از اولین عنصر همان سطر بطور میانگین میزان ۰.۰۷ درصد فشرده سازی بیشتر نسبت به روش فشرده سازی CSR حاصل شد و در روش دوم که با ذخیره سازی فاصله هر عنصر غیر صفر با عنصر قبلی این میانگین به ۲.۵ درصد بروی ماتریس های پژوهش شده رسیده است. همچنین در روش اول ارائه شده بطور میانگین حدود ۱۰.۸۲ درصد عملیات فشرده سازی سریعتر نسبت به روش فشرده سازی CSR انجام شده و در روش دوم این میزان به ۱۵.۳۱ درصد نیز می رسد.

کلیدواژه ها:

استخراج ویژگی ، شبکه ی عصبی کانولوشن ، کانولوشن نقطه ای ، کانولوشن برحسب کانال ، شیفت متغیر کمکی ، عادی سازی دسته ای ، ادغام ، هرس کردن ، خلوت ساز ، تعمیم ، هرس سازی بر اساس گره ، ماتریس خلوت ، فشرده سازی