الگوریتم کوانتیزاسیون پویا آگاه از دقت مبتنی بر روش های کدگذاری با هدف کاهش توان مصرفی در شبکه های یادگیری عمیق

با رشد فزاینده کاربرد شبکه های عصبی عمیق (DNN) در حوزه هایی نظیر بینایی ماشین و پردازش زبان طبیعی، اجرای این مدل ها بر روی دستگاه های دارای منابع محدود مانند سامانه های لبه ای، با چالش هایی نظیر مصرف بالای حافظه و توان محاسباتی مواجه است. یکی از راهکارهای موثر در این زمینه، استفاده از روش های فشرده سازی از جمله کوانتیزاسیون است. در این پژوهش، یک الگوریتم کوانتیزاسیون پویا آگاه از دقت ارائه شده است که با بهره گیری از خوشه بندی مبتنی بر K-Means و کدگذاری هافمن، تلاش دارد ضمن کاهش توان مصرفی، افت دقت مدل را به حداقل برساند. در این روش، نرخ فشرده سازی به صورت پویا و متناسب با اهمیت هر لایه تعیین می گردد و مقادیر کوانتیزه شده با استفاده از مراکز خوشه ها و سپس رمزگذاری بهینه توسط کد هافمن فشرده سازی می شوند. نتایج پیاده سازی روی مجموعه داده CIFAR-۱۰ نشان می دهد که الگوریتم پیشنهادی نسبت به روش پایه، تا ۲۵٪ بهبود در شاخص NMI و ۵۰٪ کاهش نرخ خطا داشته و زمان اجرای آن نیز تا ۱.۵ برابر سریع تر از روش پایه بوده است. این نتایج بیانگر قابلیت بالای روش پیشنهادی در کاهش توان مصرفی و بهینه سازی اجرای مدل های یادگیری عمیق در محیط های محدود منابع است.

کلیدواژه ها:

شبکه های عصبی عمیق(DNN) ، شبکه های عصبی کانولوشنال(CNN) ، کوانتیزاسیون ، کدگذاری هافمن