بهبود پهنای باند انتقال داده بین حافظه های داخلی و خارجی FPGA ها برای پیاده سازی شبکه های عمیق LSTM

شبکه های عصبی مجموعه ای از الگوریتم هایی هستند که با پردازشی مشابه با مغز انسان تلاش می کنند روابط اساسی در یک مجموعه داده را تشخیص دهند. شبکه های عصبی در بسیاری از پدیده ها انقلابی آوردند. از مهم ترین شبکه های عصبی، شبکه های عصبی بازگشتی هستند که در تشخیص متن، صوت، گفتار و بسیاری از داده هایی که در آن ها توالی دیده می شود نقش اساسی ایفا می کنند. برای بخش پیاده سازی این شبکه ها، شتاب دهنده های سخت افزاری با توجه به کارایی، قابلیت موازی سازی و توان عملیاتی، می توانند الگوریتم های شبکه های عصبی را پیاده سازی کنند. امروزه به دلیل مصرف توان بسیار کم FGPA ها و توانایی طراحی بسیار بالا با آن رغبت زیادی در صنعت برای استفاده از این تراشه ها به جای CPU,GPU وجود دارد. در بین شبکه های عمیق موجود،شبکه LSTM نوع خاصی از شبکه های عصبی بازگشای هستند که می توانند وابستگی های طولانی مدت را یاد بگیرند. و اساسا به همین دلیل طراحی شده اند. یکی از مسئله های اصلی در این زمینه انتقال داده از حافظه خارجی روی تراشه به حافظه داخلی FPGA است. به دلیل کند بودن حافظه خارجی، ذخیره داده ها روی آن به صرفه نیست و همچنین به دلیل کوچک بودن حافظه داخلی تراشه، نمی توان همه ی داده ها را روی آن ذخیره کرد. در روش پیشنهادی با استفاده از پهنای باند ارتباطی بهینه بین این دو و بهره گیری از بافرهای محلی، مصرف منابع با ارزش FPGA کاهش یافته که این امر در پیاده سازی شبکه های بزرگ تر بسیار موثر خواهد بود. همچنین دراین روش، با تقریب توابع فعالیت موجود در داخل سلول LSTM که با سخت افزار سازگار نیستند موجب کاسته شدن پیچیدگی آن و بهبود طراحی LSTM بر روی سخت افزار شده است.

کلیدواژه ها:

یادگیری عمیق ، شتاب دهنده های سخت افزاری ، شبکه های عصبی بازگشتی ، BRAM ، LSTM