تجزیه و تحلیل عملکرد درون مرکز داده یک واحد پردازش تانسور

بسیاری از معماران بر این باورند که بهبودهای عمده در عملکرد هزینه-انرژی اکنون باید از دامنه خاص سخت افزار حاصل شود . این مقاله یک ASIC سفارشی به نام واحد پردازش تانسور (TPU ) مستقر در مرکز داده را ارزیابی می کند . از چند سال پیش که فاز استنتاج شبکه های عصبی را تسریع می بخشد . مرکز TPU یک MAC ۶۵۵۳۶ هشت بیتی است که واحد ضرب ماتریسی که حداکثر توان عملیاتی ۹۲ TeraOps در ثانیه (TOPS) را ارائه می دهد و حافظه روی تراشه با مدیریت نرم افزار است . مدل اجرای قطعی TPU مطابقت بهتری با صدک ۹۹ دارد.نیاز به زمان پاسخ برنامه های NN ما نسبت به بهینه سازی های متغیر با زمان CPU ها و GPU ها(حافظه پنهان، اجرای خارج از دستور، چند رشته ای، پردازش چندگانه، واکشی اولیه، ...) که به میانگین توان عملیاتی بیشتر کمک می کند.نسبت به تاخیر تضمین شده است

کلیدواژه ها:

شبکه عصبی ، معماری خاص دامنه ، شتاب دهنده ، TPU ، NN