ترکیب روش گرادیان کاهشی تصادفی و الگوریتم آدام جهت بهبود سرعت در داده کاوی

هدف داده کاوی مکانی-زمانی کشف الگوهای ناشناخته قبلی اما مفید از داده های مکانی و زمانی است. با این حال، رشد انفجاری داده های مکانی-زمانی بر نیاز به توسعه روش های محاسباتی جدید برای کاربردهای داده کاوی در مقیاس بزرگ تاکید می کند. از آنجایی که بسیاری از مسائل داده کاوی مکانی-زمانی را می توان به یک مسئله بهینه سازی تبدیل کرد. الگوریتم مورد توجه در بحث کمینه یابی، الگوریتم گرادیان کاهشی تصادفی می باشد. این الگوریتم و نسخه های اصلاح شده آن مانند الگوریتم گرادیان کاهشی تصادفی همراه با گشتاور، جهت حرکت به سمت نقطه کمینه را بهبود می بخشد. در الگوریتم ذکر شده نرخ یادگیری، عددی ثابت در نظر گرفته می شود. به منظور بهبود در سرعت همگرایی الگوریتم دیگری به نام آدام و نسخه های اصلاح شده ای از آن معرفی شده است که نرخ یادگیری عددی متناسب با وضعیت تابع اتلاف تعیین می شود. این همگام سازی به کمک گشتاور اول (میانگین) و گشتاور دوم (واریانس غیر مرکزی) قابل اجرا می باشد. در الگوریتم آدام سرعت همگرایی پیشرفت چشمگیری پیدا کرده است، اما پایداری همگرایی دچار ضعف گردیده است. روش هایی جهت بهبود همگرایی برای الگوریتم آدام پیشنهاد شده است. ما در این مقاله قصد داریم تا روش الگوریتم گرادیان کاهشی تصادفی همراه با گشتاور را با الگوریتم آدام ترکیب نماییم تا بتوانیم از نقاط قوت دو الگوریتم در حل مسائل بهره ببرم. ابتدا به کمک مفاهیم ریاضیاتی بردار گرادیان این دو الگوریتم را ترکیب کرده و نشان می دهیم این کار قابل انجام می باشد. سپس به کمک نرم افزار متلب روی مجموعه داده Cifat۱۰۰ گرادیان کاهشی تصادفی و آدام و روش ترکیبی را تست کرده و نتایج را اعلام می نماییم.

کلیدواژه ها:

الگوریتم گرادیان کاهشی تصادفی ، الگوریتم آدام ، بردار گرادیان ، گشتاور اول و دوم ، داده کاوی