بررسی چالش های ناهمگونی داده در یادگیری فدرال و راه حل های آن ها

یادگیری فدرال به عنوان یک رویکرد نوین در یادگیری ماشین توزیع شده امکان آموزش مدل های مشترک را بدون نیاز به تجمیع داده های خام از منابع مختلف فراهم می سازد. با این حال یکی از چالش های اساسی در این حوزه ناهمگونی داده ها است که ناشی از تفاوت های آماری میان داده های موجود در دستگاه ها یا مشتری های مختلف می باشد. این ناهمگونی می تواند به اشکال متنوعی نظیر انحراف، توزیع انحراف برچسب، انحراف ویژگی کمی و کیفی ظاهر شود و موجب کاهش کارایی مدل کننده، همگرایی و ناعادلانه شدن نتایج گردد. در این مقاله مروری ابتدا انواع مختلف ناهمگونی در داده های فدرال شناسایی و دسته بندی، راهکارهای مطرح شده برای مقابله با آن ها در سه سطح، داده، مدل و معماری مورد بررسی قرار گرفته اند. در سطح داده، روش هایی همچون افزایش داده تقطیر مجموعه داده مرور شده اند؛ در سطح مدل رویکردهایی نظیر تنظیم سازی و جداسازی پارامترها تحلیل شده اند و در سطح معماری، تکنیک هایی مانند خوشه بندی مشتری ها و یادگیری فدرال شخصی سازی شده مورد توجه قرار گرفته اند. در پایان این راهکارها با یکدیگر مقایسه شده و مزایا و محدودیت های هر کدام در سناریوهای مختلف بررسی شده اند تا تصویری جامع از وضعیت فعلی و چالش های باقیمانده در این زمینه ارائه گردد.

کلیدواژه ها:

یادگیری فدرال ، ناهمگونی داده ، یادگیری فدرال شخصی سازی شده ، تقطیر مجموعه داده