انتخاب و ترکیب خودکار وظیفه در یادگیری چند وظیفه ای

یادگیری چند وظیفه ای به عنوان یک پارادایم پیشرفته در یادگیری ماشین توانسته است موفقیت های قابل توجهی در گستره وسیعی از مسائل پیچیده به دست آورد. هسته اصلی این رویکرد بهبود عملکرد یک وظیفه محوری از طریق بهره گیری همزمان از دانش چندین وظیفه کمکی مرتبط است. با این وجود کاربست موثر این پارادایم در موقعیت های واقعی با چالش های بنیادینی مواجه است که مهم ترین آنها شامل انتخاب خودکار وظایف کمکی سودمند و تعیین نسبت بهینه ترکیب این وظایف در فرآیند آموزش است. رویکردهای متداول که متکی بر انتخاب دستی یا جستجوی فراگیر هایپرپارامترها در بین تمام ترکیب های ممکن هستند، نه تنها وابسته به سوگیری های انسانی بوده بلکه در مواجهه با فضاهای بزرگ و ابعاد بالا فاقد کارایی و مقیاس پذیری هستند. در پاسخ به این چالش ها، این مقاله چارچوب نوینی را معرفی می کند که یک ساختار دو مرحله ای کاملا خودکار برای بهینه سازی فرآیند یادگیری چند وظیفه ای ارائه می دهد. در مرحله اول، این چارچوب با به کارگیری یک مدل پیشرفته مبتنی بر توزیع بتا برنولی و با استفاده از راهبرد نمونه گیری تامپسون به صورت پویا و مبتنی بر بازخوردهای دریافتی در حین آموزش، مجموعه بهینه ای از وظایف کمکی را انتخاب می نماید. در مرحله دوم نسبت ترکیب آموزش برای وظایف انتخاب شده، در قالب یک مسئله بهینه سازی بیزی و با استفاده از یک فرآیند گاوسی برای جستجوی کارآمد در فضای پارامترها، یادگیری می شود. ارزیابی های تجربی جامع بر روی مجموعه داده های معیار در حوزه درک زبان طبیعی کارایی برتر چارچوب پیشنهادی را به وضوح نشان می دهد. نتایج نشان می دهد که چارچوب پیشنهادی مقاله نه تنها به صورت موثر وظایف مرتبط را شناسایی می کند بلکه با یادگیری نسبت ترکیب بهینه منجر به بهبود عملکرد قابل توجهی در چندین وظیفه اصلی در مقایسه با روش های پایه می شود.

کلیدواژه ها:

انتخاب خودکار وظیفه ، بهینه سازی ترکیب وظایف ، درک زبان طبیعی ، یادگیری چند وظیفه ای ، یادگیری ماشین بیزی