ماشین یادگیر مفرط مقاوم و تنک

ماشین یادگیر مفرط به عنوان روشی نوین در یادگیری ماشین، در سال های اخیر به طور فزایندهای مورد استفادهقرار گرفته است. علیرغم جذابیت ماشین یادگیر مفرط، این روش دو عیب عمده دارد: ضعف شدید در برابرنویز غیرگوسی، مخصوصا نویز ضربه، و وجود گرههای تصادفی (گره های با پارامترهای ورودی با مقادیرتصادفی) غیر کارا. این دو عیب ماشین یادگیر مفرط باعث کاهش کارایی این روش در برخی کاربردها شدهاست. دو نسخه مهم ماشین یادگیر مفرط که در صدد رفع عیوب ماشین یادگیر مفرط اولیه برآمدهاند عبارتند ازماشین یادگیر مفرط مبتنی بر کورآنتروپی و ماشین یادگیر مفرط برنامه ریزی خطی. ماشین یادگیر مفرط مبتنی برکورآنتروپی در برابر نویز ضربه مقاوم است ولی در این روش مشکل وجود گره های تصادفی غیر کارا همچنانوجود دارد. ماشین یادگیر مفرط برنامهریزی خطی با ارایه ی مسیله بهینه سازی جدید، گره های غیرکارا را هرسکرده ولی همچنان در مقابل نویز ضربه ضعیف می باشد. در این مقاله نسخه ی جدید از ماشین یادگیر مفرط ارایهمی شود که همزمان هر دوعیب عمده ی ماشین یادگیر مفرط اولیه را رفع می کند. یعنی، روش پیشنهادی همزمانهم نودهای غیرکارا را هرس کرده و هم در برابر نویز ضربه مقاوم خواهد بود. بنابراین مشکل ماشین یادگیر مفرطاولیه و ماشین یادگیر مفرط مبتنی بر کورآنتروپی، یعنی وجود گره های تصادفی غیرکارا را نخواهد داشت.همچنین، روش پیشنهادی مشکل روش ماشین یادگیر مفرط اولیه و ماشین یادگیر مفرط برنامه ریزی خطی، یعنیضعف در برابر نویز ضربه را نخواهد داشت. به عبارتی دیگر، روش پیشنهادی هم مزیت ماشین یادگیر مفرطبرنامه ریزی خطی، یعنی هرس گره های غیر کارا، و هم مزیت ماشین یادگیر مفرط مبتنی بر کورآنتروپی، یعنیمقاوم بودن در برابر نویز ضربه را خواهد داشت. برای رسیدن به این سطح بالای کارایی، روش پیشنهادی از نسخهتغییر یافته و بهروز کورآنتروپی که در سالهای اخیر برای بدست آوردن پارامترهای ورودی شبکه عصبی بامعماری افزایشی ارایه شده است، استفاده می کند. با توجه به مزایای ذکر شده برای روش پیشنهای، این روش،ماشین یادگیر مفرط مقاوم و تنک نامیده می شود. آزمایشات روی مجموعه داده های مختلف کارایی مناسب روشپیشنهادی در برابر روش ماشین یادگیر مفرط، ماشین یادگیر مفرط برنامه ریزی خطی و ماشین یادگیر مفرط مبتنیبر کورآنتروپی را نشان می دهد.

کلیدواژه ها:

ماشین یادگیر مفرط ، شبکه عصبی پیشخور ، رگرسیون ، نویز ضربه ، گره تصادفی ، تنک سازی ، برنامه ریزی خطی