مقایسه عملکرد روش های جنگل تصادفی و XGBoost نسبت به روش درخت تصمیم

الگوریتم درخت تصمیم یکی از الگوریتم های مهم در یادگیری ماشین برای اهداف طبقه بندی و رگرسیون می باشد. این الگوریتم در عین سادگی دارای ضعف هایی می باشد که در کاربردهای عملی استفاده مستقیم از آن خیلی مناسب نمی باشد. بنابراین در سال های اخیر با استفاده از شیوه های مختلف به بهبود عملکرد این روش پرداخته شده است. در این مطالعه با استفاده از ۳روش درخت تصمیم، جنگل تصادفی و XGBoost به پیش بینی خرید خودرو با استفاده از مجموعه داده ارزیابی خودرو که از مخزن داده خودروهای اهدایی مارکوبوهانک در دانشگاه کالیفرنیا بدست آمده است، پرداخته می شود. برای حل مسئله موردنظر، با بهینه کردن یک هایپرپارامتر مشترک بین تمامی روش ها و آموزش مدل ها بر اساس آن، عملکرد روش ها با یکدیگر مقایسه می گردد. با توجه به نتایج بدست آمده، الگوریتم جنگل تصادفی و XGBoost با وجود این که زمان آموزش بیشتری نسبت به الگوریتم درخت تصمیم دارند، دقت های بسیار خوب و پیش بینی های قابل اعتمادتری را از حل مسئله ارائه می دهند.

کلیدواژه ها:

پیش بینی خرید خودرو ، درخت تصمیم ، جنگل تصادفی ، XGBoost