بهبود الگوریتم درخت تصمیم ID3 به کمک الگوریتم Hoeffding

درخت ID3 ساده ترین نوع درخت تصمیم گیری از انواع درختان قطعی می باشد که به دلیل کارایی، سادگی درک و استفاده در کاربردهای داده کاوی و یادگیری ماشین به صورت مکرر مورد استفاده قرار گرفته است. این روش با استفاده از یکی از قواعد اساسی در نظریه اطلاعات عمل می کند مطابق این روش در هر زمان ویژگی از اطلاعات برای تعیین دسته مورد استفاده قرار می گیرد که بیشترین بار اطلاعاتی را داشته و یا به عبارت بهتر موجب کاهش بی نظمی یا آنتروپی گردد. مطابق این الگوریتم زمانی که چند صفت شرایط یکسان و یا بسیار نزدیک به هم داشته باشند این الگوریتم هیچگونه پیش بینی برای انتخاب آن ها ندارد و اولین صفتی که بالاترین بار اطلاعاتی را داشته باشد انتخاب و دسته بندی را بر اساس آن انجام می دهد. در تحقیق انجام گرفته این پایان نامه با استفاده از الگوریتم Hoeffding، که نحوه انتخاب صفت در زمانی که صفات دارای شرایط یکسان یا نزدیک به هم را تا حدودی قاعده مند می کند، درخت تصمیم ID3 را بهبود بخشیده ایم، با انجام آزمون های اجرائی نشان داده ایم که با استفاده از الگوریتم Hoeffding، تشخیص صفات مربوطه، در مقایسه با الگوریتم اصلی درخت ID3 بهبود یافته و در نتیجه درخت ID3 به صورت کاراتری عمل نموده است.

کلیدواژه ها:

الگوریتم ID3 ، الگوریتم Hoeffding ، آنتروپی