استنباط بیزی تغییراتی :روشی برای استنباط آماری پارامترها

روش استنباط بیزی تغییراتی از جمله روش های رایج در یادگیری بیزی است که برای تقریب جواب با استفاده از یک سری فرض های استقلال در توزیع پسین است. نکته مشکل ساز در یادگیری بیزی این است که برای حساب کردن توزیع پسین لازم است انتگرالی روی تمام حالات ممکن متغیرهای پنهان حساب شود که به درست نمایی حاشیه ای معروف است. استنباط تغییراتی سعی در تقریب این انتگرال دشوار دارد تا یادگیری مدل و استنباط با آن را آسان تر کند. به عبارتی دیگر، روش استنباط بیزی تغییراتی اولا تقریبی برای توزیع پسین می دهد. با استفاده از این تقریب و داشتن پارامترهای مدل، می توان استنباط آماری روی داده های دیده نشده انجام داد. ثانیا کرانی پایین برای درست نمایی حاشیه ای یا روی داده های آموزشی می دهد. با استفاده از این کران می توان پارامترهای مدل را یاد گرفت . ایده ی کلی این است که هرچه مقدار درست نمایی برای داده های مورد نظر بیشتر باشد، پارامترها برای مدل و داده ها مناسب تر هستند.می توان گفت روش استنباط تغییراتی، تعمیمی از یادگیری حداکثرسازی امید ریاضی است.

کلیدواژه ها:

روش استنباط بیزی تغییراتی ، الگوریتم ، EM شبکه های بیزی ، یادگیری بیزی ، یاد گیری پارامتری ، تئوری بیز