انتخاب مدل بر اساس مدل های آمیخته متناهی
چکیده
هدف از انتخاب مدل، تقریب مدل درست و مجهول مشاهدات، یعنی چگالی مولد داده ها از طریق مدل های پیشنهادی است. به طور کلی مسئله انتخاب مدل پیدا کردن توزیع درست مشاهدات است، اما در دنیای واقعی مشاهدات و رخدادها تحت تاثیر متغیرهای زیادی هستند که بعضی از آن ها قابل شناسایی نیستند. پس پیدا کردن مدلی که به طور کاملا دقیق توزیع مشاهدات را نشان دهد کاری مشکل و تقریبا غیر ممکن است. لذا سعی می شود در بین مدل های پیشنهاد شده برای چگالی مولد مشاهدات، مدل بهینه یعنی مدلی که کمترین واگرایی را تا مدل درست مشاهدات داشته باشد انتخاب شود. یکی از معیارهای انتخاب مدل بهینه در بین مدل های رقیب توسط سالمون کولبک و ریچارد لیب لر (1951) تحت عنوان ریسک (معیار اطلاع ) کولبک – لیب لر، kl، پیشنهاد شده است. در این پایان نامه سعی شده است با توجه به میزان واگرایی مدل های رقیب تا مدل درست مشاهدات، ترکیب محدبی از مدل های رقیب در نظر گرفته شده و ریسک kl این ترکیب محدب تا مدل درست مشاهدات برآورد شود. با برآورد این ریسک، مجموعه ای مجاز شامل مدل های که ریسک kl آن ها کمتر از ریسک kl ترکیب محدب است تعریف شده است. لذا یک مجموعه جدید از مدل های رقیب که تعداد آن ها به مراتب کمتر از مجموعه مدل های پیشنهادی اولیه است به دست می آید. لذا با اطمینان بیشتری می توان مدل بهینه را در بین مجموعه مدل های رقیب جدید انتخاب کرد