Ramin Khavarzadeh · 05 Sep 2023 · 5 min read

روش حداکثر درست نمایی

Table of contents

اگر از یک جامعه تعدادی نمونه تصادفی در نظر گرفته شود، مقدار حاصلضرب تابع چگالی احتمال به ازای مقادیر متغیر ${x_1},{x_2},...,{x_N}$ ، تابع درستنمایی توزیع مربوطه نامیده می شود.

$L = \pi \limits_{i = 1}^N f({x_i},\alpha )$

$\alpha$ : پارامترهای مجهول، L: تابع درستنمایی و : $f({x_i},\alpha )$ تابع فراوانی.

اصل درست نمایی بیان می کند (با فرض اینکه مدل مورد نظر درست باشد) همۀ اطلاعاتی را که داده ها دربارۀ پارامترها در برمی گیرند در تابع درستنمایی نهفته است.

روش حداکثر تابع درستنمایی بر این اصل استوار است که پارامترهای توزیع چنان برآورده شوند که به ازای آمار داده شده تابع درستنمایی حداکثر باشد. از آنجایی که تابع درستنمایی بیشتر به صورت توان می باشد و از طرف دیگر حداکثر کردن لگاریتم یک تابع با حداکثر کردن خود تابع هم ارز است لذا برای سهولت محاسبات، حداکثر درست نمایی بر روی لگاریتم تابع انجام می گیرد.

در این روش از تابع فراوانی خطاها که از توزیع نرمال با میانگین صفر و واریانس $\sigma _\varepsilon ^2$ پیروی می کنند، استفاده شده است. تابع چگالی احتمال خطاها به صورت رابطه زیر می باشد.

$f({\varepsilon _t}) = \frac{1}{{\sqrt {2\pi \sigma _\varepsilon ^2} }}{e^{\frac{{ - {{({\varepsilon _t} - \bar \varepsilon )}^2}}}{{2\sigma _\varepsilon ^2}}}}$

$= \frac{1}{{\sqrt {2\pi \sigma _\varepsilon ^2} }}{e^{\frac{{ - {\varepsilon _t}^2}}{{2\sigma _\varepsilon ^2}}}}$

بعد از اعمال تابع درستنمایی و سپس لگاریتم گیری از آن رابطه زیر حاصل می شود.

$LL = - N\ln (\sqrt {2\pi } {\sigma _\varepsilon }) - \frac{1}{{2{\sigma _\varepsilon }^2}}\sum\limits_{t = 1}^N {{\varepsilon _t}^2}$

یکی از گزینه های ماکزیمم نمودن لگاریتم تابع درستنمایی، کاهش مقدار $- \frac{1}{{2{\sigma _\varepsilon }^2}}\sum\limits_{t = 1}^N {{\varepsilon _t}^2}$ می باشد، به عبارتی دیگر حداقل کردن مقدار $\sum\limits_{t = 1}^N {{\varepsilon _t}^2}$ ، که منجر به روش کمترین مربعات می شود.

comments

No comments yet — be the first.

comments

Post comment