پرش به محتوای اصلی
رامین خاورزاده فهم امروز، پیش‌بینی فردا با داده و هوش مصنوعی
رامین خاورزاده · · 1 دقیقه مطالعه

روش کمترین مربعات (2)

روش کمترین مربعات (2)

فهرست مطالب

    برآوردگر کمترین میانه مربعات (LMS)

    برآوردگر LMS نیز توسط روسییو (1984) ارائه شده است. ایدۀ این رگرسیون کاملاً شبیه LTS است و در آن میانۀ مربعات مانده ها مینیمم می شود. یا به عبارتی h تا از مربعات مانده های مرتب شده مینیمم می شود. بدین ترتیب در روش های استوار LMS و LTS تاثیر نقاط پرت که دارای مانده های بزرگ اند، نادیده گرفته می شود و معمولاً h را به صورت

    \frac{n}{2} + 1 \le h \le \frac{{3n}}{4} + \frac{{k + 1}}{4}

    در نظر می گیریم که در آن n تعداد مشاهدات،   \beta = ({\beta _1},...,{\beta _k})  بردار پارامترها، k تعداد متغیرهای مستقل و {e_i} = {y_i} - {{x'}_i}\beta  ها (مانده ها) و مقدار h نقطۀ تفکیک را مشخص می کند.

    اگر مربعات مانده های مرتب شده را به صورت  {({e^2})_{1:n}} \le ... \le {({e^2})_{n:n}}  بنویسیم تابع هدفی که باید مینیمم شود (میانۀ مربعات مانده ها) در روش LMS به صورت زیر تعریف می شود:

    {F_{LMS}} = median{({e^2})_{h:n}}

    یا به عبارتی   \min imize{e_{\hat \beta }}mediane_i^2 = median\left\{ {e_1^2,e_2^2,...,e_n^2} \right\}.

    توجه کنید که  h = \frac{n}{2} + 1  ، hامین چندک hامین میانۀ مربعات مانده ها است. روش LMS نقطۀ تفکیک بالایی دارد. معمولاً حداقل 50 درصد از داده ها از دست می رود. بنابراین روشی بسیار غیرکاراست؛ و به این دلیل است که معمولاً LTS بر LMS ترجیح داده می شود.

    نقطه ضعف M – برآوردهای هوبر نسبت به مشاهدات خیلی دور افتاده می باشد، از این رو معمولاً برآوردهای LTS ، LMS بر برآوردهاای هوبر ترجیح داده می شوند.

    برآوردگر نوع R برآوردگرهای نوع R براساس رتبه ها محاسبه می شوند. بنابراین اگر رتبۀ  {e_i} = {y_i} - {{x'}_i}\beta باشد، با مینیمم نمودن عبارت زیر برآوردگر نوع R حاصل می شود. \min imiz{e_\beta }\sum\limits_{i = 1}^n {({y_i} - {{x'}_i}\beta ){R_i}} در حالت کلی تر می توانیم به جای رتبه ها که اعدادی صحیح از 1 تا n هستند، از تابع امتیاز  a(i),i = 1,...,n  استفاده کنیم؛ \min imiz{e_\beta }\sum\limits_{i = 1}^n {({y_i} - {{x'}_i}\beta )a({R_i})} اگر تابع امتیاز را برابر رتبه ها در نظر بگیریم یا به عبارتی a(i) = i، نتایج را امتیازات ویلاکسون می نامیم. نحوۀ دیگر تعریف a(i)، استفاده از امتیازهای میانه است که به صورت زیر تعریف می شود.   a(i) = \{ \begin{array}{ccccccccccccccc} { - 1,i < \frac{{n + 1}}{2}}\\ {1,i > \frac{{n + 1}}{2}} \end{array}   روش کمترین مربعات (2)
    اشتراک‌گذاری:

    نظرات

    هنوز نظری ثبت نشده است؛ اولین نفر باشید.

    ارسال دیدگاه