تحلیل رگرسیون

هم خطی در رگرسیون (multicolinearity)

هم خطی وضعیتی است که نشان می‌دهد یک متغیر مستقل تابعی خطی از سایر متغیرهای مستقل است. اگر هم خطی در  یک معادله رگرسیون بالا باشد، بدین معنی است که بین متغیرهای مستقل همبستگی بالایی وجود دارد و ممکن است با وجود بالا بود R² ، مدل دارای اعتبار بالایی نباشد. به عبارت دیگر با وجود آن که مدل خوب به نظر می‌رسد ولی دارای متغیرهای مستقل معنی داری نمی‌باشد.

توان رابطه خطی بین متغیرهای مستقل مربوط به مدل با شاخصی اندازه گیری می شود که تلرانس نامیده می شود. برای هر متغیر مستقل ترانس نسبتی از پراکندگی نسبی از پراکندگی آن متغیر است که توسط روابط خطی آن متغیر با سایر متغیرهای مستقل موجود در مدل توجیه نمی شود. با توجه به اینکه تلرانس یک نسبت است، مقدار آن بین صفر و یک تغییر می کند. مقدار نزدیک به یک به این معنی است که در یک متغیر مستقل بخش کوچکی از پراکندگی آن توسط سایر متغیرهای مستقل توجیه می شود. مقدار نزدیک به صفر به این معنی است که یک متغیر تقریبا ترکیب خطی از سایر متغیرهای مستقل است و داده ها دارای رابطه خطی مشترک چندگانه هستند.