Özgür Nurettin Öztürk DATA & INSIGHTS
Benimle İletişime Geç

Belirleme Katsayısı

Belirleme katsayısı (R²), bir regresyon modelinde bağımsız değişkenlerin, bağımlı değişkendeki toplam değişimin ne kadarını açıkladığını gösteren ölçüdür.

Özgür Nurettin Öztürk 1 dk
  • İstatistik
Belirleme Katsayısı

TKT:Toplam kareler Toplamı(Total Sum Of Square/SYY)

RKT:Regresyon Kareler Toplamı(Regression Sum Of Squares/SSReg)

AKT:Artıklar Kareler Toplamı(Residuals Sum Of Squares/SSRes)

Bu sonuçlara göre k tane bağımsız değişkenin doğrusal regresyon modelinde belirleme katsayısı bağımlı değişkenin % kaçını açıkladığını belirtir. Belirleme katsayısı iki bağımsız değişkenli doğrusal regresyon model için;

RY.X1X22=RKTTKT=SSRegSYY=∑i=1n(Y^i−Yˉ)2∑i=1n(Yi−Yˉ)2,0≤RYX2≤1R^2_{Y.X_1X_2} = \frac{RKT}{TKT} = \frac{\SSreg}{\Syy} = \frac{\Sn(\hat{Y}_i-\bar{Y})^2}{\Sn(Y_i-\bar{Y})^2}, \qquad 0 \le R^2_{YX} \le 1

ile hesaplanır. Belirleme katsayısının yukarıdaki eşitlik ile hesaplanması fazla zaman alır. Çünkü 𝑌̂ 𝑖 değerlerinin tek tek hesaplaması gerekir. Matris işlemleri ile 𝑌̂ 𝑖 değerinin hesaplanmasına gerek yoktur.

SYY=∑i=1n(Yi−Yˉ)2=Y‾′Y‾−nYˉ2SSReg=∑i=1n(Y^i−Yˉ)2=b‾′X′Y‾−nYˉ2SSRes=∑i=1n(Yi−Y^i)2=Y‾′Y‾−b‾′X′Y‾\begin{aligned} \Syy &= \Sn(Y_i-\bar{Y})^2 = \underline{Y}'\underline{Y} - n\bar{Y}^2 \\ \SSreg &= \Sn(\hat{Y}_i-\bar{Y})^2 = \underline{b}'X'\underline{Y} - n\bar{Y}^2 \\ \SSres &= \Sn(Y_i-\hat{Y}_i)^2 = \underline{Y}'\underline{Y} - \underline{b}'X'\underline{Y} \end{aligned}

Bu durumda belirleme katsayısı;

RY.X1X22=b‾′X′Y‾−nYˉ2Y‾′Y‾−nYˉ2R^2_{Y.X_1X_2} = \frac{\underline{b}'X'\underline{Y} - n\bar{Y}^2}{\underline{Y}'\underline{Y} - n\bar{Y}^2}

eşitliği şeklinde olur.

R² Değerinin Yorumlanması

R² DeğeriAçıklama
0Model bağımlı değişkeni hiç açıklamıyor.
0.3Model verinin %30’unu açıklıyor (zayıf açıklayıcılık).
0.7Model verinin %70’ini açıklıyor (iyi açıklayıcılık).
1Model verinin tamamını açıklıyor (mükemmel uyum – genelde overfitting riski vardır).

TKT: Total Sum of Squares (SYY)

RKT: Regression Sum of Squares (SSReg)

AKT: Residual Sum of Squares (SSRes)

Based on these results, the coefficient of determination of a linear regression model with k independent variables shows what percentage of the dependent variable the model explains. For a linear regression model with two independent variables, the coefficient of determination is

RY.X1X22=RKTTKT=SSRegSYY=∑i=1n(Y^i−Yˉ)2∑i=1n(Yi−Yˉ)2,0≤RYX2≤1R^2_{Y.X_1X_2} = \frac{RKT}{TKT} = \frac{\SSreg}{\Syy} = \frac{\Sn(\hat{Y}_i-\bar{Y})^2}{\Sn(Y_i-\bar{Y})^2}, \qquad 0 \le R^2_{YX} \le 1

calculated with the formula above. Calculating it this way takes a long time, because the 𝑌̂ 𝑖 values have to be computed one by one. With matrix operations, there is no need to compute the 𝑌̂ 𝑖 values.

SYY=∑i=1n(Yi−Yˉ)2=Y‾′Y‾−nYˉ2SSReg=∑i=1n(Y^i−Yˉ)2=b‾′X′Y‾−nYˉ2SSRes=∑i=1n(Yi−Y^i)2=Y‾′Y‾−b‾′X′Y‾\begin{aligned} \Syy &= \Sn(Y_i-\bar{Y})^2 = \underline{Y}'\underline{Y} - n\bar{Y}^2 \\ \SSreg &= \Sn(\hat{Y}_i-\bar{Y})^2 = \underline{b}'X'\underline{Y} - n\bar{Y}^2 \\ \SSres &= \Sn(Y_i-\hat{Y}_i)^2 = \underline{Y}'\underline{Y} - \underline{b}'X'\underline{Y} \end{aligned}

In this case, the coefficient of determination is

RY.X1X22=b‾′X′Y‾−nYˉ2Y‾′Y‾−nYˉ2R^2_{Y.X_1X_2} = \frac{\underline{b}'X'\underline{Y} - n\bar{Y}^2}{\underline{Y}'\underline{Y} - n\bar{Y}^2}

given by this equation.

Interpreting the R² Value

R² ValueDescription
0The model does not explain the dependent variable at all.
0.3The model explains 30% of the data (weak explanatory power).
0.7The model explains 70% of the data (good explanatory power).
1The model explains all of the data (perfect fit – usually a sign of overfitting risk).

Diğer Yazılar

Tüm Yazıları Gör

Lojistik Regresyon

Normal Dağılım

Çoklu Doğrusal Regresyon Analizi