Kısmi F Testi

Ki-kare (χ²) F testi, iki ya da daha fazla değişken arasındaki ilişkinin istatistiksel olarak anlamlı olup olmadığını incelemek için kullanılır.

  • İstatistik
Kısmi F Testi

x1,…,xk bağımsız değişkenleri arasında doğrusal ilişki olup olmadığını araştırmak için kullanılan testir. Uygun hipotezler aşağıdaki gibidir:

H0:β1=β2==βk=0H1:En az biri sıfırdan farklıdır.\begin{gathered} H_0: \beta_1 = \beta_2 = \cdots = \beta_k = 0 \\[4pt] H_1: \text{En az biri sıfırdan farklıdır.} \end{gathered}

H0 hiptezinin reddedilmesi için x1,…,xk bağımsız değişkenlerinden en az birinin modele anlamlı katkı sağlaması gerekmektedir. Bu test basit doğrusal regresyonun genelleştirilmesidir.

SYY=SSReg+SSRes\Syy = \SSreg + \SSres

H0 hipotezi doğru iken;

SSRegσ2χk2SSResσ2χnk12\begin{gathered} \frac{\SSreg}{\sigma^2} \sim \chi^2_{k} \\[8pt] \frac{\SSres}{\sigma^2} \sim \chi^2_{n-k-1} \end{gathered}

olacak şekilde dağılır. Ve F istatistiğinin tanımından;

Fh=SSReg/kSSRes/(nk1)=MSRegMSResF_h = \frac{\SSreg / k}{\SSres / (n-k-1)} = \frac{\MSreg}{\MSres}

oranının Fk,n-k-1 dağıldığı görülür. H0 hipotezini test etmek için Fh test değeri hesaplanır ve Fh> Fk,n-k-1 geçerli ise H0 reddedilir.

Kısmi F Testi – görsel 6

Karar Verme

  • R² Change: Eklenen değişkenlerin modeli ne kadar geliştirdiğini gösterir.
  • F Change: Kısmi F testidir.
  • Sig. F Change: Anlamlılık düzeyidir. <0.05 ise anlamlıdır → yeni değişkenler katkı sağlamıştır.

F değeri için karar vermek istersek, F tablosu ile karar değeri belirleniz

Kısmi F Testi – görsel 7
  • v₁ (pay serbestlik derecesi): Genellikle eklenen değişken(ler) sayısı
  • v₂ (payda serbestlik derecesi): Gözlem sayısı − toplam bağımsız değişken sayısı − 1

Hesaplanan F değeri:

  • Tablodaki değerden büyükse → H₀ reddedilir (eklenen değişkenler anlamlı katkı sağlar)
  • Küçükse → H₀ kabul edilir (eklenen değişkenler anlamlı değil)

This test is used to investigate whether there is a linear relationship involving the independent variables x1,…,xk. The appropriate hypotheses are as follows:

H0:β1=β2==βk=0H1:At least one of them is non-zero.\begin{gathered} H_0: \beta_1 = \beta_2 = \cdots = \beta_k = 0 \\[4pt] H_1: \text{At least one of them is non-zero.} \end{gathered}

For H0 to be rejected, at least one of the independent variables x1,…,xk must make a significant contribution to the model. This test is a generalization of simple linear regression.

SYY=SSReg+SSRes\Syy = \SSreg + \SSres

When H0 is true,

SSRegσ2χk2SSResσ2χnk12\begin{gathered} \frac{\SSreg}{\sigma^2} \sim \chi^2_{k} \\[8pt] \frac{\SSres}{\sigma^2} \sim \chi^2_{n-k-1} \end{gathered}

are distributed as shown. And from the definition of the F statistic,

Fh=SSReg/kSSRes/(nk1)=MSRegMSResF_h = \frac{\SSreg / k}{\SSres / (n-k-1)} = \frac{\MSreg}{\MSres}

the ratio is seen to follow Fk,n-k-1. To test H0, the test value Fh is calculated, and H0 is rejected if Fh> Fk,n-k-1.

Partial F-Test – image 6

Making a Decision

  • R² Change: Shows how much the added variables improve the model.
  • F Change: The partial F-test itself.
  • Sig. F Change: The significance level. If <0.05, it is significant → the new variables contribute to the model.

To make a decision based on the F value, determine the critical value from the F table

Partial F-Test – image 7
  • v₁ (numerator degrees of freedom): Usually the number of added variable(s)
  • v₂ (denominator degrees of freedom): Number of observations − total number of independent variables − 1

Calculated F value:

  • If it is greater than the table value → H₀ is rejected (the added variables make a significant contribution)
  • If it is smaller → H₀ is not rejected (the added variables are not significant)