1 STATYSTYKA – kurs podstawowy wykład 11dr Dorota Węziak-Białowolska Instytut Statystyki i Demografii

2 KLASYCZNY MODEL REGRESJI LINIOWEJEmpiryczna krzywa regresji wyznaczana na podstawie dwuwymiarowego rozkładu empirycznego (z próby) jest przybliżeniem nieznanej krzywej regresji I rodzaju Krzywa regresji I rodzaju – funkcja przypisująca wartościom zmiennej losowej niezależnej X średnie warunkowe zmiennej losowej zależnej Y Regresja II rodzaju – przybliżenie za pomocą funkcji matematycznej związku występującego między cechami statystycznymi

3 KLASYCZNY MODEL REGRESJI LINIOWEJ[0,051] [1,83] [1,533]

4 Dokładność dopasowania

5 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHWariant I Wariant II W obu wariantach mamy te same całkowite zakresy zmienności cechy Y Ale reszty są dużo większe w wariancie I  SI(e) > SII(e)

6 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHWariant I Wariant II Porównywanie odchyleń standardowych reszt SI(e) oraz SII(e) jest uprawnione tylko wtedy, gdy zakres zmienności cechy Y jest w obu przypadkach taki sam Zwykle tak się nie zdarza i co robić w takich przypadkach?

7 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHPodział całkowitego odchylenia yi od średniej na dwa składniki Odchylenie nie wyjaśnione regresją (reszta ei = ) Odchylenie całkowite Odchylenie wyjaśnione regresją

8 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHAnalogiczna równość zachodzi także dla sum kwadratów odpowiednich odchyleń Część całkowitego odchylenia yi od średniej , która została wyjaśniona regresją Y względem X; Całkowite odchylenie yi od średniej Część całkowitego odchylenia yi od średniej , która nie została wyjaśniona regresją Y względem X; jest to zatem reszta ei

9 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHCałkowita suma kwadratów odchyleń zaobserwowanych wartości zmiennej Y od ich średniej = całkowite zróżnicowanie wartości zmiennej Y Suma kwadratów odchyleń wyjaśnionych regresją Y względem X; Suma kwadratów odchyleń nie wyjaśnionych regresją Y względem X

10 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHMiarą dokładności dopasowania prostej regresji do danych empirycznych jest WSPÓŁCZYNNIK DETERMINACJI R2 Suma kwadratów odchyleń wyjaśnionych regresją Y względem X Suma kwadratów odchyleń nie wyjaśnionych regresją Y względem X <0; 1> Informuje, jaka część obserwowanej w próbie zmienności cechy Y została wyjaśniona regresją liniową Y względem X Całkowita suma kwadratów odchyleń zaobserwowanych wartości zmiennej Y od ich średniej

11 WSPÓŁCZYNNIK DETERMINACJI<0; 1> WSPÓŁCZYNNIK DETERMINACJI 1 – doskonałe dopasowanie: jeśli między zmiennymi zachodzi funkcyjna zależność liniowa i wszystkie punkty empiryczne leżą na prostej regresji = wszystkie reszty są równe 0 0 – znajomość zróżnicowania wartości cechy niezależnej X nie dostarcza żadnych informacji o wartościach cechy zależnej Y

12 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHWspółczynnik indeterminacji Suma kwadratów odchyleń nie wyjaśnionych regresją Y względem X Całkowita suma kwadratów odchyleń zaobserwowanych wartości zmiennej Y od ich średniej

13 DOKŁADNOŚĆ DOPASOWANIA PROSTEJ REGRESJI DO DANYCH EMPIRYCZNYCHPierwiastek kwadratowy ze współczynnika determinacji R2 opatrzony znakiem + lub - jest równy współczynnikowi korelacji liniowej Pearsona r Znak pierwiastka powinien być zgodny ze znakiem obliczonego współczynnika regresji

14 Liczba odwiedzającychPRZYKŁAD Dane na temat liczby odwiedzających punkt sprzedaży oraz realizowanych w tym punkcie dziennych obrotów zestawiono w tabeli. Wyznaczyliśmy już równanie regresji wielkości dziennych obrotów względem liczby odwiedzających oraz zinterpretowaliśmy parametry (strukturalne i stochastyczne) równania regresji. Teraz należy ocenić dokładność dopasowania równania do danych empirycznych Liczba odwiedzających Wielkość obrotów (tys. zł) 20 2,5 25 3,1 32 4,5 21 5,3 35 6,4 36 7,8 42 8,9 39 9,5 38 10,3 41 11,5 51 12,1 Liczba odwiedzających – X (zmienna niezależna) Wielkość obrotów – Y (zmienna zależna) [0,051] [1,83] [1,533]

15 PRZYKŁAD n = 11 xi yi 20 2,5 25 3,1 32 4,5 21 5,3 35 6,4 36 7,8 42 8,9 39 9,5 38 10,3 41 11,5 51 12,1 24,46 18,88 8,68 4,60 1,09 0,13 2,12 4,22 8,15 16,44 21,66 2,851 4,430 6,641 3,167 7,589 7,905 9,800 8,853 8,537 9,484 12,643 -0,351 -1,330 -2,141 2,133 -1,189 -0,105 -0,900 0,647 1,763 2,016 -0,543 0,123 1,770 4,586 4,551 1,414 0,011 0,810 0,419 3,109 4,063 0,295

16 PRZYKŁAD Około 80,85% obserwowanego w próbie zróżnicowania wielkości obrotów (cecha Y) zostało wyjaśnione regresją liniową wielkości obrotów (cecha Y) względem liczby odwiedzających (cecha X). Pozostałe 19,15% zróżnicowania wielkości obrotów jest wynikiem oddziaływania innych, nie kontrolowanych w trakcie badania czynników. R2 = 80,85% [0,051] [1,83] [1,533]

17 PREDYKCJA

18 PREDYKCJA NA PODSTAWIE MODELU REGRESJI LINIOWEJCelem analizy regresji jest predykcja, czyli przewidywanie, jaką wartość przyjmie zmienna zależna przy ustalonych wartościach zmiennej uznanej za niezależną Predykcja – estymacja pojedynczej realizacji zmiennej losowej Y przy ustalonej wartości X = x Najlepszym nieobciążonym estymatorem pojedynczej realizacji zmiennej losowej Y jest: Do predykcji można przystąpić dopiero wtedy, gdy oszacowany model regresji liniowej posiada dobre własności m.in. istotne parametry i odpowiednio wysokie R2

19 PREDYKCJA NA PODSTAWIE MODELU REGRESJI LINIOWEJDla każdej predykcji oblicza się standardowy błąd predykcji Standardowy błąd predykcji pozwala ocenić wielkość błędów losowych, jakie popełnialibyśmy szacując zgodnie z wyrażeniem na podstawie powtarzanych prób

20 PREDYKCJA NA PODSTAWIE MODELU REGRESJI LINIOWEJZamiast określenia „predykcja” stosuje się również określenie „prognoza” W klasycznym podejściu określenie „prognoza” odnosi się do przewidywania, jaką wartość przyjmie zmienna zależna przy ustalonych wartościach zmiennej uznanej za niezależną, wtedy gdy w modelu regresji uwzględnia się element czasu Przykładowo zmienna niezależna może mierzyć upływ czasu

21 PRZYKŁAD Wykorzystując zbudowany model regresji R2 = 80,85%dokonaj predykcji wielkości obrotów dla liczby zwiedzających równej 55. Określ wielkość standardowego błędu tej predykcji. Predykcja: xp = 55 R2 = 80,85% [0,051] [1,83] [1,533] xi yi 20 2,5 25 3,1 32 4,5 21 5,3 35 6,4 36 7,8 42 8,9 39 9,5 38 10,3 41 11,5 51 12,1 Punktowa ocena przewidywanej wielkości obrotów przy liczbie odwiedzających równej 55 wynosi 13,91 tys. zł

22 PRZYKŁAD Standardowy błąd predykcji: n = 11[0,051] [1,83] [1,533] n = 11 xi yi 20 2,5 25 3,1 32 4,5 21 5,3 35 6,4 36 7,8 42 8,9 39 9,5 38 10,3 41 11,5 51 12,1 Przyjmując, że punktowa ocena przewidywanej wielkości obrotów przy liczbie odwiedzających równej 55 wynosi 13,91 tys. zł, musimy liczyć się z tym, że przeciętnie mylimy się o 1,91 tys. zł

23 EGZAMIN Egzamin ze statystyki odbędzie się 14 czerwca 2011 o godzinie 12:30 Egzamin trwa 120 minut