1 Ekonometryczne modele nielinioweWykład 2 Własności estymatorów i testy

2 1. dodatek do wykładu 1 Słaba zbieżność (convergence in distribution)Ciąg zmiennych losowych - dystrybuanta Istnieje dystrybuanta , taka że w każdym punkcie , w którym jest ciągła. zbiega słabo do :

3 MNK przy warunkach pobocznychRestricted LS

4 Test F (inny zapis) Wykorzystując formułę z poprzedniego wykładu:

5 Metoda największej wiarygodnościMaximum Likelihood: Maksymalizujemy funkcję wiarygodności względem  maksymalizujemy prawdopodobieństwo otrzymania próby takich obserwacji, które właśnie zaobserwowaliśmy Alternatywna interpretacja: funkcja parametrów warunkowa na obserwacjach

6 Estymator MNW Ze względów obliczeniowych stosujemy:który maksymalizuje , także maksymalizuje score Szukamy takiego , który rozwiązuje

7 Rozkład zmiennej losowej yE(e) = 0 Var(e) = 0,4 E(y) = 7 Var(y) = 0,4 Przesunięcie o m=7, czyli y=m+e

8 Rozkład zmiennej losowej yFunkcja gęstości dla e: Funkcja gęstości dla y, kiedy znamy m: (czyli warunkowa funkcja gęstości…)

9 Rozkład zmiennej losowej yOgólniej, kiedy m=xb, czyli y=xb+e : Wartość oczekiwana y : Funkcja gęstości y (warunkowa na m):

10 Funkcja wiarygodnościFunkcja gęstości warunkowa ze względu na parametry = funkcja wiarygodności Gdyby niezależne:

11 Funkcja wiarygodnościZazwyczaj wykorzystujemy: ln L Dla funkcji regresji liniowej:

12 Metoda Największej WiarygodnościDla ustalonych x i b wyznacz realizacje składnika losowego (reszty): Wyznacz ln f(ei):

13 Metoda Największej WiarygodnościWyznacz ln L : Optymalizuj funkcję ln L poprzez „manipulowanie” wartościami parametrów

14 Przykłady zastosowań Model regresji Model autoregresji

15 Przykłady zastosowań Model ARMA warunkowa MNW

16 Przykłady zastosowań Model regresji z efektem GARCH(1,1) estymacja MNW

17 Przykłady zastosowań Model logitowy Model probitowy Estymacja MNW

18 Identyfikacja MNW Wektor parametrów jest identyfikowalny jeżeli dla każdego innego wektora parametrów (dla danych ) funkcja wiarygodności osiąga inne wartości. Oszacowania są identyfikowalne jeśli funkcja wiarygodności dla innych wartości osiąga mniejsze wartości

19 Założenia MNW „regularity conditions”:Pierwsze trzy pochodne po ciągłe i skończone dla „prawie wszystkich” i wszystkich Możliwe jest wyliczenie wartości oczekiwanych z pierwszych dwóch pochodnych Dla wszystkich wartości wyrażenie ma „małą” wartość

20 Własności estymatora MNWZgodność Asymptotyczna normalność Macierz informacji w praktyce trudniej policzyć drugie wyrażenie

21 Własności estymatora MNWTo nie to samo co

22 Własności estymatora MNWAsymptotycznie efektywny estymator: dla jednego parametru Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to wariancja jest większa lub równa . dla wielu parametrów Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to jest macierzą dodatnio półokreśloną.

23 Własności estymatora MNWNiezmienniczość („invariance”): jeśli estymator MNW dla i ciągła funkcja , to jest estymatorem MNW dla Gradient („score”) ma wartość oczekiwaną zero i wariancję

24 Estymacja modelu liniowego

25 Estymacja modelu liniowegoWektor nieznanych parametrów: Po maksymalizacji logarytmu funkcji wiarygodności mamy: obciążony estymator, ale zgodny

26 Estymacja modelu liniowegoMacierz informacji … i jej odwrotność

27 Estymacja modelu liniowegoWartość funkcji wiarygodności dla oszacowanych parametrów:

28 Test ilorazu wiarygodnościLikelihood ratio (LR) test: Iloraz wiarygodności: Statystyka testowa:

29 Test ilorazu wiarygodnościF. wiarygodności modelu z restrykcjami: Estymator identyczny jak dla MNK przy warunkach pobocznych

30 Test ilorazu wiarygodnościFormuła testu LR dla modelu liniowego

31 Test Walda Analogicznie do MNK można wyprowadzić statystykę testu Walda dla MNW:

32 Test mnożnika Lagrange’aLangrange Multiplier (LM) test – score test: Do testowania wystarczy oszacować model z restrykcjami!

33 Test mnożnika Lagrange’aDla modelu liniowego Dla

34 Test mnożnika Lagrange’aPo wyprowadzeniu:

35 Porównanie testów Która statystyka największa? W ≥ LR ≥ LM .

36 Pytania dodatkowe Jaką formę modelu („z restrykcjami” czy „bez restrykcji”) należy oszacować przy stosowaniu testu F, Walda, LM i LR?