Statystyka, prognozowanie, ekonometria, data mining

sylwia · Szeregowy sylwia Posty: 1 Skąd: Łódź

mam drobne pytanko, czy w regresji wielokrotnej krokowej wszystkie zmienne muszą mieć rozkład normalny?

Google

cogito · Wysłany: 2008-06-22, 13:42

w modelu regresji zaklada sie rozkald dla zmiennej objasnianej Y
to Y powinien miec rozklad normalny (pod warunkiem X)

w praktyce, odstajace obserwacje w zmiennych X moga wplywac na jakosc estymacji wspolczynnikow modelu regresji

biometricus · Szeregowy Posty: 17 Skąd: Warszawa

Pearson · Wysłany: 2008-09-15, 13:23

A ja powiem, że nie muszą mieć.

biometricus · Szeregowy Posty: 17 Skąd: Warszawa

Pearson · Wysłany: 2008-09-15, 23:18

cogito · Wysłany: 2008-09-16, 00:34

biomet:

Cytat:

Wystarczy powiedzieć, że zmiennej X powinny być deterministyczne i niezależne,

Niezaleznosc standardowo definiuje sie dla zmiennych losowych,

pearson:

Cytat:

Chodzi o f(y|x). Uważam, że normalności nie jest konieczna

zgadzam sie w zupelnosci,
jest wiele modeli regresji w ktorych zaklada sie inny rozklad na f(y|x)

w standardowej regresji liniowej zaklada sie normalnosc f(y|x) i przy tym zalozeniu konstruuje sie testy, przedzialy ufnosci itp

biometricus · Szeregowy Posty: 17 Skąd: Warszawa

cogito:

Cytat:

Niezaleznosc standardowo definiuje sie dla zmiennych losowych,

Źle się wyraziłem. Zmienne te powinny być ortogonalne. To klasyczne założenie regresji.

Pearson · Wysłany: 2008-09-17, 09:38

cogito · Wysłany: 2008-09-17, 11:27

Cytat:

Zakłada się, ale nie jest ona konieczna. Czego nie możesz zrobić, jeśli zapomnisz o tym założeniu?

Jezeli nie znasz rozkladu y|x a zalozysz ze jest normlany (czyli stosujesz zwykla regresje)
to np.:
- rozklad wspolczynnikow beta sie zmieni
- nie wyznaczysz poprawnie przedzialow ufnosci dla wspolczynnikow beta
- nie kontrolujesz bledu pierwszego rodzaju testujac istotnosci wspolczynnikow beta
- nie wyznaczysz poprawnie przedzialow ufnosci dla predykcji.
- nie powinienes wykorzystywac wsp R2

Cytat:

Potrzeba, aby zm. były słabo skorelowane między sobą.

Korelacja to wspolczynnik, ktory wyznacza sie dla zmiennych losowych.

biomet może pozwolić sobie na ortogonalnosc, bo w biometrii czesto ma sie do czynienia z ukladami doswiadczalnymi i tam X'y sa takie jak chcemy

Slaba strona stwierdzenia ,,słabo skorelowane'' jest fakt ze nie wiadomo gdzie jest ta granica i jedyne co pozostaje to przymkniecie oka na potencjalne konsekwencje.
;-)

Pearson · Wysłany: 2008-09-17, 22:54

cogito · Wysłany: 2008-09-18, 00:20

Cytat:

Chodzi o to, że ja nic nie zakładam. Przedziały, istotność współczynników mogę wyznaczyć korzystając z testów bootstrapowych.

Uzywanie testow bootstrapowych z pewnoscia pozwala na radzenie sobie z wieloma przypadkami, ale to nie jest juz zwyka regresja liniowa i standardowe metody

Poza tym dla wrednych rozkladow bootstrap tez nie pomoze a rozwiazanie w postaci kosmicznie szerokich przedzialow ufnosci czy bardzo konserwatywnego testu to zadne rozwiazanie.

Cytat:

Są odpowiednie podejścia pozwalające rozstrzygnąć, czy korelacja między zmiennymi może być niebezpieczna.

Jakie metody?
Chetnie bym o nich cos solidnego przeczytal, bede wiec zobowiazany za odnosniki do ciekawych pozycji.

Bazowanie na VIF traktuje raczej jako opium dla ludu.

Pearson · Wysłany: 2008-09-19, 15:48