Problem pominiętych zmiennych

Problem pominiętych zmiennych (ang. omitted-variable bias, OVB) – w estymacji statystycznej we wnioskowaniu przyczynowym, błąd oszacowania (np. pozorna korelacja) wynikający z nieuwzględnienia części czynników przyczynowych wśród zmiennych objaśniających w modelu zjawiska. Rezultatem błędu jest mylne przypisanie wpływu brakujących zmiennych do elementów uwzględnionych, i vice versa.

W języku technicznym problem pominiętych zmiennych to błąd estymacji parametrów np. w analizie regresji, pojawiający się, gdy założona została niewłaściwa specyfikacja modelu, pomijająca zmienne objaśniające, które są przyczynami zarówno zmiennej objaśnianej, jak i co najmniej jednej uwzględnionej zmiennej objaśniającej.

Przykładowo, jeśli interesuje nas efekt spożycia wina na zdrowie, a spożycie to jest w rzeczywistości skorelowane z ogólnie zdrowszą dietą, czego nie uwzględnimy w analizie, uzyskamy przeszacowanie związku (lub całkowicie pozorną korelację) konsumpcji wina ze zdrowiem^[1].

Zagadnienie wzajemnego powiązania zmiennych obecnych i nieobecnych w modelu nazywa się ogólnie endogenicznością. Model statystyczny wolny od pominięć zmiennych zakłócających nazywa się egzogenicznym; taki stan jest z reguły założeniem poprawnego działania metod statystycznych, na przykład regresji liniowej.

Fakt, że pominięcie zmiennych objaśniających prowadzi do błędu, nie oznacza, że badacze powinni dodawać do podstawowych wyrazów modelu statystycznego każdy dostępny wskaźnik. W szczególności, uwzględnienie wśród zmiennych objaśniających następstwa objaśnianego zjawiska również wprowadza do oszacowań błąd. Jest to ważnym problemem z jakim boryka się naukowe wnioskowanie przyczynowe.

Role zmiennych w specyfikacji modelu

Teoretyczny model odzwierciedlający rzeczywiste relacje przyczynowe wszystkich czynników wpływających na badane zjawisko, przełożony na model statystyczny, pozwala trafnie oszacowywać wielkość efektu poszczególnych zmiennych. W takiej sytuacji problemem pozostaje jedynie odwrotnie proporcjonalny do wielkości próby błąd przypadkowy. Jest to idealizacja i stan docelowy; praca badawcza polega na poszukiwaniu i dążeniu do takiego modelu^[2].

Zmienne dostępne w praktyce do pomiaru i analizy mogą mieć różnorodne wzajemne relacje przyczynowo-skutkowe. Każdy ich rodzaj wymaga innego, właściwego umieszczenia w modelach statystycznych. Wśród metateorii opisujących zależności przyczynowe podejście oparte o skierowane grafy typu DAG pozwala rozróżnić podstawowe przypadki^[3][4]:

• Relacje przyczynowo-skutkowe (przyczyna ${\displaystyle A}$ i skutek ${\displaystyle B}$): ${\displaystyle A\to B.}$ Zmienne objaśniające i objaśniane wybrane przez badaczy do modelu pełnią zwykle tę rolę.

• Czynniki zapośredniczające część lub całość przyczynowości ${\displaystyle (M),}$ takie jak mediatory: ${\displaystyle A\to M\to B.}$ Mediator dodany do modelu regresji przejmie właściwą sobie część siły efektu. Nie zawsze jest to pożądane, zawsze zaś wymaga rozpoznania i specyficznej interpretacji: mediatorem nie nazywamy bowiem zmiennej, która jest prawdziwą pierwotną przyczyną zjawiska, choć jest z nią wysoce współliniowa; wynik regresji może jednak sugerować, że to z nim ma ono silniejszą bezpośrednią zależność^[5]. Skrajnym przypadkiem są tu redundantne wskaźniki tej samej zmiennej – w ich przypadku oszacowane w zwykłej regresji parametry będą nonsensowne^[6]. Na przykład badanie wpływu środka grzybobójczego na plony rolnicze, uwzględniające w modelu zarówno ilość użytego fungicydu, jak i zagrzybienie roślin, może przypisać całą siłę związku z wielkością plonów temu drugiemu czynnikowi (który jest de facto skutkiem pierwszego), sprawiając, że efektywność fungicydu okaże się pozornie nieistotna statystycznie i bliska zeru^[5].

• Zmienne zakłócające – zewnętrzne czynniki, które są wplecione w badaną ścieżkę przyczynową w co najmniej dwóch punktach. Jest to zmienna ${\displaystyle Z,}$ która również bywa przyczyną ${\displaystyle B,}$ i jest częściowo skorelowana z uwzględnioną już zmienną ${\displaystyle A\colon A\leftrightsquigarrow Z\to B.}$ Problem pominiętych zmiennych dotyczy tego typu czynników. Przykładowo, badanie związku jakości snu uczniów z wynikami szkolnymi, nieuwzględniające ich statusu socjoekonomicznego (w domyśle: dodatkowych obowiązków i stresu), będzie przeszacowywać siłę tego związku^[7]. Szczególnym przypadkiem takiej sytuacji jest paradoks Simpsona^[8].

• Kolidery (zmienne „kolidujące”) – czynniki, które są skutkowym następstwem co najmniej dwóch różnych elementów: ${\displaystyle A\to K\leftarrow B.}$ Model statystyczny uwzględniający wśród zmiennych objaśniających ich własne skutki będzie uzyskiwać błędne estymacje. Są to czynniki, które należy pomijać. Szczególnym przypadkiem zmiennej kolidującej jest uwzględniane implicite w modelu nielosowe kryterium doboru do próby, jak w przypadku błędu selekcji lub paradoksu Berksona. Dawes zilustrował to badaniem związku ocen testów szkolnych z osiągnięciami w nauce uniwersyteckiej wśród swoich studentów. Zademonstrował obecność paradoksalnej, silnie negatywnej korelacji pomiędzy tymi zmiennymi. Jest to konsekwencją błędu selekcji – wykonanego implicite ograniczenia próby do osób, które cechując się wysokimi wynikami testów dostały się na studia^[9].

Relacje te są względne – ta sama zmienna może pełnić różne role w stosunku do różnych sąsiadów, zależnie od tego, jaką analizujemy „ścieżkę przyczynową” w systemie. Nota bene, metateoria przyczynowości używająca grafów, reprezentowana m.in. przez Pearla, nie jest jedyną ani uniwersalnie stosowaną perspektywą rozpatrywania tego zagadnienia – alternatywą jest np. podejście Neymana-Rubina^[10]. Kładzie ona większy nacisk na poprawność prognoz płynących z modelu, niż na precyzyjne określenie jego wewnętrznych parametrów^[11][12].

Pominięcie zmiennych w regresji liniowej

Załóżmy, że prawdziwy związek przyczynowy odzwierciedla model regresji

${\displaystyle y=a+bx+cz+u}$

zawierający parametry ${\displaystyle a,}$ ${\displaystyle b,}$ ${\displaystyle c,}$ zmienną objaśnianą ${\displaystyle y,}$ zmienne objaśniające ${\displaystyle x}$ i ${\displaystyle z,}$ oraz wyraz błędu ${\displaystyle u.}$ Badacz zainteresowany siłą efektu ${\displaystyle x}$ na ${\displaystyle y}$ chce uzyskać prawidłowe oszacowanie parametru ${\displaystyle b.}$ Problem pominięcia zmiennych pojawia się, gdy model przyjęty przez badacza nie uwzględnia zmiennej ${\displaystyle z,}$ a jest ona częściowo skorelowana z ${\displaystyle x{:}}$

${\displaystyle z=d+fx+e}$

z parametrami ${\displaystyle d,}$ ${\displaystyle f,}$ i wyrazem błędu ${\displaystyle e.}$ Po podstawieniu do pierwszego równania uzyskujemy:

${\displaystyle y=(a+cd)+(b+cf)x+(u+ce).}$

Jeśli regresja jest wykonana jedynie na zmiennej ${\displaystyle x,}$ parametr ${\displaystyle b}$ zostanie błędnie oszacowany jako ${\displaystyle b+cf,}$ stanowiąc nie tylko estymację własnej siły efektu ${\displaystyle x,}$ ale jego sumy z efektem zapośredniczonym przez korelację ${\displaystyle x}$ i ${\displaystyle z.}$ Innymi słowy, przez pominięcie zmiennej ${\displaystyle z}$ w regresji, oszacowujemy pochodną zupełną ${\displaystyle x}$ względem ${\displaystyle y,}$ a nie odpowiednią pochodną cząstkową.

Środki zaradcze

Badacze złożonych zjawisk obawiający się problemu pominiętych zmiennych mogą porównać wyniki kilku alternatywnych modelów, uwzględniających różne zestawy zmiennych objaśniających, w celu weryfikacji odporności oszacowań na takie zmiany założeń^[4]. Pozwala to także na wykonanie podstawowego „testu OVB”, sprawdzającego zmienność oszacowań pomiędzy modelami^[13].

Modele hierarchiczne (klasyczne lub bayesowskie) umieszczające zmienne objaśniające w ściślej wyrażonych relacjach (w przypadku bayesowskim, także z rozkładem apriorycznym precyzującym oczekiwane wartości parametrów) mogą ograniczyć problem endogeniczności zmiennych. Opierają się one jednak na sformułowaniu i implementacji konkretnych założeń co do przyczynowego modelu badanego zjawiska. Badacze preferujący metateorię Neymana-Rubina odradzają także bezpośrednie interpretowanie punktowych oszacowań parametrów regresji, rekomendując za to analizowanie ich prognoz (pełnych rozkładów prognostycznych a posteriori) uzyskanych w analizie – wyrażają bowiem zależność zmiennych łącznie z niepewnością tego oszacowania^[11][12].

Przypisy