Lindley paradoxona

A Lindley-féle paradoxon egy ellentétes helyzet a statisztikában , amelyben a bayesi és a gyakori megközelítések a hipotézisek tesztelésének problémájára különböző eredményeket adnak az előzetes eloszlás bizonyos választásaira . A két megközelítés közötti nézeteltérés kérdését Harold Jeffreys [1] 1939 -es könyve tárgyalta . A probléma Lindley paradoxonaként vált ismertté, miután Dennis Lindley egy 1957-es cikkében nem értett egyet a paradoxonnal [2] .

Bár a helyzetet paradoxonként írják le, a Bayes-féle és a gyakori megközelítések közötti különbség inkább azzal magyarázható, hogy alapvetően eltérő kérdések megválaszolására használják őket, semmint a két módszer közötti tényleges nézeteltéréssel.

Bárhogy is legyen, egy nagy osztály esetében a gyakori és a bayesi megközelítés közötti a priori különbségek a szignifikanciaszint megőrzéséből fakadnak. Ahogy Lindley megértette, „az elmélet nem igazolhatja a szignifikanciaszint fenntartásának gyakorlatát”, sőt „egyes számítások, amelyeket Pearson professzor a jelen cikk tárgyalása során végzett, rávilágít arra, hogy a szignifikanciaszint mennyire változhat a minta méretével, ha a veszteségek és az előzetes valószínűségek változatlanok maradnak”. [2] . Valójában, ha a kritikus érték elég gyorsan növekszik a minta méretével, akkor a gyakori és a Bayes-féle megközelítések közötti eltérés elhanyagolhatóvá válik [3] [4] .

A paradoxon leírása

Tekintsük néhány kísérlet eredményét két lehetséges magyarázattal, hipotézisekkel és , valamint néhány előzetes eloszlással , amelyek azt a bizonytalanságot jelentik, hogy melyik hipotézis pontosabb, mielőtt megvizsgálnánk . $x$ $H_{0}$ $H_{1}$ $\pi$ $x$

Lindley paradoxona a következő esetekben található:

Az eredmény "szignifikáns" a gyakorisági hipotézis tesztje szempontjából, jelentős bizonyítékot mutatva a hipotézis elutasítására , mondjuk 5%-os szinten. $x$ $H_{0}$ $H_{0}$
Az eredmény által adott hipotézis utólagos valószínűsége magas, ami erősen arra utal, hogy a hipotézis konzisztensebb, mint a hipotézis . $H_{0}$ $x$ $H_{0}$ $x$ $H_{1}$

Ezek az eredmények egyszerre is megtörténhetnek, ha nagyon specifikusak, homályosabbak, és az előző eloszlás egyiküknek sem kedvez, amint az alább látható. $H_{0}$ $H_{1}$

Számpélda

Lindley paradoxonát számpéldával illusztrálhatjuk. Képzeljünk el egy várost, ahol 49 581 fiú és 48 870 lány született egy bizonyos idő alatt. A fiúk megfigyelt aránya 49581/98451 ≈ 0,5036. Feltételezzük, hogy a fiú születések száma binomiális változó paraméterrel . Azt akarjuk ellenőrizni, hogy egyenlő-e 0,5 vagy más értékkel. Vagyis nullhipotézisünk : , az alternatív hipotézis pedig . $x$ $\theta$ $\theta$ $H_{0}:\theta =0,5$ $H_{1}:\theta \neq 0,5$

Frekvencia megközelítés

A gyakorisági tesztelés módszere egy p-érték kiszámítása , a fiúk egy részének megfigyelésének valószínűsége, legalábbis feltételezve, hogy a hipotézis igaz. Mivel a születések száma nagy, használhatjuk a normál közelítést a fiúk születési arányára , és kiszámításához $H_{0}$ $x$ $H_{0}$ $X\sim N(\mu ,\sigma ^{2})$ $\mu =np=n\theta =98451\times 0,5=49225,5$ $\sigma ^{2}=n\theta (1-\theta )=98451\times 0.5\times 0.5=24612.75$

{\begin{aligned}P(X\geq x\mid \mu =49225.5)=\int _{x=49581}^{98451}{\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-({\frac {u-\mu }{\sigma }})^{2}/2}du\\=\int _{x=49581}^{ 98451} {\frac {1}{\sqrt {2\pi (24612.75)}}}e^{-{\frac {(u-49225.5)^{2}}{24612.75}}/ 2}du\approx 0.0117.\ vége{igazított}}

Azon is meglepődnénk, ha 48870 lány születését vesszük figyelembe, vagyis a gyakorisági teszt normál esetben kétirányú tesztet végezne , amelyre a p-érték . A p-érték mindkét esetben kisebb, mint az 5%-os szignifikancia szint, így a gyakori megközelítés elveti a hipotézist , mint a megfigyelt adatokkal összeegyeztethetetlent. $x\approx 0,4964$ $p\approx 2\times 0,0117=0,0235$ $\alpha$ $H_{0}$

Bayesi megközelítés

Feltételezve, hogy nincs ok az egyik hipotézist előnyben részesíteni a másikkal szemben, a Bayes-féle megközelítés szerint a hipotézishez előzetes valószínűségeket , egyenletes eloszlást rendelnek , majd kiszámítják a utólagos valószínűséget a Bayes -tétel felhasználásához . $\pi (H_{0})=\pi (H_{1})=0,5$ $\theta$ $H_1$ $H_{0}$

P(H_{0}\mid k)={\frac {P(k\mid H_{0})\pi (H_{0})}{P(k\mid H_{0})\pi (H_{0})+P(k\mid H_{1})\pi (H_{1})}}.

Az újszülött fiúk születésének megfigyelése után a binomiális változó tömegeloszlási függvényével kiszámíthatjuk az egyes hipotézisek utólagos valószínűségét , $k=49581$ $n=98451$

{\begin{aligned}P(k\mid H_{0})&={n \choose k}(0,5)^{k}(1-0,5)^{nk}\körülbelül 1,95\times 10^{-4}\\P(k\mid H_{1})&=\int _{0}^{1}{n \choose k}\theta ^{k}(1-\ theta )^{ nk}d\theta ={n \choose k}\mathrm {\mathrm {B} } (k+1,n-k+1)=1/(n+1)\körülbelül 1,02\-szor 10^{-5 }\end{igazított}}

hol van a béta függvénye . $\mathrm {\mathrm {B}} (a,b)$

Ezekből az értékekből megtaláljuk az utólagos valószínűséget , amely erősen előnyben részesíti a -t . $P(H_{0}\mid k)\körülbelül 0,95$ $H_{0}$ $H_{1}$

A két megközelítés, a gyakori és a bayesi, ütközik egymással, és ez a „paradoxon”.

A bayesi és a gyakori megközelítések összeegyeztetése

Mindazonáltal, legalábbis Lindley példájában, ha olyan szignifikanciaszint-sorozatot veszünk , hogy c , akkor a nullhipotézis utólagos valószínűsége 0, ami összhangban van a nullhipotézis elutasításával [3] . Numerikus példánkban, ha vesszük , az eredmény 0,00318 szignifikanciaszint, tehát a gyakorisági megközelítés nem utasítja el a nullhipotézist, amely nagyjából összhangban áll a Bayes-féle megközelítéssel. $\alpha_{n}$ ${\displaystyle \alpha _{n}=n^{-k))$ $k>{\tfrac {1}{2}}$ $k>{\tfrac {1}{2}}$

Ha informatív előzetes eloszlást használunk , és olyan hipotézist tesztelünk, amely jobban hasonlít a gyakorisági megközelítésben szereplő hipotézishez, a paradoxon eltűnik.

Például, ha kiszámítjuk az utólagos eloszlást az egységes prior használatával (azaz ), azt kapjuk $P(\theta \mid x,n)$ $\theta$ $\pi (\theta \in [0,1])=1$

P(\theta \mid k,n)=\mathrm {\mathrm {B} } (k+1,n-k+1).

Ha ezzel teszteljük annak valószínűségét, hogy az újszülött nagyobb valószínűséggel fiú, mint lány, akkor a következőt kapjuk: $P(\theta >0,5\mid k,n)$

$\int _{0.5}^{1}\mathrm {\mathrm {B} } (49582.48871)\kb. 0.983.$

Vagyis nagyon valószínű, hogy a fiúk születési aránya 0,5 felett van.

Egyik elemzés sem ad közvetlenül becslést a hatás méretére , de mindkettő felhasználható például annak meghatározására, hogy a fiúk születési aránya meghaladja-e valamelyik meghatározott küszöböt.

Nincs igazi paradoxon

A két megközelítés közötti látszólagos eltérés több tényező együttes következménye. Először is, a frekvencia-megközelítés a fenti ellenőrzéseket nem veszi figyelembe . A bayesi megközelítés a k alternatívájaként számol, és úgy találja, hogy az első hipotézis jobban megfelel a megfigyeléseknek. Ennek az az oka, hogy az utóbbi hipotézis lényegesen homályosabb, mivel az érték bármi lehet az intervallumban , ami nagyon alacsony posterior valószínűséget eredményez. Hogy megértsük, miért, érdemes két hipotézist figyelembe venni a megfigyelések generátoraként: $H_{0}$ $H_1$ $H_{0}$ $H_{1}$ $\theta$ $[0,1]$

A hipotézisben kiválasztjuk és megkérdezzük, hogy mekkora valószínűséggel látunk 49 581 fiút 98 451 újszülötttel. $H_{0}$ $\theta \kb. 0,500$
Egy hipotézisben véletlenszerűen választunk 0 és 1 között, és ugyanazt a kérdést tesszük fel. $H_{1}$ $\theta$

A hipotézisben szereplő lehetséges értékek nagy részét megfigyelések nagyon rosszul támasztják alá. Mint ilyen, a módszerek közötti látszólagos nézeteltérés egyáltalán nem nézeteltérés, hanem két különböző állítás az adatokkal kapcsolatban: $\theta$ $H_{1}$

A gyakorisági megközelítés azt találja, hogy a megfigyelések rosszul magyarázzák. $H_{0}$
A Bayes-féle megközelítés azt találja, hogy egy hipotézist lényegesen jobban megmagyaráznak megfigyelések, mint egy hipotézist . $H_{0}$ $H_{1}$

Az újszülöttek (fiúk/lányok) 50/50 aránya a gyakorisági teszt szerint valószínűtlen. Ennek ellenére az 50/50 arány jobb közelítés, mint a legtöbb, de nem minden más arány. A hipotézis sokkal jobban illeszkedne a megfigyelésekhez, mint az összes többi arány, beleértve a . $\theta \kb. 0,504$ $\theta \kb. 0,500$

Például [5] ebből a hipotézis- és előzetes valószínűség-választásból a következő állítás következik: "Ha > 0,49 és < 0,51, akkor annak előzetes valószínűsége, hogy pontosan 0,5, 0,50/0,51 98%. Ha ilyen erős előnyben részesítjük a -t, könnyen belátható, hogy a bayesi megközelítés a -t részesíti előnyben , még akkor is, ha a megfigyelt érték 0,5 -en belül van . A frekventista megközelítésben szignifikánsnak tekintjük az ettől nagyobb eltérést , de a Bayes-féle megközelítésben a szignifikanciát eleve elutasítják. $\theta$ $\theta$ $\theta$ $\kb$ $\theta =0,5$ $H_{0}$ $x\approx 0,5036$ $x$ $2.28\sigma$ $2\sigma$ $H_{0}$

Más oldalról nézve láthatjuk, hogy a korábbi eloszlás lényegében lapos, delta függvénnyel . Nyilvánvaló, hogy ez kétséges. Valójában, ha a valós számokat folytonosként próbálja rajzolni, logikus lenne azt feltételezni, hogy ez egy adott paraméternél nem lehetséges . $\theta =0,5$ $P(\theta =0,5)=0$

Az alternatív hipotézis reálisabb eloszlása kevésbé meglepő eredményeket ad a hipotézis utólagos valószínűségére vonatkozóan . Például, ha helyettesítjük , azaz a maximális valószínűségi becsléssel , akkor a hipotézis utólagos valószínűsége csak 0,07, szemben a hipotézis 0,93-mal (természetesen a maximális valószínűségi becslést valójában nem használhatjuk az előzetes eloszlás részeként ). $\theta$ $H_{0}$ $H_{1}$ $H_{2}:\theta =x$ $\theta$ $H_{0}$ $H_{2}$

Modern vita

A paradoxonról továbbra is aktívan beszélnek [3] [6] [7] .

Lásd még

Bayes-együttható

Jegyzetek

↑ Jeffreys, 1939 .
↑ 1 2 Lindley, 1957 , p. 187–192.
↑ 1 2 3 Spanos, 2013 , p. 73–93.
↑ Naaman, 2016 , p. 1526–1550
↑ Az angol verzióban ezt a részt kritizálják, mivel teljes újraírást igényel.
↑ Sprenger, 2013 , p. 733–744.
↑ Robert, 2014 .

Irodalom

Glen Shafer. Lindley paradoxona // Az Amerikai Statisztikai Szövetség folyóirata . - 1982. - T. 77 , sz. 378 . – S. 325–334 . - doi : 10.2307/2287244 . — .
Harold Jeffreys . Valószínűségelmélet. – Oxford University Press, 1939.
Lindley DV Statisztikai paradoxon // Biometrika . - 1957. - T. 44 , sz. 1–2 . - doi : 10.1093/biomet/44.1-2.187 . — .
Michael Naman. Szinte biztos hipotézis tesztelés és a Jeffreys-Lindley paradoxon megoldása // Electronic Journal of Statistics. - 2016. - T. 10 , sz. 1 . — ISSN 1935-7524 . - doi : 10.1214/16-EJS1146 .
Aris Spanos. Kinek kell félnie a Jeffreys-Lindley paradoxontól? // Tudományfilozófia. - 2013. - T. 80.1 . - doi : 10.1086/668875 .
Jan Sprenger. Pontos nullhipotézis tesztelése: Lindley paradoxonának esete // Tudományfilozófia. - 2013. - T. 80 . - doi : 10.1086/673730 .
Christian P. Robert. A Jeffreys-Lindley paradoxonról // Tudományfilozófia. - 2014. - T. 81.2 . - doi : 10.1086/675729 . - arXiv : 1303.5973 .