A Valószínűségszámítás II. előadássorozat hatodik előadása. 2002. október 15.

A centrális határeloszlástétel.

Ebben az előadásban a független valószínűségi változók összegére vonatkozó centrális határeloszlástétellel foglalkozunk. Ezt az eredményt a lehető legáltalánosabb formában fogalmazzuk meg, és tárgyaljuk annak legfontosabb speciális eseteit, melyek feltételeit viszonylag könnyen ellenőrízhetjük. Annak érdekében, hogy ezt a programot végrehajtsuk, be kell vezetnünk néhány fontos fogalmat.

Először a következő fogalmakat vezetjük be:

Szériasorozatok definiciója. A

ξ_{1,1}, …, ξ_{1,n_{1}}
⋮  ⋮
ξ_{k,1}, …, ξ_{k,n_{k}}
⋮  ⋮

valószínűségi változók rendszere egy (Ω, A, P) valószínűségi mezón, k → ∞, szériasorozat, ha az egy sorban levő ξ_{k,1}, …, ξ_{k,n_{k}} valószínűségi változók függetlenek. (A különböző sorokban levő valószínűségi változók kapcsolatáról nem tételezünk fel semmit.)

Tekintsük egy ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k}, szériasorozat egy sorban lévő

valószínűségi változóinak S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j} összegeit. Azt fogjuk vizsgálni, hogy az S_{k}

összegek k → ∞ esetben mikor konvergálnak eloszlásban a normális eloszláshoz. A kérdés hátterében az a kép van, hogy a bevezető valószínűségszámítás előadásban tanult centrális határeloszlástétel azt sugallja, hogy nagyon áltlalános esetben, ha sok kis független valószínűségi változót összeadunk, akkor az összeg eloszlása ,,majdnem elfelejti” az egyes összeadandók eloszlását, és közel normális eloszlású lesz. Ilyen eredményt azonban csak akkor várhatunk, ha az egyes összeadandók az összeghez képest nagyon kicsik. Ezt a tulajdonságot viszont meg kell fogalmaznunk pontosabban. Ez a célja az alábbi egyenletes kicsiség definiciójának.

(Normalizált) szériasorozat egyenletes kicsiségének a definiciója. Legyen

ξ_{1,1}, …, ξ_{1,n_{1}}
⋮  ⋮
ξ_{k,1}, …, ξ_{k,n_{k}}
⋮  ⋮

szériasorozat, melynek tagja teljesítik a Eξ_{k,j} = 0, Eξ_{k,j}^{2} = σ_{k,j}^{2} < ∞, k = 1, 2, …,

1 ≤ j ≤ n_{k}, feltételeket, továbbá az S_{k}^{2} sorösszegek ES_{k}^{2} = ∑_{j=1}^{n_{k}} σ_{k,j}^{2} szórásnégyzetei

teljesítik a lim_{k→∞} ∑_{j=1}^{n_{k}} σ_{k,j}^{2} = 1 relációt. Azt mondjuk, hogy ez a szériasorozat teljesíti az

egyenletes kicsiség feltételét, ha teljesül a

lim_{k→∞} sup_{1≤j≤n_{k}} σ_{k,j}^{2} = 0

reláció.

Az egyenletes kicsiség szemléletes tartalma világos. Nulla várható értékű valószínűségi változókat tekintünk, és ezek nagyságát természetes a szórásnégyzettel mérni. Nagy k-ra a k-ik sorösszeg szórásnégyzete közel 1, és azt kívánjuk, hogy az összegben szereplő változók szórásnégyzetének a maximuma is sokkal kisebb ennél.

Az érdekel minket, hogy az egyenletes kicsiség feltéelét teljesítő (normalizált) szériasorozat S_{k} sorösszegei mikor teljesítik a centrális határeloszlástételt, azaz mikor konvergálnak eloszlásban a standard normális eloszláshoz. Kimondunk és bebizonyítunk egy tételt, mely szerint egy nagyon általános feltétel, az úgynevezett Lindeberg feltétel teljesülése esetén a centrális határeloszlástétel érvényes. Megfogalmazok egy olyan eredményt is, mely szerint a Lindeberg feltétel nemcsak elégséges, de szükséges feltétele is a centrális határeloszlástételnek. Ennek az eredménynek a bizonyítását azonban csak a (nem kötelező tananyaghoz tartozó) kiegészítésben ismertetem. Tárgyalni fogjuk még azt, hogy a szériasorozatokra kimondott tétel mit mond ki független valószínűségi változók normalizált részletösszegeire. Továbbá megfogalmazom a bebizonyított eredmény néhány következményét, melyek a centrális határeloszlás teljesülését fogalmazzák meg bizonyos a Lindeberg feltételnél szigorúbb, de gyakran könnyebben ellenőrizhető feltétel teljesülése esetén.

Először megfogalmazzuk a Lindeberg feltételt.

Lindeberg feltétel definiciója szériasorozatokra: Legyen ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k}, olyan szériasorozat, melyre Eξ_{k,j} = 0, Eξ_{k,j}^{2} < ∞, k = 1, 2, …, 1 ≤ j ≤ n_{k}, és

lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2} = 1. Ez a szériasorozat akkor és csak akkor teljesíti a Lindeberg feltételt,

ha tetszőleges ε > 0 számra

lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2}I ({|ξ_{k,j}| > ε}) = 0,

ahol I(A) egy A halmaz indikátor függvénye.

Centrális határeloszlástétel szériasorozatokra a Lindeberg feltétel teljesülése esetén. Legyen ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k}, olyan szériasorozat, melyre Eξ_{k,j} = 0, Eξ_{k,j}^{2} < ∞, k = 1, 2, …, 1 ≤ j ≤ n_{k}, lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2} = 1, és teljesítse e szériasorozat a

Lindeberg feltételt. Ekkor

a.) a szériasorozat tagjai teljesítik a lim_{k→∞} ( sup_{1≤j≤n_{k}} Eξ_{k,j}^{2}) = 0 kicsiségi feltételt.

b.) Az S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j}, 1 ≤ k < ∞, véletlen összegek eloszlásban konvergálnak a standard,

azaz nulla várható értékű és 1 szórásnégyzetű normális eloszláshoz, ha k → ∞.

Érvényes az előbbi eredmény következő megfordítása:

Tétel arról, hogy a Lindeberg feltétel a centrális határeloszlástételnek szükséges feltétele. Legyen ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k}, olyan szériasorozat, melyre

Eξ_{k,j} = 0, Eξ_{k,j}^{2} < ∞, k = 1, 2, …, 1 ≤ j ≤ n_{k}, lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2} = 1, és teljesítse ez a

széroasorozat a kicsiségi feltételt, azaz legyen lim_{k→∞} ( sup_{1≤j≤n_{k}} Eξ_{k,j}^{2}) = 0. Tegyük fel ezen

kívül azt, hogy az S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j}, 1 ≤ k < ∞, véletlen összegek eloszlásban konvergálnak

egy 1 szórásnégyzetű és tetszőleges várható értékű normális normális eloszláshoz, ha k → ∞. Ekkor a ξ_{k,j}, 1 ≤ k < ∞, 1 ≤ j ≤ n_{k}, szériasorozat teljesíti a Lindeberg feltételt.

Megjegyzés: Érdemes külön hangsúlyozni, hogy a centrális határeloszlástétel fent megfogalmazott megfordításában nem csak azt követeltük meg, hogy a szériasorozat S_{k} =

∑_{j=1}^{n_{k}} ξ_{k,j}, 1 ≤ k < ∞, részletösszegei a normális eloszláshoz konvergáljanak, hanem

azt is, hogy a határeloszlásnak, ,,a várt szórásnégyzete” legyen, azaz, hogy egy olyan valószínűségi változó szórásnégyzete melynek eloszása megegyezi a tekintett eloszlások határeloszlásával legyen egyenlő a tekintett valószínűségi változók szórásnégyzetének a határértékével. Később fogunk látni példát arra, hogy az előző, a centrális határeloszlástétel megfordításáról szóló tételből ez a feltétel nem hagyható el.

Bár a Lindeberg féle centrális határeloszlástétel fő állítását csak később bizonyítjuk, már most megmutatjuk, hogy a Lindeberg feltételből következik az egyenletes kicsiség feltétele. Ennek érdekében jelöljük F_{k,j}(·)-vel a ξ_{k,j} valószínűségi változó eloszlásfüggvényét, és írjuk fel a Lindeberg feltételt az F_{k,j} eloszlásfüggvények segítségével. Vegyük észre, hogy

∑_{j=1}^{n_{k}} Eξ_{k,j}^{2}I ({|ξ_{k,j}| > ε}) = ∑_{j=1}^{n_{k}} ∫_{|u|>ε} u^{2}F_{k,j}( du),

és Eξ_{k,j}^{2} = ∫_{−∞}^{∞} u^{2}F_{k,j}( du). Innen

Eξ_{k,j}^{2} = ∫_{−ε}^{ε} u^{2}F_{k,j}( du) + ∫_{|u|≥−ε} u^{2}F_{k,j}( du) ≤ ε^{2} + ∑_{j=1}^{n_{k}} ∫_{|u|>ε} u^{2}F_{k,j}( du)

tetszőleges ε > 0 számra. Viszont a Lindeberg feltétel azt jelenti, hogy az utolsó egyenlőtlenség jobboldalán szereplő kifejezés második tagja k → ∞ esetén nullához tart,

ezért lim sup_{k→∞} ( sup_{1≤j≤n_{k}} Eξ_{k,j}^{2}) ≤ ε. Mivel ez az állítás minden ε > 0 számra érvényes, in-

nen következik, hogy a ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k} szériasorozat teljesíti az egyenletes kicsiség feltételét.

Most pedig tárgyaljuk meg, mit jelent a Lindeberg féle centrális határeloszlástétel független valószínűségi változók normalizált részletösszegeire. Legyen adva független valószínűségi változók ξ_{1}, ξ_{2}, …, sorozata egy (Ω, A, P) valószínűségi mezőn, és tegyük fel, hogy mindegyik ξ_{k} valószínűségi változónak létezik az Eξ_{k}^{2} < ∞ második momentuma. Vezessük be az Eξ_{k} = m_{k}, Var ξ_{k} = Eξ_{k}^{2} − (Eξ_{k})^{2} = σ_{k}^{2}, k = 1, 2, …, jelöléseket,

valamint legyen S_{k} = ∑_{j=1}^{n} ξ_{j}, j = 1, 2, . . .. Természetes a következő szériasorozatot

definiálni, ξ_{k,j} = \frac{ξ_{k} − Eξ_{k}}{\sqrt{Var S_{k}}}, k = 1, 2, …, 1 ≤ j ≤ k. Nyílván, Var S_{k} = ∑_{j=1}^{k} σ_{k}^{2},

\frac{S_{k} − ES_{k}}{\sqrt{Var S_{k}}} = ∑_{j=1}^{k} ξ_{k,j}. Továbbá az így definiált ξ_{k,j} valószínűségi változók k = 1, 2, …,

1 ≤ j ≤ k, szériasorozatot alkotnak (rögzített k indexre a ξ_{k,j} valószínűségi változók, 1 ≤ j ≤ k, függetlenek). Tehát, ha a ξ_{k} valószínűségi változók olyanok, hogy a belőlük készített ξ_{k,j} sorozat teljesíti a Lindeberg féle centrális határeloszlástétel feltételeit, akkor érvényes a ξ_{k} valószínűségi változók normalizált részletösszegeire a centrális határeloszlástétel. Megfogalmazzuk először a szükséges fogalmakat a ξ_{k} valószínűségi változók segítségével, majd a centrális határeloszlástétel Lindeberg-féle változatát független valószínűségi változók normalizált részletösszegeire. Végül megfogalmazom annak néhány érdekes következményét, azt, hogy hogyan lehet bebizonyítani a segítségével a centrális határeloszlástételt bizonyos könnyen ellenőrizhető feltétel segítségével.

Lindeberg feltétel független valószínűségi változók sorozataira: Legyen ξ_{n}, n = 1, 2, …, független valószínűségi változók sorozata, melyre Eξ_{n} = 0, σ_{n}^{2} = Eξ_{n}^{2} < ∞,

n = 1, 2, …, és az s_{n}^{2} = ∑_{k=1}^{n} σ_{k}^{2}, n = 1, 2, …, sorozat teljesíti a lim_{n→∞} s_{n}^{2} = ∞ feltételt.

Azt mondjuk, hogy a ξ_{n}, n = 1, 2, …, sorozat teljesíti a Lindeberg feltételt, ha minden ε > 0 számra

lim_{n→∞} \frac{1}{s_{n}^{2}} ∑_{k=1}^{n} Eξ_{k}^{2}I(\{|ξ_{k}| > εs_{n}\}) = 0.

Megfogalmazzuk a centrális határeloszlástételt független valószínűségi változók normalizált összegére, ha ez a sorozat teljesíti a Lindeberg feltételt. Ez az eredmény egyszerű következménye a szériasorozatokra kimondott centrális határeloszlástételnek a Lindeberg feltétel teljesülése esetén valamint annak az előbb leírt egyszerű konstrukciónak, melyben független valószínűségi változók sorozatának segítségével definiáltunk egy szériasorozatot.

A centrális határeloszlástétel független valószínűségi változók normalizált részletösszegeire a Lindeberg feltétel teljesülése esetén. Legyen ξ_{j}, j = 1, 2, …, független valószínűségi változók sorozata, melyre Eξ_{j}^{2} < ∞, j = 1, 2, …, és a ξ_{j}

valószínűségi változók Var ξ_{j} = Eξ_{j}^{2} −(Eξ_{j})^{2} szórásnégyzeteire érvényes a lim_{n→∞} ∑_{j=1}^{n} σ_{j}^{2} =

∞ feltétel, és a ξ̄_{j} = ξ_{j} − Eξ_{j}, j = 1, 2, …, valószínűségi változók teljesítik a Lindeberg feltételt. Ekkor a.) a ξ_{j}, j = 1, 2, …, valószínűségi változók teljesítik az alábbi kicsiségi feltételt:

lim_{k→∞} ( sup_{1≤j≤k} \frac{Var ξ_{j}}{∑_{j=1}^{k} Var ξ_{j}} ) = 0.

b.) Az S_{n} = ∑_{k=1}^{n} ξ_{k} véletlen összegek S̄_{n} = \frac{S_{n} − ES_{n}}{\sqrt{Var S_{n}}}, 1 ≤ n < ∞, normalizáltjai

eloszlásban konvergálnak a standard, azaz nulla várható értékű és 1 szórásnégyzetű normális eloszláshoz, ha n → ∞.

Az alább megfogalmazott eredmény arról szól, hogy néhány egyszerű és fontos esetben teljesül a Lindeberg feltétel független valószínűségi változók sorozatára, ezért ezek normalizált részletösszegei teljesíti a centrális határeloszlástételt.

1. Tétel. Legyen ξ_{n}, n = 1, 2, …, független valószínűségi változók sorozata, melyre

Eξ_{n} = 0, σ_{n}^{2} = Eξ_{n}^{2} < ∞, n = 1, 2, …, lim_{n→∞} s_{n}^{2} = ∞, ahol s_{n}^{2} = ∑_{k=1}^{n} σ_{k}^{2}. Ez a sorozat

teljesíti a Lindeberg feltételt, ha a következő tulajdonságok egyike teljesül.

a.) A független ξ_{n}, n = 1, 2, …, valószínűségi változók egyforma eloszlásúak. b.) E|ξ_{k}|^{2+α} < ∞, minden k = 1, 2, … számra valamilyen α > 0 konstanssal, és

lim_{n→∞} \frac{( ∑_{k=1}^{n} E|ξ_{k}|^{2+α})^{2/(2+α)}}{s_{n}^{2}} = 0. Speciálisan, ez a feltétel teljesül akkor, ha Eξ_{k}^{2} ≥

K valamilyen K > 0 számmal minden k = 1, 2, … indexre, és ezenkívül érvényes a

lim_{k→∞} k^{−α/2}E|ξ_{k}|^{2+α} = 0 reláció.

Az 1. Tétel bizonyítása: Először az a) részt bizonyítjuk be. Ha ξ_{1}, ξ_{2}, …, független, egyforma eloszlású valószínűségi változók sorozata, Eξ_{1} = 0, 0 < Eξ_{1}^{2} < ∞, akkor

\frac{1}{s_{n}^{2}} ∑_{k=1}^{n} Eξ_{k}^{2}I(|ξ_{k}| > εs_{n}) = \frac{1}{Eξ_{1}^{2}} Eξ_{1}^{2}I (|ξ_{1}| > ε\sqrt{nEξ_{1}^{2}}) → 0, ha n → ∞, mert az

A_{n} = \{ω: |ξ_{1}(ω)| > ε\sqrt{nEξ_{1}^{2}}\}, halmazok egymásba skatulyázottak, és metszetük az

üres halmaz, azaz A_{1} ⊃ A_{2} ⊃ A_{3} ⊃ ⋯, és ⋂_{n=1}^{∞} A_{n} = ∅.

A b) állítás bizonyítása érdekében vegyük észre, hogy a Hölder egyenlőtlenség alapján

∑_{k=1}^{n} Eξ_{k}^{2}I(|ξ_{k}| > εs_{n}) ≤ ∑_{k=1}^{n} (E|ξ_{k}|^{(2+α)})^{(2/α+2)} P (|ξ_{k}| > εs_{n})^{α/(2+α)}

≤ (∑_{k=1}^{n} E|ξ_{k}|^{(2+α)})^{(2/α+2)} (∑_{k=1}^{n} P (|ξ_{k}| > εs_{n}))^{α/(2+α)} .

(A Hölder egyenlőtlenség azt állítja, hogy véve egy (X, X) téren definiált f és g függvény szorzatának egy az ezen a téren definiált μ mérték szerinti (Lebesgue integrálját) e kifejezés teljesíti az |∫ f(ω)g(ω) dμ(ω)| ≤ (∫ |f(ω)|^{p} dμ(ω))^{1/p} (∫ |g(ω)|^{q} dμ(ω))^{1/q} minden

olyan (p, q) számpárra, melyre p > 0, 1 > 0 és \frac{1}{p} + \frac{1}{q} = 1. Jelen esetben ezt a felírt

egyenlőtlenségsor első egyenlőtlenségénak a bizonyításában az (Ω, A) téren a P mérték szerint integrálunk, és az f(ω) = ξ_{k}(ω)^{2} és g(ω) = I(|ξ_{k}(ω)| > εs_{n}) függvényekre alkal-

mazzuk a Hölder egyenlőtlenséget minden k = 1, …, n indexre p = \frac{2 + α}{2} és q = \frac{2 + α}{α} választással. A második egyenlőtlenség bizonyításában a Hölder egyenlőtlenségnek a

következő speciális esetét alkalmazzuk: | ∑_{k=1}^{n} A_{k}B_{k}| ≤ ( ∑_{k=1}^{n} |A_{k}|^{p})^{1/p} ( ∑_{k=1}^{n} |B_{k}|^{q})^{1/q},

ha p > 0 és q > 0, \frac{1}{p} + \frac{1}{q} = 1. (Ezt az egyenlőtlenséget állítja a Hölder egyenlőtlenség

abban a speciális esetben, ha az X = {1, …, n} véges halmaz részhalmazain bevezetjük azt a mértéket, amelyik minden halmazhoz annak elemszámát rendeli mértékként.)

Most az A_{k} = (E|ξ_{k}|^{(2+α)})^{(2/α+2)}, B_{k} = P (|ξ_{k}| > εs_{n})^{α/(2+α)}, p = \frac{2 + α}{2} és q = \frac{2 + α}{α}

választással alkalmazzuk a Hölder egyenlőtlenséget.)

Másrészt, a Csebisev egyenlőtlenség alapján ∑_{k=1}^{n} P (|ξ_{k}| > εs_{n}) ≤ ∑_{k=1}^{n} \frac{Eξ_{k}^{2}}{ε^{2}s_{n}^{2}} = \frac{1}{ε^{2}} .

Ezért ha teljesülnek a 1. Tétel b) részének a feltételei, akkor

lim sup_{n→∞} 1\frac{1}{s_{n}^{2}} ∑_{k=1}^{n} Eξ_{k}^{2}I(|ξ_{k}| > εs_{n}) ≤ lim sup_{n→∞} \frac{( ∑_{k=1}^{n} E|ξ_{k}|^{(2+α)})^{(2/α+2)}}{s_{n}^{2}} (\frac{1}{ε^{2}} )^{α/(2+α)} = 0

minden ε > 0 számra, azaz teljesül a Lindeberg feltétel.

Ha teljesülnek a b.) rész végén említett feltételek, akkor s_{n}^{2} ≥ const. n, és

\frac{∑_{k=1}^{n} E|ξ_{k}|^{2+α}}{n^{(α+2)/2}} → 0, ha n → ∞.

(Itt azt használtuk ki, hogy ∑_{k=1}^{n} k^{−α/2} ≥ const. n^{1+α/2}.) Ezért ekkor teljesülnek a b.)

részben megfogalmazott feltételek.

A centrális határeloszlástétel bizonyítása szériasorzatokra a Lindeberg feltétel teljesülése esetén.

A bizonyítás gondolatmenete a következő. Legyen adva valamely ξ_{k,j}, Eξ_{k,j} = 0, k = 1, 2, …, 1 ≤ j ≤ n_{k}, szériasorozat, amelyik teljesíti a Lindeberg feltételt, és

lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2} = 1. Ahhoz, hogy belássuk a centrális határeloszlástételt, elég meg-

mutatni azt, hogy az S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j} sorösszegek karakterisztikus függvényei teljesítik a

lim_{k→∞} Ee^{itS_{k}} = e^{−t^{2}/2} relációt minden t valós számra. Viszont tudjuk, hogy Ee^{itS_{k}} =

∏_{j=1}^{n_{k}} Ee^{itξ_{k,j}}. Ezért elég megmutatni, hogy a ξ_{k,j} valószínűségi változók karakterisztikus

függvényére megengedett az Ee^{itξ_{k,j}} ∼ e^{−t^{2}Eξ_{k,j}^{2}/2} helyettesítés. Ez ugyanis azt jelenti, hogy

Ee^{itS_{k}} = ∏_{j=1}^{n_{k}} Ee^{itξ_{k,j}} ∼ ∏_{j=1}^{n_{k}} e^{−t^{2}Eξ_{k,j}^{2}/2} = exp \{−\frac{t^{2}}{2} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2}\} ∼ e^{−t^{2}/2}.

A ξ_{k,j} valószínűségi változó karakterisztikus függvényére alkalmazott közelítés azért látszik elfogadhatónak, mert tudjuk, hogy ez a valószínűségi változó kicsi, így bízhatunk abban, hogy a φ_{k,j}(t) = Ee^{itξ_{j,k}} függvényt jól közelíti e függvény nulla körüli Taylor sorának első két tagból álló szelete. Viszont egy valószínűségi változó karakterisztikus függvényének deriváltjait a nulla helyen meghatározzák a valószínűségi változó momentumai. Ezt a meghatározást pontosan megadtuk a harmadik előadásban. Ezt fel-

használva azt kapjuk, hogy Ee^{itξ_{k,j}} ∼ 1 + itEξ_{k,j} − \frac{t^{2}}{2} Eξ_{k,j}^{2} = 1 − \frac{t^{2}}{2} Eξ_{k,j}^{2}. Ez azt

sugallja, hogy Ee^{itξ_{k,j}} ∼ e^{Eξ_{k,j}^{2}t^{2}/2}. Egy precíz bizonyításban a fenti heurisztikus meggondolásokat pontosítani kell, és azokat be kell bizonyítani. Ennek érdekében először egy olyan egyszerű, de hasznos lemmát bizonyítunk, amelyik becslést ad arra, hogy az e^{it} függvényt milyen jól közelítik Taylor sorának szeletei.

Lemma. Tetszőleges nem negatív egész k és valós t számra

|e^{it} − (1 + \frac{it}{1!} + ⋯ + \frac{(it)^{k}}{k!} )| ≤ \frac{|t|^{k+1}}{(k + 1)!}.

Bizonyítás: Vezessük be az F (t) = e^{it} − (1 + \frac{it}{1!} + ⋯ + \frac{(it)^{k}}{k!} ) függvényt, és tekintsük

ennek F^{(j)}(t) deriváltjait. F^{(j)}(0) = 0, ha 0 ≤ j ≤ k, és |F^{(k+1)}(t)| = |e^{ikt}| = 1 minden t ∈ R^{1} számra. Teljes indukcióval kapjuk, hogy |F^{(j)}(t)| ≤ ∫_{0}^{t} |F^{(j+1)}(s)| ds ≤

∫_{0}^{t} \frac{|s|^{k−j} ds}{(k − j)!} = \frac{|t|^{k+1−j}}{(k + 1 − j)!} minden j = k +1, k, …, 0 számra. Tehát |F (t)| ≤ \frac{|t|^{k+1}}{(k + 1)!},

és ez a Lemma állítása.

Most rátérünk a Tétel bizonyítására. Jelölje a ξ_{k,j} valószínűségi változó karakterisztikus függvényét φ_{k,j}(t) = Ee^{itξ_{k,j}}, −∞ < t < ∞, eloszláfüggvényét, F_{k,j}(x) = P (ξ_{k,j} < x) szórásnégyzetét σ_{k,j}^{2} = Eξ_{k,j}^{2}, k = 1, 2, …, 1 ≤ j ≤ n_{k}. Emlékeztetek arra, hogy fetettük, hogy Eξ_{k,j} = 0. Jeleztük, hogy érdemes a φ_{k,j}(t) karakterisztikus

függvényt az 1 − \frac{σ_{k,j}^{2}t^{2}}{2} függvénnyel közelíteni. Annak érdekében, hogy a Tételt bebizonyítsuk érdemes jó becslést adni ennek a közelítés jóságára. Ebben segít az előbb tárgyalt lemma. Ugyanis felírhatjuk, hogy

\begin{aligned}φ_{k,j}(t) − (1 − \frac{σ_{k,j}^{2}t^{2}}{2} ) & = φ_{k,j}(t) − (1 + iEξ_{k,j}t − \frac{Eξ_{k,j}^{2}}{2} t^{2}) \\ & = ∫_{−∞}^{∞} (e^{itu} − (1 + iut − \frac{(ut)^{2}}{2} )) F_{k,j}( du) \end{aligned}  (1)

Az (1) formula jobboldalán szereplő kifejezést jól tudjuk becsülni az előző Lemma

segítségével. Nevezetesen felírhatjuk, hogy |e^{itu} − (1 + iut − \frac{(ut)^{2}}{2} )| ≤ \frac{(tu)^{3}}{6} . De

ugyancsak felírhatjuk a következő durvábbnak látszó becslést is:

|e^{itu} − (1 + iut − \frac{(ut)^{2}}{2} )| ≤ |e^{itu} − (1 + iut)| + \frac{(ut)^{2}}{2} ≤ (ut)^{2}.

Melyiket érdemes alkalmazni a két becslés közül? Az első becslés akkor valójában csak akkor hasznos, ha |ut| kicsi, nagy ut esetén érdemesebb a második becslést alkalmazni. (Ez a körülmény azzal függ össze, hogy egy függvény Taylor-sorának egy véges szelete csak azon pont környezetében ad jó becslést, amely körül a függvényt sorba fejtettük.) Mi a következő eljárást fogjuk követni: Rögzítünk egy ε > 0 számot, és |u| ≤ ε esetben az első, |u| > ε esetben a második becslést alkalmazzuk. Jegyezzük meg, hogy mint láttuk a Lindeberg feltétel teljesüléséből következik az egyenletes kicsiség feltétele, azaz minden ε > 0 számhoz létezik olyan k = k(ε) küszöbindex, melyre Eξ_{k,j}^{2} < ε, ha k ≥ k(ε), ahonnan a Csebisev egyenlőtlenség szerint P (ξ_{k,j} > ε) ≤ ε, azaz F_{k,j}(−ε) + (1 − F_{k,j}(ε) < ε, ami azt jelenti, hogy az F_{k,j} mérték szerint nagy halmazon az első becslést fogjuk alkalmazni. Az elmondottak alapján, az (1) formulából azt kapjuk, hogy

|φ_{k,j}(t) − (1 − \frac{σ_{k,j}^{2}t^{2}}{2} )| ≤ ∫_{−∞}^{∞} |e^{itu} − (1 + iut − \frac{(ut)^{2}}{2} )| F_{k,j}( du)

≤ ∫_{−ε}^{ε} \frac{|ut|^{3}}{6} F_{k,j}( du) + ∫_{|u|>ε}(ut)^{2}F_{k,j}( du)

≤ \frac{ε|t|^{3}}{6} ∫_{−ε}^{ε} u^{2}F_{k,j}( du) + t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du) ≤ ε\frac{|t|^{3}}{6} σ_{k,j}^{2} + t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du)

(2)

Jegyezzük meg, hogy az utolsó becslés jobboldalán levő két tag közül az első a benne szereplő ε tényező miatt lesz kicsi (az ε paramétert kicsinek fogjuk választani), a második pedig a Lindeberg feltétel teljesülése miatt. A most kapott becslés segítségével jó

becslést akarunk kapni a log φ_{k,j}(t) + \frac{σ_{k,j}^{2}t^{2}}{2} kifejezés abszolut értékére elég nagy k számra minden 1 ≤ j ≤ n_{k} esetében. Megmutatjuk, hogy minden ε > 0 és t számra

\begin{aligned}|log φ_{k,j}(t) + \frac{σ_{k,j}^{2}t^{2}}{2} | & ≤ ε|t|^{3}σ_{k,j}^{2} + 2t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du), \\ & ha k ≥ k_{0}(ε, t), és 1 ≤ j ≤ n_{k} \end{aligned}  (3)

Ezt a becslést a (2) képlet és a | log(1 + z) − z| ≤ \frac{z^{2}}{10}, egyenlőtlenség segítségével mutatjuk meg, z = log φ_{k,j}(t) − 1 választással. (Ez az egyenlőtlenség a log(1 + z) függvényt kifejező Taylor sor alakjából egyszerűen következik. Nem törekedtünk pontos konstansokat írni a becslésben. Vegyük észre, hogy ez az egyenlőtlenség nem csak valós, hanem komplex számokra is érvényes.) Válasszuk az ε > 0 számot olyan kicsinek, hogy ε|t|^{3} ≤ \frac{1}{1000}, és legyen k_{0} olyan nagy, hogy k ≥ k_{0} és tetszőleges 1 ≤ j ≤ n_{k} esetén σ_{k,j}^{2} ≤ \frac{1}{1000}. (Az egyenletes kicsiség tulajdonsága miatt ezt megtehetjük.) Ekkor alkalmazhatjuk az | log(1 + z) − z| kifejezésre felírt becslést, és azt kapjuk, hogy

| log φ_{k,j}(t) − (φ_{k,j}(t) − 1)| ≤ \frac{1}{10}(φ_{k,j}(t) − 1)^{2}

Ezért a (2) formula alapján

|log φ_{k,j}(t) + \frac{σ_{k,j}t^{2}}{2} | ≤ ε\frac{|t|^{3}}{6} σ_{k,j}^{2} + t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du) + \frac{1}{10}(φ_{k,j}(t) − 1)^{2}.

A (3) formula bizonyítása az utolsó becsléből viszonylag egyszerűen kiolvasható, azt kell észrevenni, hogy a becslés jobboldalán szereplő \frac{1}{10}(φ_{k,j}(t) − 1)^{2} tag ,,másodrendben kicsi”. Pontosabban, a (2) formula alapján

(φ_{k,j}(t) − 1)^{2} ≤ (\frac{σ_{k,j}^{2}t^{2}}{2} + ε\frac{|t|^{3}}{6} σ_{k,j}^{2} + t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du))^{2}

≤ 3\frac{σ_{k,j}^{4}t^{4}}{4} + 3ε^{2} (2\frac{|t|^{3}}{6} σ_{k,j}^{2})^{2} + 3t^{4} (∫_{|u|>ε} u^{2}F_{k,j}( du))^{2} ≤ ε|t|^{3}σ_{k,j}^{2},

ha k ≥ k_{0} elég nagy k_{0} = k_{0}(ε, t) küszöbindex-szel, mivel ekkor ∫_{|u|>ε} u^{2}F_{k,j}( du) ≤ σ_{k,j}^{2} σ_{k,j}^{2} és elég kicsi. A fenti becslésekből adödik a (3) formula.

Vezessük be a

δ(ε, k, j, t) = ε|t|^{3}σ_{k,j}^{2} + 2t^{2} ∫_{|u|>ε} u^{2}F_{k,j}( du)

kifejezést. Ekkor a (3) formula alapján

e^{−δ(ε,k,j,t)} ≤ φ_{k,j}(t)e^{σ_{k,j}^{2}t^{2}/2} ≤ e^{δ(ε,k,j,t)} ha k ≥ k_{0}(ε, t), 1 ≤ j ≤ n_{k}. Innen

exp \{− ∑_{j=1}^{n_{k}} δ(ε, k, j, t)\} ≤ ∏_{j=1}^{n_{k}} φ_{k,j}(t) exp \{\frac{t^{2}}{2} ∑_{j=1}^{n_{k}} σ_{k,j}^{2}\} ≤ exp \{∑_{j=1}^{n_{k}} δ(ε, k, j, t)\} ,

ha k ≥ k_{0}(ε, t).

A Lindeberg feltétel teljesüléséből, és a lim_{k→∞} ∑_{j=1}^{n_{k}} σ_{k,j}^{2} = 1 relációból következik, hogy lim sup_{k→∞} ∑_{j=1}^{n_{k}} δ(ε, k, j, t) ≤ ε|t|^{3}, ezért az utolsó becslésből kapjuk, hogy

e^{−ε|t|^{3}} ≤ lim inf_{k→∞} (∏_{j=1}^{n_{k}} φ_{k,j}(t) exp \{\frac{t^{2}}{2} ∑_{j=1}^{n_{k}} σ_{k,j}^{2}\})

≤ lim sup_{k→∞} (∏_{j=1}^{n_{k}} φ_{k,j}(t) exp \{\frac{t^{2}}{2} ∑_{j=1}^{n_{k}} σ_{k,j}^{2}\}) ≤ e^{ε|t|^{3}}.

Mivel ez az egyenlőtlenség minden ε > 0 számra teljesül, ezért

lim_{k→∞} (∏_{j=1}^{n_{k}} φ_{k,j}(t) exp \{\frac{t^{2}}{2} ∑_{j=1}^{n_{k}} σ_{k,j}^{2}\}) = 1,

ami viszont a lim_{k→∞} ∑_{j=1}^{n_{k}} σ_{k,j}^{2} = 1 reláció miatt azt jelenti, hogy lim_{k→∞} ∏_{j=1}^{n_{k}} φ_{k,j}(t)e^{t^{2}/2} = 1, azaz lim_{k→∞} Ee^{itS_{k}} = lim_{k→∞} ∏_{j=1}^{n_{k}} φ_{k,j}(t) = e^{−t^{2}/2}, és ezt kellett bizonyítani.

Kiegészítés: Annak a tételnek a bizonyítása, mely szerint a Lindeberg feltétel a centrális határeloszlástételnek szükséges feltétele. Először felidézem a bizonyítandó eredményt. Tétel. Legyen ξ_{k,j}, k = 1, 2, …, 1 ≤ j ≤ n_{k}, olyan szériasorozat, melyre Eξ_{k,j} = 0, Eξ_{k,j}^{2} < ∞, k = 1, 2, …, 1 ≤ j ≤ n_{k}, lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{k,j}^{2} = 1, és teljesítse ez a széroasorozat a kicsiségi feltételt, azaz legyen lim_{k→∞} ( sup_{1≤j≤n_{k}} Eξ_{k,j}^{2}) = 0. Tegyük fel ezen kívül azt, hogy az S_{k} = ∑_{j=1}^{n_{k}} ξ_{k,j}, 1 ≤ k < ∞, véletlen összegek eloszlásban konvergálnak egy 1

szórásnégyzetű és tetszőleges várható értékű normális normális eloszláshoz, ha k → ∞. Ekkor a ξ_{k,j}, 1 ≤ k < ∞, 1 ≤ j ≤ n_{k}, szériasorozat teljesíti a Lindeberg feltételt.

Bizonyítás: Jelölje φ_{j,k}(t) = Ee^{itξ_{k,j}} a ξ_{k,j} valószínűségi változó karakterisztikus függvényét, és F_{k,j}(x) az eloszlásfüggvényét. Az a tény, hogy az S_{k} valószínűségi változók eloszlásban konvergálnak egy egy szórású és valamilyen m várható értékű normális eloszlású valószínűségi változóhoz a karakterisztikus függvények nyelvén úgy fejezhető ki, hogy

lim_{k→∞} Ee^{itS_{k}} = lim_{k→∞} ∏_{j=1}^{n_{k}} φ_{k,j}(t) = e^{−t^{2}/2+imt}  (A1)

minden −∞ < t < ∞ számra. A konvergencia egyenletes minden véges intervallumban.

Vegyünk egy véges [a, b] intervallumot, és definiáljuk a φ_{k,j}(t) függvény logaritmusát. Bár a logaritmus függvény a komplex számsíkon többértékű, (egy z = re^{iφ} komplex szám logaritmusa a log z = log r + iφ + i2kπ számok valamelyike, ahol k tetszőleges egész szám lehet) nagy k számra az egyenletes kicsiség feltétele alapján a log φ_{k,j}(t) szám természetes módon definiálható az [a, b] intervallumban, és megmutatjuk, hogy teljesül egy számunkra hasznos, a későbbiekben (A2)-vel jelölt reláció.

E program végrehajtása érdekében vegyük észre, hogy az egyenletes kicsiség miatt minden T > 0 számra alkalmas k_{0} = k_{0}(T) küszöbindex esetén |φ_{k,j}(t) − 1| ≤ \frac{1}{4}. (Válasszuk a T = max(|a|, |b|) számot.) Valóban,

|φ_{k,j}(t) − 1| = |φ_{k,j}(t) − 1 − Eitξ_{k,j}| = |∫ (e^{itu} − 1 − itu)F_{k,j}( du)|

≤ ∫ \frac{t^{2}u^{2}}{2} F_{k,j}( du) = \frac{t^{2}}{2} Eξ_{k,j}^{2} ≤ \frac{1}{4}, ha k ≥ k_{0}, és |t| ≤ T.

Ezután a logaritmust úgy definiálhatjuk, a \{z: |z − 1| ≤ \frac{1}{4}\} tartományban, mint a logaritmusfüggvény azon analitikus ágát, melyre log 1 = 0.

Ezzel a választással a |1 − φ_{k,j}(t)| ≤ \frac{1}{4} és log(1 + z) − z| ≤ |z|^{2}, ha |z| ≤ \frac{1}{4} egyenlőtlenségek miatt

| log φ_{k,j}(t) + (1 − φ_{k,j}(t))| = | log (1 − (1 − φ_{k,j}(t))) + (1 − φ_{k,j}(t))|
≤ |1 − φ_{k,j}(t)|^{2} ≤ t^{4} (Eξ^{2})^{2} .

Innen

|∑_{j=1}^{n_{k}} log φ_{k,j}(t) − ∑_{j=1}^{n_{k}}(φ_{k,j}(t) − 1)| ≤ t^{4} ∑_{j=1}^{n_{k}} (Eξ_{k,j}^{2})^{2} ≤ const. t^{4} max_{1≤j≤n_{k}} Eξ_{k,j}^{2},

mert lim_{k→∞} ∑_{j=1}^{n_{k}} Eξ_{j,k}^{2} = 1. Innen, mivel az az egyenletes kicsiség feltétele miatt teljesül a

lim_{k→∞} max_{1≤j≤n_{k}} Eξ_{k,j}^{2} = 0 reláció, érvényes a

lim_{k→∞} |∑_{j=1}^{n_{k}} log φ_{k,j}(t) − ∑_{j=1}^{n_{k}}(φ_{k,j}(t) − 1)| = 0  (A2)

becslés.

Tekintsük az (A1) azonosság két oldalán szereplő kifejezések abszolut értékét, és vegyük ezek logaritmusát. Felhasználva, hogy egy z komplex szám logaritmusára érvényes a log |z| = Re log z az (A1) azonosságból azt kapjuk, hogy

lim_{k→∞} ∑_{j=1}^{n_{k}} Re (log φ_{k,j}(t)) = −\frac{t^{2}}{2}  (A3)

Az (A2) reláció alapján

0 = lim_{k→∞} |Re (∑_{j=1}^{n_{k}} log φ_{k,j}(t) − ∑_{j=1}^{n_{k}}(φ_{k,j}(t) − 1))|

= lim_{k→∞} |∑_{j=1}^{n_{k}} Re (log φ_{k,j}(t)) − ∑_{j=1}^{n_{k}} Re (φ_{k,j}(t) − 1)| .

Innen és az (A3) formulából kapjuk, hogy

lim_{k→∞} ∑_{j=1}^{n_{k}} Re (φ_{k,j}(t) − 1) = −\frac{t^{2}}{2} .

Továbbá, mivel nagy k indexre a szériasorozat sorainak az összege közel egy szórásnégyzetű, ezért innen következik, hogy

lim_{k→∞} ∑_{j=1}^{n_{k}} E (cos(tξ_{k,j}) − 1 + \frac{t^{2}ξ_{k,j}^{2}}{2} ) = 0 minden t ∈ R^{1} számra.

Vegyük észre, hogy cos u − 1 + \frac{u^{2}}{2} ≥ 0 minden u ∈ R^{1} számra, ugyanis az F (u) =

cos u − 1 + \frac{u^{2}}{2} függvényre F (0) = F′(0) = 0, és F′′(u) = 1 − cos u ≥ 0 minden u számra.

Továbbá cos u − 1 + \frac{u^{2}}{2} ≥ \frac{u^{2}}{4} , ha |u| > 3. Ezért a fenti egyenlőtlenségből következik, hogy

lim_{k→∞} ∑_{j=1}^{n_{k}} \frac{t^{2}}{4} Eξ_{k,j}^{2}I (\{|ξ_{k,j}| ≥ \frac{3}{t}\}) = 0.

t = \frac{3}{ε} választással megkapjuk a tétel állítását.