큰 숫자의 강력한 법칙-새로운 기능

하자 엑스 실제 값 랜덤 변수가되고,하자 $엑스 _1,엑스 _2,엑스 _3,...$ 독립적이고 동일하게 분포된 복사본들의 무한 시퀀스가 되라. 확률 이론의 기본 정리는 약하고 강한 형태로 제공되는 많은 수의 법칙입니다:

많은 수의 약한 법칙. 첫 번째 순간이 유한하다고 가정합니다. 다음 $\overline{X}_n$ 을 수렴한 가능성을 ${\Bbb E}X$ ,따라서 $\lim_{n\to\infty}{\Bbb P}(|\overline{X}_n-{\Bbb E}X|\hra 출력\varepsilon)=0$ 에 대한 모든 $\varepsilon0$ .

큰 숫자의 강력한 법칙. 첫 번째 순간이 유한하다고 가정합니다. 1469 년 10 월 15 일(토)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)~10 월 15 일(일)

(첫 번째 순간 가정을 두 번째 순간의 유한성에 대한 것으로 강화한다면,우리는 물론 큰 숫자의(약한)법칙,즉 중심 한계 정리보다 더 정확한 진술을 가지고 있지만 여기서는 그 정리에 대해 논의하지 않을 것입니다. 에 대한 더 많은 가설을 가지고 엑스,마찬가지로 체르노프 불평등과 같은 많은 수의 강력한 법칙의 더 정확한 버전을 가지고 있습니다.

약한 법칙은 쉽게 증명할 수 있지만,강한 법칙(물론 에고 로프의 정리에 의해 약한 법칙을 암시 함)은 더 미묘하며,실제로이 법칙의 증거(첫 번째 순간의 유한함을 가정)는 일반적으로 고급 대학원 텍스트에만 나타납니다. 그래서 저는 두 법칙의 증거를 제시 할 것이라고 생각했습니다.이 법칙은 모멘트 방법과 잘림의 표준 기술로 진행됩니다. 이 박람회에서 강조 동기 부여 및 방법보다는 간결하고 결과의 강도에있을 것입니다; 한 페이지 이하의 크기로 압축 된 문헌에 강력한 법의 증거가 존재하지만,이 여기에 내 목표가 아니다.

—모멘트 방법—

모멘트 방법은 모멘트,특히 0,첫 번째 또는 두 번째 모멘트에 의해 랜덤 변수의 꼬리 확률(즉,평균에서 멀리 변동 할 확률)을 제어하려고합니다. 이 방법이 매우 효과적인 이유는 처음 몇 순간이 종종 오히려 정확하게 계산 될 수 있기 때문입니다. 첫 번째 순간은 방법은 일반적으로 사용한 마르코프의 불평등

$\displaystyle{\Bbb P}(X|\hra 출력\lambda)\배경\frac{1}{\lambda}{\Bbb E}|X|$ (1)

(는 다음과 같이 복용하여 기대의 pointwise 불평등 $\lambda I(|X|\hra 출력\lambda)\배경|X|$ ), 반면 두 번째 순간은 방법을 사용한 몇 가지 버전의 Chebyshev 의 불평등과 같은

$\displaystyle{\Bbb P}(X|\hra 출력\lambda)\배경\frac{1}{\lambda^2}{\Bbb E}|X|^2$ (2)

(참고(2)(1) 에 적용되는 임의 변수를 $|X|^2$ 고 임계값 $\람다^2$ ).

일반적으로 말해서,계산하는 순간 하나는 일반적으로 사용한 선형성의 기대

$\displaystyle{\Bbb E}X_1+\ldots+X_n={\Bbb E}X_1+\ldots+{\Bbb E}X_n$ ,

반면을 컴퓨팅 두 번째는 순간 하나도 이해할 필요가 공분산(특히 간단하는 경우에 한정한 쌍 독립)덕분에,id 등

$\displaystyle{\Bbb E}(X_1+\ldots+X_n)^2={\Bbb E}X_1^2+\ldots+{\Bbb E}X_n^2+2\sum_{1\배경 i j\n 배경}X_i X_j$

또는 표준 변형

$디스플레이 스타일[1][1][1][1][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2][2])$

.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506.2506. (3)

높은 모멘트는 원칙적으로보다 정확한 정보를 제공 할 수 있지만 종종 공동 독립과 같은 연구 대상물에 대한 더 강력한 가정을 필요로합니다.

다음은 첫 번째 순간 방법의 기본 응용 프로그램입니다:

보렐-칸 텔리 보조 정리. 이 두 가지 유형의 이벤트 중 하나(예:1161)는 두 가지 유형의 이벤트 중 하나(예:1161)로 구성됩니다. 그런 다음 거의 확실하게, $E_n$ 의 많은 사건들만이 사실입니다.

증명. 이벤트 $E_n$ 의 표시기 기능을 나타냅니다. 우리의 임무는 $\sum_{n=1}^\infty I(E_n)$ 이 거의 확실하게 유한하다는 것을 보여주는 것입니다. 그러나 기대의 선형성에 의해,이 랜덤 변수의 기대는 가설에 의해 유한 한이다. 마르코프의 불평등(1)에 의해 우리는 결론

(1734)(1734)(1734)(1734)(1734)(1734)(1734)

시키는 $\람다\에\인티$ 우리는 주장을 얻을.

많은 수의 법칙으로 돌아,첫 번째 순간 방법은 다음과 같은 꼬리 바인딩을 제공합니다:

보조 정리 1. (첫 번째 순간 꼬리 바인딩)이 유한한 경우

6204

증명. 삼각 부등식에 의해 $|\오버 라인{엑스}_엔|\레크\오버 라인{/엑스/}_엔$ . 기대의 선형성에 의해,기대 $\오버 라인$ 은

보조 정리 1 은 약하거나 강한 형태로 큰 숫자의 법칙을 증명하기에 충분히 강하지 않습니다.

우리는 보조 정리 1 보다 더 강한 경계를 얻을 수 있습니다. (두 번째 순간 꼬리 바인딩) $|엑스|^2$ 는 유한한 경우

람다(5652).2018-05-25

증명. (3)과 $X_i$ 의 쌍별 독립성을 악용하는 표준 계산은 경험적 평균의 분산이 $\overline{X}_n$ 의 분산

반대 방향으로,거기에 zeroth 순간법,더 일반적으로 알려져 있으로 바 union

$\displaystyle{\Bbb P}(E_1\vee\ldots\vee E_n)\배경\sum_{j=1}^n{\Bbb P}(E_j)$

또 동일하게(을 설명하는 용어”zeroth 순간”)

$\displaystyle{\Bbb E}(X_1+\ldots+X_n)^0\배경{\Bbb E}X_1^0+\ldots+X_n^0$

어떤 음수가 아닌 임의의 변수를 $X_1,\ldots,X_n\hra 출력 0$ . 이것을 경험적 수단에 적용하면,우리는 0 순간 꼬리 추정치를 얻습니다

{\2018 년 11 월 1 일-2018 년 11 월 1 일 (4)

두 번째 모멘트 바운드(보조 정리 2)가 두 번째 모멘트(또는 분산)에 대해 잘 제어 할 때만 유용하듯이 제로 모멘트 꼬리 추정치(3)는 제로 모멘트에 대해 잘 제어 할 때만 유용합니다.

—자르기—

두 번째 모멘트 꼬리 바인딩(보조 정리 2)은 이미 유한 한 두 번째 모멘트(또는 동등하게 유한 분산)가있는 경우 많은 수의 약한 법칙을 제공합니다. 일반적으로,에 대해 아는 모든 경우 엑스 그것이 유한 한 첫 번째 순간을 가지고 있다는 것입니다,그러면 우리는 결론을 내릴 수 없습니다 엑스 유한 한 두 번째 순간을 가지고 있습니다. 그러나 우리는 우리를 수행할 수 있습 잘라내기

$\displaystyle X=무리수{\N 배경}+무리수{N}$ (5)

X 에서 원하는 임계값 N,여기서 $무리수{\N 배경}:=X I(|X|\N 배경)$ 및 $무리수{N}:=X I(|X|N)$ . 첫 번째 항은 유한 한 두 번째 모멘트를 가지고 있습니다.

$\2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일|$

따라서 우리는 유한 분산을 가지고 있습니다

\4408|4408|4408|4408|4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408/4408 (6)

두 번째 항 사실,모노톤 수렴 정리에 의해,우리는

을 표시합니다. (7)

삼각형 부등식에 의해,우리는 첫 번째 항이에 가까운 기대를 가지고 있다고 결론 지었다.” width=”25″ height=”11″>:

을 표시합니다. (8)

이러한 모든 도구가 필요하의 약한 법의 큰 숫자:

증거의 약한 법률입니다. 이 문제를 해결하려면 다음을 수행하십시오. 기에 충분을 표시할 때마다 n 충분히 큰에 따라\varepsilon $\overline{X}_n={\Bbb E}X+O(\varepsilon)$ 과 확률1-O(\varepsilon). 이제 우리는(5)를 사용하여 분할합니다

— 강력한 법칙-

강력한 법칙은 위의 방법을 조금 더 밀고 몇 가지 트릭을 사용하여 입증 할 수 있습니다.

첫 번째 트릭은 강력한 법칙을 증명하기 위해 음수가 아닌 확률 변수에 대해 그렇게하면 충분하다는 것을 관찰하는 것입니다. 실제로 이것은 임의의 무작위 변수 엑스 유한 첫 번째 모멘트를 가진 두 개의 음이 아닌 확률 변수 $\최대(엑스,0),\최대(-엑스,0)$ 의 차이로 표현 될 수 있다는 단순한 사실에서 즉시 따릅니다.

일단 엑스 음수가 아닌 경우 경험적 평균 $\오버 라인{엑스}_엔$ 엔” width=”22″ height=”17″>에서 너무 빨리 감소 할 수 없습니다. 특히 우리는 그것을 관찰합니다

\이 경우,당신은 당신이 원하는 것을 찾을 수 있습니다,당신은 당신이 원하는 것을 찾을 수 있습니다,당신은 당신이 원하는 것을 찾을 수 있습니다. (9)

이 준 동음 성 때문에 우리는 강력한 법칙을 증명할 필요가있는 엔 세트를 희소화 할 수 있습니다. 더 정확하게,그것은 보여 충분하다

많은 수의 강력한 법칙,감소 버전. 1347>는 음수가 아닌 무작위 변수로으로,그리고 $1 의 레큐 엔 _1 레큐 엔 _2 레큐 엔 _3 레큐 엔 _3 레큐 엔$ 는 $엔_{제이+1}/엔제이 씨$ 일부오버라인은 $에 거의 확실하게 수렴한다.</blockquote>실제로 축소 된 버전을 증명할 수 있다면 해당 버전을 열수 시퀀스에 적용 할 수 있습니다. : 그러나,이 경우,우리는 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 그(것)들에게 (그리고 거의 확실한 사건의 셀 수있는 교차점이 거의 확실하다는 사실을 사용하여)우리는 완전한 강력한 법칙을 얻습니다.이제 시퀀스를 희소화 했으므로 보렐-칸텔리 보조 정리를 적용하는 것이 경제적입니다. 실제로,여러 응용 프로그램의 lemma 우리는 것을 볼 충분하다는 것을 보여주 <img src=$ (10)

비상 부정적인 X 의 유한 첫 번째 순간 어떤 lacunary sequence $1\배경 n_1\배경 n_2\배경\ldots$ 및 $\varepsilon0$ .

이 시점에서 우리는 돌아가서 이미 약한 법을 제공하기 위해 일한 방법을 적용합니다. 즉,각 꼬리 확률을 추정하기 위해 ${\Bbb P}( \overline{X}_{n_j} \neq {\Bbb E}(X) + O(\varepsilon) )$ ,우리는 어떤 임계 값 $N_j$ 에서 절단(5)을 수행합니다. 어떤 잘림을 수행해야하는지는 즉시 명확하지 않으므로 $N_j$ 을 지정하지 않고 나중에 이 매개 변수에서 최적화하는 일반적인 전략을 채택합니다.우리는 적어도 $N_j$ 을 충분히 크게 골라서이 될 수 있도록해야합니다. 두 번째 순간 꼬리 추정(보조 정리 2)에서 우리는 $이$ 도. 하나는(6)을 사용하여 이 식을 단순화하려고 시도할 수 있지만,이것은 조금 낭비적인 것으로 판명되었습니다. 그러나(6)은 $N_j$ 을 $n_j$ 와 같은 것으로 취하기를 원한다고 강력하게 제안하며,이는 다음과 같은 것을 염두에 둘 가치가 있습니다.

이제 우리는의 기여를 살펴 봅니다. 여기서 근원적인 문제는 모노톤 수렴 정리에서 나오는 붕괴(7)는 효과가 없다는 것이다(하나는 유한 수렴 원리를 사용하여 이것을 효과적으로 할 수 있지만,이것은 매우 중요한 것으로 판명된다).여기에 가난한 결과).

그러나 제로 순간 방법 꼬리 추정(4)인 재생 마지막 카드가있다. 앞서 언급했듯이,이 바인딩은 일반적으로 형편 없지만 엑스 대부분 0 일 때 매우 좋습니다. 그리고 우리는 특히 $(오버 라인)_$ 이 확률 $1-$ 으로 0 임을 알 수 있습니다.

이 모두 함께,우리는

$\displaystyle{\Bbb P}(\overline{X}_{n_j}\neq{\Bbb E}(X)+O(\varepsilon))\배경 O(\frac{1}{\varepsilon n_j}{\Bbb E}|무리수{\배경 N_j}|^2)+O(n_j{\Bbb P}(X N_j) ).$

요약 이것에서는,우리는 우리가 수행됩니다 곧 우리는 그림을 선택하는 방법을 $N_j$ 록

$\displaystyle\sum_{j=1}^\infty\frac{1}{n_j}{\Bbb E}|무리수{\배경 N_j}|^2$ (11)

고

$\displaystyle\sum_{j=1}^\infty n_j{\Bbb P}(X N_j)$ (12)

은 모두 유한합니다. (평소와 같이,우리는 트레이드 오프가 있습니다: $N_j$ 을 크게 만들면(12)를(11)의 비용으로 쉽게 설정할 수 있고, $N_j$ 을 작게 만들 때 그 반대의 경우도 마찬가지입니다.)

앞에서 논의한 내용을 토대로 $N_j := n_j$ 설정을 시도하는 것은 자연스러운 일입니다. 행복하게,이 선택은 깨끗하게 작동합니다; $n_j$ 의 간극 특성은(기본적으로 기하학적 시리즈 공식에서)우리가 점 추정치를 갖도록합니다

$\2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일-2018 년 11 월 1 일)$

그리고

$\이 문제를 해결하려면 다음을 수행하십시오.)$

(여기서 암시 된 상수는 시퀀스 $엔 _1,엔 _2,\엘 점$ ,특히 열공 상수 씨). 청구항(10),(11)은 기대의 선형성에 대한 마지막 적용에서 이어져 많은 수의 강력한 법칙을 제공합니다.

말 1. 위의 증명은 사실 많은 수의 강력한 법칙이 공동 독립보다는 $X_n$ 의 쌍 독립만을 가정하더라도 유지된다는 것을 보여줍니다. $\다이아몬드$

비고 2. 중요한 준합성 특성(9)을 얻기 위해서는 확률 변수가 하나의 경험적 평균 $에서 다음 행으로$ ,여기서 $엑스_{나는,제이}$ 은 모두 아이드이고,큰 숫자의 강력한 법칙은 실제로 단지 첫 번째 순간 가정으로 분해된다. 이 예제에서는 확률 변수(예:확률 변수)를 사용하여 확률 변수(예:확률 변수)를 계산할 수 있습니다.; 이 확률 변수(간신히)는 유한 한 첫 번째 순간을 가지고 있지만 $엔\심 2^미디엄/미디엄^2$ ,우리는 $\오버 라인 엔$ 확률로 평균에서 적어도 절대 상수로 벗어나는 것을 알 수 있습니다 $\지 1/미디엄^2$ . 이제 그 중 하나가 크게 벗어나는 확률은 이제 1 에 매우 가깝습니다(실제로 $m$ 에서 매우 기하 급수적으로 가깝습니다).이 설정에서 강력한 법칙의 완전한 실패로 이어집니다.)물론,관심을 제한하는 경우 열공 순서 엔 그런 다음 위의 증거는 독립적 인 경우(보렐-칸텔리 보조 정리 이 독립성에 민감하지 않기 때문에). 공동 독립성을 더 이용함으로써(예:체 르노 프의 불평등을 사용하여)전체 시퀀스에 대한 독립적 인 경험적 수단에 대한 강력한 법칙을 얻을 수 있습니다 엔 두 번째 모멘트 범위 아래. $\다이아몬드$

비고 3. 보간 이론의 관점에서,하나는 보간 인수로 위의 인수를 볼 수 있습니다,설정 $엘^1$ 추정(10)사이에 보간하여 $엘^2$ 추정(보조 정리 2)와 $엘^0$ 추정(4). $\다이아몬드$

비고 4. 따라서 측정 보존 시스템의 특수한 경우로서 큰 숫자의 약하고 강한 법칙을 각각 평균 및 점 단위 에르고딕 정리의 특별한 경우로 볼 수 있습니다(254 강의 8 의 연습 9 및 254 강의 9 의 정리 2 참조). $\다이아몬드$