Центральная предельная проблема теории вероятности

Выполнил:

Студент группы РФ-07-7

Коняшкин  Н. С.

Преподаватель:

Юницкий С. А. 
 
 
 

Москва, 2009

        Введение.

        Центральная предельная проблема теории вероятностей представляет собой проблему сходимости законов последовательности сумм независимых случайных величин.

     В течение более двух столетий в теории вероятностей рассматривался частный случай предельной проблемы — классическая предельная проблема. Точная формулировка этого частного случая и его решение были получены во второй четверти текущего столетия. В то самое время, когда эта частная проблема получала свое решение, возникла гораздо более общая центральная предельная проблема. Эта проблема очень быстро была решена мощными методами характеристических функций, методами усечения и симметризации.

   Развитие  проблемы.

    В классической предельной проблеме рассматриваются независимые слагаемые Х_п с конечными первыми, а в случае нормальной сходимости — и вторыми моментами. Эти моменты используются для изменения начала отсчета и масштаба величин последовательных сумм

это делается для того, чтобы вероятность «не уходила в бесконечность». Такой выбор «нормирующих» констант объясняется исключительно историческими причинами; эти константы появились в результате прямого обобщения нормирующих констант в схеме Бернулли на более общий случай. Априори нет оснований надеяться, что эти константы сохранят свое значение и в общем случае. Другой выбор констант (независимо от существования и конечности первых двух моментов) может дать тот же самый результат. Таким образом,  возникает проблема  нахождения   условий,   при  которых для нормированных сумм                  имеют место закон больших чисел и нормальная сходимость. Методы решения остаются те же, что и в классическом случае, однако выкладки усложняются. В этой постановке проблемы все еще сохраняется влияние первых двух предельных теорем в схеме Бернулли. В самом деле, только этим влиянием можно объяснить то, что мы ожидаем получить, и разыскиваем лишь те предельные законы, которые совпадают либо с вырожденными,  либо с нормальными.

      Новый подход П. Леви, свободный от этого влияния, привел к созданию центральной предельной проблемы. Он поставил и решил следующую проблему: найти семейство всех возможных предельных законов нормированных сумм независимых и одинаково распределенных случайных величин. Мы уже видели, что в тех случаях, когда случайных величины имеют конечный второй момент, предельный закон (с классическими нормирующими константами) нормален. Таким образом, П. Леви имел дело в первую очередь с новым случаем бесконечных вторых моментов и конечных или бесконечных первых моментов.

     Естественно сразу возник вопрос о всех возможных предельных законах нормированных сумм независимых, но не обязательно одинаково распределенных случайных величин. Однако предельная теорема Пуассона пока еще остается в стороне, так как она связана с последовательностями сумм, а не с последовательностями нормированных частных сумм. Более того, ни при каких «естественных» ограничениях закон Пуассона не может быть предельным законом последовательности нормированных  сумм.   Этим   и   объясняется   его   изолированное положение.   Но   последовательности                                       

                   являются частным  случаем последовательностей                  (если 

положить                                     ) ;  это  приводит  нас   к  окончательной формулировке проблемы.

     Теперь вырисовывается общее содержание центральной предельной проблемы: найти предельные законы последовательностей сумм независимых слагаемых и найти условия сходимости к заданным законам. Однако в такой общей постановке проблема бессодержательна. В самом деле, пусть Y_n— произвольные случайные величины; положим X_n1 = Y_n и Х_пк = 0п. н. при     k > 1 и каждом n. В этом случае рассматриваемая последовательность законов превратится в последовательность                  поэтому семейство предельных законов содержит любой закон        ; для этого надо взять                            

       Таким образом, необходимо наложить некоторые ограничения.

Рассмотрим те задачи, которые приводят к этим «естественным» ограничениям. Общим свойством этих задач является то, что число слагаемых безгранично  растет, причем предельный закон не изменяется, если опустить произвольное конечное число слагаемых. Это свойство приводит к следующему «естественному» ограничению:   слагаемые   Х_пк должны быть   равномерно   бесконечно малыми, т. е.                     равномерно по k, или, что равносильно, при каждом  ε > 0.

      Мы пришли, наконец, к следующей точной формулировке проблемы.     Центральная   предельная    проблема:

Пусть                          является суммой равномерно бесконечно малых незави-

самых  слагаемых Х_пк  и k_n→∞.

1. Найти семейство всевозможных предельных законов таких сумм.
2. Найти условия сходимости к любому заданному закону этого семейства.

      Для упрощения записи будем придерживаться следующих обозначений:

(I)                                                            суммирование           произведение     

и максимум                 берутся по всем этим значениям k,  переход  к пределу обычно производится при n→∞, если не оговорено что-либо другое.

(II)   Функцию распределения и характеристическую функцию случайной величины X_nk обозначим F_nk и f_nk ; функцию распределения и характеристическую функцию                  обозначим F_n и f_n. Условие равномерной бесконечной малости запишется так:                                                              при  любом  ε > 0,   
 

а условие независимости   приводит   к   равенству                           Сама проблема может  быть  сформулирована так:

Пусть   даны  последовательности                           произведений характеристических

функций равномерно бесконечно малых случайных величин.

1. Найти все такие характеристических функции   f, для которых   f_n→f.
2. Найти условия, при которы x   f_п   → к данной f.

          Если рассматриваемые характеристические функции имеют логарифмы на                                  то мы всегда будем выбирать их главные ветви   (непрерывные    и    обращающиеся    в  нуль   при   u = 0);

тогда на                                                     

                              (равномерно)                                             (равномерно).

         Проблема была решена после того, как Финетти ввел семейство «безгранично делимых» законов, а Колмогоров и П. Леви нашли явное представление этих законов, первый — в случае конечных вторых моментов, а второй — в общем случае. Проблема была решена с использованием этого семейства законов усилиями Колмогорова, П. Леви, Феллера, Бавли, Хинчина, Марцинкевича, Гнеденко и Деблина (1931—1938 гг.). Окончательные результаты получены в основном Гнеденко.

            Случай ограниченных дисперсий.

        В качестве введения в исследование общей проблемы изучим независимо от нее частный «случай ограниченных дисперсий», который представляет собой «естественное» обобщение классической проблемы нормальной сходимости. При этом вычисления будут намного легче, чем в общем случае, хотя метод решения по существу одинаков.

Рассмотрим суммы                независимых случайных величин, центрированных математическими ожиданиями, с функциями распределения F_nk и xap. функциями f_nk и с такими конечными дисперсиями                           что                                                                             где постоянная с   не зависит от п.

Эта модель является частным случаем  центральной предельной проблемы,  поскольку при  каждом  ε > 0

                                                                                                                                    т. е. выполнены условия равномерной бесконечной малости. Из ограниченности последовательности дисперсий сумм вытекает конечность дисперсии предельного закона.

а) Лемма сравнения.

 При выполнении условия (С) log f_nk (и) существует и конечен для п ≥ п_и , где п_и достаточно велико; для каждого фиксированного и 

Доказательство. Так как                                                        то из условия (С) следует 

Таким образом, для п > п_и ,  где п_и достаточно велико,                            поэтому log f_nk (и) существует и конечен, а из разложения

вытекает   
 
 

Лемма  сравнения доказана. Положим 

Так как  

то мы имеем

или 

В последней формуле К_п есть неубывающая непрерывная слева на R функция с                                                               определенная формулой

а подынтегральная функция определяется в точке х = 0 по непрерывности и равна там — и²/2. Лемму сравнения можно сформулировать в  следующем виде.

а'.  При условии (С)

Введенные выше функции всегда будут  обозначаться ψ и К с индексами или без индексов. Таким образом, если не оговорено противное, функция ψ определяется на R равенством

где К с точностью до постоянного множителя является функцией распределения с                                                         ψ и К могут иметь (один и тот же) индекс.

б) Каждая функция е ^ψ является хар. функцией с нулевым первым моментом и конечной дисперсией σ² = Var К и представляет собой предельный закон при условии (С).

Доказательство. Подынтегральная функция  ограничена по х и непрерывна по и (или х) при каждом фиксированном х (или и). Отсюда следует, что ψ является непрерывной на R функцией   и    равна   пределу   сумм   Римана — Стильтьеса   вида                                                                      где

при этом мы будем  выбирать точки деления х_пk ≠ 0. Каждое слагаемое является логарифмом некоторой характеристической функции (пуассоновского типа), поэтому их суммы и предел ψ (по теореме непрерывности) также представляют собой логарифмы характеристических функций. Из элементарных вычислений

вытекает второе утверждение. Далее, пусть Х_пk  ,  k = 1,…,n  —

независимые случайные  величины с одним и тем же логарифмом   характеристической функции, равным ψ/n. Так как ψ/n соответствует функция К/п, то ,                                      причем                       Так как           имеет при любом п характеристическую функцию е ^ψ и условия (С) выполнены, то тем самым доказано  и последнее  утверждение.

в)  Лемма единственности.

ψ однозначно определяет (С), и наоборот.

Доказательство.  Поскольку

то применима  формула обращения, и К однозначно определяется по ψ через ψ ". Обратное утверждение очевидно.

г)  Лемма сходимости.

 Пусть условие (С) выполнено.

Если  К_п  →^сл К, то ψ _n → ψ. Наоборот, если ψ _n → log  f  , то К_п → К и log f = ψ определяется с помощью К.

Доказательство.  Первое утверждение  сразу следует из обобщенной леммы  Хелли — Брея. Докажем обратное утверждение. Поскольку дисперсии равномерно ограничены, то применима теорема слабой компактности, согласно которой существует такая функция К (с Var K ≤ c), что К_п’ →^сл К, когда n’→ ∞ по некоторой подпоследовательности целых чисел. Следовательно, по прямому утверждению настоящей леммы             

                                       так как ψ _n → log  f  . В силу леммы единственности

ψ _n = log  f  однозначно определяет (С) , откуда следует К_п  →^сл К, что и требовалось доказать.

Предыдущие леммы  дают следующее решение нашей  проблемы.

А. Предельная теорема  для ограниченных дисперсий.  

Если независимые слагаемые X_nk центрированы  математическими   ожиданиями   и                                                              

при всех п, то

1°  Семейство   предельных   законов   для   последовательностей

                        совпадает с семейством законов центрированных математическими ожиданиями случайных величин с конечными дисперсиями и характеристическими функциями вида   f = e ^ψ ,  где

а К—непрерывная  слева не убывающая  на R функция с                                      ψ и К определяют друг друга однозначно.

2°                                             характеристическая  функция которого обязательно имеет вид e ^ψ, тогда и только тогда, когда К_п  →^сл К, где К_п определяется формулой 

Если  условие                               заменить условием

то К_п  →^сл К заменяется К_п  →^вп К.

Доказательство.

1° вытекает из б), леммы сравнения и леммы сходимости.

2° вытекает из 1° и леммы сходимости; указанный в конце частный случай вытекает из следующего соотношения:

Обобщение. До сих пор мы рассматривали центрированные математическими ожиданиями случайные величины. Если мы откажемся от этого условия и положим

то предыдущие результаты сохраняются, если    F_nk   и    f_nk    заменить

везде на                      мы будем также писать   вместо ψ. Возвращаясь обратно к нецентрированным случайным величинам, мы должны ввести предельные законы                 с конечными дисперсиями и необязательно нулевыми математическими ожиданиями                       логарифмы характеристических функций которых имеют вид                                      откуда  

        Лемма   единственности   формулируется   следующим   образом: ψ однозначно определяет а и К, и наоборот.

В лемме сходимости К_п  →^сл К заменяется на К_п  →^сл К и а_п  → а.

       Те же самые изменения должны быть произведены и в предельной теореме; при этом надо положить                         и заменить F_nk

на   .

     Таким образом,   критерий  сходимости  2° превращается  в обобщенный    критерий    сходимости.:

      Если   независимые слагаемые X_nk   таковы, что                                             и                                   mo                                         (характеристическая функция предельного закона обязательно  имеет вид e ^ψ)  тогда  и  только тогда,   когда  К_п  →^сл К и                          где

Если                                заменить на                                             то К_п  →^сл К заменяется К_п  →^вп К

Частные случаи:

1°  Нормальная сходимость.

Нормальному закону                     соответствует функция                                   и, следовательно, функция К, равная К(х) = 0 при    х  < 0 и К(х) = 1 при        х > 0 (в силу леммы единственности достаточно проверить, что эта функция К дает заданную ψ).

      Критерий нормальной сходимости.

       Пусть независимые слагаемые Х_пk центрированы математическими ожиданиями, и пусть                      при  всех  п. При этих условиях

                                         и                              тогда и только тогда, когда

при каждом  ε > 0 

     Доказательство.  

     Из  неравенства  

и из того, что g_n(ε) → 0 при каждом ε > 0, следует                            (для этого надо в неравенстве положить сначала n → ∞, а затем ε → ∞). Простые вычисления показывают, что критерий сходимости А 2° эквивалентен тому, что g_n(ε) → 0 при каждом ε > 0.

Полагая    

мы получаем критерий классической нормальной сходимости. Теорема Ляпунова вытекает из неравенства  
 

2°.   Пуассоновская   сходимость.   Закону Пуассонна                  соответствует  функция 

а этой функции  ψ соответствует функция К, равная К(х) = 0 при х < 1 и        K(x) = 1 при х > 1. Из обобщенного критерия сходимости легко получить

критерий пуассоновской сходимости:

     Если независимые слагаемые X_nk таковы,                             и                   только тогда, когда                           и  при  каждом ε > 0

РЕШЕНИЕ ЦЕНТРАЛЬНОЙ ПРЕДЕЛЬНОЙ ПРОБЛЕМЫ

Рассмотрим теперь общую проблему. Как уже было указано  выше, метод решения по существу остается тем же, что и в случае ограниченных дисперсий. Возникающие  при этом вычислительные трудности  обусловливаются двумя фактами.

(1) Поскольку  не предполагается существование даже первых моментов, то центрирование приходится проводить не математическими ожиданиями, а усеченными математическими ожиданиями.

(2) Определенные выше функции К не обязаны теперь иметь ограниченную вариацию; если же их вариации ограничены, то они уже не предполагаются равномерно ограниченными. Поэтому мы вынуждены заменить их

функциями вида                                                        где             - функции  

распределения, центрированные усеченными математическими ожиданиями. Это приводит к предельным законам, логарифм характеристических функций которых имеет более сложный вид. Сначала мы исследуем эти законы.

        Семейство предельных законов; безгранично делимые законы.

Закон        и его характеристическая функция   f   называются безгранично делимыми, если при каждом п существуют (на некотором вероятном пространстве)  n  независимых   и одинаково   распределенных  случайных

величин Х_пк, для которых                                      другими словами, при

каждом п существует такая характеристическая функция f_n, что f = f_nⁿ.      Если    f = 0, то log  f   существует и конечен, и                                    если не оговаривается что-либо другое, мы всегда будем выбирать за log  характеристической функции главную ветвь, обращающуюся в нуль при n = 0, а корень n-й степени из   f будем определять написанным выше равенством.

       Очевидно, что безгранично делимый закон определяет безгранично делимый тип. Вырожденный, нормальный и пуассоновский типы    безгранично    делимы,    так   как   для                                      или

                              , или                                             выражение                  при любом п имеет тот же самый вид. Вообще все предельные законы e ^ψ, полученные в случае ограниченных дисперсий, безгранично делимы, так как соответствующие  ψ таковы, что ψ /n является логарифмом характеристической функции того же самого вида (с                  и с функцией K/n, являющейся с точностью до постоянного множителя функцией распределения). В действительности имеет место следующее.

а)  Безгранично делимое семейство входит в семейство предельных законов центральной предельной проблемы.

В самом деле, условия равномерной бесконечной  малости независимых и одинаково распределенных ел. величин X_nk  , которые фигурируют в определении безгранично делимых законов, сводится к сходимости общего закона этих величин к вырожденному в 0 закону, т. е. сводится к f_n → 1.

В то же время  мы имеем

б)  Если f = f_nⁿ при каждом п, где f_n есть характеристическая функция, то f_n →1; кроме того,  f_n  ≠ 0.

    Доказательство.

Так как | f |< 1, то  | f_n |² = | f |^2/n →g, причем g(u) = 0 или 1 в зависимости от f(u) = 0 или f(u) ≠ 0 . Так как   f   непрерывна и   f (0) = 1, то существует такая окрестность нуля, где | f(u) | > 0 и, следовательно, g (и) = 1; поэтому g непрерывна в этой окрестности. Таким образом, последовательность | f _n|² характеристических функций сходится к непрерывной в нуле функции g; применяя теорему непрерывности, мы получаем, что g является характеристической функцией. Следовательно, g непрерывна на R и g(0) = l; так как эта функция может принимать не больше двух значений: 0 и 1, то она тождественно равна 1. Итак, f ≠ 0, log f существует и конечен,         

                                         Предложение доказано.

Позднее мы увидим, что семейство предельных законов  в этой проблеме совпадает с безгранично  делимым семейством. Этим обстоятельством  объясняется  нижеследующее  свойство.

А. Теорема замкнутости.

Безгранично делимое семейство  замкнуто относительно композиций и перехода к пределу.

Доказательство. Если  f   и  f '  —безгранично делимые характеристические функции, то при каждом п существуют такие характеристические функции  f_n   и  f _n'  что   f = f_n   и  f ' = f _n' . Отсюда получаем f f ' = (f _n f _n' )ⁿ, где f _n f _n' являются характеристическими функциями. Итак,  первое утверждение доказано.

Пусть последовательность  f _n   безгранично делимых характеристических функций сходится к характеристической  функции  f.  Тогда для каждого целого  m  | f _n|^2/m →  | f |^2/m , следовательно, по теореме непрерывности  | f |²     является характеристической функцией. Таким образом, | f |² есть безгранично делимая характеристическая функция, поэтому в силу б f ≠ 0 . Так как log  f существует и  конечен  и   

то  f ^1/m   есть характеристическая функция, следовательно,   f   безгранично делима. Доказательство закончено.

Основным свойством  безгранично делимых законов (а, следовательно, как мы увидим, всех предельных законов в центральной предельной теореме) является то, что они строятся с помощью законов пуассоновского типа. Точный смысл это свойство получает в нижеследующей теореме; это же свойство приводит к явному выражению в теореме о представлении, доказанной немного дальше.

Б. Структурная  теорема.

Характеристическая  функция безгранично делима тогда и только тогда, когда она является пределом последовательности произведений характеристических функций пуассоновского типа.

Другими словами, класс безгранично делимых законов  совпадает с предельными законами последовательностей сумм независимых случайных величин пуассоновского типа.

Доказательство.

Произведения   f _n характеристических функций пуассоновского типа определяются с помощью сумм вида