Что такое одномерная плотность вероятности случайного процесса
Что такое одномерная плотность вероятности случайного процесса
ъОБЮЕОЙС УМХЮБКОЩИ ЧЕМЙЮЙО ОЕМШЪС РТЕДХЗБДБФШ ДБЦЕ РТЙ РПМОПУФША ЙЪЧЕУФОЩИ ХУМПЧЙСИ ЬЛУРЕТЙНЕОФБ, Ч ЛПФПТПН ПОЙ ЙЪНЕТСАФУС. чПЪНПЦОП ХЛБЪБФШ МЙЫШ ЧЕТПСФОПУФЙ ФПЗП, ЮФП УМХЮБКОБС ЧЕМЙЮЙОБ РТЙНЕФ ФП ЙМЙ ЙОПЕ ЪОБЮЕОЙЕ ЙМЙ РПРБДЕФ Ч ЪБДБООЩК ЙОФЕТЧБМ. пДОБЛП, ЪОБС ТБУРТЕДЕМЕОЙЕ ЧЕТПСФОПУФЕК УМХЮБКОЩИ ЧЕМЙЮЙО, ЧПЪНПЦОП ДЕМБФШ ЧЩЧПДЩ П УЧПКУФЧБИ ТЕБМЙЪБГЙК ур Й ПВ ЙИ ИБТБЛФЕТОЩИ ПУПВЕООПУФСИ.
рТПЙЪЧПДОБС ЖХОЛГЙЙ ОБЪЩЧБЕФУС ПДОПНЕТОПК РМПФОПУФША ЧЕТПСФОПУФЙ (ЙМЙ РТПУФП РМПФОПУФША ЧЕТПСФОПУФЙ ) Й ПРТЕДЕМСЕФУС УМЕДХАЭЙН ПВТБЪПН:
пЮЕЧЙДОП, ЮФП ОБ ПУОПЧЕ ЧЩВПТПЛ ур РПУФТПЙФШ ЙЕТБТИЙА РМПФОПУФЕК ЧЕТПСФОПУФЙ ОЕЧПЪНПЦОП. пДОБЛП Ч ОЕЛПФПТЩИ УМХЮБСИ ДМС ФПЗП, ЮФПВЩ ПИБТБЛФЕТЙЪПЧБФШ РТПГЕУУ, ДПУФБФПЮОП ЪОБФШ ЛПОЕЮОПЕ ЮЙУМП УПЧНЕУФОЩИ РМПФОПУФЕК ЧЕТПСФОПУФЙ. ьФП УРТБЧЕДМЙЧП, ОБРТЙНЕТ, ДМС ур, УПУФПСЭЙИ ЙЪ УФБФЙУФЙЮЕУЛЙ ОЕЪБЧЙУЙНЩИ УМХЮБКОЩИ ЧЕМЙЮЙО, Й ДМС ЛЧБЪЙДЕФЕТНЙОЙТПЧБООЩИ ур. рПЬФПНХ ЧБЦОП ПРТЕДЕМЙФШ РТЙОБДМЕЦОПУФШ ур Л ЛМБУУХ РПДПВОЩИ ур.
оБ ТЙУ. 4 РТЙЧЕДЕОЩ РМПФОПУФЙ ЧЕТПСФОПУФЙ УМХЮБКОЩИ РТПГЕУУПЧ, ТЕБМЙЪБГЙЙ ЛПФПТЩИ РТЕДУФБЧМЕОЩ ОБ ТЙУ. 3.
1. Характеристики и свойства случайного процесса
Случайный процесс описывается статистическими характеристиками, называемыми моментами. Кроме того, важнейшими характеристиками случайного процесса являются его стационарность и эргодичность, а также спектр мощности.
Одномерная плотность распределения вероятности W(x,t) определяет вероятность
того, что случайная величина x (t) лежит в интервале с помощью функции W(x,t) можно провести усреднение как случайной величины x (t), так и любой функции от нее.
Средним значением случайного процесса или его первым моментом называется интеграл
Второй начальный момент случайного процесса описывается интегралом
и определяет среднюю мощность случайного процесса.
При анализе случайных процессов часто интерес представляет флуктуационная составляющая. Введем понятие центрированного случайного процесса
Второй центральный момент определяет мощность флуктуационной составляющей случайного процесса и называется дисперсией
Аналогично можно определить также моменты случайного процесса более высокого порядка.
Таким образом, используя одномерную плотность распределения вероятности можно получить параметры случайного процесса, которые являются усреднением по множеству (ансамблю) реализаций данного случайного процесса в каком либо его «сечении», то есть в фиксированный момент времени t. Но задание одномерной плотности распределения вероятности не дает возможность определить характер изменения случайного процесса во времени и не характеризует взаимосвязь случайного процесса в различные моменты времени. Для этого вводят понятие двумерной плотности распределения вероятности , описывающей связь двух значений и в произвольные моменты времени 1 и .
С помощью двумерной плотности распределения вероятности можно определить автокорреляционную (ковариационную) функцию
а также автокорреляционную функцию центрированного случайного процесса
Случайный процесс называется стационарным, если одномерная плотность распределения вероятности и, следовательно, среднее значение и дисперсия случайного процесса не зависят от времени, а двумерная плотность распределения вероятности и автокорреляционная функция зависят только от разности временных аргументов , где .
Если многомерный закон распределения вероятностей распределения мгновенных значений, взятых в разные моменты времени, не зависят от принятого начала отсчёта, а зависят только от интервалов между выбранными моментами
то такой процесс стационарен в узком смысле. Если независимость от начала отсчёта выполняется только до второго (корреляционного) момента (включая первый), то такой процесс называют стационарным в широком смысле.
Случайный процесс называется эргодическим первого порядка, если его первый момент, полученный усреднением по множеству реализаций (1.2), с вероятностью сколь угодно близкой к единице совпадает со средним значением, полученным усреднением по времени одной достаточно длинной реализации.
Случайный процесс называется эргодическим второго порядка, если его корреляционная функция (1.6), с вероятностью сколь угодно близкой к единице совпадает со средним значением произведения случайного процесса при сдвинутых аргументах, полученным усреднением по времени одной достаточно длинной реализации.
Параметры эргодического случайного процесса могут быть определены так:
Усреднением по времени могут быть найдены также автокорреляционные функции эргодического случайного процесса
В данной работе предполагается, что аддитивно добавленный к полезному сигналу «шум» является эргодическим, случайным процессом.
Корреляционные функции — важнейшие характеристики случайных процессов.
Приведем их основные свойства:
1. (1.11)
2. (1.12)
3.
Формально можно вычислить автокорреляционную функцию (1.10) и для детерминированного процесса, например, для периодической функции
автокорреляционная функция описывается следующим выражением
Для периодической функции, представимой рядом Фурье
Таким образом, автокорреляционная функция периодической функции текущего времени t является также периодической функцией от аргумента — величины временного сдвига.
Плотность распределения вероятности
Плотность распределения вероятности случайного процесса определяет среднюю вероятность того, что значения процесса в произвольный момент времени будут заключены в определенном интервале.
Рассмотрим некоторую реализацию СП как функцию времени (рисунок 1.9).
– реализация СП, – время наблюдения
Рисунок 1.9 – Определение плотности распределения вероятности
Вероятность того, что значения попадут в интервал можно найти, вычисляя отношение , где – суммарная продолжительность нахождения значений процесса в интервале за время наблюдения . При стремлении к бесконечности это отношение все точнее будет описывать вероятность такого события:
, (1.20)
где .
При малых плотность распределения вероятности СП определяется соотношением
. (1.21)
Зная плотность распределения вероятности СП, можно рассчитать его усредненные характеристики, используя, например, следующие соотношения для среднего значения и среднего квадрата:
, .
Во многих практических задачах приходится вычислять математическое ожидание некоторой функции от случайной величины , имеющей плотность распределения вероятности . Такое вычисление выполняется по следующей формуле:
. (1.22)
При анализе случайных явлений используется большое число различных плотностей вероятности. Рассмотрим две из них, которые хорошо описывают широкий класс практически важных случайных явлений.
Плотности большого числа случайных процессов хорошо аппроксимируются выражением вида
, (1.23)
где – среднее значение и среднеквадратичное отклонение соответственно.
Функцию (1.23) называют нормальной, или гауссовской, плотностью, она характеризует случайный шум (широкополосный или узкополосный), для которого среднее значение наиболее вероятно. График нормальной плотности имеет колоколообразную форму (рисунок 1.10).
Рисунок 1.10 – Нормальная плотность распределения
Важность нормального распределения определяется широким применением на практике центральной предельной теоремы, которая формулируется следующим образом: сумма большого числа совместно действующих независимых случайных величин распределена в общем случае по закону, близкому к нормальному.
По двум причинам желательно иметь возможность предполагать, что случайный процесс имеет нормальную плотность распределения:
1) нормальное распределение полностью определяется только двумя параметрами – средним значением и среднеквадратичным отклонением;
2) все линейные операции такие, как интегрирование, дифференцирование, преобразование Фурье, выполняемые над нормально распределенными случайными величины, дают в результате также нормально распределенные величины.
Наиболее распространенный вид детерминированных процессов – это периодические процессы, разлагаемые на гармонические составляющие. Для описания одной такой составляющей не требуется вероятностных понятий, поскольку ее точное значение в любой момент времени вычисляется по формуле
.
Однако гармоническое колебание можно рассматривать также как выборочную функцию случайного процесса , где начальная фаза каждой выборочной функции является случайной величиной, равномерно распределенной в интервале .
Плотность распределения вероятности такого случайного гармонического процесса определяется формулой
(1.24)
График функции (1.24) имеет чашеобразную форму (рисунок 1.11), откуда видно, что плотность гармонического процесса достигает минимума в точке с координатой, равной среднему значению .
Рисунок 1.11 – Плотность распределения гармонического процесса
Случайные процессы и функции
Случайный процесс Х(t) представляет собой функцию, которая отличается тем, что ее значения в любые произвольные моменты времени по координате t являются случайными. Строго с теоретических позиций, случайный процесс X(t) следует рассматривать как совокупность множества реализаций функций xk(t), имеющих общую статистическую закономерность. При регистрации случайного процесса на определенном временном интервале осуществляется фиксирование единичной реализации xk(t) из бесчисленного числа возможных реализаций процесса X(t). Эта единичная реализация называется выборочной функцией случайного процесса X(t). Примеры выборочных функций модельного случайного процесса X(t) приведены на рис. 131. В дальнейшем без дополнительных пояснений при рассмотрении различных параметров и характеристик случайных процессов для сопровождающих примеров будем использовать данную модель процесса.
Рис. 13.1. Выборочные функции случайного процесса.
С практической точки зрения выборочная функция является результатом отдельного эксперимента, после которого данную реализацию xk(t) можно считать детерминированной функцией. Сам случайный процесс в целом должен анализироваться с позиции бесконечной совокупности таких реализаций, образующих статистический ансамбль. В каждый выбранный момент времени t1 конкретная реализация процесса представляет собой случайную величину х1 с определенной плотностью вероятности p(x1, t1), а ее среднее значение определяется усреднением по всем возможным реализациям в этот момент времени t1. Полной статистической характеристикой такой системы является N-мерная плотность вероятностей р(xn; tn). Однако, как экспериментальное определение N-мерных плотностей вероятностей процессов, так и их использование в математическом анализе представляет значительные математические трудности. Поэтому на практике обычно ограничиваются одно- и двумерной плотностью вероятностей процессов.
Рис. 13.2. Сечения случайного процесса X(t).
Одномерная функция распределения вероятностей (x, tn) определяет вероятность того, что в момент времени tn значение случайной величины X(tn) не превысит значения x:
Очевидно, что в диапазоне значений вероятностей от 0 до 1 функция F(x, t) является неубывающей с предельными значениями F(-¥, t) = 0 и F(¥, t) = 1. При известной функции F(x, t) вероятность того, что значение X(tn) в выборках будет попадать в определенный интервал значений [a, b] будет определяться выражением:
P(a 2 (t)>º = x 2 p(x; t) dx.
Функция дисперсии (variance) – второго центрального момента случайного процесса, определяет функцию среднего взвешенного значения (математического ожидания) квадрата разности Х(t)-mx(t), которая называется флюктуационной частью процесса:
Dx(t) = M<[Х(t)-mx(t)] 2 > = [x(t)-mx(t)] 2 p(x; t) dx. (
Функция среднего квадратического отклонения (standard deviation) служит амплитудной мерой разброса (флюктуаций) значений случайного процесса по временной оси относительно математического ожидания процесса:
sx(t) = . (13.3)
На рис. 13.4 приведен пример флюктуационной составляющей процесса X(t) (рис. 13.1) в одной из реализаций в сопоставлении со средним квадратическим отклонением ±s случайных величин от математического ожидания m(t).
p(x) = .
Это определяется тем, что в соответствии с «центральной предельной теоремой» распределение вероятностей для сумм независимых случайных величин, при которых нет доминирующих, стремится к нормальному закону по мере роста числа слагаемых, и не зависит от законов распределения слагаемых. Между тем физические случайные процессы обычно являются многопараметровыми, при этом случайность значений параметров, как правило, обусловлена их природой и также соответствует нормальным распределениям.
Двумерная плотность вероятностей. Одномерные законы плотности распределения вероятностей случайных процессов не несут каких-либо характеристик связи между значениями случайных величин для различных значений аргументов.
Двумерная плотность вероятностей p(x1,x2; t1,t2) определяет вероятность совместной реализации значений случайных величин Х(t1) и Х(t2) в произвольные моменты времени t1 и t2 и в какой-то мере уже позволяет оценивать динамику развития процесса. Двумерная плотность вероятностей описывает двумерную случайную величину
При двумерной плотности вероятности имеем:
mx(t) º = x1(t1) p(x1,t1; x2,t2) dx1 dx2. (13.1″)
Dx(t) = sx 2 (t)= [x1(t1)- ] 2 p(x1,t1; x2,t2) dx1 dx2. (13.2″)
Корреляционные функции случайных процессов. Характеристикой динамики изменения двумерной случайной величины
Корреляционная функция представляет собой статистически усредненное произведение значений случайного процесса X(t) в моменты времени tn и tm по всем значениям аргументов tn и tm, а, следовательно, тоже является двумерной функцией. В терминах теории вероятностей корреляционная функция является вторым начальным моментом случайного процесса.
На рис. 13.5 приведены примеры реализаций двух случайных процессов, которые характеризуются одной и той же функцией математического ожидания и дисперсии.
Рис. 13.5.
На рисунке видно, что хотя пространство состояний обоих процессов практически одно и то же, динамика развития процессов в реализациях существенно различается. Единичные реализации коррелированных процессов в произвольный момент времени могут быть такими же случайными, как и некоррелированных, а в пределе, во всех сечениях оба процесса могут иметь один и тот же закон распределения случайных величин. Однако динамика развития по координате t (или любой другой независимой переменной) единичной реализации коррелированного процесса по сравнению с некоррелированным является более плавной, а, следовательно, в коррелированном процессе имеется определенная связь между последовательными значениями случайных величин. Оценка степени статистической зависимости мгновенных значений какого-либо процесса Х(t) в произвольные моменты времени tn и tm и производится функцией корреляции. По всему пространству значений случайного процесса X(t) корреляционная функция определяется выражением:
RX(tn, tm) = x(tn)x(tm) p(xn,tm; xn,tm) dxn dxm, (9.1.4)
Рис. 13.6. Двумерная плотность вероятностей и корреляционная функция процесса X(t).
На рис. 13.6 приведена форма модельного случайного процесса X(t) в одной выборке со значительной и изменяющейся неслучайной составляющей. Модель задана на интервале 0-Т (Т=100) в дискретной форме с шагом Dt=1. Корреляционная функция вычислена по заданной плотности вероятностей модели.
При анализе случайных процессов второй момент времени tm удобно задавать величиной сдвига t относительно первого момента, который при этом может быть задан в виде координатной переменной:
Функция, задаваемая этим выражением, обычно называется функцией автокорреляции случайного процесса.
Ковариационные функции. Частным случаем корреляционной функции является функция автоковариации (ФАК), которая широко используется при анализе сигналов. Она представляет собой статистически усредненное произведение значений центрированной случайной функции X(t)-mx(t) в моменты времени tn и tm и характеризует флюктуационную составляющую процесса:
КХ(tn,tm) = (x(tn)-mx(tn)) (x(tm)-mx(tm)) p(xn,tn; xm,tm) dxn dxm, (13.5)
В терминах теории вероятностей ковариационная функция является вторым центральным моментом случайного процесса. Для центрированных случайных процессов ФАК тождественна функции корреляции. При произвольных значениях mx ковариационные и корреляционные функции связаны соотношением:
Нормированная функция автоковариации (функция корреляционных коэффициентов):
При t= 0 значение rХ равно 1, а ФАК вырождается в дисперсию случайного процесса:
Отсюда следует, что для случайных процессов и функций основными характеристиками являются функции математического ожидания и корреляции (ковариации). Особой необходимости в отдельной функции дисперсии не имеется.
Примеры реализаций двух различных случайных процессов и их нормированных ковариационных функций приведены на рис. 13.7.
Рис. 13.7. Реализации и ковариационные функции случайных процессов.