Мультиномиальное распределение зависимых случайных величин

Эта статья изобилует грубыми математическими ошибками (начиная с непонимания самой сути математического доказательства), как и другие статьи того же автора:

• Мультиномиальное распределение зависимых случайных величин

Удалить это безобразие и забанить автора — самое простое решение. Есть и другой вариант — попробовать помочь всем миром и написать коллективную рецензию, объяснив автору его ошибки. Для этого есть страницы Обсуждений статей и Обсуждение участника:Vitsemgol. Это большая работа, непосильная для одного человека, но для сообщества вполне осуществимая. Коллеги, давайте отнесёмся к проблеме как к исследованию. Есть несколько открытых вопросов, которые бросают нам вызов. Упрощает ли Вики задачу интегрирования «непризнанного гения» в профессиональное сообщество? Способен ли человек, ворвавшийся в чужой монастырь со своим уставом, покаяться и услышать, что ему скажут? Откликнется ли хоть кто-то из сообщества? Хватит ли нам всем терпимости? Это добрый эксперимент, дорогие коллеги! Как Администратор, предупреждаю: увижу «войну правок», эмоции и прочие проявления непрофессионализма — прекращу эксперимент как неудачный и удалю всё. — К.В.Воронцов 02:52, 4 ноября 2013 (MSK)

Уважаемый Константин Вячеславович и уважаемые Ваши единомышленники:

1. Это общий случай мультиномиального распределения.

2. Во всех вариантах данного распределения:

2.1.Только первая случайная величина является независимой и может принимать любое случайное значение, лежащее в пределах от нуля до включительно.

2.2.Все остальные случайные величины зависимы от им предшествующих случайных величин;

2.3. Зависимость проявляется в том, что каждая предидующая случайная величина сокращает верхнюю границу пространства элементарных событий последующей случайной величины на своё числовое значение;

2.4. В результате последняя случайная величина в принципе зависима от всех предшествующих случайных величин мультиномиального распределения.

3. Пожалуйста, обратите внимание на сравнительную оценку характеристик мультиномиальных распределений зависимых (таблица 3) и независимых случайных величин (таблица 4), которые наглядно показывают, что распределения с зависимыми случайными величинами соответствуют, а распределения с независимыми случайными величинами не соответствуют современным требованиям аксиоматики Колмогорова. 15:43, 14 ноября 2013 (MSK)

Мультиномиальное) распределение зависимых случайных величин — это обобщение биномиального распределения двух случайных величин на случай зависимых испытаний случайного эксперимента с несколькими возможными исходами (таблица 1).

(при математическом ожидании распределения)

(как максимальное произведение математических ожиданий

(при математическом ожидании распределения)

Мультиномиальное распределение (полиномиальное распределение) — совместное распределение вероятностей зависимых (кроме первой, в

общем случае) случайных величин

определённых на точечных пространствах элементарных событий

и принимающих в дискретные последовательные моменты времени

целые неотрицательные значения

Содержание

пространство элементарных событий

вероятность

математическое ожидание

производящая

и характеристическая

Мультиномиальное распределение появляется в так называемой полиномиальной схеме повторных циклов случайных зависимых экспериментов. Каждый цикл экспериментов осуществляют методом выбора без возвращения в дискретной временной последовательности , номера точек которой соответствуют номерам случайных величин.

Каждая из случайных величин распределения — это число наступлений одного соответствующего события

в - ый момент времени при условии, что в - ый момент произошло наступлений предшествующего события с положительным исходом, все вероятности которых нормированы и неизменны во время проведения экспериментов.

Если в каждом цикле экспериментов вероятность наступления события равна , то полиномиальная вероятность равна вероятности того, что при экспериментах события наступят раз соответственно.

Случайная величина мультиномиального распределения в соответствующей точке дискретной временной последовательности имеет:

пространство элементарных событий

вероятность

математическое ожидание

и дисперсию

Пространство элементарных событий мультиномиального распределения есть сумма точечных пространств элементарных событий его случайных величин, образующих дискретную последовательность точек цикла, а вероятность мультиномиального распределения — произведение вероятностей его случайных величин.

Технические задачи и технические результаты

Для получения мультиномиального распределения необходимо решить две технические задачи и получить технические результаты, относящиеся к математической физике [1]

Первая и вторая технические задачи — соответственно получение вероятности и математического ожидания мультиномиального распределения.

Технические результаты — набор технических параметров, с одной стороны, минимально необходимый для описания мультиномиального распределения и его случайных величин, с другой стороны, позволяющий при необходимости расширить число параметров с целью получения дополнительных сведений о распределении, например, таких как корреляционная матрица, ковариационная матрица , критерий и другие.

Минимально необходимый набор параметров при решении первой технической задачи: пространство элементарных событий,

вероятность, математическое ожидание и дисперсия каждой случайной величины распределения, дисперсия распределения и произведение математических ожиданий его случайных величин как исходное выражение для решения второй технической задачи.

При решении второй технической задачи минимально необходимый набор параметров аналогичен предыдущему набору. Исключен из-за ненадобности один параметр — произведение математических ожиданий случайных величин и дополнен двумя параметрами — максимальной вероятностью и максимальной дисперсией мультиномиального распределения.

содержит циклы повторных зависимых экспериментов. Количество циклов не ограничено. В каждом цикле число экспериментов равно числу случайных величин распределения и в общем случае только первый эксперимент является независимым, а все последующие эксперименты в цикле зависимы от результатов предшествующих экспериментов. Все эксперименты осуществляют методом выбора без возвращения — изъятые элементы не возвращают на свое прежнее место до полного окончания данного цикла.

Случайные события — выборки случайного объема , , из - множества различимых (различающиеся между собой хотя бы одним признаком, например, порядковым номером) неупорядоченных (хаотично расположенных) элементов, осуществляемые в последовательные моменты времени .

Число выборок равно числу случайных величин распределения.

Случайные величины распределения — появления случайного числа элементов -множества в - подмножествах ( ) с вероятностями каждого из них.

Попадание одного произвольного элемента -множества в одно из -подмножеств — независимое событие с положительным исходом

соответствующего Бернулли распределения; вероятности этих исходов нормированы согласно аксиоматике Колмогорова и неизменны в процессе проведения повторных зависимых экспериментов.

Один цикл повторных зависимых экспериментов, осуществляемых методом выбора без возвращения — последовательность выборок случайных объёмов , обработка результатов разделения -множества на -подмножества,

в последовательные моменты времени и возврат всех изъятых элементов на прежнее место к началу следующего цикла.

Совместное проявление вероятностей попадания выборок случайных объёмов в подмножеств в одном цикле экспериментов — вероятность мультиномиального распределения.

содержит одну исходную урну и приёмных урн. Объем каждой из них не менее объёма исходной урны. Нумерация приёмных урн соответствует нумерации случайных величин мультиномиального распределения.

В начальный момент времени исходная урна содержит - множество различимых неупорядоченных элементов, а все приёмные урны пусты.

В первый момент времени из исходной урны осуществляют первую выборку случайного объёма и направляют её в первую приёмную урну с вероятностью каждого элемента.

Во второй момент времени из оставшихся различимых неупорядоченных элементов исходной урны осуществляют вторую выборку случайного объёма и направляют её во вторую приёмную урну с вероятностью каждого элемента.

Наконец, в -ый момент времени все элементы , оставшиеся в исходной урне, направляют в -ую приёмную урну с вероятностью каждого.

В результате исходная урна пуста, а все её элементы размещены в приёмных урнах. После обработки результатов разбиения исходного -множества на подмножеств все элементы из приёмных урн возвращают в исходную урну.

На этом один цикл повторных зависимых экспериментов закончен, и урновая модель готова к проведению следующего аналогичного цикла.

Произведение вероятностей попаданий элементов в приёмные урны есть вероятность мультиномиального распределения.

Этот способ относится к техническим задачам разделения дискретного целого на составные части случайных объёмов.

Целым является множество дискретных элементов, различимых (хотя бы одним признаком, например, порядковыми номерами) и не упорядоченных (хаотично расположенных): .

Составные части — дискретные подмножества , в сумме равные объёму множества.

Разделение множества на подмножества осуществляют выборками без возвращения.

Выборки следуют во времени одна за другой.

В начальный момент времени , не обязательно равный нулю , множество содержит различимых неупорядоченных элементов.

В первый момент времени из -множества осуществляют первую выборку случайного объёма с вероятностью каждого её элемента.

Вероятность первой случайной величины мультиномиального распределения определяется числом сочетаний из по , умноженным на вероятность выбора одного элемента, возведённую в степень числа выбранных элементов:

Во второй момент времени из оставшихся элементов исходного множества осуществляют вторую выборку случайного объёма

с вероятностью каждого её элемента.

Вероятность второй случайной величины при условии, что в первый момент времени вероятность первой случайной величины

мультиномиального распределения приняла значение , определяется числом сочетаний из по , умноженным на вероятность выбора одного её элемента, возведённую в степень числа выбранных элементов:

В -ый момент времени из оставшихся элементов исходного множества осуществляют -ую выборку случайного объёма с вероятностью каждого её элемента. Вероятность -ой случайной величины при условии, что в -ый момент времени вероятность -ой случайной величины полиномиального распределения приняла значение , определяется числом сочетаний из по , умноженным на вероятность выбора одного её элемента, возведённую в степень числа выбранных элементов:

Произведение всех вероятностей есть вероятности полиномиального распределения интерпретации 21-го века — совместное распределение вероятностей

зависимых (кроме первой) случайных величин

В частном случае, когда число случайных величин равно двум и множество содержит два элемента , имеют место вероятности биномиального распределения интерпретации 21-го века

Этот способ относится к техническим задачам разделения дискретного целого на составные части и отличается от способа получения вероятностей мультиномиального распределения интерпретации 21-го века тем, что число выборок равно числу элементов исходного множества и каждая выборка имеет единичный объём: .

Целым является множество дискретных элементов, различимых (хотя бы одним признаком, например, порядковыми номерами) и не упорядоченных (хаотично расположенных): .

Составные части — дискретные подмножества , в сумме равные объёму множества.

Разделение множества на подмножества осуществляют выборками без возвращения.

Выборки следуют во времени одна за другой.

В начальный момент времени , не обязательно равный нулю , множество содержит различимых неупорядоченных элементов.

В первый момент времени из -множества осуществляют первую выборку единичного объёма с вероятностью .

Вероятность первой случайной величины мультиномиального распределения определяется числом сочетаний

из по , умноженным на вероятность выбора одного элемента:

Во второй момент времени из оставшихся элементов исходного множества осуществляют вторую выборку единичного объёма с вероятностью .

Вероятность второй случайной величины при условии, что в первый момент времени вероятность первая случайная величина

полиномиального распределения приняла значение , определяется числом сочетаний из по , умноженным на вероятность выбора одного элемента:

В -ый момент времени из оставшихся элементов исходного множества осуществляют -ую выборку единичного объёма с вероятностью .

Вероятность -ой случайной величины при условии, что в -ый момент времени вероятность -ой случайной величины полиномиального распределения приняла значение , определяется числом сочетаний

из по , умноженным на вероятность выбора одного элемента:

Произведение всех вероятностей есть математическое ожидание полиномиального распределения интерпретации 21-го века

В частном случае, когда число случайных величин равно двум и множество содержит два элемента , имеет место математическое ожидание биномиального распределения двух случайных величин (интерпретации 21-го века)

Два варианта получения математического ожидания мультиномиального распределения:

или как максимум произведения математических ожиданий случайных величин мультиномиального распределения,

или как максимум вероятности мультиномиального распределения.

Необходимые условия в обоих вариантах одни и те же:

но выполняются двояко:

либо увеличением числа случайных величин в цикле до числа экспериментов ( ),

либо сокращением числа экспериментов в цикле до числа случайных величин ( ).

Достаточные условия:

в первом варианте

во втором варианте

где — сокращенное число экспериментов в цикле до числа случайных величин: ( ).

Математическое ожидание и максимальная вероятность мультиномиального распределения соответственно

максимальная дисперсия

пространство элементарных событий

Число случайных величин распределения равно и каждая случайная величина принимает единичное значение: .

Характеристики случайных величин первого варианта получения математического ожидании мультиномиального распределения:

пространство элементарных событий

вероятность

математическое ожидание

получения математического ожидания мультиномиального распределения

содержит одну исходную урну и приёмных урн единичных объемов. Нумерация приёмных урн соответствует нумерации случайных величин распределения.

В начальный момент времени исходная урна содержит - множество различимых неупорядоченных элементов, а все приёмные урны пусты.

В первый момент времени из исходной урны осуществляют первую выборку единичного объёма и направляют её в первую приёмную урну с вероятностью .

Во второй момент времени из исходной урны, содержащей элементов осуществляют вторую выборку единичного объёма и направляют её во вторую приёмную урну с вероятностью .

Наконец, в последний, - ый момент времени из исходной урны, содержащей один элемент , направляют его в - ую приемную урну с вероятностью .

В результате исходная урна пуста, а все её элементов по одному размещены в приёмных урнах.

После обработки результатов разбиения исходного - множества на - подмножеств все элементы из приёмных урн возвращают в исходную урну.

На этом один цикл повторных зависимых экспериментов закончен, и урновая модель готова к проведению следующего аналогичного цикла.

Произведение вероятностей попадания по одному произвольному элементу исходного - множества в приёмных урн есть математическое ожидание мультиномиального распределения.

Математическое ожидание и максимальная вероятность соответственно

максимальная дисперсия

пространство элементарных событий

расположено в точках временной последовательности. Число испытаний и число случайных величин распределения равно и каждая случайная величина принимает единичное значение , .

Характеристики случайных величин второго варианта получения математического ожидании мультиномиального распределения:

пространство элементарных событий

вероятность

математическое ожидание

получения математического ожидания мультиномиального распределения содержит одну исходную урну и приёмных урн единичных объемов.

Нумерация приёмных урн соответствует нумерации случайных величин мультиномиального распределения.

В начальный момент времени исходная урна содержит - множество различимых неупорядоченных элементов, а все приёмные урны пусты.

В первый момент времени из исходной урны, содержащей различимых неупорядоченных элементов, осуществляют первую выборку единичного объёма и направляют её в первую приёмную урну с вероятностью .

Во второй момент времени из исходной урны, содержащей различимых неупорядоченных элементов, осуществляют вторую выборку

единичного объёма и направляют во вторую приёмную урну с вероятностью .

Наконец, в последний, - ый момент времени из исходной урны, содержащей один элемент, направляют его в

- ую приемную урну с вероятностью .

В результате исходная урна пуста, а все её элементов по одному размещены в приёмных урнах. После обработки результатов разбиения исходного

- множества на - подмножеств выборками единичных объёмов все элементы из приёмных урн возвращают в исходную урну. На этом один цикл повторных зависимых экспериментов закончен, и урновая модель готова к проведению следующего цикла экспериментов.

Произведение вероятностей попаданий выборок единичных объёмов (по одному произвольному элементу исходного - множества) в приёмных урн — математическое ожидание мультиномиального распределения.

Мультиномиальное распределение в окрестности своего математического ожидания (таблица 2, строка 2) имеет локальные экстремумы и вероятности, и дисперсии.

Значения восьми случайных величин Вероятность Дисперсия Экстремумы 1 1 1 1 1 1 1 1 0.240×10 -2 3.937 Математическое ожидание 2 1 1 1 1 1 1 0 0.120×10 -2 3.172 2 2 1 1 1 1 0 0 0.600×10 -3 2.625 2 2 2 1 1 0 0 0 0.300×10 -3 2.297 2 2 2 2 0 0 0 0 0.150×10 -3 2.187 1-й локальный минимум 3 1 1 1 1 1 0 0 0.400×10 -3 2,516 1-й локальный максимум 3 2 1 1 1 0 0 0 0.200×10 -3 2.078 3 2 2 1 0 0 0 0 0.100×10 -3 1.859 3 3 2 1 0 0 0 0 0.334×10 -4 1.641 2-й локальный минимум 4 1 1 1 1 0 0 0 0.100×10 -3 1.969 2-й локальный максимум 4 2 1 1 0 0 0 0 0.500×10 -4 1.641 4 2 2 0 0 0 0 0 0.250×10 -4 1.531 4 2 2 0 0 0 0 0 0.250×10 -4 1.531 4 3 1 0 0 0 0 0 0.167×10 -5 1.422 4 4 0 0 0 0 0 0 0.417×10 -5 1.312 3-й локальный минимум 5 1 1 1 0 0 0 0 0.200×10 -4 1.531 3-й локальный максимум 5 2 1 0 0 0 0 0 0.100×10 -4 1.312 5 3 0 0 0 0 0 0 0.334×10 -5 1.203 6 1 1 0 0 0 0 0 0.334×10 -5 1.203 6 2 0 0 0 0 0 0 0.167×10 -5 1.094 7 1 0 0 0 0 0 0 0.477×10 -6 0.984 8 0 0 0 0 0 0 0 0.596×10 -7 0.875 Таблица 2 – Локальные экстремумы математического ожидания мультиномиального распределения зависимых случайных величин

Локальные максимумы (жирный шрифт) соответствуют таким числовым значениям случайных величин, когда одна из них имеет значение, отличное от единичного, а остальные принимают единичные значения. При этом, чем меньшее значение, отличное от единичного, принимает одна случайная величина и чем больше единичных значений принимают остальные случайные величины распределения, тем ближе локальный максимум к математическому ожиданию мультиномиального распределения. В пределе, когда все случайные величины принимают единичные значения (при условии k=n), имеет место математическое ожидание мультиномиального распределения. При математическом ожидании мультиномиального распределения максимальна и дисперсия мультиномиального распределения, а максимальная вероятность мультиномиального распределения численно равна математическому ожиданию мультиномиального распределения.

Локальные минимумы (наклонный шрифт), как правило, расположены между локальными максимумами и уменьшаются по мере удаления от математического ожидания мультиномиального распределения. Исключение составляют комбинации, предшествующие локальному максимуму и имеющие равные знаменатели мультиномиального коэффициента (строки 4 и 5 снизу: 5!3!=6!1!1! и 0!=1!=1).

Определение локальных экстремумов основано на вычислении вероятностей мультиномиального распределения. При этом все комбинации значений случайных величин равно возможны и вероятность каждой из них равна . В частности, в таблице 1 , . Вероятность мультиномиального распределения, у которого, например, (таблица 1, 3-я строка сверху: 22111100) две случайные величины имеют числовые значения 2, четыре случайные величины имеют числовые значения 1 и две случайные величины имеют числовые значения 0 и которые могут быть расположены в произвольном порядке, определяется по формуле

Аналогично рассчитываются вероятности мультиномиального распределения для всех других комбинаций случайных величин.

Свойства дисперсии мультиномиального распределения

Дисперсия мультиномиального распределения:

1) это случайная величина;

2) равна сумме дисперсий случайных величин мультиномиального распределения

поскольку случайные величины распределения определены на непересекающихся пространствах элементарных событий

3) увеличивается с ростом числа случайных величин мультиномиального распределения, а дисперсии случайных величин мультиномиального распределения убывают с возрастанием своих порядковых номеров, причём дисперсия первой случайной величины мультиномиального распределения совпадает с дисперсией первой случайной величины соответствующего биномиального распределения

4) имеет множество значений из-за неоднозначности определения произведений

5) максимальна при тех же условиях

при которых максимальны одновременно и вероятность, и математическое ожидание мультиномиального распределения.

Максимальная дисперсия мультиномиального распределения

1) с возрастанием числа случайных величин распределения стремится к бесконечности, приближаясь к линейной зависимости

2) в раз превышает максимальную дисперсию соответствующего биномиального распределения

Мультиномиальное распределение как процесс выполнения взаимосвязанных действий над объектами

Объекты: множество, его подмножества и их элементы как объективная реальность, существующая вне нас и независимо от нас.

Мультиномиальное распределение это:

• случайный процесс безвозвратного разделения во времени и в пространстве

конечного - множества различимых неупорядоченных элементов ( ),

• разделение множества осуществляют выборками без возвращения (изъятые из множества элементы не возвращают обратно во множество до полного окончания экспериментов),

• сумма объёмов всех выборок равна объёму исходного множества , при этом только одна из выборок может иметь случайный объём в пределах всего объёма исходного множества ,

• попадание одного произвольного элемента множества в каждое из подмножеств принимают за событие успеха соответствующего Бернулли распределения ,

• вероятности успехов Бернулли распределений нормируют согласно аксиоматике Колмогорова и сохраняют неизменными в процессе разбиения множества,

• очерёдность следования выборок принимают за нумерацию случайных величин мультиномиального распределения,

• случайный объём каждой выборки в момент времени принимают за числовое значение соответствующей

случайной величины мультиномиального распределения при условии, что в предшествующий момент времени предшествующая случайная величина приняла числовое значение ,

• результаты каждого разбиения обрабатывают вероятностными методами, определяют технические характеристике всех выборок и принимают их за технические характеристики случайных величин мультиномиального распределения,

• минимально необходимый набор технических характеристик случайных величин и мультиномиального распределения в целом это: пространство элементарных событий, вероятность, математическое ожидание и дисперсия,

• математическое ожидание мультиномиального распределения имеет место, когда число выборок равно числу элементов -множества и численно равно , откуда -

математическое ожидание биномиального распределения.

Мультиномиальное распределение и цепи Маркова: совпадения и отличия, частный случай

Мультиномиальное распределение появляется в последовательности зависимых случайных испытаний с конечным или счётным числом исходов. По сути — это цепь Маркова, где -ая случайная величина зависима от предшествующей -ой случайной величины

следующим образом: -ая случайная величина в -ый момент времени принимает числовое значение, равное ,при условии, что в -ый момент времени -ая случайная величина приняла числовое значение, равное .

Случайные величины следуют одна за другой в порядке возрастания своих номеров.

, называемое начальным распределением цепи Маркова, для мультиномиального распределения не имеет смысла , поскольку нумерация случайных величин начинается с единицы: .

Переходная вероятность мультиномиального распределения

является дискретной функцией времени. Следовательно, и мультиномиальное распределение

как произведение его случайных величин, является дискретной функцией времени, иными словами, полиномиальное распределение является марковским процессом с дискретным временем.

Сумма всех вероятностей полиномиального распределения равна единице. Следовательно, полиномиальное распределение как цепь Маркова, является стахостической.

Однако в отличие от марковских цепей и марковских процессов полиномиальное распределение не обладает свойством отсутствия последействия, согласно которому для любого испытания допускается зависимость его от непосредственно предшествующего ему испытания (и только от него).

Причина заключается в том, что в мультиномиальном распределении имеется ещё одна зависимость — каждая случайная величина (кроме первой) зависима от всех ей предшествующих случайных величин.

Зависимость проявляется в том, что предшествующая случайная величина ( ) мультиномиального распределения в соответствующий момент времени ( ) сокращает на своё числовое значение ( ) верхнюю границу пространства элементарных событий следующей за ней случайной величины ):

В частном случае, когда , имеет место биномиального распределения интерпретации 21-го века. С точки зрения цепей Маркова — биномиальное распределение интерпретации 21-го века — это простейший марковский процесс с дискретным временем, в котором:

вторая случайная величина зависима от первой (и только от неё)

всего лишь одна переходная вероятность

процесс стахостический, поскольку сумма вероятностей равна единице ;

как и в мультиномиальном распределении, начальное состояние цепи Маркова , для биномиального распределения не имеет смысла , поскольку нумерация случайных величин начинается с единицы: .

Сравнительная оценка характеристик мультиномиальных распределений зависимых и независимых случайных величин

Цель сравнительной оценки показать, что мультиномиальное распределение зависимых случайных величин (таблица 3) соответствует, а мультиномиальное распределение независимых случайных величин (таблица 4) не соответствует современным требованиям аксиоматики Колмогорова. Сравнение выполнено на основе минимально необходимого набора параметров, который для каждого распределения и каждой его случайной величины включает в себя четыре параметра: пространство элементарных событий, вероятность, математическое ожидание и дисперсию.