Презентация на тему Дискретные ансамбли и источники

и Y и на множестве XY задано совместное распределение

вероятностей р(х, у), которое каждой паре (xi, уj), xiX, yjY, сопоставляет вероятность р(xi, уj).
Если распределение вероятностей на произведении двух множеств X и Y удовлетворяет условию p(xi, yj)= p1(xi)p2(yj) для всех xi X, yjY, то ансамбли X и Y называются статистически НЕзависимыми.
В противном случае говорят, что эти ансамбли статистически зависимы.

каждую единицу времени (например, каждую секунду) выбирает одно из

сообщений дискретного множества X.
Как правило, это множество одно и то же для каждого момента времени, хотя в некоторых случаях для каждого момента времени может быть свое множество сообщений.
С точки зрения теории информации источник считается заданным полностью, если имеется некоторая вероятностная схема (модель), позволяющая вычислить вероятность любого отрезка сообщений.

Дискретный источник

в качестве источника сообщений рассматривается телеграфный аппарат или

передающее телевизионное устройство. НЕдостаточно также сказать, что известны вероятности букв, появляющихся на выходе телеграфного аппарата, или вероятности импульсов различной амплитуды на выходе телевизионного устройства. Для полного задания источника необходимо дать вероятностное описание процесса появлений сообщений на выходе источника. В примере с телеграфным аппаратом нужно дать такое описание, при котором можно вычислить вероятность любого буквенного сочетания, слова, предложения и т. д. в любой момент времени.

n и i, и любой последовательности сообщений (x( i+1),

..., x(i+n)) определена вероятность р (x(i+1), ..., x(i+n)) этой последовательности.
Верно и обратное, если для любых n и i определены вероятности всех последовательностей сообщений длины n, начинающихся с позиции (i+1), то говорят, что задан источник сообщений.
Отсюда следует, что все источники, которые могут иметь совершенно различную физическую природу, задаваемые одним и тем же набором вероятностей последовательностей сообщений, с позиции теории информации отождествляются.

если его выходной сигнал в какой-либо момент времени зависит

от своих значений, имевших место в несколько предшествующих моментов времени.
Если число этих моментов конечно, источник имеет конечный порядок, о противном случае - бесконечный.