Оценка информационных потерь H(B/A) при передаче информации в канале связи и количества полученной информации I(B,A)

Для определения количества полученной информации I(B,A) на основании канальной матрицы P(bj/ai) (Приложение В) строится матрица объединения P(ai,bj) (Приложение Г). Значения в ячейках канальной матрицы P(bj/ai) построчно умножаются на вероятности P(ai) появления символов первичного алфавита, присвоенных кодовым комбинациям в процессе минимизации кодового отображения. Иначе значения в каждой ячейке матрицы P(ai,bj) определяются по формуле

(ai,bj)=P(bj/ai)P(ai) (2.13)

Из матрицы объединения P(ai,bj) строится канальная матрица P(ai/bj) (Приложение 5). Для этого сначала вычисляются значения вероятностей P(bj) (таблица 2.7) появления символов bj на входе приемника информации путем суммирования по столбцам значений в ячейках матрицы P(ai,bj) в соответствии со следующим выражением:

P(bj) =P(ai,bj) (2.14)

После деления значения каждой ячейки столбца матрицы объединения P(ai,bj) на значение соответствующей вероятности P(bj) получим значение условной вероятности канальной матрицы:

(ai/bj)= P(ai,bj)/ P(bj) (2.15)

Таблица 2.7 - Значения вероятностей P(bj)

Для оценки информационных потерь Н(А/В) при передаче информация в канале связи с помощью канальной матрицы P(ai/bj) вычисляются частные условные энтропии Н(А/bj) по формуле:

Н(А/bj)= -P(ai/bj)log2 P(ai/bj) (2.16)

Таблица 2.8 - Значения частных условных энтропий Н(А/bj)

Общая условная энтропия определяется выражением:

Н(А/В)= P(bj) Н(А/bj) (2.17)

Н(А/В)= 0,1178

Количество принятой информации определяется по формуле:

(B,A)=H(A)-H(A/B), (2.18)

где Н(А) - безусловная энтропия для источника информации:

Н(А)= -P(ai)log2 P(ai)) (2.19)

Н(А)= 3,2884(B,A)=H(A) - H(A/B) (2.20)

(B,A)= 3,2884-0,1178=3,17061

Для нахождения объема информации, которая пройдет через канал связи, следует воспользоваться выражением:

I=KI(B,A), (2.21)

где К - количество передаваемых символов в информационном сообщении (К=14), которое мы получили в процессе выполнения первого этапа.=44,3885

Другие стьтьи в тему

Регулируемый реверсивный тиристорный электропривод постоянного тока
В данном курсовом проекте рассматривается регулируемый электропривод. Регулируемым называется электропривод, который обеспечивает с заданной точностью движение исполнительного органа рабочей машины в соответствии с произвольно изменяющимся входным сигналом управления. Этот сигнал може ...

Разработка алгоритмов работы и оценка информационных характеристик системы передачи информации
Как известно, все процессы, которые происходят в окружающем мире, в том числе и на производстве, связаны с информацией - её получением, обработкой, хранением, передачей и отображением. В дисциплине «информационные основы электронной техники» понятие «информация» является одной из осно ...