Характеристики источника дискретных сообщений.

1) Период дискретизации (интервал смены состояний)

2) Алфавит X={x₁, x₂…x_mx}

3) m_x-объем алфавита

4) частота (техническая скорость источника Vти=1/Т

4) Распределение вероятности  по состояниям {p(x₁), p(x₂)… p(x_mx)} I(x_i)= -log p(x_i)

5) Количество информации [I(x_1), …I(Xm)]

6) Энтропия H(X) – среднее количество информации, которое приходится на одно состояние источника. H(X)=M[I(x_i)]= -∑p(x_i) log p(x_i).

Свойства энтропии:

§ а) неотрицательная величина H(X)≥0

§ p(x_i)=1, p(x_j)=0, i≠j => H(X)=0 если источник вырожденный.

§ б) величина ограниченная max значением* (информ. емкость). H(X)≤H_max*=log m_x

§ в) аддитивность. Энтропия объединения двух независимых источников равна сумме энтропий каждого источника в отдельности.

Z=XY H(Z)=?  

1 случ.: ист независимы: p(xiyj)=p(x_i)p(y_j), H(Z)=H(XY)=H(X)+H(Y)

2 случ: ист связаны: p(xiyj)=p(x_i)p(y_j/xi), H(XY)=H(X)+H(Y/X)

H(XY)=H(X)+H(Y)=-∑∑p(x_i)p(y_j)log[p(x_i)p(y_j)]=-∑p(x_i)logp(x_i)*∑p(y_j)-∑p(y_j)logp(y_j)*∑p(x_i)=H(X)+H(Y). Т.к. ∑p(y_j)=1 и ∑p(x_i)=1.

7) Производительность источника. V_T=f=1/T

Информационная производительность П_и(Х) – среднее количество информации, вырабатываемой источником за 1 секунду. П_и(Х)=Vтn*H(X) бит/сек.

8) Избыточность D(X). 

H(X)≤H_max

n=Vи/H(X)=К    >

Kравн=Vи/Hmax=nmin

D_(X)=H_max-H(X)/H_max

Причины избыточности источника: неравновероятность символов; статистическая взаимосвязь между состояниями источника.

 

Модели непрерывных каналов связи.

КнСв -совокупность линий связи и приемопередающей связи.

1. Идеальный непрерывный канал связи.

К

x(t)                     y(t)

y(t)=К*x(t-τ^{(наск. Сигнал задерж)}), k,T=Const

Применяется при отсутствии помех в канале.

2. Непрерывный канал с помехами.

y(t)=К(t)*x(t- τ (t))+n(t)

n(t) – аддитивная помеха (природные явления, промышленные установки)

3. Гауссовский непрер. канал связи.

y(t)=К*x(t- τ)+n(t)

Считается, что n(t) имеет нормальное распределение.

Может применяться в большинстве проводных каналов, радиоканалах прямой видимости, радиоканалах с медленным соединением.

 

Виды дискретных каналов связи.

- на входе и выходе присутствует конечное множество сигналов.

yj

Зависимости между вх и вых сигналами ДК задается в виде переходных вероятностей (p(yj / xi))

xi   ДК

Критерии:

1. В зависимости от объема алфавита: m_x=m_y=2 (двоичный канал); m_x<m_y (объем может быть увеличен за счет символов, которые служат признаком ошибки).

2. Временная зависимость. В общем случае переходные вероятности зависят от того, какие символы передавались ранее.

p(y_j/x_i­; t) – нестационарный канал связи -(если св-ва канала меняются во времени).

Если вероятности переходов не меняются во времени, то этот канал стационарный.

3. p(y_j/x_i1x_i2…x_in) – канал с памятью (-если переходные вероятности зависят от ранее переданных символов)

4. Симметричный канал по входу – если все ошибочные переходы имеют одинаковую вероятность. Симметричный по выходу – если столбцы имеют одинаковые значения.

	-двоичный канал с ошибками?
	-канал, симметричный по входу и выходу