Характеристики дискретного канала связи.

· Техническая скоростьпередачи (скорость манипуляции) – количество символов, передаваемых по каналу за 1 сек.

V_T=1/τ_ср =1/Т [Бод].

Техн. скорость определяется свойствами непрерывного канала связи и быстродействием.

· Скорость передачи инф – среднее количество информации, передаваемое по каналу за единицу времени.

V_И=V_T*I_ср(xy) [бит/с].

· Пропускная способность – макс скорость передачи информации по каналу, которая может быть достигнута при использовании современных способов при приёме/передачи информации. C=maxV_И=maxV_T[H(X)-H(X/Y)]=maxV_TI_ср(XY).

В каждом конкретном случае необходимо выбрать алгоритм передачи и приема сообщений и способ его технической реализации.

Для идеального канала C=maxV_TH(X). Для повышения пропускной способности       V_T до V_Tmax  или    энтропию H(X)=H_max=logm_x за счет выравнивания вероятностей символов p(x_i)=1/m_x и устранения корелляционных зависимостей.

 

Взаимная информация. Средняя взаимная информация.

I(x_i)=-logp(x_i) – априорная неопределенность (до передачи)

I(x_i/y_j)=-logp(x_i/y_j) – апостериорная неопределенность (после передачи)

I(x_iy_j)=I(x_i)-I(x_i/y_j)=log[p(x_i/y_j)/p(x_i)] – взаимная информация.

Взаимная информация – количество инф, которое мы получаем о событии x_i, наблюдая событие y_j.

Свойства:

1) Увеличивается при уменьшении априорной и увеличении апостериорной вероятностей.

2)       а) I(x_iy_j)>0

б) I(x_iy_j)=0

в) I(x_iy_j)<0

3) Если I(x_iy_j)=I(x_i), то помехи в канале отсутствуют.

I(x_iy_j)≤I(x_i) – помехи есть, информации больше чем имелось не будет.

4) I(x_iy_j)=I(y_jx_i) – свойство симметрии. Количество информации, получаемой нами, равно количеству инф при обратной ситуации.

log[p(x_i/y_j)/p(x_i)]= log[p(y_j/x_i)/p(y_j)]

Усреднив по всему множеству реализаций X и Y, мы получим среднюю взаимную инф.

I_ср(XY) – среднее количество инф, которое мы получаем о состоянии источника Х, наблюдая реализацию источника У.

I_ср(XY)=H(X)-H(X/Y).

Свойства: 1) I_ср(XY)≥0 (=0 когда выход канала никак не связан со входом)

2) I_ср(XY)≤H(X)

3) I_ср(XX)=H(X)

 

Назначение и виды кодирования.

Код – система знаков, применяемых для передачи, хранения, обработки информации (сообщений).

Кодирование – процесс представления информации в виде кода.

Назначение:

1. представление сведений об объекте в некотором формализованном виде (задача ПП).

Задачи:

1. простое (функ) 35₁₀->100011₂

2. экономное кодирование. 35₁₀->…₁₀₀

3. помехоустойчивое. 35-> тридцать пять

4. криптографическое.

Простое кодирование – представляет сообщения с помощью кода, который наиболее подходит для последующего практического использования.

Экономное кодирование – для повышения скорости доставки сообщения либо для уменьшения количества символов.

Помехоустойчивое – для повышения достоверности доставки.

Криптографическое – для повышения секретности.

 

Назначение, принципы и свойства экономного кодирования

 

Экономное кодирование