Непрерывные и дискретные каналы передачи информации. 
 
 
 
 
 
 
 
 
 
 
 

Содержание:

Введение………………………………………………………………..2

1. Определение системы передачи информации……………….......3
2. Описание дискретного канала…………………………………,…7

2.1. Пропускная способность дискретного канала связи………..,...7

2.2. Дискретный канал связи без помех…………………………,…..9

2.3. Дискретный канал связи с помехами………………………......11

3 .  Описание непрерывного канала………………………………...15

3.1. Пропускная способность непрерывного канала связи……….16

3.2. Теорема Шеннона………………………………………...…,,,...19

4.  Задачи…………………………………………………,,,…………23

Заключение………………………………………………………….....27

Библиографический список…………………………………………..29 
 
 
 
 
 
 
 
 
 
 

Введение

        Специалисты по автоматизации  технологических процессов должны  знать понимать процессы преобразования сигналов при передаче информации от датчиков, оконечного оборудования данных к управляющей ЭВМ, контроллерам или другим устройствам обработки информации. При проектировании информационно-управляющих систем, автоматизированных систем управления технологическими процессами (АСУ ТП) необходимо понимать процессы передачи и преобразования сигналов, обрабатывать сигналы, находить их модели, решать задачи, связанные с проектированием систем передачи дискретной информации для АСУ ТП.

   Студент должен знать и уметь  использовать: фундаментальные

положения теории информации; методы построения избыточных кодов; передачи непрерывной информации с оценкой ошибок дискретизации по времени и по амплитуде; принципы согласования     производительности источника с пропускной способностью канала связи, принципы построения систем передачи информации; возможности информационного подхода к оценке качества функционирования систем. 
 
 
 
 
 
 
 
 
 
 

1. Определение системы передачи информации

 

      Система передачи дискретной информации (СПДИ) - основной элемент автоматизированных систем управления технологическими    процессами (АСУ ТП), информационно-управляющих систем (ИУС) и любых других систем, в которых существуют процессы передачи и преобразования информации.

          На рис.1 приведена обобщенная структурная схема СПДИ. 

ИС         Пер 1        Прямой КС         Пр 1             ПИ 

ИО 

Пр 2         Обр. КС           Пер 2

ИС –  источник сообщений; ПИ – получатель информации; ИО –

источник  ошибок; Пер.1, Пер.2 – передатчики  сообщений; Пр.1,

Пр.2 –  приемники сообщений; КС – канал  связи.            

      СПДИ - совокупность передатчиков, приемников  и каналов, обеспечивающих обмен  сообщениями между двумя пунктами  или передачу сообщения от  одного пункта к другому. Сообщения  в прямом канале и в обратном  канале искажаются под воздействием  помех.       Искажения  рассматриваются как внесение  ошибок в передаваемую информацию. Одной из основных задач является  построение модели источника  ошибок. Поток сообщения от ИС следует рассматривать как случайный поток.     Каналом передачи информации называют совокупность устройств, обеспечивающих передачу сигналов от одного пункта к другому. При построении СПДИ канал является заданным звеном, ИС и ПС согласуются с КС посредством передатчика и приемника.

   ИО вызывает искажения информации. Чтобы восстановить искаженную

информацию, необходимо применение кодирования.

  КС  – это линия связи, на концах  которой находится оборудование, производящее оконечную обработку  данных преобразователем сообщений

(модемы, фильтры и усилители).

   Передатчик – это устройство, которое преобразует сообщение  X(t) в сигнал S(t).

   Приемник – это устройство, которое  преобразует сообщение S*(t) в сообщение  X*(t).

На рис.2 приведена структурная схема однонаправленного КС. 

                                                           ЛС

ИС          Ш         К          М         ЛУ 
 

ПИ            ДШ        ДК          ДМ          ЛУ 
 

Ш –  шифратор, К – кодер, М – модем, ЛУ – линейное

устройство, ЛС – линия связи, ДМ – демодулятор, ДК –

декодер, ДШ – дешифратор.

    Шифратор преобразует сообщение  в безызбыточный код. Кодер  преобразует безызбыточный код  в помехозащищенный код, добавляет  контрольные символы. Модулятор  преобразует сигналы в форму,  удобную

для передачи по КС. На выходе модулятора будет аналоговый сигнал.

     Демодулятор преобразует аналоговый  сигнал в дискретный. Декодер  декодирует код и корректирует  ошибки. На выходе дешифратор  преобразует код в сообщение.

     Кодер образует устройство защиты ошибок (УЗО) передатчика, а декодер

– УЗО  приемника. Модулятор и ЛУ образуют устройство преобразования

сигналов (УПС) передатчика, а ЛУ и демодулятор  – УПС приемника.

      Отождествление принимаемого элементарного  сигнала с определенным

кодовым символом выполняется в первой решающей схеме (выход демодулятора). Преобразование кодовых символов в сообщение  осуществляется с помощью второй решающей схемы (выход дешифратора). 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

2. Описание  дискретного канала

 

     Описание  приема сигналов. Обозначим дискретный сигнал через B(t). Элементарные сигналы bi назовем передаваемыми или входными символами, которые определим цифрами m–ичной системы счисления (0,1,2,…,m-1).

    Сигнал на входе представим  последовательностью {Bi}, где 

i=…, 1,0+1,…

- номер  позиции, Bi – случайная дискретная  величина.

   Последовательность на выходе  канала обозначим { B i }.

   Будем считать, что синхронизация  в канале идеальна. Для каждой i-й

позиции возможно различить три события:                               

   - правильный прием символа (bi*=bi) с вероятностью ρbi;

   - ошибка (bi*≠bi, bi*≠Θ) с вероятностью  ρei;

   - стирание символа (bi*=Θ) с вероятностью  ρΘi.

   Если канал не стационарен,  не симметричен и с неограниченной  памятью, то вероятность изменения  символа на данной позиции  зависит от номера позиции,  от значения данного и всех  ранее переданных символов, от  изменений всех ранее переданных  символов. 

2.1. Пропускная способность дискретного канала связи

     Пропускная  способность канала связи – наибольшая теоретически достижимая скорость передачи информации при условии, что погрешность  не превосходит заданной величины. Скорость передачи информации – среднее количество информации, передаваемое в единицу времени. Определим выражения для расчета скорости передачи информации и пропускной способности дискретного канала связи.

     При передаче каждого символа в среднем  по каналу связи проходит количество информации, определяемое по формуле:

     I (Y, X) = I (X, Y) = H(X) – H (X/Y) = H(Y) – H (Y/X), (2)

     где: I (Y, X) – взаимная информация, т.е. количество информации, содержащееся в Y относительно X; H(X) – энтропия источника сообщений; H (X/Y) – условная энтропия, определяющая потерю информации на один символ, связанную с наличием помех и искажений.                                                При передаче сообщения X_T длительности T, состоящего из n элементарных символов, среднее количество передаваемой информации с учетом симметрии взаимного количества информации равно:

     I(Y_T, X_T) = H(X_T) – H(X_T/Y_T) = H(Y_T) – H(Y_T/X_T) = n [H(X) – H (X/Y), (3)

где T = n ; – среднее время передачи одного символа; n-число символов в сообщении длительностью Т.                                                                                      Для символов равной длительности = t, в случае неравновероятных символов неравной длительности:

.    (3)

     При этом скорость передачи информации:

     

 [бит/с]. (4)

     Скорость  передачи информации зависит от статистических свойств источника, метода кодирования  и свойств канала.

     Пропускная  способность дискретного канала связи:

     

. (5)

     Максимально-возможное  значение, т.е. максимум функционала  ищется на всем множестве функций  распределения вероятности p(x).

     Пропускная  способность зависит от технических  характеристик канала (быстродействия аппаратуры, вида модуляции, уровня помех  и искажений и т.д.). Единицами  измерения пропускной способности  канала являются: [bit/s], [Kbit/s], [Mbit/s], [Gbit/s].

     2.2. Дискретный канал связи без помех

       Если  помехи в канале связи отсутствуют, то входные и выходные сигналы  канала связаны однозначной, функциональной зависимостью.

    При этом условная энтропия равна нулю, а безусловные энтропии источника  и приемника равны, т.е. среднее  количество информации в принятом символе  относительно переданного равно:

I (X, Y) = H(X) = H(Y); H (X/Y) = 0.

     Если  Х_Т – количество символов за время T, то скорость передачи информации для дискретного канала связи без помех равна:

     

(6)

     где V = 1/ – средняя скорость передачи одного символа.

     Пропускная  способность для дискретного  канала связи без помех:

     

(7)

     Т.к. максимальная энтропия соответствует  для равновероятных символов, то пропускная способность для равномерного распределения  и статистической независимости  передаваемых символов равна: 

     

. (8)

     Первая  теорема Шеннона для канала: Если поток информации, вырабатываемый источником, достаточно близок к пропускной способности канала связи, т.е.

     

, где - сколь угодно малая величина,

     то  всегда можно найти такой способ кодирования, который обеспечит  передачу всех сообщений источника, причем скорость передачи информации будет весьма близкой к пропускной способности канала.

     Теорема не отвечает на вопрос, каким образом  осуществлять кодирование.

     Пример 1. Источник вырабатывает 3 сообщения с вероятностями:

     p₁ = 0,1; p₂ = 0,2 и p₃ = 0,7.

     Сообщения независимы и передаются равномерным  двоичным кодом (m = 2) с длительностью символов, равной 1 мс. Определить скорость передачи информации по каналу связи без помех.

     Решение: Энтропия источника равна:

     

      [бит/с].

     Для передачи 3 сообщений равномерным  кодом необходимо два разряда, при  этом длительность кодовой комбинации равна 2t.

     Средняя скорость передачи сигнала:

     V =1/2t = 500 [1/c].

     Скорость  передачи информации:

     C = vH = 500×1,16 = 580 [бит/с].

       2.3. Дискретный канал связи с помехами

     Мы  будем рассматривать дискретные каналы связи без памяти.

     Каналом без памяти называется канал, в котором  на каждый передаваемый символ сигнала, помехи воздействуют, не зависимо от того, какие сигналы передавались ранее. То есть помехи не создают дополнительные коррелятивные связи между символами. Название «без памяти» означает, что  при очередной передаче канал  как бы не помнит результатов предыдущих передач.

     При наличии помехи среднее количество информации в принятом символе сообщении  – Y, относительно переданного – X равно:

     

.

     Для символа сообщения X_T длительности T, состоящего из n элементарных символов среднее количество информации в принятом символе сообщении – Y_T относительно переданного – X_T равно:

     I(Y_T, X_T) = H(X_T) – H(X_T/Y_T) = H(Y_T) – H(Y_T/X_T) = n [H(Y) – H (Y/X). (9)

     Для определения потерь в дискретном канале связи используется канальная  матрица (матрица переходных вероятностей), позволяющая определить условную энтропию характеризующую потерю информации на символ сообщения.

     Скорость  передачи информации по дискретному  каналу с помехами

     равна:

      (10)

     Пропускная  способность дискретного канала при наличии помех равна максимально  допустимой скорости передачи информации, причем максимум разыскивается по всем распределениям вероятностей p(x) на X и, поскольку, энтропия максимальна для равномерного распределения (для равновероятных символов сообщения), то выражение для пропускной способности имеет вид:

      . (11)

     Как видно из формулы, наличие помех  уменьшает пропускную способность  канала связи.

     Пример. По каналу связи передаются сообщения, вероятности которых соответственно равны:

     p(x₁)=0,1; p(x₂)=0,2; p(x₃)=0,3; p(x₄)=0,4.

     Канальная матрица, определяющая потери информации в канале связи имеет вид:

       

     Определить:

1. Энтропию источника информации – H(X).
2. Безусловную энтропию приемника информации – H(Y).
3. Общую условную энтропию – H (Y/X).
4. Скорость передачи информации, если время передачи одного символа первичного алфавита t = 0,1 мс.
5. Определить потери информации в канале связи при передаче 500 символов алфавита.
6. Среднее количество принятой информации.
7. Пропускную способность канала связи.

     Решение:

1. Энтропия источника сообщений равна:

     

2. Вероятности появления символов на входе приемника:

     

     

     Проверка:

       
 

     Энтропия  приемника информации равна:

     

3.  Общая  условная энтропия равна:

4. Скорость  передачи информации равна:

     

     =(1,85–0,132)/0,0001=17,18 Кбит/с.

5. Потери информации в канале связи при передаче 500 символов алфавита равны:

     

500×0,132=66 бит.

6. Среднее количество принятой информации равно:

     

     =500×(1,85–0,132)=859 бит.

7. Пропускная способность канала связи:

      (2–0,132)/0,0001=18,68 Кбит/с. 
 
 
 
 
 
 
 

3. Описание  непрерывного канала

 

       Пропускная  способность С определяется наибольшей возможной скоростью передачи информации.

     Скоростью передачи информацию  называется отнесенное к единице времени количество взаимной информации между передаваемым сигналом

S(t) и  принимаемым сигналом S*(t):

                I’(S,S*)=I(S,S*)=H’(S) - H’(S/S*)=H’(S*) - H’(S*/S),

где H (S) и H’(S*) – энтропии входного и выходного  сигналов, H’(S/S*) и

H’(S*/S) – условные энтропии.

    Если входной сигнал u(t) узкополосный, то его можно представить в

квазигармонической  форме u(t)=A(t)cos(w0t+Ф(t)), где A(t) и Ф(t) – медленно меняющиеся функции.

    При достаточно малом времени  задержки τ в КС сигнал на  выходе канала определится формулой:

            u*(t)=kA(t-τ)cos[w0(t-τ)+Ф(t-τ)]≈kA(t)cos[w0t+Ф(t)+ϕk],

где ϕk=w0τ - фазовый сдвиг в КС.

    Если u(t) - случайный процесс, а  ЛС как линейная цепь с постоянными

параметрами характеризуется своей импульсной реакцией g(t),то процесс на выходе непрерывного КС определится формулой:

                                      ∞

                       U * (t ) =   ∫ g(τ)u(t − τ)dτ .  (12)

                                        0                      

   Пусть u(t) – сигнал на входе,  а u*(t)     – сигнал на  выходе непрерывного КС.

   Ограничения на входной сигнал  задают указанием допустимой  пиковой мощности и средней мощности передаваемых сигналов, а также указанием полосы передаваемых частот от fН до fВ. Величина F=fВ-fН называется шириной полосы пропускания канала.

   Преобразование u(t)→u*(t) сводится к  четырем факторам:

   - изменение масштаба (усиление или  ослабление);

   - смещение во времени (задержка);

   - искажения формы;

   - воздействие помех.

3.1.  Пропускная способность непрерывного канала связи 

       Непрерывный канал передачи информации содержит совокупность средств для передачи непрерывных сигналов, при этом вместо кодирующих и декодирующих устройств  используются различного рода преобразователи (модуляция и т.д.). Входные и  выходные сигналы в непрерывном  канале связи представляют ансамбли непрерывных функций с соответствующими плотностями распределений вероятности.

     Если  на вход непрерывного канала связи  поступает непрерывный сигнал X(t) длительностью T, то вследствие воздействия помех f(t) выходной сигнал Y(t) будет отличаться от входного. При этом количество информации в сигнале Y(t) о сигнале X(t) равно:

     

. (13)

    Непрерывный сигнал, можно рассматривать как  дискретный при . Он может быть представлен в виде решетчатой функции, при этом на приемной стороне по отдельным взятым отсчетам через интервал Dt может быть восстановлен исходный непрерывный сигнал.

     Шаг квантования Dt = T/n, где n – число точек отсчета. В соответствии с теоремой Котельникова Dt = 1/2f_c, где f_c - частота среза а n = 2Tf_c – база сигнала.

     При этом в выражении (13) для взаимной информации вместо разности энтропии можно записать разности соответствующих  дифференциальных энтропий отдельных  отсчетов:

     

.

Пропускная  способность непрерывного канала связи:

     

(14)

     Для дискретного канала связи максимальное значение скорости передачи соответствует  равновероятным символам алфавита. Для  непрерывного канала связи, когда заданной является средняя мощность сигнала, максимальная скорость обеспечивается при использовании нормальных центрированных случайных сигнала.

     Если  сигнал центрированный (m_x = 0) т.е. без постоянной составляющей при этом мощность покоя равна нулю (P₀ = 0). Условие центрированности обеспечивает максимум дисперсии при заданной средней мощности сигнала

     Если  сигнал имеет нормальное распределение, то априорная дифференциальная энтропия каждого отсчета максимальна.

     Поэтому при расчете пропускной способности  непрерывного канала считаем, что по каналу передается непрерывный сигнал с ограниченной средней мощностью  – P_c и аддитивная помеха (y = x+f) также с ограниченной средней мощностью – P_n типа белого (гауссова) шума.

     Так как помеха аддитивна, то дисперсия  выходного сигнала равна:

     

.

     Для того, чтобы энтропия была максимальна  для сигнала с ограниченной мощностью, он должен быть гауссовым, при этом:

.

     Для того чтобы помеха была максимальна, она тоже должна быть гауссова:

     

.

     При этом пропускная способность непрерывного канала должна быть равна пропускной способности сигнала:

      . (15)

     Таким образом, скорость передачи информации с ограниченной средней мощностью  максимальна, если и сигнал, и помеха являются гауссовыми, случайными процессами.