Передача сигналов по непрерывному каналу
В связи с широким применением аналоговых сигналов в акустике и интроскопии случай использования непрерывного канала для передачи информации является наиболее распространённым. Непрерывный канал передачи информации удобно рассматривать как предельный случай дискретного канала. Ширина спектра помехи и полезного сигнала на выходе канала ограничивается полосой пропускания самого канала. Наиболее просто описывается помеха типа «белого шума». Она имеет равномерный спектр в пределах полосы пропускания 0≤f≤fm.
Ограничение спектров сигнала и помехи позволяет при определении количества информации вместо непрерывной функции сигнала во времени S(t) рассматривать дискретизированную S(tk). Интервалы дискретизации в этом сигнале определяются по теореме Котельникова Δ=fm/2. Промежуточные значения S(t) являются избыточными и информации не несут. Интервал дискретизации Δ определяет необходимую скорость передачи импульсов по каналу V=1/Δ=2fm.
В этом сигнале максимальное количество информации содержащейся в одном импульсе можно определить по формуле max{I(x;y)}=Hm(S)=log(Sm/Δx+1), где m – число уровней квантования, содержащихся в интервале 0 ≤ S ≤ Sm.
Для непрерывного сигнала интервал Δx→0, тогда максимальное количество информации, которую несёт сигнал I→∞. Таким образом, при отсутствии помех, количество информации на один импульс оказывается бесконечно большим.
Однако в реальных каналах всегда присутствуют помехи. При уменьшении интервала квантования увеличивается количество информации на один импульс, одновременно увеличивается и вероятность стабильного принятия переданного сигнала. Это значит, увеличивается условная энтропия. В результате при стремлении к нулю интервала квантования количество информации, предаваемое одним символом, стремится к определённому конечному значению. Эти значения определяются формулами, энтропии двух зависимых сигналов I(X;Y)=H(X)-H(Y/X).
Если помеха является аддитивной, то для непрерывного канала связи справедливо следующее выражение для определения пропускной способности:
где - верхняя граница пропускания канала связи,
- отношение мощности сигнала к мощности помех (соотношение сигнал/шум). Данная формула устанавливает теоретический предел скорости передачи информации по непрерывному каналу при ограниченной мощности передаваемых сигналов и наличии аддитивной помехи в виде белого шума с ограниченным спектром мощности.