Реферат на тему Математическая теория коммуникации К.Шеннона

Содержание:

ВВЕДЕНИЕ
4

1       КЛАССИФИКАЦИЯ
СИСТЕМ СВЯЗИ

1.1
Понятие системы связи7

     1.2 Виды каналов передачи информации8

2       ТЕОРЕМЫ
ШЕННОНА

2.1
Формулы Шеннона10

     2.2 Основные теоремы11

3       МОДЕЛЬ
ШЕННОНА-УИВЕРА

3.1
Основное понятие13

     3.2 Жизненная модель15

ЗАКЛЮЧЕНИЕ17

СПИСОК ИСПОЛЬЗУЕМЫХ ИСТОЧНИКОВ19

ПРИЛОЖЕНИЕ21  

Введение:

В статье Иона Джеймса
(журнал «Биографические воспоминания стипендиатов Королевского общества») Клод
Э́лвуд Ше́ннон (англ. Claude Elwood Shannon; 30 апреля 1916, Петоски, Мичиган,
США — 24 февраля 2001, Медфорд, Массачусетс, США) характеризуется как игривый
гений, который изобрел бит, отделил носитель от сообщения и заложил основы для
всех цифровых коммуникаций. Он в одиночку заложил общие правила современной
теории информации, создав математические основы для технической революции. Без
его ясной мысли и постоянной способности пробиваться через трудноразрешимые
проблемы такие достижения, как электронная почта и Всемирная паутина, были бы
невозможны.[1]

Уо́ррен Уи́вер (англ. Warren
Weaver; 17 июля 1894, Ридсбург, Висконсин, США — 24 ноября 1978, Нью-Милфорд,
Коннектикут, США) — американский математик, основоположник машинного перевода.
Уивер является соавтором Шеннона, вместе они в 1949 году написали
«Математическую теорию коммуникации», обосновывающую принципы передачи
информации. В своей книге авторы фокусируются на решении проблем кодирования
информации.

К. Шеннон был известным
американским математиком, инженером и криптоаналитиком. На его теории
информации основываются высокотехнологичные системы связи. Современные
коммуникационные технологии используют фундаментальные понятия, математические
идеи и формулировки, выдвинутые ученым в середине 20 века.

Фундаментальный труд
«Математическая теория связи» Клода Шеннона был опубликован в 1948 году в
реферативном журнале телефонной компании «Bell System». В статье ученый обобщил
идеи Р. Хартли и Г. Найквиста, ввел термин единицы информации «бит»,
предложенный Джоном Тьюки.

В своей статье Шеннон
определил понятие информационной энтропии (термин был предложен Джоном Фон
Нейманом), как оценку среднего количества информации на символ источника при
отсутствии информационных потерь. Это неопределенность некоторой системы в
общем случае, и непредсказуемость появления какого-либо символа первичного
алфавита, в частности.

Согласившись с Р. Харли, Клод
Шеннон предложил описывать меру информации при помощи логарифмической функции:
«Логарифмическая мера удобна по следующим причинам:

·                  
Она удобна практически. Параметры, важные
в инженерных приложениях, такие как время, пропускная способность, число переключателей
и так далее обычно меняются линейно при логарифмическом изменении числа
возможных вариантов. К примеру, добавление одного переключателя удваивает число
возможных состояний их группы, увеличивая на единицу его логарифм по основанию
2. Увеличение в два раза времени приводит к квадратичному росту числа
сообщений, или удвоению их логарифма, и так далее.

·                  
Она близка к нашему интуитивному
представлению о такой мере. Это тесно связано с предыдущим пунктом, так как мы
интуитивно измеряем величины, линейно сравнивая их со стандартами. Так, нам
кажется, что на двух перфокартах можно разместить в два раза больше информации,
а по двум одинаковым каналам — передать ее в два раза больше.

·                  
Она удобна математически. Многие
предельные переходы просты в логарифмах, в то время как в терминах числа вариантов
они достаточно нетривиальны».[2]

Заключение:

«Проблемы
коммуникации, коммуникативного воздействия и взаимодействия волновали
человечество, вероятно, с самого начала его существования. Особое внимание при
этом уделялось вербальному общению. То, что люди издревле осознавали силу
слова, подтверждают давно устоявшиеся в языке речевые тропы. «Магия слова»
может и творить чудеса, и «ранить как меч»».[1]

Чтобы
оценить сильные и слабые стороны математической теории коммуникации
Шеннона-Уивера, ее графическое представление можно привести к модифицированному
виду, представленному на рисунке 7.

Рисунок
7. – Модель коммуникации Шеннона-Уивера (модифицированное графическое
представление)

Условные
обозначения:

Е
— энтропия, пространство информационных выборов; S — коммуникатор –
субъект-источник информации; М1 — исходное сообщение источника; TR —
передатчик; СD — кодирование; М2 — отправленный сигнал, закодированное
сообщение на входе в канал; Ch — канал; М3 — сигнал на выходе из канала
(принятый сигнал); R1 — приемник; DC — декодирование; M4 — декодированное
(воспринятое реципиентом) сообщение; RC — реципиент – субъект-получатель
информации; N1 — семантический шум источника; N2 — механический шум канала; N3
— семантический шум получателя.

По
словам Шеннона-Уивера, существуют три степени проблем с коммуникацией. Это:

1.               
Техническая проблема — проблема вызвана
каналом.

2.               
Семантическая проблема — значение
сообщения неправильно понято получателем.

3.               
Проблема эффективности — как эффективно
сообщение вызывает реакцию у адресата.

Преимущества
модели Шеннона-Уивера заключаются в следующем:

·                  
Понятие шума помогает сделать общение
эффективнее, убрав источник шума или техническую неисправность, вызывающую
помехи.

·                  
Модель включает и обратную связь, а
значит, ее можно применить к любому виду переговоров или коммуникаций.

·                  
Коммуникация имеет математическую оценку в
модели Шеннона-Уивера.

«Сообщения
(точнее, их коды) поступают из источника через канал связи (с возможными
помехами) в приемник информации. Эти сообщения изменяют систему знаний
(тезаурус) приемника, уменьшая уровень его неопределенности, измеряемый
энтропией. Среднее количество информации определяется уменьшением энтропии
приемника в результате изменения его представлений о распределении вероятных
состояний источника», — писал Клод Элвуд Шеннон.

Фрагмент текста работы:

1                  
КЛАССИФИКАЦИЯ
СИСТЕМ СВЯЗИ

«В
различных научных отраслях, под информацией понимается то сообщение, которое
уменьшает или снимает неопределенность (Клод Шеннон). Неопределенность понимается
Шенноном как затруднения в идентификации знечения сообщения, непонимание или
невозможность идентифицировать сигнал».[1]

1.1
Понятие системы связи

Под
системой связи Шеннон понимает изображенную на рисунке 1 систему, состоящую из
5 частей:

Рисунок 1. – Схематическое
изображение общей системы связи

1.               
Источник информации, выдающий одно или
несколько сообщений, которые могут состоять из: последовательности букв
(телеграфная система); некоторой функции времени (телефонная связь); функции
времени и других переменных (телевидение); нескольких функций времени
(«трехмерный звук» или несколько сигналов одновременно); нескольких функций от
нескольких переменных (передача цветного телевизионного сигнала).

2.               
Передатчик, который преобразует сигнал до
пригодного для передачи через линию связи. Например, в электрический сигнал при
телефонии; кодировка сигнала в последовательность точек, тире и пробелов для
телеграфной линии связи; РСМ-системы, вокодеры, телевидение и частотная
модуляция, подвергающие сообщения более сложным преобразованиям, чтобы
сформировать сигнал.

3.               
Канал, то есть среда, в которой сигнал
передается от передатчика к приемнику (например, световой луч, радиоволна, пара
проводов или коаксильный кабель, состоящий из центрального проводника и экрана).

4.               
Приемник, восстанавливающий сообщения из
сигнала.

5.               
Пункт назначения, которым является человек
или устройство, для кого предназначено сообщение.