Teorie informací

Základní pojmy této teorie byly představeny v šedesátých letech dvacátého století K. Shannonem. Teorie informací Je věda o procesech přenosu, ukládání azískávání dat v přírodních, technických a sociálních systémech. V mnoha aplikovaných vědních oborech, jako jsou informatika, lingvistika, kryptografie, teorie řízení, zpracování obrazu, genetika, psychologie, ekonomie, organizace výroby, se používají metody této vědy.

V moderních podmínkách s teorií informacívelmi těsně spojen s teorií kódování s uvažováním nejběžnější problémy shody mezi signálem a hlášením, a teorie zpracování signálu, ve kterém je kvantizace studoval a využití signálů a spektrální analýzy a jejich korelace.

Informační teorie považuje základní pojetí"Informace" z větší části z kvantitativní strany, bez ohledu na její hodnotu a někdy i na význam. V rámci tohoto přístupu bude stránky textu obsahují přibližně stejné množství dat určených řadou znaků a symbolů, a nezáleží na tom, že přísně vzato, tam je vytištěna, i když je to naprosto nesmyslné a chaotická množina některých symbolů.

Takový přístup je legitimní, ale pouze promodelování komunikačních systémů, protože musí přesně přenášet informace prostřednictvím komunikačních kanálů, které mohou být reprezentovány libovolným souborem znaků a symbolů. Současně, pokud je třeba vzít v úvahu hodnotu a význam údajů, není kvantitativní přístup nepřijatelné. Takové okolnosti představují významná omezení v oblastech možného uplatnění této teorie.

Základy teorie informace předpokládajízvážení různých otázek, včetně těch, které se přímo týkají přenosu a příjmu dat. Základní schéma komunikace, které je uvažováno ve výuce, je následující. Teorie informace a kódování je přesvědčen, že údaje jsou vytvořeny zdrojemzprávy, což je slovo nebo sada slov napsaných písmeny určité abecedy. Zdrojem zprávy může být text ve všech přirozených nebo umělých jazycích, lidské řeči, databázích a některých matematických modelech, které vytvářejí posloupnost písmen. Vysílač převede zprávu na signál odpovídající fyzické povaze komunikačního kanálu - média pro přenos signálu. Během průchodu takového zásahu, který zavádí zkreslení hodnot informačních parametrů, může na něm působit. Přijímač obnoví původní zprávu podle přijatého signálu zkreslením. Zpráva ve obnovené podobě přichází k adresátovi - nějaké osobě nebo technickému zařízení.

Zdroj zprávy má statistický charakter,to znamená, že vzhled každé zprávy je určen určitou pravděpodobností. Informační teorie Shannon věří, že pokud se pravděpodobnost vzhledu zprávy rovná jedné, tj. Její vzhled je spolehlivý a nejistý, neexistují žádné informace.

Jedním z důležitých problémů teorie informací je koordinace komunikačního kanálu a informačních zdrojů zdroje zpráv. Šířka pásma je určena měřicí jednotkou 1 bit za sekundu.

Jedním z problémů komunikačních systémů je rušenícesta užitečného signálu. Shannonova věta, bohužel, nám nedává konkrétní způsob řešení těchto. Nejjednodušší metoda likvidace, která spočívá v opakovaném opakování zpráv, není příliš účinná, protože na přenos informací trvá spousta času. Mnohem efektivnější je použití kódů, které dokáží odhalit a opravit chyby v přenosu informací.