Shannona twierdzenia
 
Encyklopedia PWN
Shannona twierdzenia
[t. szänona],
telekom. podstawowe twierdzenia teorii informacji dotyczące kodowania sygnału w celu podniesienia poziomu sprawności transmisji; sformułowane 1949 przez C.E. Shannona i amer. uczonego, W. Weavera.
Sprawność transmisji jest określana stosunkiem ilości informacji bezbłędnie transmitowanej przez kanał do przepustowości kanału (określonej maks. ilością informacji, która może być przesłana kanałem za pomocą jednej wiadomości elementarnej). T.Sh. dotyczą ziarnistych (dyskretnych) źródeł informacji, tj. źródeł wysyłających pewną liczbę niezależnych wiadomości, które można traktować jako wielkości losowe (stochastyczne procesy); w wyniku kodowania pojedynczym wiadomościom zostają przyporządkowane słowa kodowe stanowiące ciągi symboli z pewnego ich zbioru; według t.Sh. istnieje optymalny sposób kodowania wiadomości zarówno dla kanału bez zakłóceń, jak i dla kanału z zakłóceniami.
T.Sh. dla dyskretnego kanału bez zakłóceń: 1) wiadomości generowane przez źródło można zawsze tak zakodować, aby prędkość ich przesyłania była mniejsza, ale dowolnie bliska wartości Vmax = WC/H(X), gdzie H(X) — entropia źródła informacji, C — przepustowość kanału, W — średnia prędkość przesyłania symboli elementarnych; 2) nie istnieje sposób kodowania umożliwiający osiągnięcie prędkości większej od Vmax.
Dla dyskretnego kanału z zakłóceniami t.Sh. dotyczą też reguł decyzyjnych (decyzji teoria) zastosowanych przy odtwarzaniu wiadomości, określających sposób dopasowywania sygnału odebranego do sygnału nadanego i są formułowane następująco: 1) wiadomości generowane przez źródło można zawsze zakodować tak, aby prawdopodobieństwo błędu reguły decyzyjnej odbioru było mniejsze od dowolnie zadanej liczby dodatniej; 2) nie istnieje metoda kodowania umożliwiająca prowadzenie transmisji z prędkością większą niż Vmax i z dowolnie małym prawdopodobieństwem błędu odtworzenia (po stronie odbiorczej) nadawanych wiadomości.
Z porównania obu postaci ograniczeń wynika, że prędkości transmisji dla kanału z zakłóceniami są mniejsze niż dla kanału bez zakłóceń. Jest to związane z koniecznością eliminowania błędów podczas transmisji i z koniecznością wprowadzania pewnego nadmiaru (redundancji) informacji w przypadku kanału z zakłóceniami.
zgłoś uwagę
Przeglądaj encyklopedię
Przeglądaj tabele i zestawienia
Przeglądaj ilustracje i multimedia