A Kenobis példában szereplő forrás elemzése

Szimbólum D A U I Y L V O _ E
Valószínűség 0,01 0,01 0,03 0,04 0,05 0,06 0,09 0,13 0,25 0,33
Információtartalom 6,644 bit 6,644 bit 5,059 bit 4,644 bit 4,322 bit 4,059 bit 3,474 bit 2,943 bit 2,0 bit 1,599 bit
Kód 000101 000100 00011 0000 0100 0101 001 011 10 11

Entrópia

A következő szimbólum várható információtartalma, azaz a forrás entrópiája:
2,653 bit szimbólumonként.

Hatásfok és redundancia

Mivel a forrás 10 jelből áll, ezért a forrás entrópiája maximálisan Hmax = log2 10 = 3,322 bit lehetne szimbólumonként, ha mindegyik szimbólum valószínűsége 1/10 lenne.

A forrás hatásfoka
η = H/Hmax = 0,799.

A forrás redundanciája
R = 1 − η = 0,201.

A kódolt üzenetek statisztikai vizsgálata

A szerveren generáltunk 50 darab mintát 100 hosszúságú üzenetekből a fenti valószínűségekkel jellemezhető forrásból, és kódoltuk az üzeneteket a kiválasztott kód szerint. A kódok teljes hosszainak illetve az egy szimbólumra eső hosszainak a statisztikája a következő táblázatban látható.
  teljes üzenetátlagosan szimbólumonként
átlagos kódhossz 267,6602,677
maximális kódhossz 2862,860
minimális kódhossz 2512,510

A kommunikációs rendszer vizsgálata »