képletű Hartley

Hartley formula - egy speciális esete Shannon formula egyformán valószínű lehetőségeket.

Behelyettesítve képletű Shannon pi helyette (abban az esetben, equiprobable nem függ i) az értéke pi = 1 / N, megkapjuk:

, így Hartley képlet nagyon egyszerű:

Ebből az következik, hogy a növekvő mennyiségű opciók (N), és a növekvő bizonytalanság (H). Ezeket a mennyiségeket kapcsolatban a képlet nem lineáris, hanem keresztül bináris logaritmus. Alapú logaritmusa 2 és vezet számos lehetséges információt mértékegységek - bit.

Amint látható, az entrópia lesz csak egy egész szám abban az esetben, amikor n jelentése 2 hatványa, azaz ha N tartozik sor: .. 1, 2, 4, 8, 16, 32, 64, 128, 256, 512, 1024 2048 ...

A függőség az entrópia száma equiprobable választás (egyenértékű alternatívák)

Megoldásokat inverz problémák, amikor ismert bizonytalanság (H), vagy amelyeket annak eltávolítását mennyiségű információ (I) és meg kell határozni, hogy hány equiprobable alternatíva megfelel a megjelenése a bizonytalanság, az inverz képlet Hartley, amely kibocsátás meghatározásával összhangban a logaritmus és még egyszerűbb :

Például, ha az információ, hogy egy Ivanov él a második emeleten, megfelel a 3 bit, majd az alábbi képlet szerint, hogy meghatározzuk a emeletek száma az épületben, mint: N = 8 = március 2 emeleten.

Ha a kérdés, hogy ezt így: „Az épületben 8 emeleten, az információ mennyisége, hogy megismerjük, hogy mi érdekel Ivanov él a második emeleten”, a számítást el lehet végezni a következő képlet segítségével:

Kapcsolódó cikkek