Mennyiségi és minőségi jellemzőit információ

Tájékoztató intézkedések általában úgy három szempontból: a strukturális, statisztikailag-és statikus szemantikai.

A strukturális szempontból, a szerkezet a információk tömbök és azok mérése egyszerűen számolva az információs elemeket vagy kombinatorikus eljárások. A strukturális megközelítést használják fel a képességeit az információs rendszerek, függetlenül azok alkalmazását.

A statisztikai megközelítés fogalmát használja az entrópia az intézkedés a bizonytalanság, amely figyelembe veszi a valószínűségét, valamint az információs üzenet tartalma. Statisztikai megközelítés figyelembe veszi az adott felhasználási körülmények között az információs rendszerek.

A szemantikai megközelítés lehetővé teszi, hogy hangsúlyozzák az vagy az információ értéke üzenetet.

Strukturális tájékoztatási tevékenység

Az információ mindig bemutatásra üzenet formájában. Elemi egység Messaging - szimbólum. Karakterek összegyűlt csoportok - a szó. Az üzenet formájában kibocsátott egyes szavak vagy karakterek, mindig továbbították az anyaga és formája az energia (elektromos, fény, hang jelek).

Különbséget információ folytonos és diszkrét (ábra. 2.4).

Ábra. 2.4. Módon bemutató információk

az x (t), ábrán látható. És 2.4. Meg lehet képviselve egy folyamatos (ábra. 2.4b) és diszkrét (ábra. 2.4) fajokat. A folytonos formában ez a funkció lehet bármilyen valós értékeket egy adott tartományban variációs érv t, azaz a értékek sokaságán egy folytonos függvény végtelenségig. A diszkrét forma az x (t) kaphatnak anyag kormányzati értékeket csak bizonyos értékeket az érvelés. Bármelyik diszkrétség kis intervallum (azaz távolság a szomszédos argumentum értékek) vagy kiválaszt egy sor diszkrét függvény értékei argumentum egy előre meghatározott tartományban a változás (ha az nem végtelen) véges (korlátozott).

Ha strukturális információk intézkedéseket figyelembe véve csak a különálló épületet az üzenet számát információkat tartalmaz elemeket, akkor a kapcsolat közöttük. A strukturális megközelítés, a különböző geometriájú, kombinatorikus és additív tájékoztatási intézkedések.

Geometriai intézkedés magában paraméterének méréséhez geometriai modell az információt szigetelőanyag álláshely (hosszúság, terület, térfogat) diszkrét egységek. Például, a geometriai Coy modell információ lehet egy vonal egységnyi hosszúságú (2.5 ábra, és - Egyetlen szó jelentése 0 vagy 1), négyzetes (2.5 ábra b -. Kétjegyű szó), vagy egy kocka (2.5 ábra a - három számjegyű szó). A maximális lehetséges mennyiségű információt előre meghatározott struktúrákat meghatározza az információs kapacitási modell (rendszer), amely úgy definiálható, mint az összege diszkrét értékek az összes mérés (a koordináták).

Ábra. 2.5.Geometricheskaya modell adatait

A kombinatorikus információ van meghatározva, mint az elemek száma, mint a kombinációk száma (karakter). A lehetséges információ mennyisége egyenlő a számos lehetséges kombinációi és permutációi elhelyezések az elemek. Ötvözi szimbólum egy szót, amely csak a 0 és 1, a változó a szavak jelentését. Tekintsük két pár szó 100.110 és 001.101, 011.101 és 111010. tartottak extrém permutációja számjegy (megváltoztatta a helyét a jel bit számának - a kategória költözött balról jobbra).

Adalékanyag intézkedés (Hartley intézkedés), amely szerint az adatok mennyisége mérjük bináris egységekben (bit), a leggyakoribb. A fogalmak mélysége és hossza.

A mélysége a számát (q) - a karakterek száma (elemek) vett, hogy képviselje a infor-mációk. Bármely adott időpontban csak egy valósul egy karaktert. Mélység száma megegyezik az alap számrendszer.

Hossz száma (n) - azon pozíciók számát, szükséges és elegendő ahhoz, hogy azokat a számokat jelölik adott értékre. Hossza megfelel a bit számát számrendszer.

Adott mélysége és hossza, a számok száma így ábrázolható, majd
N = q n. Az N értéke kényelmetlen a értékelési információs kapacitását. Hartley lépett adalékanyag bináris logaritmikus intézkedés, amely lehetővé összegének kiszámításához az információ bináris egységek - bit:

Ez az információ egysége a Hartley.

Ezért, 1 bit információ megfelel egy elemi esemény lehet, hogy nem fordul elő. Ez az intézkedés az összeg az információ hasznos, hiszen ez biztosítja a képes működni, mint az intézkedés a számot. Az információk mennyisége, ahol a száma bináris szimbólumot egyenértékű 0 vagy 1. Ha több információforrások teljes mennyiségű információ

ahol I (qk) - az információ mennyiségét forrásból k. A logaritmikus mértéke információ lehetővé teszi, hogy az intézkedés az információk mennyisége és használják a gyakorlatban.

Statisztikai adatok intézkedés

A statisztikai adatok beírása intézkedés az információk mennyisége elmélet, amely szerint nem tekinthető maga az esemény, de az erre vonatkozó tájékoztatást. Ez a probléma ki van dolgozva
Shannon „Selected Works információk elmélet.” Ha az üzenet
egy gyakran előforduló esemény, a valószínűsége, amely közel van egyhez, hogy egy üzenetet a címzettnek kevés információ. Csak kevés információt jelentett Søby-tiyah a valószínűsége, amely közel van a nullához.

Események lehet tekinteni, mint egy lehetséges kimenetele bizonyos tapasztalat, és minden eredmény ez az élmény, egy teljes esemény csoportnak. Shannon bevezette a bizonytalanság a helyzet során felmerülő, a kísérlet, amelyben ez entrópia.

Entropiyapolnoy esemény csoport mennyiségi intézkedés a bizonytalanság és következésképpen-CIÓ, információ tartalma, mennyiségileg kifejezett átlagos valószínűség függvény a készlet-ség az egyes lehetséges kimenetelét egy kísérlet. Az információk mennyisége eredményeként kapott a kísérlet, azonos a bizonytalanság során eltávolítjuk ezt az élményt.

A valószínűségi megközelítés lényege legjobban úgy magyarázható példát magában a dobás-sósav megfelelő kocka, amelynek N metszettel (a leggyakoribb az esetben a csont hex: N = 6). A kísérlet eredménye lehet veszteség az arc az alábbi karakterek: 1, 2. N.

Tekintsük a numerikus mennyiség, amely méri a bizonytalanság - entrópia (jelöljük H). H értékek és N kapcsolódik egy funkcionális kapcsolatot:

és az f függvény növekszik, és nemnegatív határozott (a szóban forgó példában) n = 1, 2. 6.

Az eljárás a dobott kocka:

- felkészülnek arra, hogy dobjon egy csont. Tapasztalat eredmény ismeretlen, azaz Van némi bizonytalanság, jelöljük H 1;

- csont dobott. Tájékoztatás az eredménye ez a kísérlet kapunk, ez az adat mennyiségét jelöli azt;

- jelöli a bizonytalanság a kísérlet végrehajtása után keresztül H2.

Az összeg során szerzett információk gyakorlására tapasztalat, hogy a különbség a bizonytalanság „előtte” és „utána” kísérlet:

Nyilvánvaló, abban az esetben, ha az egyedi eredményt kapunk, amely törölte a bizonytalanságot (H 2 0). Number kapott információ egybeesik az eredeti entrópia. Más szóval, a bizonytalanság szereplő tapasztalat, összhangban a tájékoztatást az eredménye ez a tapasztalat. Jelentés H 2 lehet nem nulla, például abban az esetben, ha a kísérlet során a következő volt aspektus egy értéke nagyobb, mint három.

A következő dolog, hogy milyen típusú az f függvény. Ha változik az arcok száma N száma és a dob kockával (ezt az értéket jelöli M). A teljes száma eredmények (M hosszúságú vektor álló 1 karakter, 2. N) egyenlő N a mértéke M:

Így, abban az esetben, két dob ​​kocka hat oldalán, van: X = 6 2 = 36. Tény, minden egyes X jelentése az eredménye egy bizonyos pár (X 1, X 2), ahol X 1 és X 2 - rendre az első és második eredmények öntvények (összesen ilyen pár - X).

A helyzet a leadott M-szerese a csont lehet tekinteni, mint egy komplex rendszer, amely egymástól független alrendszerek - „egyetlen dobás a csontokat.” A entrópiája ilyen rendszer M-szer hosszabb, mint az entrópia a rendszer (úgynevezett „elvének additivitás az entrópia”):

ahol * - szorzás jele.

A levezetett képlet intézkedés Hartley:

Fontos bevezetésével a mennyiség a kérdés, hogy mit tegyen a mértékegységet. H egyenlő eggyel, ha N = 2 Más szóval, az információs egységek kapott számot társított információt végzett vizsgálat kivitelezésekor álló fogadó egy két egyenlően valószínű kimenetele (egy példa egy ilyen kísérlet szolgálhat a dobás az érme, ahol két kimenetel lehetséges: „Eagle "" farok „).

Abban az esetben, ha a valószínűségek a különböző eredmények nem tapasztal egyformán (de van egy valószínűségi Pi), az intézkedés az entrópia képlet szerint kiszámított Shannon:

Példaként meghatározza az információk mennyiségét kapcsolódó megjelenése az egyes karakterek az üzenetekben orosz nyelvű. Feltételezzük, hogy a magyar ábécé áll 33 betű és a jel „space” szavak elválasztására. A képlet szerint kapjuk: n> 5 bitet.