Információ- és kódelmélet

Fegyverneki, Sándor

Új Széchenyi Terv logó.

Miskolci Egyetem

Kelet-Magyarországi Informatika Tananyag Tárház

Kivonat

Nemzeti Fejlesztési Ügynökség http://ujszechenyiterv.gov.hu/ 06 40 638-638

Lektor

Dr. Kálovics Ferenc

Miskolci Egyetem

A tananyagfejlesztés az Európai Unió támogatásával és az Európai Szociális Alap társfinanszírozásával a TÁMOP-4.1.2-08/1/A-2009-0046 számú Kelet-Magyarországi Informatika Tananyag Tárház projekt keretében valósult meg.


Tartalom

1. Bevezetés
1.1. A feldogozott területek címszavakban
1.2. JAVA appletek a jegyzethez
2. Az információmennyiség
2.1. Egyedi információmennyiség, entrópia
2.2. Az entrópia tulajdonságai
2.3. Feltételes entrópia
2.4. Feladatok
2.5. Önellenőrző kérdések
3. Az I-divergencia
3.1. Információ és bizonytalanság
3.2. Az I-divergencia tulajdonságai
3.3. A sztochasztikus függőség mérése
3.4. Urnamodellek
3.5. Fano-egyenlőtlenség
3.6. A kölcsönös információmennyiség tulajdonságai
3.7. Feladatok
3.8. Önellenőrző kérdések
4. Forráskódolás
4.1. Alapfogalmak
4.2. Sardinas-Patterson módszer
4.3. Keresési stratégiák és prefix kódok
4.4. Shannon-Fano kód
4.5. Gilbert-Moore kód
4.6. Hatásfok
4.7. Huffman-kód
4.8. McMillan-dekódolási tétel
4.9. Blokkos kódolás, tömörítés, stacionér forrás entrópiája
4.10. Feladatok
4.11. Önellenőrző kérdések
5. Csatornakapacitás
5.1. Zajmentes csatorna kapacitása nem azonos átviteli idő esetén
5.2. Shannon-Fano algoritmus, tetszőleges eloszlás esetén
5.3. Zajos csatorna kapacitása
5.4. Arimoto-Blahut algoritmus
5.5. Iterációs módszer a relatív kapacitás meghatározására (kiegészítő tananyag)
5.6. Feladatok
5.7. Önellenőrző kérdések
6. Csatornakódolás
6.1. Hibajavítás, kódtávolság
6.2. Csoportkód
6.3. Lineáris kód
6.4. Hamming-kód
6.5. Feladatok
6.6. Önellenőrző kérdések
7. Bevezetés a folytonos esetbe
7.1. Diszkretizálás
7.2. Néhány fogalom folytonos esetben
7.3. Maximum entrópia módszer (MEM)
7.4. Feladatok
7.5. Önellenőrző kérdések
8. Függelék
8.1. Jelölések
8.2. Konvex függvények
8.3. Az függvény vizsgálata
8.4. Az aszimptotikus Stirling-formula
8.5. Valószínűség-számítás összefoglaló
8.5.1. A valószínűség fogalma
8.5.2. A valószínűségi változó
8.5.3. Néhány diszkrét eloszlás és jellemzői
8.5.4. Néhány folytonos eloszlás és jellemzői
8.5.5. A véletlen vektorok
8.5.6. Néhány többdimenziós eloszlás
8.5.7. Néhány alapvető tétel
Irodalomjegyzék

Az ábrák listája

1.1. Az egyirányú hírközlési rendszer általános modellje (zajmentes)
1.2. Az egyirányú hírközlési rendszer általános modellje (zajos)
2.1. A A 2^{-x} függvény függvény
2.2. A reciprok logaritmusa
2.3. Az entrópia függvény bináris esetben
2.4. Az Az xln(x) függvény függvény
2.5. Az entrópia függvény három elemű eloszlásra
4.1. Az egyirányú hírközlési rendszer általános modellje (zajos)
4.2. Példa a Shannon-Fano kódolásra (intervallumfelosztás)
4.3. Példa a Shannon-Fano kódolásra (kódfa)
4.4. Példa a Shannon-Fano kódolásra (kód)
4.5. Példa a Shannon-Fano kódolásra (intervallumfelosztás)
4.6. Példa a Shannon-Fano kódolásra (kód)
4.7. Példa a Gilbert-Moore kódolásra (intervallumfelosztás)
4.8. Példa a Gilbert-Moore kódolásra (kódfa)
4.9. Példa a Gilbert-Moore kódolásra (kód)
4.10. Példa a Gilbert-Moore kódolásra (intervallumfelosztás)
4.11. Példa a Gilbert-Moore kódolásra (kódfa)
4.12. Példa a Gilbert-Moore kódolásra (kód)
4.13. Példa Huffman-féle kódolásra 1. változat
4.14. Példa Huffman-féle kódolásra 2. változat
4.15. Példa Huffman-féle kódolásra 3. változat
4.16. Példa a Huffman kódolásra
4.17. Példa a Huffman kódolásnál az eloszlás ellenőrzésére
4.18. Példa a Huffman kódolásra 1. rész
4.19. Példa a Huffman kódolásra 2. rész
4.20. Bináris szimmetrikus csatorna
4.21. Bináris szimmetrikus csatorna kapacitása a valószínűség függvényében
4.22. Példa blokkos kódoláshoz 1.
4.23. Példa blokkos kódoláshoz 2.
4.24. Példa blokkos kódoláshoz 3.
5.1. Példa csatornakapcitás numerikus meghatározására additív költség esetén
5.2. Példa csatornakapcitás numrikus meghatározására additív költség esetén
5.3. Bináris törlődéses csatorna
5.4. Egymás után két csatorna (soros eset)
5.5. Egymás után több csatorna (soros eset)
5.6. Egymás mellett két csatorna (párhuzamos eset)
6.1. Bináris szimmetrikus csatorna
8.1. Az Az xln(x) függvény függvény
8.2. Az Az xln(x) függvény deriváltja függvény deriváltja
8.3. A logaritmus függvény konvexitásának bemutatása
8.4. A reciprok logaritmusa

1. fejezet - Bevezetés

A statisztikai hírközléselméletet három fő területre szokás osztani: információelmélet, jeldetektálas és sztochasztikus szűrés.

Jeldetektálás: Legyen a megfigyelt sztochasztikus jel. A hipotézis esetén egy mintafüggvény az sztochasztikus zajból, míg a esetén az jel zaj folyamatból. A megfigyelő dönt valamelyik hipotézis javára felhasználva egy megfelelő optimalitási kritériumot, pl. egy teszt statisztikát.

Sztochasztikus filtráció: ez nem más, mint a jelek, adatok szűrése, azaz a megfigyelt jel, adatsor transzformálása valamilyen szempontok szerint.

Az információ fogalma központi szerepet játszik az egyes ember és a társadalom életében, és a tudományos kutatásban. Mindennapi életünk minden pillanatában az információ megszerzés, továbbadás, tárolás problémájával vagyunk elfoglalva. Természetesen más és más a jelentése ugyanannak az információnak a különböző felhasználók számára. Hasonlókat mondhatunk az észlelés, tárolás, érték stb. esetében is. Az adott helyzettől függően szubjektíven döntünk, használjuk fel stb. Ezért nem foglalkozunk az információ fogalmával.

Az információelmélet szempontjából csak az információ mennyisége az érdekes, mint ahogy adattároláskor is mellékes, hogy honnan jöttek és mit jelentenek az adatok. Csak a célszerű elhelyezésükről kell gondoskodni.

Napjainkban már eléggé világos, hogy konkrét tartalmától, megjelenési formájától és felhasználásától elvonatkoztatva beszélhetünk az információ számszerű mennyiségéről, ami éppen olyan pontosan definiálható és mérhető, mint bármely más fizikai mennyiség. Hosszú volt azonban az út, amely ehhez a felismeréshez vezetett. Mindenekelőtt azt kell tisztázni, hogy mikor van egyáltalán a kérdésnek értelme. Persze mindenkinek van valamilyen – többé-kevésbé szubjektív – elképzelése az információ mennyiség fogalmáról, de a köznapi szóhasználatban ez általában az információ konkrét megjelenési formájának terjedelmességéhez, másrészt a hasznosságához és egyéb tulajdonságaihoz kapcsolódik. Ahhoz, hogy jól használható mérőszámot kapjunk, minden esetleges vagy szubjektív tényezőtől el kell vonatkoztatni. Ezek közé soroljuk az információ konkrét tartalmát, formáját és mindent, ami a köznyelvben az információ fogalmához kötődik. Ezt a könyörtelen absztrakciót az indokolja, hogy az információ megszerzésével, feldolgozásával, felhasználásával (tárolás, átalakítás, továbbítás) kapcsolatos gyakorlati problémák között nagyon sok olyan is akad, melynek megoldásához (pl. a kívánt berendezés vagy eljárás megtervezéséhez) az információ számos jellemzője közül kizárólag csak a mennyiséget kell figyelembe venni.

Az információ fogalma olyan univerzális, annyira áthatja a mindennapi életünket és a tudomány minden ágát, hogy e tekintetben csak az energiafogalommal hasonlítható össze. A két fogalom között több szempontból is érdekes párhuzamot vonhatunk. Ha végigtekintünk a kultúra, a tudomány nagy eredményein, a legnagyobb felfedezéseken, azoknak jelentős részét két világosan elkülöníthető osztályba sorolhatjuk.

Az egyik csoportba az energia átalakításával, tárolásával, továbbításával kapcsolatos felfedezések tartoznak. Pl. a tűz felfedezése, a víz- és szélenergia felhasználása, egyszerű gépek kostruálása, az elektromos energia hasznosítása stb.

A másik csoportba az információ átalakításával, tárolásával, továbbításával kapcsolatos felfedezések tartoznak. Pl. az írás, a könyvnyomtatás, a távíró, a fényképezés, a telefon, a rádió, a televízió és a számítógép stb.

Számos, az első csoportba tartozó felfedezésnek megvan a párja a második csoportban.

Még egy szempontból tanulságos párhuzamot vonni az energia- és az információfogalom között. Hosszú időbe telt, amíg kialakult az energiamennyiség elvont fogalma, amelynek alapján a különböző megjelenési formáit, mint pl. a mechanikai energiát, a hőenergiát, a kémiai energiát, az elektromos energiát stb. össze lehetett hasonlítani, közös egységgel lehetett mérni. Erre a felismerésre és egyben az energia-megmaradás elvének a meghatározására a XIX. század közepén jutott el a tudomány. Az információ fogalmával kapcsolatban a megfelelő lépés csak a XX. század közepén történt meg.

Mielőtt rátérnénk az információmennyiség mértékének kialakulására, történetére meghatározzuk, hogy mit is jelent az információ absztrakt formában.

Információn általában valamely véges számú és előre ismert lehetőség valamelyikének a megnevezését értjük.

Nagyon fontos, hogy információmennyiségről csak akkor beszélhetünk, ha a lehetséges alternatívák halmaza adott. De ebben az esetben is csak akkor beszélhetünk az információmennyiség definiálásáról, ha tömegjelenségről van szó, vagyis ha nagyon sok esetben kapunk vagy szerzünk információt arról, hogy az adott lehetőségek közül melyik következett be. Mindig ez a helyzet a híradástechnikában és az adatfeldolgozásban, de számos más területen is.

Az információmennyiség kialakulásához a kezdeteket a statisztikus fizika kutatói adták meg. Ebből adódik a fizikában használatos elnevezés (pl. entrópia): L. Boltzmann (1896), Szilárd L. (1929), Neumann J. (1932). Továbbá, a kommunikációelmélettel foglalkozók: H. Nyquist (1924), R.V.L. Hartley (1928).

A hírközlés matematikai elméletét C.E. Shannon (1948) foglalta össze oly módon, hogy hamarosan további, ugrásszerű fejlődés alakuljon ki ezen a területen. Már nemcsak az elmélet alapproblémáit fejti ki, hanem úgyszólván valamennyi alapvető módszerét és eredményét megadja.

Párhuzamosan fejlesztette ki elméletét N. Wiener (1948), amely erősen támaszkodott a matematikai statisztikára és elvezetett a kibernetikai tudományok kifejlődéséhez.

Shannon a következőképpen adta meg a zajmentes (egyirányú) hírközlési rendszer általános modelljét:

1.1. ábra - Az egyirányú hírközlési rendszer általános modellje (zajmentes)

Az egyirányú hírközlési rendszer általános modellje (zajmentes)

Látható, hogy meg kell oldanunk a következő problémákat: Az üzenet lefordítása továbbítható formára. Az érkező jel alapján az üzenet biztonságos visszaállítása. A fordítás (kódolás) legyen gazdaságos (a dekódolás is) a biztonság megtartása mellett. Használjuk ki a csatorna lehetőségeit (sebesség, kapacitás).

1.2. ábra - Az egyirányú hírközlési rendszer általános modellje (zajos)

Az egyirányú hírközlési rendszer általános modellje (zajos)

Természetesen ezek a problémák már a tervezési szakaszban felmerülnek. Viszont gyakran kerülünk szembe azzal, hogy a már meglévő rendszer jellegzetességeit, kapacitásait kell optimálisan kihasználni. Számos számítástechnikai példa van arra, hogy a biztonságos átvitel mennyire lelassítja az adatáramlást. Továbbá egy „jó” kódolás hogyan változtatja az üzenet terjedelmét, a felhasználás gyorsaságát.

Az információelméletet két nagy területre bonthatjuk: az algebrai kódoláselmélet és a Shannon-féle, valószínűség-számításon alapuló, elmélet.

Az információelmélettel foglalkozók a következő három kérdés „mennyiségi” vizsgálatával foglalkoznak: Mi az információ? Melyek az információátvitel pontosságának a korlátai? Melyek azok a módszertani és kiszámítási algoritmusok, amelyek a gyakorlati rendszerek esetén a hírközlés és az információtárolás a megvalósítás során megközelíti az előbb említet pontossági, hatékonysági korlátokat?

Az eddigiek alapján a jegyzet anyagát a következő témakörökben foglalhatjuk össze: Az információmennyiség mérése és ennek kapcsolata más matematikai területekkel. A hírközlési rendszerek matematikai modellje (zajos, zajmentes vagy diszkrét, folytonos). Kódoláselmélet (zajos, zajmentes; forrás, csatorna).

1.1. A feldogozott területek címszavakban

Az egyirányú hírközlési rendszer általános modellje. Az információmennyiség Hartley-féle értelmezése, szemléletes jelentése, kapcsolata a blokkonkénti kódolással.

Az esemény Shannon-féle információmennyisége, axiomatikus bevezetés (elvárt tulajdonságok), a valószínűségi változó értéke által tartalmazott egyedi információmennyiség, Shannon-féle entrópia, az függvény tulajdonságai, Jensen-egyenlőtlenség, az entrópia tulajdonságai.

Információnyereség és várható értéke, Kullback-Leibler eltérés vagy I-divergencia, az entrópia axiomatikus származtatása, a sztochasztikus függőség mérése, teljes eseményrendszerek sztochasztikus függése, kölcsönös információmennyiség, az I-divergencia tulajdonságai.

Aszimptotikus Stirling-formula, az I-divergencia és a valószínűség kapcsolata, a kölcsönös információmennyiség és az entrópia kapcsolata, McMillan-felbontási (particionálási) tétel, a feltételes entrópia és tulajdonságai, Fano egyenlőtlenség.

Kódoláselméleti fogalmak: stacionaritás, betűnkénti és blokkonkénti kódolás, zajmentesség, emlékezetnélküliség, egyértelmű dekódolhatóság. Keresési stratégiák és prefix kódok, kódfa, átlagos kódhossz. Kraft-Fano egyenlőtlenség, prefix kódok átlagos kódhoszszára vonatkozó állítások. Hatásfok, maximális hatásfokú kód létezése, McMillan-dekódolási tétel (Karush-féle bizonyítás). Shannon-Fano-, Gilbert-Moore-, Huffman-féle kód. Az optimális kód tulajdonságai, a kódfához kapcsolódó tulajdonságok, az optimális kódolás első lépése.

Csatornakapacitás: emlékezetnélküli eset, zajmentes eset, bináris szimmetrikus csatorna. Nem azonos átviteli idő esete: információ átviteli sebesség, csatornakapacitás, optimális eloszlás. A kapacitás numerikus meghatározása, a módszer konvergenciája. Az átlagos időhossz, Kraft-Fano egyenlőtlenség.

Blokkonkénti kódolás, átlagos kódhossz és korlátai, stacionér forrás entrópiája, a zajmentes hírközlés alaptétele, McMillan-felbontási tétel és a zajos kódolás kapcsolata.

Zajos csatorna kódolása: bináris szimmetrikus csatorna, kód, algebrai struktúrák, vektortér, a kizáró vagy művelete, norma, Hamming-távolság és tulajdonságai, maximum likelihood kódolás, a hibajavíthatóság és a kódtávolság kapcsolata, csoportkód, hibajelezhetőség, hibaáteresztés, lineáris kód, szisztematikus kód, paritásellenőrző mátrix, szindróma, részcsoport, mellékosztály és tulajdonságai, mellékosztályok és szindrómák kapcsolata, mellékosztályok táblázata, dekódolási táblázat, osztályelsők, a dekódolási táblázat távolság tulajdonsága.

Entrópia és I-divergencia folytonos esetben, tulajdonságok. Speciális eloszlások entrópiája. Entrópia maximalizálás, véges szórású eset.

1.2. JAVA appletek a jegyzethez

A következő problémákhoz készült applet

1. Shannon-Fano kódolás

2. Snanon-Fano kódolás (additív költség esetén)

3. Gilbert-Moore kódolás

4. Gilbert-Moore kódolás (additív költség esetén)

5. Huffman kódolás

6. Csatornakapacitás számítása (additív költség esetén)

Appletek

2. fejezet - Az információmennyiség

2.1. Egyedi információmennyiség, entrópia

A bevezetés alapján információn valamely véges számú és előre ismert lehetőség valamelyikének a megnevezését értjük.

Kérdés: Mennyi információra van szükség egy adott

véges halmaz valamely tetszőleges elemének azonosításához vagy kiválasztásához?

Tekintsük például a jólismert hamis pénz problémát. Itt kétserpenyős mérleg segítségével kell kiválasztani a külsőre teljesen egyforma pénzdarabok közül a könnyebb hamisat. Ez úgy történhet, hogy azonos darabszámú csoportokat téve a mérlegre, megállapítjuk, hogy a keletkezett három csoportból melyikben van a hamis. Ha ugyanis a mérleg egyensúlyban van, akkor a maradékban van, ha nem, akkor a könnyebb csoportban. Ez az eljárás addig folytatódik, amíg megtaláljuk a hamis pénzdarabot.

Ha alakú a pénzdarabok száma, akkor átlagosan mérlegelésre van szükség, de átlagosan ennél kevesebb már nem vezethet mindig eredményre.

2.1. Megjegyzés. Általában legalább

mérlegelésre van szükség, ami összefügg azzal, hogy egy mérlegelésnek 3 kimenetele van.

A probléma további vizsgálatára még visszatérünk, viszont előtte tekintsük a következő egyszerű problémát: Hány bináris számjegy szükséges egy elemű halmaz elemeinek azonosításához?

2.1. Példa. Az amerikai hadseregnél állítólag úgy végzik a vérbajosok felkutatását, hogy az egész társaságtól vért vesznek, és a páciensek felének véréből egy részt összeöntve elvégzik a Wassermann-próbát. Amelyik félnél ez pozitív, ott a felezgetést tovább folytatják egész addig, amíg a betegeket ki nem szűrték. Ez a módszer nagyon gazdaságos, mert ha 1000 páciens között pontosan egy vérbajos van, akkor az 10 vizsgálattal lokalizálható, míg az egyenkénti vizsgálatnál – ami adminisztrációs szempontból persze sokkal egyszerűbb – átlagosan 500 próbára van szükség.

Hartley(1928) szerint az elemű halmaz elemeinek azonosításához

mennyiségű információra van szükség.

Ennek az a szemléletes tartalma, hogy ha alakú, akkor hosszúságú bináris sorozat szükséges. Ha alakú, akkor ( az egészrészt jelöli) a szükséges bináris jegyek száma. Továbbá, ha azt tekintjük, hogy az általunk vizsgált esetek valamely tömegjelenséghez tartoznak, akkor az a kérdés, hogy az elemeiből álló tetszőlegesen hosszú sorozatok hogyan írhatók le bináris sorozatokkal.

Tekintsük az hosszúságú elemeiből álló sorozatokat, akkor ezek száma Ha akkor az halmaz egy elemére eső bináris jegyek száma Ekkor

azaz növelésével tetszőlegesen megközelíthető.

Ezek szerint, Hartley formulája az információ mennyiségét a megadáshoz szükséges állandó hosszúságú bináris sorozatok alsó határaként definiálja.

Ennek megfelelően, az információmennyiség egységét bitnek nevezzük, ami valószínűleg a „binary digit” angol nyelvű kifejezés rövidítése. Hartley szerint a két elemű halmaz elemeinek azonosításához van szükség egységnyi (1bit) mennyiségű információra. Néhány szerző az alapú természetes logaritmust preferálja, ekkor az egység a nat. A logaritmusok közötti átváltás alapján .

Hartley egyszerű formulája számos esetben jól használható, de van egy komoly hibája: nem veszi figyelembe, hogy – tömegjelenségről lévén szó – az egyes alternatívák nem feltétlenül egyenértékűek.

Például, nem sok információt nyerünk azzal, hogy ezen a héten sem nyertünk a lottón, mert ezt előre is sejthettük volna, hiszen rendszerint ez történik. Ezzel szemben az ötös találat híre rendkívül meglepő, mert igazán nem számíthatunk rá, ezért az sokkal több információt szolgáltat.

Ezt a nehézséget Shannon(1948) a valószínűség és az információ fogalmának összekapcsolásával oldotta meg. Shannon szerint egy valószínűségű esemény bekövetkezése

mennyiségű információt szolgáltat. Ez a mérőszám a Hartley-félénél sokkal árnyaltabb megkülönböztetést tesz lehetővé, és ha az lehetőség mindegyike egyformán valószínűségű, akkor a Hartley-féle formulára redukálódik.

A továbbiakban először megvizsgáljuk, hogy mennyire természetes a Shannon által bevezetett mérőszám. Az eddigiek alapján a következő tulajdonságokat várjuk el az információmennyiség mérőszámától:

1. Additivitás: Legyen alakú, azaz felírható két természetes szám szorzataként. Ekkor felbontható darab diszjunkt elemű halmaz uniójára, azaz Ez azt jelenti, hogy az azonosítása az elemeknek úgy is történhet, hogy először az halmazok egyikét azonosítjuk, s utána az halmazon belül történik az azonosítás. Emlékezzünk vissza a hamis pénz problémára. Ekkor elvárható, hogy a két számítási mód alapján az információmennyiségek megegyezzenek, azaz

2.2. Megjegyzés. Ez a tulajdonság függetlenségként is felírható, mert két egymástól függetlenül elvégzett azonosítás összekapcsolásának felel meg.

2. Monotonitás: A lottós példa alapján elvárható, hogy kisebb valószínűségű esemény bekövetkezése nagyobb információmennyiségű legyen. Ebből viszont rögtön következik, hogy az információmennyiség csak a valószínűségtől függ. Létezik függvény, hogy az esemény valószínűségéhez rendelt Hiszen esetén mert ha akkor míg ha akkor

3. Normálás: Legyen ha Ez összhagban van azzal, hogy egy kételemű halmaz elemeinek az azonosításához pontosan információra van szükség.

2.3. Tétel. Ha és (1) ha (2) (3) akkor

Bizonyítás. Az jelöléssel az állításunk alakja: ha Ezt fogjuk bizonyítani.

2.1. ábra - A A 2^{-x} függvény függvény

A 2^{-x} függvény

A (2) feltétel alapján ami teljes indukcióval egyszerűen belátható. Ezt alkalmazva a esetre kapjuk, hogy Továbbá,

ekkor

Tehát bármely racionális számra Ha akkor

Ha irracionális, akkor minden esetén létezik hogy

Ekkor

amelyből esetén következik, hogy ha azaz

2.2. ábra - A reciprok logaritmusa

A reciprok logaritmusa

2.4. Megjegyzés. Néhány alapvető irodalom, amelyben az alapfogalmak és tulajdonságaik megtalálhatóak: [3], [12], [7], [8].

2.5. Definíció. Az mennyiséget a valószínűségi változó értéke által tartalmazott egyedi információmennyiségnek nevezzük.

2.6. Definíció. A

eloszlású valószínűségi változó Shannon-féle entrópiájának nevezzük a

mennyiséget.

2.3. ábra - Az entrópia függvény bináris esetben

Az entrópia függvény bináris esetben

2.7. Megjegyzés. A valószínűségek között a is előfordulhat, így problémát okozhat, hiszen a logaritmus függvény csak pozitiv számokra értelmezett. Ezt azonban megoldja az, hogy az függvény folytonosan kiterjeszthető a nullára, mert

lehet definíció szerint.

2.4. ábra - Az Az xln(x) függvény függvény

Az xln(x) függvény

Vegyük észre, hogy a mennyiség nem más, mint az egyedi információmennyiség várható értéke.

Ha nem okoz zavart, akkor az entrópia jelölésére még a következőket is fogjuk használni:

2.2. Az entrópia tulajdonságai

1.

Bizonyítás. Az összeg minden tagja nemnegatív.

2.5. ábra - Az entrópia függvény három elemű eloszlásra

Az entrópia függvény három elemű eloszlásra

2. Ha és akkor

3.

4.

Bizonyítás. A konvex függvényre alkalmazzuk a Jensen-egyenlőtlenséget.

5. folytonos függvény.

6. szimmetrikus a valószínűségekben.

7. Ha akkor

Bizonyítás.

Tehát finomítás hatására az entrópia értéke nem csökkenhet.

2.8. Megjegyzés. Az entrópia axiomatikus származtatása [1], [12]: Ha a fenti tulajdonságok közül megköveteljük, hogy

(1) folytonos a eloszlásban;

(2) A esethez tartozó monoton növekvő az függvényében;

(3) Ha akkor

2.3. Feltételes entrópia

Legyen

véletlen vektor, melynek együttes eloszlása

Mivel az entrópiát csak az eloszlás határozza meg, ezért rögtön adódik, hogy

2.9. Definíció. A

mennyiséget a valószínűségi változó valószínűségi változóra vonatkozó feltételes entrópiájának nevezzük, ahol

2.10. Tétel.

2.11. Tétel.

egyenlőség teljesül függetlenség esetén.

2.4. Feladatok

1. pénzdarab közül az egyik hamis, könnyebb, mint a többi. A többi mind egyenlő súlyú. Legalább hány mérésre van szükség ahhoz, hogy kétserpenyős mérleggel, súlyok nélkül minden esetben meg tudjuk határozni, melyik a hamis.

2. pénzdarab közül az egyik hamis, de nem tudjuk könnyebb-e náluk vagy nehezebb. A többi mind egyenlő súlyú. Igazoljuk, hogy 3 mérés elég ahhoz, hogy kétserpenyős mérleggel, súlyok nélkül minden esetben meg tudjuk határozni, melyik a hamis! Általánosítsuk a feladatot darabra!

3. Igazolja, hogy

4. Igazolja, hogy

5. Igazolja, hogy

6. Igazolja, hogy Mikor van egyenlőség?

7. Határozza meg az entrópiát a következő eloszláshoz:

2.5. Önellenőrző kérdések

1. Ismertesse az egyirányú hírközlés általános modelljét!

2. Definiálja az egyedi információmennyiséget!

3. Definiálja az entrópiát!

4. Ismertesse az entrópia tulajdonságait!

5. Definiálja a feltételes entrópiát, ha adott az együttes eloszlás!

6. Adja meg az entrópiát meghatározó axiómákat!

7. Lehet-e az entrópia negatív?

8. Definiálja a feltételes entrópiát!

9. Ismertesse, hogy mely tulajdonságokból adódik a Shannon-féle információmennyiség!

10. Ismertesse a Jensen-egyenlőtlenséget!

3. fejezet - Az I-divergencia

3.1. Információ és bizonytalanság

Egy véletlentől függő kimenetelű kísérlet eredménye több-kevesebb mértékben bizonytalan. A kísérlet elvégzésével ez a bizonytalanság megszűnik. A kísérlet eredményére vonatkozó, erdetileg fennálló bizonytalanságot mérhetjük azzal az információmennyiséggel, amit a kísérlet elvégzésével (átlagban) nyerünk. A bizonytalanságot tehát felfoghatjuk, mint információ hiányt, vagy megfordítva: az információt úgy, mint a bizonytalanság megszüntetését. Az információ betöltése ekvivalens a bizonytalanság megszüntetésével, azaz

 információ betöltés=a-priori bizonytalanság – a-posteriori bizonytalanság. 

A két fogalom viszonyát jól világítja meg a következő példa:

Ha egy esemény valószínűsége eredetileg de a esemény megfigyelése után -ra változott (azaz és ), akkor

információt nyertünk (vagy vesztettünk). Tehát információt szereztünk -ra nézve. Vegyük észre, hogy

Továbbá, hogy az információnyereség 0, ha és függetlenek.

Egy kísérlet lehetséges kimeneteleinek egy teljes eseményrendszere legyen az amelyek (a-priori) valószínűsége számok Megfigyeltük egy esemény bekövetkezését, amely kapcsolatban áll a kísérlettel. Úgy azon feltétel mellett, hogy bekövetkezett, az események feltételes (a-posteriori) valószínűségei eltérnek ezek eredeti (a-priori) valószínűségeitől, mégpedig

Kérdés: mennyi információt nyertünk a esemény megfigyelése által a kísérlet várható kimenetelére nézve?

Tudjuk, hogy és eloszlások. Ha nem azonosak, akkor létezik olyan esemény, amelyre ( a bizonytalanság csökkent) és olyan is, amelyre (a bizonytalanság nőtt). Az információnyereség várható értéke:

Ezt a mennyiséget a esemény megfigyelése által kapott, a kísérletre vonatkozó, Shannon-féle információmennyiségnek vagy a eloszlásnak a eloszlással való helyettesítésénel fellépő információnyereségnek nevezzük.

3.1. Példa. Egy választáson párt indít jelöltet. Előzetes elképzelésünk az, hogy az egyes pártok jelöltjeire a leadott szavazatokból rész esik. A választás után megismerjük a tényleges szavazati arányokat. Az a hír, amely ezt az információt szállította információmennyiséget juttatta birtokunkba, amely mennyiség jellemzi azt, hogy az eredeti elképzelésünktől milyen messze áll a valóság. Tehát felfogható a két eloszlás közötti eltérés mérőszámaként is.

3.1. Megjegyzés. Az eloszlások közötti eltérések mérőszámára sokféle próbálkozás történt (Hellinger(1926), Kolmogorov(1931), Mises(1931), Pearson(1905) stb.) Az információmennyiséghez kötődőt a

diszkrimináló információt Kullback és Leibler(1951) vezette be hipotézisvizsgálat felhasználásával. Szokásos elnevezés még az információ divergencia vagy I-divergencia.

3.2. Az I-divergencia tulajdonságai

1. egyenlőség akkor és csak akkor, ha

Bizonyítás.

2. Ha és akkor

3. nem szimmetrikus.

Bizonyítás. Tekintsük pédául azt az esetet, amikor

4. folytonos függvény.

5. konvex függvénye a eloszlásnak a rögzítése esetén.

6. konvex függvénye a eloszlásnak a rögzítése esetén.

7. Legyenek és illetve és függetlenek, ekkor

8. Ha és akkor

azaz a felosztás (particionálás) finomítása nem csökkenti a diszkrimináló információt. Egyenlőség akkor és csak akkor, ha bármely és esetén

Bizonyítás. Az ún. log-szumma egyenlőtlenség alapján bizonyítunk. Legyen és mindegyike nemnegatív, továbbá

ekkor

Egyenlőség akkor és csak akkor, ha bármely esetén

Ha akkor az állítás nyilvánvaló. Ha akkor legyen

3.2. Megjegyzés. Legyen Ekkor

Ha rögzített, akkor minimális, ha maximális, ezért ezt maximum likelihood feladatnak nevezzük. Szokásos elnevezés kifejezésre a likelihood illetve a kifejezésre az inakkurancia.

Ha rögzített, akkor minimalizálása a minimum diszkrimináló információ feladat.

3.3. A sztochasztikus függőség mérése

A sztochasztikus függetlenség ellentéte a sztochasztikus függőség, ami azonban nem írható le olyan egyértelműen, mint az előbbi, hiszen nem csak egy eset lehetséges, ezért a függőség erősségének jellemzésére megpróbálunk bevezetni egy mérőszámot.

Legyen és két esemény, amelyre és Továbbá

A teljes eseményrendszerhez kétféleképpen kapcsolunk valószínűségeket: a-priori feltételezzük, hogy függetlenek és a-posteriori meghatározzuk (megfigyelés, becslés) a valószínűségeket. Ekkor meg tudjuk határozni a két eloszlás eltérését.

3.3. Definíció. Az és esemény függőségi mérőszámának nevezzük a

diszkrimináló információt.

Jele:

Ha és függetlenek, akkor

Ha akkor

Tehát

Vizsgáljuk meg viselkedését!

1. így

2. azaz szimmetrikus.

3. Ha és rögzített, akkor

Legyen és azaz Éz az intervallum sohasem üres, hiszen Innen az is következik, hogy mindig megválasztható úgy, hogy minimuma elérhető legyen.

4. Legyen ekkor

Ebből adódik, hogy konvex, monoton növekvő. Könnyen belátható, hogy

3.4. Definíció. Legyenek és teljes eseményrendszerek, amelyekre és Ekkor a és teljes eseményrendszerek sztochasztikus összefüggésének mérőszáma

Ezt a mérőszámot kölcsönös információmennyiségnek nevezzük.

3.5. Megjegyzés. A teljes eseményrendszerek alapján átírható valószínűségi változókra. Jele:

3.4. Urnamodellek

Egy urnában különböző fajtájú golyó van. Legyenek ezek a típusok Az típus kihúzása jelentse az eseményt és tudjuk, hogy Húzzunk az urnából visszatevéssel -szor. Ekkor

3.6. Definíció. Legyen ahol az esemény bekövetkezéseinek a száma egy adott elemi esemény(minta) esetén. Az minta tipikus („jó”), ha minden esetén.

3.7. Megjegyzés. A jó minták valószínűsége közel azonosnak tekinthető:

ahol

egy korlátos mennyiség, így

Felmerül a kérdés, hogy a tipikus minták mennyire töltik meg az elemi események terét.

Tekintsük rögzített esetén az összes tipikus mintát. Jelöljük ezt -vel és jelölje azt amikor az -edik típusú golyó becslése (a relatív gyakoriság) -nál közelebb van a valószínűséghez. Ekkor

így

de a nagy számok törvénye értelmében. Tehát a „jó” minták összességének valószínűsége tart egyhez.

Az előzőek alapján heurisztikusan az várható, hogy két részre bontható, amelyből az egyik valószínűsége kicsi, a másik pedig közel azonos valószínűségű elemekból áll.

3.8. Tétel. (McMillan felbontási tétel) Legyen adott az előzőek szerint egy urnamodell. Rögzített esetén létezik ha akkor

ahol

Bizonyítás. Legyen

azaz teljesítse a 2. feltételt. Tehát ha akkor

Legyen ekkor és a függetlenség miatt

Legyen akkor a Csebisev-egyenlőtlenség alapján

ha elég nagy.

A 3. rész bizonyításához vegyük észre, hogy

amelyből adódik az állítás egyik fele. Másrészt így rögtön következik a másik egyenlőtlenség is.

3.9. Megjegyzés. Ha az urnamodellünk esetén nem a minták valószínűségét vizsgáljuk, hanem a gyakoriságok valószínűségét, akkor a következő érdekes eredményre jutunk.

Ha az -edik típus gyakorisága azaz a relatív gyakoriság

akkor a relatív gyakoriság közelítése (maximum likelihood becslése) az a-priori valószínűségnek. Mivel a gyakoriságokat később ismerjük meg, így tekinthető a-posteriori valószínűségnek (eloszlásnak). Legyen az esemény az, hogy a gyakoriságok pontosan

Tehát

Ekkor felhasználva az aszimptotikus Stirling-formulát (l. Függelék)

Ebből

Rögzített esetén, ha nagy az eltérés valószínűségben, akkor nagy az I-divergencia. Ekkor viszont kicsi az ilyen minta valószínűsége. Ezt fejezi ki lényegében a nagy számok törvénye.

3.5. Fano-egyenlőtlenség

3.10. Lemma. Ha esetén a valószínűségi változó számú értéket vehet fel pozitív valószínűséggel, akkor

Bizonyítás. Az entrópia maximumára vonatkozó egyenlőtlenség alapján

amelynek várható értékét képezve kapjuk az állítást.

3.11. Tétel. (Fano-egyenlőtlenség) Tegyük fel, hogy a és az valószínűségi változók ugyanazt az értéket vehetik fel pozitív valószínűséggel, és legyen

ekkor

Bizonyítás.

Mivel

a definíciója alapján adódik, hogy

Másrészt a feltételes entrópia második tagjánál

ezért

A két felső becslés együttesen kiadja az állítást.

3.12. Megjegyzés. Ha tehát a valószínűségi változót az valószínűségi változóval akarjuk helyettesíteni, akkor az itt elkövetett hibára alsó becslés adható a feltételes entrópia függvényeként. A Fano-egyenlőtlenség értéke éppen az, hogy a hibavalószínűséget egy információelméleti mérőszámmal becsüli meg.

3.6. A kölcsönös információmennyiség tulajdonságai

3.13. Tétel. (A kölcsönös információmennyiség és az entrópia kapcsolata)

Bizonyítás. A definíció alapján a logaritmus felbontásával rögtön adódik:

3.14. Tétel. (A kölcsönös információmennyiség és a feltételes entrópia kapcsolata)

Bizonyítás. A feltételes entrópiáról tudjuk, hogy

s így az előző tétel felhasználásával adódik állításunk.

3.7. Feladatok

1. Határozza meg a

eloszlás és a

eloszlás Kullback-Leibler eltérését!

2. Igazolja a Bernoulli-féle nagy számok törvényét az I-divergencia felhasználásával!

3. Igazolja, hogy

ahol eloszlás és pozitív valós számok! Mikor van egyenlőség?

3.8. Önellenőrző kérdések

1. Definiálja a Kullback-Leibler eltérést!

2. Ismertesse az I-divergencia tulajdonságait!

3. Bizonyítsa, hogy az I-divergencia nemnegatív!

4. Definiálja a kölcsönös informácíómennyiséget!

5. Definiálja teljes eseményrendszerek sztochasztikus függésének a merőszámát!

6. Ismertesse az aszimptotikus Stirling-formulát!

7. Ismertesse a Markov-egyenlőtlenséget!

8. Ismertesse a Csebisev-egyenlőtlenséget!

9. Bizonyítsa a McMillan-felbontási tételt!

10. Ismertesse a polinimiális eloszlást és tulajdonságait!

11. Ismertesse a Fano-egyenlőtlenséget!

4. fejezet - Forráskódolás

4.1. Alapfogalmak

A Shannon-féle egyirányú hírközlési modell általános alakja [16], [3]:

4.1. ábra - Az egyirányú hírközlési rendszer általános modellje (zajos)

Az egyirányú hírközlési rendszer általános modellje (zajos)

A hírközlés feladata eljuttatni az információt a felhasználóhoz. A távolságok miatt az információ továbbítására valamilyen eszközöket (csatornákat) használunk, amelyek néhány jól meghatározott típusú jelet tudnak továbbítani. Tehát a továbbításhoz az információt a csatorna típusának megfelelően kell átalakítani. Ez a kódolás, míg a továbbítás után vett jelekből az információnak a visszaalakítását dekódolásnak nevezzük.

További probléma forrása, hogy az átvitel során a továbbított jelek megváltozhatnak, azaz ún. zajos csatornával dolgozunk. Tehát olyan módszerekre is szükség van, melyekkel az ilyen zajos csatornákon is elég megbizhatóan vihető át az információ, és amellett az átvitel költségei, sebessége sem gátolja a használhatóságot.

Az információ ezer alakban jelenhet meg, ám minden csatorna csak jól meghatározott típusú, a csatornára nézve specifikus információkat tud továbbítani. Az üzenetet ezért mindig olyan jelekké kell átalakítanunk, amelyek a rendelkezésünkre álló csatornán átvihetők. A jelek átalakítását kódolásnak nevezzük. Ha egészen pontosak akarunk lenni, azt kell mondanunk, hogy a kommunikációban mindig átkódolást végzünk, sőt legtöbbször az üzenetet két-háromszor is át és visszaalakítjuk (transzformáljuk). Ha például az információ forrása az ember, az első átkódolás akkor zajlik le, amikor a gondolatainkat, amelyek az agynak nevezett információfeldolgozó és tároló berendezésben valamilyen formában el vannak raktározva, szabályos nyelvi formába öntjük. A második akkor, amikor beszédhanggá alakítjuk. Adott kommunikációs szituációban legtöbbször a kommunikációs láncnak csak egy szakaszát vizsgáljuk, s így teljes joggal beszélhetünk az illető szakaszra vonatkozó kódolásról.

4.1. Definíció. A kódolás az az eljárás, amely egy nyelv véges ábécéjéből képzett szavakat kölcsönösen egyértelmű módon hozzárendeli egy másik nyelv meghatározott szavaihoz. A kódolással ellentétes eljárás a dekódolás.

A csatornakapacitás egyik meghatározása: az az információmennyiség, amelyet egy adott csatornán optimális kódolás mellett az időegység alatt át lehet vinni. Shannon azt is megállapította, hogy alkalmas kódolási eljárással zaj jelenlétében is megvalósítható tetszőlegesen kis hibavalószínűségű információátvitel, ha az átvitel sebessége kisebb a csatorna kapacitásánál.

A kódolásnak az információátvitelben kettős célja van. Egyrészt az üzenetet a csatornán átvihető alakra kell hozni, másrészt ezt úgy kell végrehajtani, hogy az üzenet minél gazdaságosabban, minél rövidebb idő alatt és minél kevesebb veszteséggel jusson el a csatorna másik végébe. (Az adatfeldolgozásban a kódolásnak más céljai is vannak: az adatok tömörítése, titkosítása stb.).

4.2. Megjegyzés. A kódolásnál elsőrendű követelmény a dekódolhatóság. Ha a vevő nem tudja az üzenetet, nem lehet szó kommunikációról. A megfejtés akkor lehetséges, ha az üzenet egyértelműen dekódolható. Ennek szükséges, de nem elégséges feltétele, hogy a különböző közleményekhez rendelt kódközlemények különbözőek legyenek.

A legegyszerűbb kódolási eljárás a betűnkénti kódolás: a forrásközlemény minden betűjéhez hozzárendeljük az illető betű kódját. Hiába különböznek azonban az egyes betűk kódjai egymástól, az üzenet attól még nem lesz egyértelműen dekódolható. Ha ugyanis a jeleket egymás után írjuk, a jelsorozatot többféleképpen is felbonthatjuk. Ezen a bajon Morse úgy segített, hogy a betűk közé szünetet iktatott be. Az egyértelműséget azzal fizette meg, hogy hosszabbá tette az üzenetet. Baudot más megoldást választott: minden betűnek azonos hosszúságú kódjelet feleltetett meg. Így az üzenetet egyértelműen tagolni lehet, viszont ezzel a módszerrel is hosszabbá válik.

A változó kódhossz sokkal gazdaságosabb, mivel lehetőség van arra, hogy figyelembe vegyük a forrásábécé jeleinek gyakoriságát, s a gyakrabban előforduló jeleket rövidebb, a ritkábban előfordulókat hosszabb kódjelekkel kódoljuk. Ezt tette Morse is: az angol nyelv betűgyakorisága alapján állította össze ábécéjét. A gazdaságosságnak van még egy feltétele: az, hogy a betűk minden elválasztás nélkül egyértelműen dekódolhatók legyenek. Ez a feltétel csak akkor teljesül, ha úgynevezett prefix tulajdonságú kódot alkalmazunk.

A hírközlés matematikai modelljében szereplő résztvevők tulajdonságainak a leírására és a feladat megoldására használjuk a következő fogalmakat.

4.3. Definíció. Legyen amely véges halmaz tartalmazza a forrásábécé elemeit. Jelölje az -ből készített véges sorozatok halmazát Ennek elemeit nevezzük forrásüzeneteknek.

4.4. Megjegyzés. Tehát

Természetesen minden a forrás által kibocsátott minden elem tekinthető valószínűségi változónak, azaz a forrásüzenet az egy valószínűségi változó sorozat. Sztochasztikus tulajdonságainak leírásához meg kell adni a sorozat együttes eloszlását. Mint látni fogjuk, sokszor egyszerűsítjük ezt az általános esetet, hogy a véletlen leírása egyszerűbb legyen. A korábbi urnamodellünk is egy ilyen esetet ír le.

4.5. Definíció. A forrást emlékezetnélkülinek nevezzük, ha a valószínűségi változó sorozat teljesen független.

4.6. Definíció. A forrást stacionáriusnak (stacionérnek) nevezzük, ha a valószínűségi változó sorozatban az eltolódással kapott véges dimenziós eloszlások megegyeznek, azaz és véletlen vektorok együttes eloszlása minden esetén megegyezik.

4.7. Definíció. Legyen amely halmaz tartalmazza a kódábécé vagy csatornaábécé elemeit. Jelölje az -ból készített véges sorozatok halmazát Ennek elemeit nevezzük kódüzeneteknek.

4.8. Megjegyzés. Tehát

A forrásüzenetet át kell alakítanunk olyan formára, hogy továbbítható legyen az ún. csatornán. Zajmentesnek nevezzük a csatornát, ha az üzenet továbbítás közben nem történik változás (hiba), ekkor általában nem szükséges további átalakítás. Viszont, ha a csatorna megváltoztathatja az üzenetet, akkor még történik egy átalakítás, hogy ez a változás jelezhető illetve javítható legyen. Ezt fogjuk csatornakódolásnak nevezni.

4.9. Definíció. A kódolás az az eljárás, amely során a forrásüzenetekhez kódüzenetet rendelünk hozzá, azaz megadunk egy

függvényt.

4.10. Definíció. Betűnkénti kódolásnak nevezzük, ha

azaz a hozzárendelés a forrásüzenethez elemenként történik. A

a forrásábécé elemeihez rendelt kódszavak.

4.11. Definíció. Blokkonkénti kódolásnak nevezzük, ha

ahol rögzített, azaz a hozzárendelés a forrásüzenethez blokkonként történik.

4.12. Megjegyzés. Az halmaz tekinthető forrásábécének, s így tekinthető betűnkénti kódolásnak is. Továbbá, ha

ahol szintén rögzített, akkor blokkhoz blokkot rendelünk, ekkor a blokkokhoz rendelt kódszavak hossza megegyezik, azaz állandó hosszúságú kódról beszélünk. Speciális eset a betűnkénti eset

4.13. Megjegyzés. A kódok készítésénél természetesen sok szempontot szokás figyelembe venni, amelyek közül a legfontosabb a dekódolhatóság. Mi itt csak az egyértelműen dekódolható esetekkel foglalkozunk. Ha a függvény kölcsönösen egyértelmű, akkor a kód egyértelműen dekódolható. Először a zajmentes csatorna esettel foglalkozunk, feltételezve, hogy a csatornán a betűk (jelek) azonos költséggel mennek át. Nem azonos költségű esetnek tekinthető például a Morse-kód, merta jelek nem azonos idejűek, azaz ha összeadjuk az időket, akkor azonos darabszám esetén is lehet az üzenet hossza különböző (additív költségű eset).

Tehát a következő esetekben az ún. zajmentes csatorna + betűnkénti kódolás + azonos költségű esetekkel foglalkozunk, azaz

4.14. Megjegyzés. az betűhöz rendelt kódszó. Jelölje a kódszavak halmazát.

4.2. Sardinas-Patterson módszer

Először egy olyan módszerrel foglalkozunk, amely segítségével egy kódról eldönthető, hogy egyértelműen dekódolható.

Legyen tetszőleges kód, amelyben a kódszavak különbözőek és nem üresek. A szó a szó után következik, ha és létezik hogy vagy

A kódhoz rekurzíve megkonstruáljuk az halmazokat. Legyen Az halmazt az halmaz szavai után következő szavak halmazaként definiáljuk.

4.15. Tétel. A kód akkor és csak akkor egyértelműen dekódolható, ha az halmazok nem tartalmaznak kódszót, azaz valamelyik elemét.

4.16. Megjegyzés. A tétel bizonyításával nem foglalkozunk, mert absztrakt algebra nélkül a bizonyítás hosszadalmas. Egy ilyen megtalálható a [3] könyvben. Az absztrakt algebrai bizonyítás pedig a [4] könyvben.

4.1. Példa.

Tehát egyértelműen dekódolható.

4.2. Példa.

Tehát nem egyértelműen dekódolható hiszen a kódszó.

4.3. Példa.

Tehát nem egyértelműen dekódolható hiszen az kódszó.

4.4. Példa.

Tehát nem egyértelműen dekódolható hiszen az kódszó.

A kódüzenet például kétféleképpen is dekódolható:

és

4.3. Keresési stratégiák és prefix kódok

Elképzelhető olyan keresési feladat, ahol egyszerre legfeljebb csoportról tudjuk egyetlen kísérletre eldönteni, hogy a keresett elem melyikben van.

Absztrakt megfogalmazás: Legyen a keresett dolog az véges halmaz valamelyik eleme. A -t valószínűségi változónak tekintjük: a eloszlása. A kesesési stratégiák definiálásához és áttekintéséhez felhasználjuk a gráfos leírásukat.

Fának nevezzük az olyan irányított gráfokat, melyek egy kitüntetett szögpontjából, a kezdőpontból, ágak (irányított utak) indulnak ki, melyek a későbbi szögpontokban ismét elágaznak, de újra biztosan nem találkozhatnak. Azokat a szögpontokat, melyekből további élek már nem indulnak ki, végpontoknak nevezzük. Mivel az ágak újra nem találkozhatnak, a kezdőpontot mindegyik végponttal pontosan egy ág köti össze. Az ágat alkotó élek számát az ág hosszának nevezzük.

Tekintsünk egy végpontú fát és rendeljük hozzá kölcsönösen egyértelmű módon a fa végpontjaihoz (ágaihoz) az elemű halmaz elemeit. Az ilyen módon cimkézett végpontú fát az halmaz kódfájának nevezzük. Ha a kódfa minden szögpontjához az halmaznak azt az részhalmazát rendeljük hozzá, amely a szögponton áthaladó ágak végpontjaihoz tartozó elemekből áll, akkor olyan megfeleltetést kapunk a szögpontok és az bizonyos részhalmazai között, hogy bármelyik szögponthoz rendelt halmaz a szögpontból kiinduló élek végpontjaihoz tartozó, páronként diszjunkt halmazok egyesítése. Látható, hogy az halmaz olyan kódfája, ahol minden szögpontból legfeljebb él indul ki egy alternatívás keresési stratégiát definiál. Ez a megfeleltetés kölcsönösen egyértelmű.

Ha akkor a megtaláláshoz szükséges lépések száma az végpontba vezető ág hossza. A feladat az

várható lépésszám minimalizálása. Mivel egy lépéssel legfeljebb mennyiségű információt nyerhetünk és a hiányzó információ ezért várhatóan nagyobb lesz, mint

4.17. Tétel. Az alternatívás keresési stratégiára

Bizonyítás. Tekintsünk egy tetszőleges kódfát, és legyen a kódfa olyan szögpontja, amely nem végpont. Jelölje az -ból kiinduló élek végpontjait. A megfelelő halmazokat is jelöljük ugyanígy. Legyen

ekkor a valószínűséget az végponthoz vezető ág minden, a végponttól különböző szögpontjához odaírva, és áganként összegezve közvetlenül kapjuk, hogy

ahol az összegzést a végpontoktól különböző szögpontokra kell elvégezni.

Mivel éppen annak a valószínűsége, hogy a keresés során eljutunk az szögpontba, az szögpontban végzendő kísérlet kimeneteinek valószínűsége rendre ahol

Ennek a kísérletnek az entrópiája tehát

Számoljuk ki a

mennyiséget, ahol az összegzést a kódfa végponttól különböző szögpontjaira kell elvégezni. A felbontás azt mutatja, hogy ebben az öszzegben, a kezdőpont és a végpont kivételével minden szögponthoz a

kifejezés egyszer pozitív, egyszer negatív előjelű, mert egyszer típusú egyszer pedig típusú.

Tehát az összegzés

Viszont az entrópia tulajdonságai alapján

Tehát

amelyből adódik az állítás.

4.18. Megjegyzés. Jól látható, hogy az alsó korlátot akkor közelítjük meg, ha minden lépésben az egyenletes elszláshoz közel eső alternatívás lépést alkalmazunk.

Jelölés: A kódolás esetén a kódszó hossza.

4.19. Definíció. A kód prefix, ha a kódszavak mind különbözőek és egyik kódszó sem folytatása a másiknak.

4.20. Megjegyzés. Az állandó kódhosszú kód mindig prefix, ha a kódszavai különbözőek. A prefix kódhoz kódfa rendelhető, s így közvetlen kapcsolatban van a keresési stratégiákkal.

4.21. Tétel. Minden prefix kód egyértelműen dekódolható.

Bizonyítás. A kód prefix, azaz a kódszavak mind különbözőek és egyik kódszó sem folytatása a másiknak. Tételezzük fel, hogy létezik egy üzenet, amely kétféleképpen dekódolható. Az ilyen üzenetek között van legrövidebb, s ekkor feltételezve, hogy létezik két különböző kódszavakra bontás, az első kódszavaknak rögtön különbözőknek kell lenniük. Viszont ekkor az egyik folytatása a másiknak (egyforma hosszúak nem lehetnek). Ez ellentmond annak, hogy a kód prefix.

4.22. Megjegyzés. A Sardinas-Patterson módszer alkalmazása esetén prefix kódra

4.23. Lemma. A kódfák és a prefix kódok között kölcsönös egy-egyértelmű megfeleltetés van.

4.24. Megjegyzés. A prefix kód átlagos kódhossza nem lehet kisebb, mint

4.25. Tétel. (Kraft-Fano egyenlőtlenség) Ha számú kódjelből készített prefix kód, akkor

ahol a kódszó hossza.

Bizonyítás. Legyen Minden kódszót egészítsünk ki hosszúvá. kiegészítése -féleképpen lehetséges. Tehát

amelyből adódik az állítás.

4.26. Tétel. (Kraft-Fano egyenlőtlenség megfordítása) Ha az

természetes számok eleget tesznek a

egyenlőtlenségnek, ahol természetes szám, akkor létezik kódjelből alkotott prefix kód, melynél a kódszó hossza éppen

Bizonyítás. Legyen ekkor

Legyen a teljes kódfa, amelyben minden ág hosszú. Válasszunk ki egy ágat, amelyből élet elhagyunk stb. Teljes indukcióval adódik az állítás.

4.4. Shannon-Fano kód

Bár Shannon nevét általában az információmennyiség meghatározásával kapcsolatban szokták legtöbbször emlegetni, információelméleti munkáiban a kódolás elvi kérdéseit is tisztázta, sőt eljárást is kidolgozott az optimális kódolásra. A shannoni tétel kimondja, hogy valamely meghatározott kódábécé esetén egy és csakis egy olyan ábrázolási mód van, amely adott mennyiségű információt a lehető legkevesebb jellel fejez ki. Ez az optimális kód. Ha az üzenetet több jellel fejezzük ki, redundánssá válik. Ez történik például, amikor egy olyan ábécét kell bináris kódra átírnunk, amelyben a betűk száma nem kettőnek egész számú hatványa. Egy betűs ábécét csak bináris számjeggyel írhatunk át. A látszólagos információmennyiség tehát bit, holott egy betűhöz csak bit tényleges információmennyiség tartozik. A parazita információk arányát csökkenthetjük, ha a betűket nem egyenként, hanem blokkonként, kettesével, hármasával stb. kódoljuk. Ekkor azonban a kód egyre bonyolultabbá válik és nő a kódolás költsége.

4.27. Tétel. Létezik prefix kód, hogy

Bizonyítás. A bizonyítás konstruktív és az elkészített kódot Shannon-Fano kódnak nevezzük.

Most pedig nézzük, hogy az algoritmus milyen lépésekből áll.

Legyen

tetszőleges forráseloszlás.

Ekkor a lépések a következők:

  1. Rendezzük a valószínűségeket csökkenő sorrendbe:

    1. Képezzük az értékeket a következőképpen:

    2. Ábrázoljuk ezen értékeket a intervallumon és osszuk fel a intervallumot egyenlő részre ( a kódábécé elemeinek száma).

    3. Azokat az intervallumokat, melyek egynél több értéket tartalmaznak osszuk fel újra egészen addig míg mindegyik más intervallumba nem kerül.

    4. A kódszó az hosszúságú intervallumok megfelelő sorszámából áll, amelyekben benne van, ahol a kódszó hossza, illetve az osztáslépések száma.

A konstrukcióból látszik, hogy prefix kódot kapunk.

Megmutatjuk, hogy

ahol

Az értéket tartalmazó utolsó előtti, hosszúságú intervallumban legalább még egy pont van, azaz az és az közül legalább az egyik. Mivel a így mindenképpen igaz, hogy

Képezzük mindkét oldal logaritmusát, majd negatívját és összegezzük minden -re, akkor kapjuk, hogy

Ezzel az állítást bizonyítottuk.

4.2. ábra - Példa a Shannon-Fano kódolásra (intervallumfelosztás)

Példa a Shannon-Fano kódolásra (intervallumfelosztás)

4.3. ábra - Példa a Shannon-Fano kódolásra (kódfa)

Példa a Shannon-Fano kódolásra (kódfa)

4.4. ábra - Példa a Shannon-Fano kódolásra (kód)

Példa a Shannon-Fano kódolásra (kód)

4.5. ábra - Példa a Shannon-Fano kódolásra (intervallumfelosztás)

Példa a Shannon-Fano kódolásra (intervallumfelosztás)

4.6. ábra - Példa a Shannon-Fano kódolásra (kód)

Példa a Shannon-Fano kódolásra (kód)

4.5. Gilbert-Moore kód

Nagyméretű forrásábécé esetén a sorbarendezés költsége magas lehet. Erre ad megoldást a következő kód, amelynél nincs szükség sorbarendezésre.

4.28. Tétel. Létezik prefix kód, hogy

Bizonyítás. A bizonyítás konstruktív és az elkészített kódot Gilbert-Moore kódnak nevezzük.

Most pedig nézzük, hogy az algoritmus milyen lépésekből áll.

Legyen

tetszőleges forráseloszlás.

Ekkor a lépések a következők:

  1. Képezzük az értékeket a következőképpen:

    1. Ábrázoljuk ezen értékeket a intervallumon és osszuk fel a intervallumot egyenlő részre ( a kódábécé elemeinek száma).

    2. Azokat az intervallumokat, melyek egynél több értéket tartalmaznak osszuk fel újra egészen addig míg mindegyik más intervallumba nem kerül.

    3. A kódszó az hosszúságú intervallumok megfelelő sorszámából áll, amelyekben benne van, ahol a kódszó hossza, illetve az osztáslépések száma.

A konstrukcióból látszik, hogy prefix kódot kapunk.

Megmutatjuk, hogy

ahol

Az értéket tartalmazó utolsó előtti, hosszúságú intervallumban legalább még egy pont van, azaz az és az közül legalább az egyik. Tehát mindenképpen igaz, hogy

Képezzük mindkét oldal logaritmusát, majd negatívját és összegezzük minden -re, akkor kapjuk, hogy

Ezzel az állítást bizonyítottuk.

4.7. ábra - Példa a Gilbert-Moore kódolásra (intervallumfelosztás)

Példa a Gilbert-Moore kódolásra (intervallumfelosztás)

4.8. ábra - Példa a Gilbert-Moore kódolásra (kódfa)

Példa a Gilbert-Moore kódolásra (kódfa)

4.9. ábra - Példa a Gilbert-Moore kódolásra (kód)

Példa a Gilbert-Moore kódolásra (kód)

4.10. ábra - Példa a Gilbert-Moore kódolásra (intervallumfelosztás)

Példa a Gilbert-Moore kódolásra (intervallumfelosztás)

4.11. ábra - Példa a Gilbert-Moore kódolásra (kódfa)

Példa a Gilbert-Moore kódolásra (kódfa)

4.12. ábra - Példa a Gilbert-Moore kódolásra (kód)

Példa a Gilbert-Moore kódolásra (kód)

4.6. Hatásfok

4.29. Definíció. Az egyértelműen dekódolható kód hatásfoka:

4.34A kódot optimálisnak nevezzük, ha egyértelműen dekódolható és maximális hatásfokú.

4.30. Tétel. Adott eloszlású forrásábécé számú kódjelből alkotott egyértelműen dekódolható kódjai között mindig van optimális.

4.7. Huffman-kód

Huffman-kód – maximális hatásfokú prefix kód.

Tulajdonságok:

1. Monotonitás. Ha akkor

2. A kódfa teljessége. Legyen ekkor minden hosszúságú kódjelsorozat ki van használva a kódolásnál, azaz maga is kódszó vagy egy rövidebb kódszó kiegészítéséből adódik, vagy pedig az egyik kódjel hozzáírásával valamelyik hosszúságú kódszót kapjuk belőle. Ha volna kihasználatlan ág, akkor azt választva ismét prefix kódot kapnánk, melynek viszont kisebb az átlagos kódhossza.

4.31. Megjegyzés. Optimális, bináris kódfa teljes.

3. és az utolsó kódjelüktől eltekintve azonosak.

4.32. Megjegyzés. Összevonási algoritmus. Az optimális kódfa minden végponttól különböző szögpontjából él indul ki, kivéve esetleg egy végpont előtti szögpontot, amelyből él megy tovább, ahol Ekkor

A teljes kódfánál Tehát az első összevonási lépésben az legkevésbé valószínű elemet kell összevonni, míg az összes többiben az legkevésbé valószínűt.

4.13. ábra - Példa Huffman-féle kódolásra 1. változat

Példa Huffman-féle kódolásra 1. változat

4.14. ábra - Példa Huffman-féle kódolásra 2. változat

Példa Huffman-féle kódolásra 2. változat

4.15. ábra - Példa Huffman-féle kódolásra 3. változat

Példa Huffman-féle kódolásra 3. változat

4.16. ábra - Példa a Huffman kódolásra

Példa a Huffman kódolásra

4.17. ábra - Példa a Huffman kódolásnál az eloszlás ellenőrzésére

Példa a Huffman kódolásnál az eloszlás ellenőrzésére

4.18. ábra - Példa a Huffman kódolásra 1. rész

Példa a Huffman kódolásra 1. rész

4.19. ábra - Példa a Huffman kódolásra 2. rész

Példa a Huffman kódolásra 2. rész

4.8. McMillan-dekódolási tétel

4.33. Tétel. (McMillan-dekódolási tétel) Ha egyértelműen dekódolható, akkor

Bizonyítás. Jelölje azon hosszúságú közleményeknek a számát, melyek kódközleményének a hossza éppen

A bizonyítás lépései (vázlat):

1. A kód egyértelműen dekódolható.

Tehát

2. Teljes indukcióval bizonyítjuk, hogy

3. Ha és adott pozitív számok, akkor az

egyenlőtlenség nem teljesülhet minden természetes számra, így

4.34. Tétel. Egyértelműen dekódolható kód esetén

Bizonyítás. Legyen

Ekkor

4.35. Tétel. Bármely egyértelműen dekódolható kód helyettesíthető egy másik ugyanolyan kódhosszúságú kóddal, amely viszont már prefix kód.

Bizonyítás. A McMillan dekódolási tétel szerint egyértelműen dekódolható kódra teljesül a Kraft-Fano egyenlőtlenség. A Kraft-Fano megfordítása szerint viszont létezik olyan prefix kód amelyiknek pontosan ezek a kódhosszai.

4.36. Megjegyzés. Az előző tétel szerint az optimális egyértelműen dekódolható kódhoz létezik ugyanilyen prefix, így az optimális prefix optimális az egyértelműen dekódolható kódok között is.

4.9. Blokkos kódolás, tömörítés, stacionér forrás entrópiája

Blokkos kódolás, azaz

esetén jelölje az együttes eloszlást és az átlagos kódhosszot.

Az egy betűre jutó átlagos kódhossz pedig legyen

Az optimális kódra:

Emlékezetnélküli, stacionárius forrás esetén a függetlenségből

s így

A következőkben egy stacionér forrás entrópiájával foglalkozunk, mert ennek segítségével tudjuk megadni a korlátokat általános esetben.

4.37. Tétel.

Bizonyítás. jelölje egy lehetséges értékét, és legyen

Ekkor és is egy eloszlást ad, ha felveszi azokat az értékeket, amelyre azaz Az I-divergencia tulajdonságai alapján:

azaz

Szorozzuk be a közös nevezővel és bontsuk fel a logaritmust a következőképpen:

Ez minden és esetén teljesül. Végezzül el a összegzést ezekre az egyenlőtlenségekre. Mivel

így igazoltuk az állítást.

4.38. Tétel. Stacionér forrás esetén a

határérték létezik.

Jele:

Bizonyítás. Tudjuk, hogy a forrás stacionér és

ezért

A véletlen vektor függvénye a véletlen vektornak, ezért

Tehát

Ekkor

Tehát a sorozat monoton csökkenő és alulról korlátos, s így létezik a határérték.

4.39. Definíció. A mennyiséget a forrás átlagos entrópiájának nevezzük.

4.40. Megjegyzés. Emlékezetnélküli esetben egyébként

Tekintsünk egy csatornát, amelybe bemennek a kódjeleink (jelölje általánosan ) és kijönnek a jelek (jelölje általánosan ). Kérdés mennyi információmennyiség érkezett meg az elküldöttből, azaz az mennyit mond el a -ről. Ez nyilván a kölcsönös információmennyiség. Ezután a csatornakapacitás (emlékezetnélküli eset):

4.41. Megjegyzés. Mivel az eloszlások korlátos, zárt halmazt alkotnak, így a maximum létezik. Legyen a kapacitás, az átlagos kódhossz. Ha akkor továbbíthatjuk a forrás által szolgáltatott közleményeket.

4.42. Megjegyzés. Zajmentes és emlékezetnélküli csatorná esetén ezért

4.43. Megjegyzés. Bináris szimmetrikus csatorna:

Milyenek a bemeneti illetve kimeneti eloszlások?

4.20. ábra - Bináris szimmetrikus csatorna

Bináris szimmetrikus csatorna

4.21. ábra - Bináris szimmetrikus csatorna kapacitása a valószínűség függvényében

Bináris szimmetrikus csatorna kapacitása a valószínűség függvényében

4.44. Tétel. (A zajmentes hírközlés alaptétele) Ha a entrópiájú stacionárius forrás közleményeit kapacitású zajmentes csatornán továbbítjuk, akkor nincsen olyan egyértelműen dekódolható blokkonkénti kódolási eljárás, melynél

ha viszont akkor létezik olyan blokkhossz, hogy

4.45. Megjegyzés. A McMillan-particionálási tétel szerepe: 1. Felhasználható állandó kódhosszú kód tervezéséhez. 2. Gyakorlati szempont: megfelelő az olyan kódolás is, amelynél annak valószínűsége, hogy egy kódszó dekódolásánál hibát követünk el kisebb, mint egy előre megadott szám. Az ilyen kódolási eljárást megbízhatósággal dekódolhatónak nevezzük.

4.46. Megjegyzés. A jegyzetnek nem feladata kompresszióval, tömörítéssel foglalkozni, de közvetlenül kapcsolódik a blokkos kódoláshoz. Kompresszióról beszélünk, ha a forrásüzenetet úgy kódoljuk, hogy a kódüzenet rövidebb, mint az eredeti. Erre biztosíték ha pl.

mert ekkor az entrópia tulajdonságai alapján

A következő példák mutatják, hogy milyen lehetőségeink vannak független (emlékezetnélküli) és függő esetben.

4.22. ábra - Példa blokkos kódoláshoz 1.

Példa blokkos kódoláshoz 1.

4.23. ábra - Példa blokkos kódoláshoz 2.

Példa blokkos kódoláshoz 2.

4.24. ábra - Példa blokkos kódoláshoz 3.

Példa blokkos kódoláshoz 3.

4.10. Feladatok

1. Egyértelműen dekódolható-e az alábbi kód:

ahol a kódszavak halmaza? Ha nem, akkor adjon meg két forrásüzenetet, amelynek megegyezik a kódja!

2. Egyértelműen dekódolható-e az alábbi kód:

ahol a kódszavak halmaza?

3. Az és milyen pozítív egész értékeire teljesülhet az egyenlőség, ahol az értékek alkalmasan választott természetes számok?

4. A Kraft-Fano egyenlőtlenség alapján bizonyítsa be, hogy létezik prefix kód, amelyre az átlagos kódhossz olyan, hogy

ahol a forrásábécé eloszlásának az entrópiája és a kódábécé elemeinek a száma!

5. Bizonyítsa be, hogy a eloszlású forrásábécé számú kódjelből alkotott egyértelműen dekódolható kódolásai között mindig van optimális kódolás!

6. Egyértelműen dekódolható-e az alábbi kód:

ahol a kódszavak halmaza?

7. A Kraft-Fano egyenlőtlenség alapján bizonyítsa be, hogy minden prefix kódra

ahol az átlagos kódhossz, a forrásábécé eloszlásának az entrópiája és a kódábécé elemeinek a száma!

8. Egyértelműen dekódolható-e az alábbi kód:

ahol a kódszavak halmaza?

9. A eloszláshoz határozza meg a Shannon-Fano bináris kódot! Határozza meg az átlagos kódhosszot és hasonlítsa össze az entrópiából adódó alsó korláttal!

10. A eloszláshoz határozza meg a Huffman-féle kódot és az optimális kód hatásfokát, ha a kódábécé !

11. A eloszláshoz határozza meg a Gilbert-Moore kódot, ha a kódábécé ! Határozza meg a kód hatásfokát!

12. A eloszláshoz határozza meg a Gilbert-Moore kódot és az átlagos kódhosszot, ha a csatornaábécé !

13. A

eloszláshoz határozza meg a Gilbert-Moore kód hatásfokát, ha a kódábécé !

14. A

eloszláshoz határozza meg az optimális kód hatásfokát, ha a kódábécé !

15. A eloszláshoz határozza meg az optimális kódot, ha a csatornaábécé ! Határozza meg az átlagos kódhosszot és hasonlítsa össze az entrópiából adódó alsó korláttal!

16. A eloszláshoz határozza meg a Huffman-féle kódot és az optimális kód hatásfokát, ha a kódábécé !

17. Bizonyítsa be, hogy a

eloszlású forrásábécének a kódjelekből alkotott minden optimális prefix kódjára igaz az, hogy a csatorna kimenetelénél a kódjelek mind valószínűséggel fordulnak elő!

18. Mutassa meg, hogy az forrásábécének egyetlen olyan egyértelműen dekódolható bináris kódja van, ahol a maximális kódhossz három és határozza ezt meg!

19. Legyen az forrásábécé eloszlása

a kódolása pedig

Igazolja, hogy egy véletlenszerűen választott közlemény kódolásához felhasznált -k és -esek számának várható értéke megegyezik!

20. Sorolja fel az összes olyan prefix és az összes olyan egyértelműen dekódolható bináris kódot, melyek kódhosszai 1, 2, 3, 3!

21. Adott egy információforrás, amely az jeleket állítja elő valószínűségekkel. Mennyi lesz az egy betűre jutó átlagos kódhossz 3 hosszúságú blokkok alkalmazása esetén? Milyen blokkhossz esetén lehetséges kompresszió?

22. Adott egy információforrás, amely az jeleket állítja elő valószínűségekkel. Mennyi lesz az egy betűre jutó átlagos kódhossz 2 hosszúságú blokkok alkalmazása esetén? Milyen blokkhossz esetén lehetséges kompresszió?

23. Adott egy információforrás, amely az jeleket állítja elő valószínűségekkel. Mennyi lesz az egy betűre jutó átlagos kódhossz 2 hosszúságú blokkok alkalmazása esetén? Milyen blokkhossz esetén lehetséges kompresszió?

24. Legalább hány kódjelre van szükség az forrásábécének olyan prefix kódjának az elkészítéséhez, melynek a kódhosszai rendre 2, 2, 2, 4, 4, 4, 4, 4.

25. A eloszlású nyolcelemű X forrásábécének készítse el a 0, 1 kódjelekből két olyan egyértelműen dekódolható optimális kódját, melyek kódhosszai különbözőek!

26. Sorolja fel az összes olyan prefix és az összes olyan egyértelműen dekódolható bináris kódot, melyek kódhosszai 1, 2, 3, 3!

27. Adott egy információforrás, amely az jeleket állítja elő valószínűségekkel. Mennyi lesz az egy betűre jutó átlagos kódhossz 3 hosszúságú blokkok alkalmazása esetén? Milyen blokkhossz esetén lehetséges kompresszió?

28. A eloszláshoz határozza meg az optimális kódot, ha a csatornaábécé ! Határozza meg az átlagos kódhosszot és a hatásfokot!

29. A eloszláshoz határozza meg a Shannon-Fano kódot, ha a csatornaábécé ! Határozza meg az átlagos kódhosszot és a hatásfokot!

30. A eloszláshoz határozza meg a Huffman-féle kódot és az optimális kód hatásfokát, ha a kódábécé !

4.11. Önellenőrző kérdések

1. Ismertesse a McMillan-dekódolási tételt!

2. Ismertesse a McMillan-felbontási tételt!

3. Mutassa meg, hogy az forrásábécének egyetlen olyan egyértelműen dekódolható bináris kódja van, ahol a maximális kódhossz három!

4. Bizonyítsa, hogy létezik maximális hatásfokú prefix kód!

5. Ismertesse a Kraft-Fano egyenlőtlenséget!

6. Definiálja a prefix kódot!

7. Ismertesse az optimális kód tulajdonságait!

8. Ismertesse a zajmentes kódolás alaptételét!

9. Definiálja a stacionér forrás entrópiáját!

10. Definiálja egy kód hatásfokát!

11. Bizonyítsa a maximális hatásfokú kód létezését!

12. Bizonyítsa a stacionárius forrás entrópiájának a létezését!

5. fejezet - Csatornakapacitás

A csatorna tulajdonságai szempontjából az egyik legfontosabb tulajdonság a csatornakapacitás. A csatornakapacitás az elemenként („betűnként”) átvihető információ mennyiségével egyenlő (s így a csatornakapacitás lényegében sebesség jellegű mennyiség, ahol azonban a sebesség vonatkoztatási alapja nem az idő, hanem a „betű”, noha a kettő ebből a szempontból összefügg). A csatornakapacitás fogalmával függ össze a redundancia, amely a betűnként továbbított átlagos információ mennyiségét és a csatornakapacitást hasonlítja össze mennyiségileg, vagyis azt mondja meg, hogy mennyivel terjengősebb egy közlemény az elvben lehetséges legrövidebb formánál. Maguk a kódok (szokás őket - mesterséges - nyelveknek is nevezni, így pl. idetartoznak a számítógépek programnyelvei), amelyekkel az információelmélet csökkenteni igyekszik a redundanciát, illetőleg növelni a kölcsönös információt, több típusba sorolhatók aszerint, hogy hány elemet („betűt”) használnak fel a közlemények összeállításánál. Az ún. bináris kódokban, amelyeket elterjedten használnak a digitális számítógépekben, két „betű” van csak: a 0 és az 1. Az ún. kódoláselmélet az információelméleten belül a különböző feltételeket teljesítő kódok konstruálásával foglalkozik. Ezekre igyekszik általános módszereket kidolgozni. Shannon, az információelmélet egyik úttörője általánosságban bebizonyította, hogy alkalmas kódolási eljárással zaj jelenlétében is megvalósítható a hibátlan (pontosabban előírhatóan kis hibavalószínűségű) információtovábbítás, ha sebessége kisebb a csatornakapacitásnál. Ez a tétel az információelmélet egyik alaptétele, maga a tétel azonban semmit sem tartalmaz a implementációra vonatkozóan. Az információelmélet gyakorlati feladata tehát az optimalizálásban ragadható meg. Ez egyrészt a költségek csökkentését, másrészt pedig a hibamentesség növelését jelenti.

Fizikai valójukban a csatornák nagyon sokfélék lehetnek: a levegő, a telefonvezeték, az optikai üvegszál, az élőlények idegszálai, a könyv, a CD stb. Osztályozni is több szempontból lehet őket. A térbeli csatornák a tér valamelyik pontjából egy vagy több másik pontjába, az időbeli csatornák a időponttól a időpontba szállítják az információkat. Előbbiekre példa a telefonvezeték, utóbbiakra a CD. Természetesen ez a megkülönböztetés csak a lényegi jegyekre vonatkozik, mivel az információnak a térbeli csatornában is időre van szüksége, hogy célba jusson, a szóbeli csatornákon is lehet térben szállítani az információt.

Az volna az eszményi, ha a csatorna kimeneteli oldalán mindig azt az információt kapnánk meg, amely a másik oldalán belépett, azaz a belépő jelnek a kimenetelnél mindig jel felelne meg. Az ilyen - csak elméletben létező- ideális csatorna neve zajmentes csatorna. Sajnos a reális csatornák mindig zajosak, zaj minden olyan jelenség, amely a hírközlő csatornában „megtámadja” a hasznos információt, megcsonkítja, elnyomja, eltorzítja, legrosszabb esetben meg is semmisíti. Másképpen fogalmazva: zajos csatornánál a kilépő jel nem felel meg mindig a belépő jelnek, hamis jelek keverednek az igaziak közé. Zaj például az az elektromágneses rezgés, amely zavarja a rádióvételt, az utca zaja, amely elnyomja a beszélgetőtársunk hangját, a sajtóhiba. A zajokat két csoportra oszthatjuk. A rendszertorzítás azonos jel esetén mindig azonos, és elvileg teljesen kiküszöbölhető. A csatorna- vagy csőzaj független a jeltől, rendszertelen, statisztikus jellege van, és teljesen sohasem szüntethető meg. (Tulajdonképpen a zaj is információ, csak éppen nem az, amire szükségünk van, s nagyon sokszor a kódját sem ismerjük. Az is előfordulhat, hogy valamely jelenség zaj egy szempontból, s értékes információ egy másikból. Például a légköri elektromos jelenségek a rádióhallgató és a légkör fizikáját kutató tudós szempontjából.)

5.1. Definíció. Az információtovábbítás eszközeként definiáljuk a diszkrét emlékezetnélküli csatornát (angol rövidítéssel DMC) a következőképpen:

- a csatorna bemenetén ütemenként egy szimbólumot fogad, és ütemenként egy szimbólum jelenik meg a kimenetén (szinkron működés);

- a bemeneti és a kimeneti szimbólumkészlet nem feltétlenül azonos, de mindkettő rögzített és véges számú elemet tartalmaz (diszkrét);

- ha a bemeneti szimbólumok egymástól függetlenek, akkor a kimeneti szimbólumok is függetlenek lesznek (emlékezet nélküli).

Az eddigiek alapján tudjuk, hogy zajmentes csatorna esetén az egy csatornajelre (kódábécébeli elemre) jutó átlagos információ átvitel megegyezik a kódábécé eloszlásához kapcsolódó entrópával, azaz amely akkor maximális, ha a jelek eloszlása egyenletes. A forrás optimális kódolása ezt a maximális esetet próbálja közelíteni. A következő szakaszban arra próbálunk választ adni, mi történik akkor, ha a csatornajelek átviteli ideje nem azonos.

5.1. Zajmentes csatorna kapacitása nem azonos átviteli idő esetén

Adott csatornaábécé esetén feltételezzük, hogy a jelek átviteli ideje ismert illetve kísérleti úton megfelelő pontossággal meghatározható. Jelölje az időket Feltételezzük, hogy

Ha egy információforrás jeleket bocsát ki, akkor azt kódolva keletkezik egy kódüzenet (csatornaüzenet). Ekkor felmerülnek a következő kérdések: Egy adott kódolás esetén milyen gyorsan, milyen átlagos sebességgel továbbítja a csatorna az üzenetet? Van-e az információtovábbításnak felső határa és ha van, mennyi az?

Nyilván a sebesség függ a kódolástól (a kódüzenet elemeinek az eloszlásától), ezért az a célunk, hogy a kódot úgy válasszuk meg, hogy az információtovábbítás sebessége maximális legyen.

Legyen a csatornaábécé betűinek eloszlása Ha a csatornaüzenet hossza akkor egy kiválasztott jel, pl. várhatóan -szer fordul elő és várhatóan mennyiségű információt továbbít. Ugyanez a teljes üzenetre

Hasonlóan a várható átviteli idő:

ebből az egy betűre jutó várható átviteli idő (jelölje )

5.2. Definíció. Az információtovábbítás sebességének nevezzük a

mennyiséget.

5.3. Megjegyzés. Az előző definícióban szereplő mennyiség átlagsebesség.

5.4. Definíció. Az információátviteli sebesség maximumát csatornakapacitásnak nevezzük (jele: C), azaz

ahol a csatornaábécé lehetséges eloszlása.

5.5. Megjegyzés. Az eloszlások összessége az előző definícióban kompakt halmazt alkot és folytonosan függ a eloszlástól, ezért létezik a szupremuma és azt fel is veszi.

5.6. Tétel. Zajmentes, emlékezetnélküli (véges, diszkrét) csatorna esetén a csatornakapacitás a

egyenlet egyetlen megoldása. Ezt a

eloszlás realizálja.

Bizonyítás. Ha megoldása az egyenletnek, akkor a tétel szerint megadott eloszlás és az átlagsebességre teljesül a következő:

ahol az egyenlőség csak a tételben megadott eloszlás esetén teljesül.

Tehát csak azt kell belátnunk, hogy egyértelműen létezik. Az

függvény szigorúan monoton csökkenő. Továbbá,

A folytonosság miatt létezik ahol és ez egyértelmű a szigorú monotonitás miatt.

5.1. ábra - Példa csatornakapcitás numerikus meghatározására additív költség esetén

Példa csatornakapcitás numerikus meghatározására additív költség esetén

5.2. ábra - Példa csatornakapcitás numrikus meghatározására additív költség esetén

Példa csatornakapcitás numrikus meghatározására additív költség esetén

5.2. Shannon-Fano algoritmus, tetszőleges eloszlás esetén

Most nézzük, hogy mit kell tennünk, ha az intervallumok egyenletes felosztása helyett a felosztást tetszőleges módon végezzük el.

Legyen

tetszőleges forráseloszlás, továbbá legyen

az optimális bemeneti eloszlás. Ekkor a lépések a következők:

  1. Rendezzük a eloszlás valószínűségeit csökkenő sorrendbe;

  2. Képezzük az értékeket a következőképpen:

  3. Ábrázoljuk ezen értékeket a intervallumon. Majd osszuk fel az intervallumot a valószínűségek arányában ( a kódábécé elemeinek száma);

  4. Azokat az intervallumokat, melyek egynél több értéket tartalmaznak osszuk fel újra egészen addig míg mindegyik más intervallumba nem kerül;

  5. A kódszó az hosszúságú intervallumok megfelelő sorszámából áll, amelyekben benne van.

Mint észrevehetjük ez a megoldás csak az intervallumok felosztásának módjában tér el a korábban ismertetett eljárástól. Ezzel a módszerrel a kódolás additív költség esetén is elvégezhető.

Nézzünk egy példát az egyenletes esetre:

5.1. Példa. Legyen bemeneti eloszlás, valamint a kódábécé legyen . A rendezés után képezzük az értékeket, amire kapjuk:

Ekkor az értékekhez a generált kódszavak a következők:

5.3. Zajos csatorna kapacitása

Bemeneti ábécé:

Kimeneti ábécé:

A mátrixot adókarakterisztika vagy csatornamátrixnak nevezzük. Míg az együttes eloszlás mátrixa az ún. átviteli mátrix.

Csatornakapacitás:

5.7. Megjegyzés.

A zajos csatornák osztályozása a csatornamátrix alapján:

1. – veszteségmentes. A kimenet egyértelműen meghatározza a bemenetet. Minden esetén létezik hogy

2. – determinisztikus. A bemenet egyértelműen meghatározza a kimenetet. Minden esetén létezik hogy

3. – zajmentes. A bemenet és a kimenet egyértelműen meghatározzák egymást. Ekkor

4. azaz – használhatatlan. Pl. az oszlopok megegyeznek.

5. Szimmetrikus csatorna – a sorok és az oszlopok is ugyanazokból a vektorokból épülnek fel.

Szimmetrikus csatorna estén

minden esetén ugyanaz, így

Tehát

5.8. Megjegyzés. Ha a kimeneti eloszlás egyenletes, akkor a bemeneti is az.

Legyen azaz a bemeneti és kimeneti ábécé betűinek száma megegyezik. Jelölje a csatornamátrix -adik oszlopának entrópiáját, azaz Ekkor a

szélsőérték feladatot kell megoldanunk a

feltétel mellett, így a Lagrange-féle multiplikátoros módszert alkalmazhatjuk. A Lagrange-függvény

Határozzuk meg a deriváltakat:

1. így

2. így

Tehát a Lagrange-függvény deriváltjaiból adódó egyenletrendszer

1. Az első egyenlet mindegyikét szorozzuk meg a megfelelő valószínűséggel és adjuk őket össze. Ekkor

Ebből

2. Meghatározzuk értékét.

A Lagrange-függvény parciális deriváltjaiból adódó egyenleteket alakítsuk át a következőképpen.

Ez egy lineáris egyenletrendszernek tekinthető, amelynek az ismeretlenjei

A megoldás felírható

alakban, ahol a mátrix a mátrix inverze. Ekkor

Összeadva az egyenleteket és alkalmazva a függvényt azt kapjuk, hogy

A lineáris egyenletrendszerből

ahol Ezzel meghatároztuk az kimeneti eloszlást. Az

lineáris egyenletrendszer megoldásával pedig meghatározható a bemeneti eloszlás.

5.9. Megjegyzés. Ha létezik akkor problémás a megoldás első része.

5.10. Megjegyzés. maximális (és ezért egyenlő a csatornakapacitással) akkor és csak akkor, ha a bemeneti eloszlás olyan, hogy

a) minden esetén, amikor

b) minden esetén, amikor

5.11. Tétel. A létező megoldás egyértelmű és maximalizálja a kölcsönös információmennyiséget.

Bizonyítás. A csatornamátrix rögzített, ezért csak a bemeneti eloszlástól függ. Jelölje:

konkáv függvénye a eloszlásnak.

Legyen és

Ebből adódóan

Viszont az entrópia konkáv, így is konkáv.

5.12. Lemma. Tegyük fel, hogy konkáv az

halmazon. Ha folytonosan differenciálható belsejében és létezik

úgy, hogy

ahol akkor a függvény abszolút maximuma az halmazon

Bizonyítás. Tegyük fel, hogy Legyen akkor

A feltételek alapján viszont

és így az iránymenti deriváltnak -hoz kellene tartani, ami ellentmondás. Tehát minden esetén

5.2. Példa. Legyen a csatornamátrix

Ekkor

A parciális deriváltakból adódó egyenletrendszer:

Átalakítva:

Legyen

Ekkor

Továbbá

5.4. Arimoto-Blahut algoritmus

Zajos csatorna kapacitásának kiszámítására általános módszert Arimoto [2] és Blahut [6] adtak először egymástól függetlenül 1972-ben. A módszer ismertetése előtt nézzük milyen kifejezésekre lesz szükségünk.

Legyen a csatorna egy lehetséges bemeneti eloszlása, valamint eloszlás a csatorna kimenetén. Ha az adókarakterisztika mátrix, akkor a bemeneti eloszlásból a kimeneti eloszlást a mátrix-vektor szorzat adja. Bontsuk fel az adókarakterisztika mátrixot oszlopvektoraira és a mátrix -edik oszlopát jelölje . Továbbá legyen

Legyen tetszőleges eloszlás. Képezzük az alábbi iterációs formula alapján eloszlásoknak egy sorozatát, valamint konstansok egy sorozatát:

Ekkor a

eloszlások sorozata konvergál valamely optimális csatornabemeneti eloszláshoz és a

konstansok sorozata alulról konvergál a csatorna kapacitásához.

Bizonyítás. Legyen egy tetszőleges bemeneti eloszlás és

Arimoto eredeti bizonyítása alapján kapjuk a következőt:

Ebből következik, hogy

mert bármely -ra, és , ugyanis

Ezenfelül az is látszik, hogy

Ennek következtében fennáll a következő határérték

Legyen egy részsorozata a sorozatnak , melyre igaz a következő:

Az függvény folytonosságából következik, hogy

A korábbi egyenlőségekből beláthatjuk, hogy

Az előző egyenlőségek alapján

Ennélfogva azt kapjuk, hogy továbbá ha

Nézzünk pár egyszerű példát a csatornakapacitás meghatározására diszkrét, emlékezetnélküli csatorna esetén. A következő példák megtalálhatóak a [3], illetve a [18] irodalomban.

5.3. Példa. Legyen a csatorna adókarakterisztika mátrixa a következő:

Ekkor és az optimális bemeneti eloszlás pedig

Az algoritmus pedig a következő eredményeket szolgáltatja pontossággal:

Az eredmények előállításához iterációra volt szükség.

5.4. Példa. Legyen a csatorna adókarakterisztika mátrixa

Ez egy gyengén szimmetrikus, diszkrét, emlékezetnélküli csatorna. A csatorna kapacitása

Az optimális bemeneti eloszlásra pedig igaz a következő:

Az Arimoto-Blahut algoritmussal kapott eredmények:

Az eredmények előállításához iterációra volt szükség.

5.5. Példa. Legyen a csatorna adókarakterisztika mátrixa

A csatorna kapacitása

az optimális bemeneti eloszlás

Az Arimoto-Blahut algoritmussal kapott eredmények pedig a következőek:

Az eredmények előállításához iterációra volt szükség.

5.6. Példa. Legyen a csatorna adókarakterisztika mátrixa

A csatorna kapacitása

Ha akkor

Az Arimoto-Blahut algoritmussal kapott eredmények pedig a következőek:

Az eredmények előállításához iterációra volt szükség.

5.7. Példa.

A csatorna kapacitása . Ha akkor . Legyen ekkor

Az Arimoto-Blahut algoritmussal kapott eredmények pedig a következőek:

és

Az eredmények előállításához iterációra volt szükség.

5.5. Iterációs módszer a relatív kapacitás meghatározására (kiegészítő tananyag)

A szakasz kitekintést ad arra, hogyan lehetne az Arimoto-Blahut algoritmust általánosítani, ha zajos csatorna esetén a jelek különböző idő alatt mennek át, azaz additív költség esetén [14].

5.13. Definíció. Relatív kapacitásnak nevezzük a csatornán ténylegesen átvitt információ és a forrásentrópia hányadosát:

Legyen a és bemeneti eloszlásvektorok halmaza a következőképpen definiálva:

és

valamint legyen

az adókarakterisztika mátrix.

Ekkor a csatornán átvitt információmennyiséget a következőképpen számolhatjuk ki:

Az egyszerűség kedvéért legyen

ahol kimeneti eloszlás, mely mátrix-vektor szorzással meghatározható.

Az jelölésbeni egyszerűsítés után az átvitt információmennyiség:

Ezek után vezessünk be egy költségváltozót minden -dik bemeneti szimbólumhoz, valamint legyen költségfüggvény

A relatív kapacitást a következőképpen definiálta Reza(1961):

Az iterációs algoritmus a következő:

  1. Legyen

  2. Legyen tetszőleges bemeneti eloszlás.

  3. A valószínűségi vektor után határozzuk meg a vektort a következőképpen

5.14. Tétel. Az

sorozat monoton növekvő és konvergál a relatív kapacitáshoz.

Bizonyítás. Először is azt mutatjuk meg, hogy az eljárás által kapott

sorozat monoton növekvő. Jelöljük -vel és -rel a -adik és a -edik valószínűségi vektorokat, melyeket az előbbi iterációs formulával kapunk. Legyen

Ekkor nyilvánvalóan

Legyen , ahol:

A következő lemma garantálja, hogy az eljárás fenti sorozata monoton növekvő lesz.

5.15. Lemma.

ahol

Egyenlőség akkor és csak akkor áll fenn mindkét oldalon, ha konstans bármely -ra.

Bizonyítás. A Jensen-egyenlőtlenséget alkalmazva kapjuk, hogy

A második egyenlőtlenséghez elegendő belátni a következőt:

Legyen kimeneti valószínűségi vektor úgy, hogy

Az I-divergencia tulajdonságából könnyen beláthatjuk a következő egyenlőtlenséget:

Figyelembe véve ezt az egyenlőtlenséget kapjuk a következőt:

Másfelől

Ennélfogva

A lemmából azonnal következik, hogy ha és akkor az

függvény a esetben veszi fel a értéket, és pozitív ha . Könnyű belátni, hogy az egyenlőség feltétele, hogy konstans legyen bármely -ra.

Most már készen vagyunk, hogy bebizonyítsuk, az iterációs eljárás által létrehozott

sorozat a relatív kapacitáshoz tart.

Legyen

Mivel

kapjuk, hogy

Ennélfogva a

és a

sorozatok monoton növekvőek és ugyanahhoz az értékhez tartanak. Vezessünk be egy valószínűségi vektort mely elérte a relatív kapacitást és legyen

Ezenfelül vezessünk be egy

és kimeneti valószinűségi vektorokat. Ha figyelembe vesszük, hogy

akkor a következőhöz jutunk

Az egyenlőség jobboldalán lévő kifejezés nemnegatív, ezért

Összeadva ezeket az egyenlőtlenségeket -tól -ig, kapjuk, hogy

Az egyenlőtlenség jobb oldalán lévő kifejezés független -től, és véges, a

sorozat tart a relatív kapacitáshoz. Ezzel bizonyítottuk az iterációs eljárás konvergenciáját.

5.16. Következmény. A

kimeneti eloszlások sorozata, hasonlóan az

bemeneti eloszlások sorozatához, konvergens.

Bizonyítás. Az tételből kapjuk a

egyenlőtlenséget. Összeadva ezeket az egyenlőtlenségeket -tól -ig, úgy, mint a korábbi egyenlőtlenség levezetésében, könnyen beláthatjuk a következmény helyességét.

A következő lemma a kovergencia sebességének kimondásához szükséges.

5.17. Lemma. A közelítés

hibája egy

kifejezéssel határolható.

Bizonyítás. Az előzőek felhasználásával jutunk el a következő kifejezésig

A konvergencia sebessége:

Abban az esetben ha a bemeneti eloszlás eléri a relatív kapacitást, akkor ez egyedi és Ekkor a konvergencia sebessége meglehetősen javul.

A következőkben szükségünk lesz az alábbi lemmára, mely könnyen levezethető a Kuhn-Tucker tételből.

5.18. Lemma. Ha a valószínűségi vektor eléri a relatív kapacitást, akkor

5.19. Tétel. Ha a bemeneti valószínűségi vektor eléri a relatív kapacitást, akkor az egyedi és . Ekkor létezik olyan pozitív egész és egy konstans , amik kielégitik a következő egyenlőtlenséget

és független -tól.

Bizonyítás. Legyen ekkor tart a -hoz, ha .

Továbbá legyen

Ekkor a következőkhöz jutunk:

ahol egy méretű szimmetrikus mátrix, úgy, hogy

Eléggé nagy esetén

Az Arimoto-Blahut algoritmus bizonyításához hasonló érveléssel, kombinálva az egyenlőtlenségeket, bizonyítani tudjuk a tételt.

5.6. Feladatok

1. Az csatornaábécéhez tartozó átviteli idők Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

2. Bináris törlődéses csatornáról a következőt tudjuk: egy elküldött jel 0.9 valószínűséggel marad az eredeti és 0.1 valószínűséggel válik felismerhetetlenné. Határozza meg a csatornakapacitást!

5.3. ábra - Bináris törlődéses csatorna

Bináris törlődéses csatorna

3. Az

csatornaábécéhez tartozó átviteli idők

Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

4. Bináris csatorna esetén Határozza meg a csatornakapacitást!

5. Az csatornaábécéhez tartozó átviteli idők Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

6. Az

csatornaábécéhez tartozó átviteli idők

Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

7. A csatornamátrix

Határozza meg a csatornakapacitást!

8. A csatornamátrix

Határozza meg a csatornakapacitást!

9. Az csatornaábécéhez tartozó átviteli idők Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt (Pontosság=0.00001)!

10. Az csatornaábécéhez tartozó átviteli idők

Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

11. Bináris csatorna esetén Határozza meg a csatornakapacitást!

12. Bináris csatorna esetén Határozza meg a csatornakapacitást!

13. Bináris szimmetrikus csatorna esetén és Határozza meg a csatornakapacitást, ha és

14. Az csatornaábécéhez tartozó átviteli idők Határozza meg a csatornakapacitást! Optimális kódolás esetén határozza meg az átlagos átviteli időt!

15. Sorba kötött csatornák esetén határozza meg a csatornakapacitást!

5.4. ábra - Egymás után két csatorna (soros eset)

Egymás után két csatorna (soros eset)

5.5. ábra - Egymás után több csatorna (soros eset)

Egymás után több csatorna (soros eset)

16. Párhuzamos csatornák esetén határozza meg a csatornakapacitást!

5.6. ábra - Egymás mellett két csatorna (párhuzamos eset)

Egymás mellett két csatorna (párhuzamos eset)

5.7. Önellenőrző kérdések

1. Definiálja a feltételes entrópiát!

2. Definiálja a feltételes entrópiát, ha adott az együttes eloszlás!

3. Definiálja a kölcsönös informácíómennyiséget!

4. Definiálja a csatornakapacitást azonos átviteli idő esetén!

5. Vezesse le a szimmetrikus csatorna kapacitását!

6. Vezesse le a bináris törlődéses csatorna kapacitását!

7. Definiálja a csatornakapacitást nem azonos átviteli idő esetén!

8. Definiálja a csatornakapacitást additív költség esetén!

9. Definiálja az információ átviteli sebességét!

10. Bizonyítsa az adatátviteli lemmát!

11. Ismertesse és jellemezze a tanult csatorna típusokat!

12. Bizonyítsa a csatornakapacitás kiszámítására használt numerikus módszer konvergenciáját additív költség esetén!

13. Ismertesse az Arimoto-Blahut algoritmust!

6. fejezet - Csatornakódolás

6.1. Hibajavítás, kódtávolság

Szimmetrikus bináris csatorna esete, azaz a csatorna átviteli mátrixa legyen a következő:

6.1. ábra - Bináris szimmetrikus csatorna

Bináris szimmetrikus csatorna

Probléma: Milyen feltételek mellett és hogyan oldható meg a csatornában az átvitelnél keletkezett hibák jelzése és javítása?

6.1. Példa. A bit háromszorozás módszere (Commodore-64 kazettás egység):

Ha a dekódolás a több azonos bit szerint történik, akkor a legfeljebb két hiba jelezhető és egy hiba javítható.

Ha akkor a helyes átvitel (javítással) valószínűsége

6.1. Definíció. Az üzenetszó ( bit) kódszó ( bit) átalakítást (kódolást) kódnak nevezzük.

6.2. Megjegyzés. Ez egy blokkos kódolás.

Legyen és adott a következő két művelet:

a „kizáró vagy” művelet (jele: ) vagy másképpen a modulo 2 összeadás (jele: ), és a hagyományos szorzás a másik művelet.

Ekkor és Abel-csoport. Továbbá, test. Értelmezzük az esetén az előbbi műveleteket bitenként, ekkor vektortér az test felett.

6.3. Definíció. Legyen jelentse az egyes bitek számát.

Ekkor norma.

6.4. Definíció. A mennyiséget Hamming-féle távolságnak nevezzük.

6.5. Lemma. A Hamming-féle távolság kielégíti a távolság tulajdonságait.

6.6. Lemma. A Hamming-féle távolság invariáns az eltolásra, azaz

Bizonyítás.

6.7. Definíció. A kódszavakból álló kód esetén a kódszavak távolságai közül a minimálisat kódtávolságnak nevezzük, azaz a kódtávolságra

6.8. Megjegyzés. Legyen a csatornaábécé Jelölések: (az eredeti üzenet), (az -nak megfelelő csatorna kódszó), (a -nek megfelelő csatornán áthaladt jelsorozat, azaz az átvitelnél keletkezik). Ekkor

Ha a eredetijének azt a kódszót tekintjük, amelyre a feltételes valószínűség a lehető legnagyobb, azt maximum likelihood kódolásnak nevezzük.

Tegyük fel, hogy akkor

maximális, ha minimális.

Ez azt jelenti, hogy bináris szimmetrikus csatorna esetén a minimális távolságon alapuló dekódolás (javítás) megegyezik a maximum likelihood kódolás alapján történővel.

6.9. Tétel. Legyen egy vett szóban a hibák száma legfeljebb Tetszőleges kódszó esetén a legfeljebb számú hiba a minimális távolságon alapuló hibajavítás módszerével akkor és csak akkor javítható, ha a kódtávolság

Bizonyítás. Elégségesség: Ha és ( a hibavektor), akkor

bármely esetén, ha

azaz

Szükségesség: Ha és minimális távolságon alapuló dekódolása mindig helyes eredményre vezet, akkor

azaz a -ből torzult szó a -től legalább távolságra van. Mivel azt akarjuk, hogy a dekódolás -be történjen, ezért

6.2. Csoportkód

6.10. Definíció. Ha a kódszavak csoportot alkotnak, a kódot csoportkódnak nevezzük.

6.2. Példa. Adottak a következő (2,5) kódok:

Az -val jelzett oszlop csoportkód, míg a másik kettő nem, hiszen a oszlopban nincs zérusvektor és a oszlop esetén

Természetesen a vektorok oszlopvektorok, de az egyszerűség kedvéért, ha nem félreérthető, akkor csak sorban és egymás mellé írt bitsorozat lesz a vektor.

6.11. Tétel. Csoportkódban a kódszó alakú hibavektor esetén a hiba nem jelezhető és nem javítható. A nem kódszó alakú hiba legalább jelezhető.

6.12. Tétel. Csoportkód esetén a hibaáteresztés valószínűsége megegyezik a csupa zérus kódszó alakú hibák valószínűségének az összegével.

6.3. Példa. Az (A) csoportkód esetén, ha akkor a hibaáteresztés valószínűsége: a kódtávolság: 3, a dekódolói hiba ( 2 vagy több hiba): 0.08146.

6.13. Tétel. Egy csoportkód esetén

6.14. Tétel. csoportkód, rögzített, hibavektor. Ha a hiba javítható, akkor ez a tulajdonsága független -től.

Bizonyítás. Ha javítható, akkor

Azt kell belátni, hogy

A Hamming-távolság eltolásra invariáns, ezért

6.15. Megjegyzés. Hogyan lehetne automatizálni a következő problémákat?

1. A csoport tulajdonság ellenőrzése.

2. Tárolás, kódszó keresés.

3. Kódtávolság kiszámítás.

6.3. Lineáris kód

6.16. Definíció. Legyen típusú mátrix, ahol A kód lineáris, ha

A mátrixot generáló mátrixnak nevezzük. A vektor transzponáltjának a jele

6.4. Példa.

Éppen az (A) csoportkódot adja meg.

6.17. Tétel. A lineáris kód csoportkód.

Bizonyítás.

azaz mivel csoport, így van zérusvektor. Nem vezet ki a művelet a halmazból és létezik inverz elem hiszen minden elem a saját inverze.

6.18. Definíció. Legyen típusú egységmátrix. A generátor mátrixú kódot szisztematikus kódnak nevezzük.

Néhány elnevezés:

paritásmátrix,

paritásellenőrző mátrix (),

paritásvektor.

6.19. Definíció. Legyen egy vett kódszó a csatornakimeneten. Az vektort a vektorhoz tartozó szindrómának nevezzük, ha

6.20. Tétel. A szindróma akkor és csak akkor zérusvektor, ha a vett szó kódszó.

6.21. Megjegyzés. A szindrómák egy osztályozást adnak.

6.22. Tétel. A csatorna kimenetén vett azonos mellékosztályokba tartozó szavak szindrómája azonos, különböző mellékosztályokhoz tartozóké különböző.

szisztematikus kód esetén: csoport, a generálás után részcsoport meghatároz egy mellékosztályra bontást. Készítsük el a mellékosztálytáblázatot, majd ebből a dekódolási táblázatot, azaz minden mellékosztályban kiválasztjuk a mimimális normájú osztályelemet. Ezzel az osztályelemmel generáljuk a mellékosztályt.

6.5. Példa. A

generátormátrixhoz készítsük el a mellékosztály táblázatot!

A következő mellékosztálytáblázat első sorában van a generált csoportkódunk, s a további sorokban egy-egy mellékosztály:

Egy mellékosztálytáblázat akkor jó dekódolási táblázatnak, ha minden sorban a legkisebb normájú elem az első. Ezek az ún. osztályelsők. Jól látható, hogy ez nem teljesül a 6. és a 7. sorban, így ezeket a sorokat újraszámoljuk.

Dekódolási táblázat:

Természetesen előfordulhat, hogy a normák megegyeznek, akkor választunk egyet.

A kódolás menete: kiválasztjuk a kódszót a táblázatban, majd hozzárendeljük az oszlop tetején lévő kódszót. Ehhez pedig az eredeti kódot.

Legyen ami a hatodik sor második oszlopban található. Az oszlop tetején lévő elem: amelyhez eredetileg a kódszó tartozik. Ekkor feltételeztük, hogy a hibavektor a hatodik sor első eleme.

6.23. Tétel. A dekódolási táblázatban bármely szó távolsága a saját oszlopa tetején álló kódszótól nem nagyobb, mint bármely más kódszótól.

6.24. Megjegyzés. A dekódolási táblázat alkalmas maximum likelihood kódolásra.

6.25. Megjegyzés. Az osztályelső alakú hibák javíthatók.

6.26. Megjegyzés. A helyes dekódolás valószínűsége megegyezik az osztályelső alakú hibák valószínűségeinek az összegével.

6.4. Hamming-kód

Sokféle Hamming-kód van. Itt a legegyszerűbb esetet vizsgáljuk.

6.27. Definíció. Hamming-kódnak nevezzük azokat a szisztematikus kódokat, amelyek pontosan egy hibát tudnak javítani.

6.28. Megjegyzés. A lineáris -kód hosszúságú közleményhez rendeli hozzá a kódszavakat kölcsönösen egyértelmű módon. Bázistranszformációval könnyű megmutatni, hogy minden lineáris kód előállítható szisztematikus generátormátrixszal.

ahol a hibavektor. Tehát a szindrómából az hibavektor egyértelműen megadható. Ugyanis a dekódolás hibátlan lesz, hiszen a hibavektor ismeretében az üzenet is meghatározható.

Javítsunk ki minden egy hibát! Ha azaz az -edik egységvektor, akkor Éppen a paritásellenőrző mátrix -edik sora. Minden sornak különbözőnek kell lennie, azaz

Ebből

Néhány kód mérete kiszámolva:

Vegyük észre, hogy az -kód éppen a bit háromszorozása.

6.5. Feladatok

1. Legyen a szisztematikus kód paritásmátrixa

Dekódolja az 10111 vett kódszót a maximum likelihood dekódolás alapján!

2. Bináris szimmetrikus csatornán a hibás továbbítás valószínűsége Legyen a szisztematikus kód paritásmátrixa

Határozza meg a hibaáteresztés valószínűségét! Dekódolja az 101111 vett kódszót a maximum likelihood dekódolás alapján (Indoklás!)!

3. Bináris szimmetrikus csatornán a hibás továbbítás valószínűsége Legyen a szisztematikus kód paritásmátrixa

Határozza meg a hibaáteresztés valószínűségét! Dekódolja az 101101 vett kódszót a maximum likelihood dekódolás alapján (Indoklás!)!

4. Legyen a szisztematikus kód paritásmátrixa

Határozza meg a hibaáteresztés valószínűségét!

5. Bináris szimmetrikus csatornán a hibás továbbítás valószínűsége és az A, B, C, D betűket rendre 111, 100, 010, 001-gyel kódoljuk, és 110, 101, 011, 000 vétele esetén is A-t, B-t, C-t, D-t dekódolunk. Határozza meg a dekódolásnál elkövetett hiba valószínűségét!

6. A szisztematikus kód paritásmátrixa

Határozza meg a szindrómákat!

7. Bináris szimmetrikus csatornán a szisztematikus kód paritásmátrixa

Dekódolja az 111011 vett üzenetet!!

8. A lineáris kód generátormátrixa

Határozza meg a hibaáteresztés valószínűségét, ha !

9. A szisztematikus kód paritásmátrixa

Dekódolja az 11111 vett kódszót a maximum likelihood dekódolás alapján! Határozza meg a hibaáteresztés valószínűségét, ha p=0.98!

10. A szisztematikus kód paritásmátrixa

Határozza meg a dekódolási táblázatot!

11. A szisztematikus kód paritásmátrixa

Határozza meg a kódszavak részcsoportját és határozza meg a javítható hibák számát!

12. A szisztematikus kód paritásmátrixa

Határozza meg a kódszavak részcsoportját és határozza meg a kódtávolságot!

13. A szisztematikus kód paritásmátrixa

Határozza meg az 110011 vett kódszóhoz tartozó szindrómát, továbbá azokat a vett kódszavakat, amelyek szindrómája azonosan 0!

14. A szisztematikus kód paritásmátrixa

Határozza meg a hibaáteresztés valószínűségét és a vektorhoz tartozó szindrómát és mellékosztályt!

15. Bináris szimmetrikus csatornán a hibás továbbítás valószínűsége A szisztematikus kód paritásmátrixa

Határozza meg a hibaáteresztés valószínűségét! Dekódolja az 111011 vett üzenetet!

16. A hibajavító kód generátormátrixa

Határozza meg azt a mellékosztályt, amelyhez tartozó szindróma

6.6. Önellenőrző kérdések

1. Definiálja a Hamming-kódot!

2. Definiálja a mellékosztályt!

3. Ismertesse és bizonyítsa a maximum likelihood kódolás és a minimális kódtávolság ekvivalenciáját!

4. Igazolja, hogy a mellékosztályok diszjunktak!

5. Definiálja a lineáris kódot!

6. Ismertesse a Hamming-távolság tulajdonságait!

7. Igazolja, hogy a lineáris kód csoportkód!

8. Ismertesse és bizonyítsa a Hamming-távolság eltolásinvarianciáját!

9. Definiálja a szisztematikus kódot!

10. Bizonyítsa a hibajavíthatóság és kódtávolság kapcsolatára vonatkozó állítást!

11. Definiálja a szisztematikus kódot!

12. Definiálja a Hamming-féle távolságot!

13. Igazolja, hogy a szindróma jellemző a mellékosztályra!

14. Igazolja, hogy a dekódolási táblázatban bármely szó távolsága a saját oszlopa tetején álló kódszótól nem nagyobb, mint bármely más kódszótól!

15. Adott egy csoportkód és benne egy rögzített kódszó. Igazolja, ha az hiba javítható -nél, akkor ez a tulajdonsága igaz bármely más kódszóra is!

7. fejezet - Bevezetés a folytonos esetbe

7.1. Diszkretizálás

A folytonos valószínűségi változó lehetséges értékeinek halmaza nem megszámlálható, ezért definiálásához először elkészítjük a diszkrét valószínűségi változót, amely a kerekítésének is tekinthető:

Ekkor

ahol azaz a minimum és a maximum közötti érték az adott intervallumon.

mert

Ha akkor ezért

7.1. Példa. Legyen a intervallumon egyenletes eloszlású. Ekkor

azaz jól látható, hogy a lehet negatív is.

7.1. Megjegyzés. Az entrópia diszkrét esetben a bizonytalanságot méri, míg folytonos esetben csak a bizonytalanság változását.

7.2. Néhány fogalom folytonos esetben

Entrópia, mint várható érték:

7.2. Példa. 1. Exponenciális eloszlásra:

2. Normális eloszlásra:

Együttes entrópia:

7.3. Példa. Normális eloszlásra:

Kölcsönös információmennyiség:

7.4. Példa. Normális eloszlásra:

I-divergencia:

7.2. Megjegyzés.

7.3. Megjegyzés. Transzformáció:

Diszkrét esetben Egyenlőség akkor és csak akkor, ha invertálható.

Folytonos esetben Egyenlőség akkor és csak akkor, ha invertálható.

Bizonyítás. Ha invertálható, akkor a valószínűségi változók transzformációja alapján

7.3. Maximum entrópia módszer (MEM)

Entrópia maximalizálás feltételek mellett.

7.5. Példa. Pénzfeldobás: Feltétel: A sűrűségfüggvény 0 a intervallumon kívül. Kérdés: mikor lesz maximális?

Az I-divergencia nemnegativitása alapján tetszőleges sűrűségfüggvény esetén

ha egyenletes eloszlású a intervallumon.

Várható érték feltételek:

A valószínűségi változó sűrűségfüggvényét nem ismerjük. Viszont adott, hogy

ahol a függvények ismertek. Ekkor a MEM alapján

ahol a értékeket meghatározzák az adott várható értékek, míg az értéke abból adódik, hogy sűrűségfüggvény.

Bizonyítás. Ha ebben a formában adott, akkor

Más sűrűségfüggvény esetén az I-divergencia alapján:

7.4. Feladatok

1. Határozza meg az entrópiát a Gamma-eloszláshoz!

2. Határozza meg az entrópiát a Cauchy-eloszláshoz!

3. Határozza meg az entrópiát az -dimenziós normális eloszláshoz!

4. A valószínűségi változó nemnegatív és Határozza meg, hogy ilyen feltételek mellett melyik folytonos eloszlás esetén lesz az entrópia maximális?

5. A valószínűségi változóra Határozza meg, hogy ilyen feltételek mellett melyik folytonos eloszlás esetén lesz az entrópia maximális?

7.5. Önellenőrző kérdések

1. Ismertesse az I-divergencia tulajdonságait!

2. Bizonyítsa, hogy az I-divergencia folytonos esetben is nemnegatív!

3. Definiálja a kölcsönös informácíómennyiséget!

4. Ismertesse és bizonyítsa a maximum entrópia módszert várható érték feltételek esetén!

5. Adjon meg olyan esetet, amikor az entrópia negatív (folytonos)!

6. Definiálja az entrópiát!

7. Definiálja a Kullback-Leibler eltérést!

8. Milyen a kapcsolat a valószínűségi változó és a transzformált valószínűségi változó entrópiája között?

8. fejezet - Függelék

8.1. Jelölések

– a természetes számok halmaza (pozitív egészek)

– a valós számok halmaza

– az részhalmaza a -nek

– az és halmaz közös része

– az és halmaz összes eleme egy halmazban

– az alaphalmaz halmazon kívüli elemei

– a jobboldali határérték, azaz

– a baloldali határérték, azaz

– az leképezés, az értelmezési tartomány, a „pont” a változót helyettesíti

– az leképezés értékkészlete

8.2. Konvex függvények

8.1. Definíció. Legyen egy intervallum (zárt, nyílt, félig zárt). Az konvex függvény, ha

ahol és

8.2. Tétel. Ha és konvex függvény és akkor szintén konvex.

8.3. Tétel. Véges sok konvex függvény összege is konvex.

8.4. Tétel. Konvex függvények egy konvergens sorozatának a (pontonkénti) határa is konvex.

8.5. Tétel. Ha konvex függvény és akkor

Ha szigorúan konvex, akkor az egyenlőtlenségek is szigorúak.

8.6. Tétel. Ha konvex függvény és akkor létezik a bal- és jobboldali derivált minden esetén. Továbbá, és monoton nemcsökkenő és

Ezenkívül minden esetén

azaz a konvex függvény minden pontjához létezik egyenes ( amely az adott ponton keresztül megy), amely a görbe alatt marad vagy legfeljebb érinti azt.

8.7. Tétel. Az konvex függvény folytonos az intervallum minden belső pontjában.

8.8. Tétel. Legyen nyílt és kétszer differenciálható. Az konvex akkor és csak akkor, ha minden

8.9. Tétel. (Jensen-egyenlőtlenség) Ha konvex függvény és olyan valószínűségi változó, amelyre létezik és akkor

Bizonyítás. Legyen a támasztóegyenes az függvényhez az pontban, akkor

8.10. Megjegyzés.

8.3. Az függvény vizsgálata

Az csak esetén értelmezett, viszont folytonosan kiterjeszthető az esetre, azaz ha akkor létezik határértéke.

8.1. ábra - Az Az xln(x) függvény függvény

Az xln(x) függvény

amiből látható, hogy esetén azaz monoton csökkenő a szakaszon.

8.2. ábra - Az Az xln(x) függvény deriváltja függvény deriváltja

Az xln(x) függvény deriváltja

Továbbá,

így

Tehát

8.11. Tétel.

Bizonyítás. Az függvény konkáv, így az helyen felírt támasztó egyenesre igaz, hogy

egyenlőség csak esetén. Továbbá, ha akkor

is teljesül, azaz

ami ekvivalens azzal, hogy

8.3. ábra - A logaritmus függvény konvexitásának bemutatása

A logaritmus függvény konvexitásának bemutatása

8.4. ábra - A reciprok logaritmusa

A reciprok logaritmusa

8.4. Az aszimptotikus Stirling-formula

8.12. Tétel. Ha (valós) számsorozat és akkor

8.13. Tétel.

8.14. Tétel. (Aszimptotikus Stirling-formula)

8.5. Valószínűség-számítás összefoglaló

8.5.1. A valószínűség fogalma

8.15. Definíció. Egy véletlen kísérlet lehetséges eredményeinek összességét eseménytérnek (mintatér) nevezzük. Jele: Az elemeit elemi eseményeknek nevezzük.

8.16. Definíció. Az részhalmazainak egy rendszerét -algebrának nevezzük, ha

(1)

(2) akkor

(3) akkor

Az elemeit pedig eseményeknek nevezzük.

8.17. Megjegyzés. Ha akkor .

8.18. Definíció. Az -t szokás biztos eseménynek, az -t pedig lehetetlen eseménynek nevezni. Továbbá, az esemény bekövetkezik, ha a kísérlet eredménye eleme az halmaznak.

8.19. Megjegyzés. Az esemény bekövetkezik, ha legalább az egyik közülük bekövetkezik, míg az esemény akkor következik be, ha mind a kettő bekövetkezik.

8.20. Definíció. A nemnegatív leképezést valószínűségnek nevezzük, ha

(1)

(2) akkor

(3) egymást kölcsönösen kizáró események (azaz ha és ), akkor

8.21. Lemma.

(1)

(2)

(3)

(4) Ha akkor

(5)

(6) Ha és akkor

8.22. Definíció. Az hármast valószínűségi mezőnek nevezzük.

8.23. Definíció. Ha az elemi események száma véges és valószínűségük megegyezik, akkor a valószínűségi mezőt klasszikusnak nevezzük.

8.24. Megjegyzés. Legyen és jelölje az elemi eseményeket Ekkor

Tehát

8.25. Definíció. Bernoulli kísérletsorozatnak nevezzük azt, ha adott és egymástól függetlenül, azonos körülmények között elvégezzük ugyanazt a kísérletet, s „csak” azt figyeljük, hogy az esemény bekövetkezett-e vagy sem.

8.1. Példa. Visszatevéses mintavétel: Adott darab különböző objektum, amelyek közül darab rendelkezik egy bizonyos tulajdonsággal, például selejt. Visszatevéssel kiveszünk darabot. Legyen a kivett selejtek száma Mennyi a valószínűsége, hogy ahol

8.2. Példa. Visszatevés nélküli mintavétel: Adott darab különböző objektum, amelyek közül darab rendelkezik egy bizonyos tulajdonsággal, például selejt. Visszatevés nélkül kiveszünk darabot. Legyen a kivett selejtek száma Mennyi a valószínűsége, hogy ahol

8.26. Tétel. (Poincaré) Az eseményekre

ahol az összegzést az összes lehetséges esetre tekintjük.

8.27. Definíció. Az esemény feltétel melletti feltételes valószínűségének nevezzük a

mennyiséget, ha

8.28. Megjegyzés. A leképezés tényleg valószínűség.

8.29. Lemma. Ha az eseményrendszerre akkor

8.30. Definíció. Az eseményrendszert teljes eseményrendszernek nevezzük, ha

( és ) és

8.31. Tétel. (teljes valószínűség) Ha teljes eseményrendszer és ha akkor tetszőleges esemény esetén

8.32. Tétel. (Bayes) Ha teljes eseményrendszer és ha akkor tetszőleges pozitív valószínűségű esemény esetén

8.33. Megjegyzés. A Bayes-tételhez kapcsolódóan bevezethetjük a következő elnevezéseket: az ún. a-priori valószínűség és az ún. a-posteriori valószínűség.

8.34. Definíció. Az és eseményt sztochasztikusan függetlennek nevezzük, ha

Az eseményeket páronként sztochasztikusan függetlennek nevezzük, ha

Az eseményeket teljesen sztochasztikusan függetlennek nevezzük, ha

ahol

8.35. Lemma. Ha az és események függetlenek, akkor és , és és és is függetlenek.

8.36. Lemma. Ha független események és akkor

Bizonyítás.

8.5.2. A valószínűségi változó

8.37. Definíció. A leképezést valószínűségi változónak nevezzük, ha

8.38. Definíció. Az formulával meghatározott valós függvényt a valószínűségi változó eloszlásfüggvényének nevezzük.

8.39. Tétel. Az valós függvény akkor és csak akkor lehet eloszlásfüggvény, ha

1.

2.

3. ha azaz monoton növekvő,

4. azaz balról folytonos.

8.40. Tétel. Legyen a valószínűségi változó eloszlásfüggvénye és ekkor

1.

2.

8.41. Definíció. A valószínűségi változót diszkrétnek nevezzük, ha a lehetséges értékek halmazának számossága legfeljebb megszámlálhatóan végtelen.

8.42. Megjegyzés. Diszkrét valószínűségi változó esetén a lehetséges értékek felírhatók egy sorozatként.

8.43. Definíció. Legyen a valószínűségi változó lehetséges értekeinek sorozata A valószínűségek sorozatát eloszlásnak nevezzük.

8.44. Tétel. Ha eloszlás, akkor

8.45. Definíció. Ha létezik nemnegatív valós függvény, melyre

akkor az eloszlásfüggvényhez tartozó sűrűségfüggvény.

8.46. Megjegyzés. A sűrűségfüggvény nem egyértelmű.

8.47. Tétel. Az valós függvény akkor és csak akkor lehet sűrűségfüggvény, ha nemnegatív és

8.48. Definíció. A valószínűségi változót folytonosnak nevezzük, ha létezik a sűrűségfüggvénye.

8.49. Tétel. Legyen a folytonos valószínűségi változó sűrűségfüggvénnyel és ekkor és

8.50. Definíció.

1. Ha a diszkrét valószínűségi változó lehetséges értékeinek a száma véges, azaz a lehetséges értékek

akkor a

mennyiséget várható értéknek nevezzük.

2. Ha a diszkrét valószínűségi változó lehetséges értékeinek számossága megszámlálhatóan végtelen, azaz a lehetséges értékek

akkor a

mennyiséget várható értéknek nevezzük, ha

3. Ha folytonos valószínűségi változó sűrűségfüggvénnyel, akkor a

mennyiséget várható értéknek nevezzük, ha

A valószínűségi változó várható értékének a jele:

8.51. Tétel.

1.

2. Ha akkor

8.52. Definíció. Legyen valószínűségi változó és valós függvény. Ha az függvény valószínűségi változó, akkor a transzformáltjának nevezzük.

8.53. Megjegyzés. A transzformált eloszlásfüggvénye

8.54. Tétel. Ha differenciálható és akkor folytonos valószínűségi változó esetén folytonos valószínűségi változó, melynek sűrűségfüggvénye

ahol

8.55. Tétel. Ha a valószínűségi változó transzformáltja, akkor

8.56. Definíció. Az mennyiséget a valószínűségi változó szórásnégyzetének nevezzük. Jele:

8.57. Definíció. A mennyiséget a valószínűségi változó szórásának nevezzük. Jele:

8.58. Definíció. Az mennyiséget a valószínűségi változó -adik momentumának nevezzük.

8.59. Definíció. Az mennyiséget a valószínűségi változó -adik centrális momentumának nevezzük.

8.60. Tétel.

1.

2. és ekkor

3.

8.5.3. Néhány diszkrét eloszlás és jellemzői

1. BINOMIÁLIS ELOSZLÁS

Legyen és végezzünk el egy hosszúságú Bernoulli kísérletsorozatot. Továbbá, legyen az esemény bekövetkezéseinek a száma. Ekkor eloszlása

ahol és

8.61. Megjegyzés. A visszatevéses mintavétel binomiális eloszláshoz vezet.

2. POISSON-ELOSZLÁS

Legyen és ekkor

A valószínűségi változót Poisson-eloszlásúnak nevezzük paraméterrel, ha eloszlása

3. GEOMETRIAI ELOSZLÁS

A binomiális eloszlás bevezetésekor használt jelölések mellett a valószínűségi változó jelentse az esemény első bekövetkezéséhez szükséges kísérletek számát. A eloszlása

8.62. Megjegyzés. A valószínűségi változót is szokás geometriai eloszlásúnak nevezni. Az eloszlása

.

8.5.4. Néhány folytonos eloszlás és jellemzői

1. EGYENLETES ELOSZLÁS

Legyen és A egyenletes eloszlású az intervallumon, ha a sűrűségfüggvénye

Az eloszlásfüggvény

2. EXPONENCIÁLIS ELOSZLÁS

A exponenciális eloszlású paraméterrel, ha a sűrűségfüggvénye

Az eloszlásfüggvény

Örökifjú tulajdonság: ahol

3. NORMÁLIS ELOSZLÁS

Legyen Az normális eloszlású, ha a sűrűségfüggvénye

Ha és akkor a valószínűségi változót standard normális eloszlásúnak nevezzük. Jelölje a sűrűségfüggvényét és az eloszlásfüggvényét Ha standard normális eloszlású, akkor az valószínűségi változó eloszlásfüggvényére jellemző, hogy

8.63. Megjegyzés. A függvény írja le a Gauss-görbét (harang görbét). és

4. CAUCHY-ELOSZLÁS

Legyen Az Cauchy-eloszlású, ha a sűrűségfüggvénye

Nem létezik a várható érték. Az eloszlásfüggvény

8.64. Megjegyzés. Szokás csak a esetet (standard) Cauchy-eloszlásnak nevezni.

8.5.5. A véletlen vektorok

8.65. Definíció. A leképezést (kétdimenziós) véletlen vektornak nevezzük, ha

8.66. Definíció. Az formulával meghatározott valós értékű függvényt a véletlen vektor együttes eloszlásfüggvényének nevezzük. Az

függvényeket peremeloszlásfüggvénynek nevezzük.

8.67. Tétel. Az függvény akkor és csak akkor lehet együttes eloszlásfüggvény, ha

1.

2.

3. mindkét változójában balról folytonos,

4. esetén, azaz teljesül az ún. „téglalap” tulajdonság.

8.68. Megjegyzés. A téglalap tulajdonságból következik, hogy mindkét változójában monoton növekvő.

8.69. Definíció. A véletlen vektort diszkrétnek nevezzük, ha a lehetséges értékek számossága legfeljebb megszámlálhatóan végtelen.

8.70. Definíció. Legyen a illetve valószínűségi változó lehetséges értekeinek sorozata illetve A valószínűségek sorozatát együttes eloszlásnak nevezzük. A

valószínűség sorozatokat peremeloszlásnak nevezzük. Minden esetén a feltételes eloszlása adott mellett

Az

mennyiséget feltételes várható értéknek nevezzük. Az

függvényt a -nek az -ra vonatkozó regressziós függvényének nevezzük.

8.71. Tétel. Ha együttes eloszlás, akkor

8.72. Definíció. Ha létezik nemnegatív valós értékű függvény, melyre

akkor az eloszlásfüggvényhez tartozó együttes sűrűségfüggvény. Az

függvényeket peremsűrűségfüggvénynek nevezzük.

8.73. Tétel. Az függvény akkor és csak akkor lehet együttes sűrűségfüggvény, ha nemnegatív és

8.74. Definíció. A véletlen vektort folytonosnak nevezzük, ha létezik az együttes sűrűségfüggvénye.

8.75. Definíció. A és valószínűségi változót függetlennek nevezzük, ha

8.76. Megjegyzés. A függetlenség megfelelői diszkrét illetve folytonos esetben:

8.77. Definíció. Legyen véletlen vektor. Az a feltételes eloszlásfüggvénye a -nek esetén, ha

8.78. Megjegyzés. Ha léteznek a feltételes valószínűségek.

8.79. Definíció. Ha létezik nemnegatív valós értékű függvény, melyre

akkor a -nek az -ra vonatkozó feltételes sűrűségfüggvénye.

8.80. Megjegyzés.

8.81. Definíció. A feltételes sűrűségfüggvény segítségével meghatározott feltételes várható értéket regressziós függvénynek nevezzük, azaz az

függvényt a -nek az -ra vonatkozó regressziós függvényének nevezzük.

8.82. Megjegyzés. Ha véletlen vektor és olyan függvény, hogy valószínűségi változó, akkor

8.83. Definíció. A

mennyiséget kovarianciának nevezzük. Az

mennyiséget pedig korrelációs együtthatónak nevezzük.

8.84. Tétel.

1.

2.

3.

4. azaz

8.85. Megjegyzés. A véletlen vektor és a hozzákapcsolódó fogalmak definícióját csak kétdimenziós esetben adtuk meg, de nagyon egyszerűen kiterjeszthetőek véges sok valószínűségi változó esetére. Például, a valószínűségi változókat függetlennek nevezzük, ha

8.86. Tétel. Az függvény akkor és csak akkor együttes eloszlásfüggvény, ha minden változójában balról folytonos, és

és az összegzést esetében vesszük, ahol az

értéke és lehet.

8.87. Tétel. Legyenek független valószínűségi változók, melyeknek rendre az eloszlásfüggvénye. Ekkor

(a) az valószínűségi változó eloszlásfüggvénye

(b) az valószínűségi változó eloszlásfüggvénye

8.5.6. Néhány többdimenziós eloszlás

A véletlen vektor

(i) normális eloszlású, ha

ahol

(ii) egyenletes eloszlású az tartományon, ha

8.5.7. Néhány alapvető tétel

8.88. Tétel. (Markov-egyenlőtlenség) Legyen a nemnegatív valószínűségi változó, melynek létezik a várható értéke, ekkor esetén

8.89. Tétel. (Csebisev-egyenlőtlenség) Ha a valószínűségi változónak létezik a szórásnégyzete, akkor esetén

8.90. Tétel. (nagy számok gyenge törvénye) Legyen független, azonos eloszlású valószínűségi változók sorozata. Létezik a szórásnégyzet. Ekkor tetszőleges esetén

8.91. Megjegyzés. Legyen esemény és az esemény gyakorisága az első kísérletből egy Bernoulli kísérletsorozatnál. Ekkor tetszőleges esetén

8.92. Tétel. (centrális határeloszlás-tétel) Legyen független, azonos eloszlású valószínűségi változók sorozata és létezik az és Ha akkor

ahol a standard normális eloszlásfüggvény.

8.93. Tétel. (Moivre-Laplace) Legyen a valószínűségi változó binomiális eloszlású és paraméterrel és egész, akkor

Irodalomjegyzék

[1] J. Aczél, Z. Daróczy. On Measures of Information and Their Characterization. Academic Press, New York. 1975.

[2] S. Arimoto. An algorithm for calculating the capacity of an arbitrary discrete memoryless channel. IEEE Trans. Inform. Theory, IT-18. 1972. 14–20.

[3] R. B. Ash. Information Theory. Interscience, New York. 1965.

[4] J. Berstel, D. Perrin. Theory of Codes. Academic Press, New York. 2002.

[5] G. Birkhoff, T.C. Bartee. A modern algebra a számítógéptudományban. Műszaki Könyvkiadó, Budapest. 1964.

[6] R. Blahut. Computation of channel capacity and rate distortion functions. IEEE Trans. Inform. Theory, IT-18. 1972. 460–472.

[7] T. M. Cover, J.A. Thomas. Elements of information theory. Wiley, New York. 1991.

[8] Csiszár I., Fritz József. Informácíóelmélet. Tankönyvkiadó, Budapest. 1980.

[9] Fritz József. Bevezetés az informácíóelméletbe. Tankönyvkiadó, Budapest. 1971.

[10] Fritz József. Informácíóelmélet. Mat.Kut.Int., Budapest. 1973.

[11] Fülöp Géza. Az információ. Eötvös Loránd Tudományegyetem Könyvtártudományi - Informatikai Tanszék, Budapest. 1996.

[12] S. Guiasu. Information theory with applications. McGRAW-HILL, New York. 1977.

[13] Sz. V. Jablonszkij, O.B. Lupanov. Diszkrét matematika a számítástudományban. Műszaki Könyvkiadó, Budapest. 1980.

[14] M. Jimbo, K. Kunisawa. An Iteration Method for Calculating the Relative Capacity. Department of Information Sciences, Faculty os Sience and Technology, Sience University of Tokyo, Noda City Chiba 278, Japan.

[15] F. M. Reza. Bevezetés az informácíóelméletbe. Műszaki Könyvkiadó, Budapest. 1963.

[16] C. E. Shannon, W.Weaver. A kommunikáció matematikai elmélete. OMIKK, Budapest. 1986.

[17] Vassányi István. Információelmélet. Veszprémi Egyetem, Műszaki Informatika Szak. 2002-2005.

[18] Xue-Bin Liang. An Algebraic, Analytic and Algorithmic Investigation on the Capacity and Capacity-Achieving Input Probability Distributions of Finite-Input Finite-Output Discrete Memoryless Channels. Department of Electrical and Computer Engineering Louisiana State University, Baton Rouge, LA 70803. 2004.