Csatornakapacitás

Ez az oldal a korábbi SCH wiki-ről lett áthozva. Az eredeti változata itt érhető el.

Ha úgy érzed, hogy bármilyen formázási vagy tartalmi probléma van vele, akkor kérlek javíts rajta egy rövid szerkesztéssel.

Ha nem tudod, hogyan indulj el, olvasd el a migrálási útmutatót

Diszkrét csatorna

Diszkrét csatorna leírható a bemeneti ábécével, a kimeneti ábécével, illetve az átmenetvalószínűségekkel. A csatorna meghatározott időközönként a bementetére adott bemeneti betűre válaszul a kimeneti ábécé egy elemét adja. A csatorna nem szinkronizációhibás, tehát pontosan annyi karakter jelenik meg a kimenetén, mint amennyit a bemeneten kapott.

Diszkrét memóriamentes csatorna

Legyen [math] \mathbb{X} [/math] a forrásábécé.
Legyen [math] \mathbb{Y} [/math] a kódábécé.
Legyen [math] \underline{x} \in \mathbb{X} ^ n [/math] egy [math]n[/math] hosszú üzenet.
Legyen [math] \underline{y} \in \mathbb{Y} ^ n [/math] egy [math]n[/math] hosszú kódszó.

Egy csatornát diszkrét memóriamentes csatornának nevezünk, ha a csatorna kimeneti szimbólumainak eloszlása mindig csak az aktuális bemenettől függ. Formálisan: [math] p(\underline{y} | \underline{x}) = \prod\limits_{i=1}^{n} p(y_i, x_i) [/math]

Csatorna kapacitása

Megj.: A csatorna kapacitása a csatornán maximálisan átvihető információ mennyisége.

Tekintsünk egy diszkrét memóriamentes csatornát, az átmenetvalószínűségeket jelüljük [math]p(y_i|x_i)[/math]-vel.

[math]C[/math] csatornakapacitása:
[math] C = \max\{I(X;Y)\} [/math] ahol a maximumot az (X,Y) valószínűségi változók lebővebb olyan halmazán kell képezni, amely kielégíti a következő feltételeket:
[math]X[/math] változó a [math]\mathbb{X}[/math] bemeneti abc-n,
[math]Y[/math] pedig a [math]\mathbb{Y}[/math] kimeneti abc-n veszi fel értékeit.
együttes eloszlásuk pedig kielégíti a [math]p(y_i|x_i)=P(Y=y_i|X=x_i)[/math] egyenlőséget.

Ekkor

[math] C=\max{\left\{\sum_{x\in\mathbb{X}, y\in\mathbb{Y}}{p(x,y)\log{\frac{p(x,y)}{p(x)p(y)}}}\right\}}=\\ [/math] 

[math] \max{\left\{\sum_{x\in\mathbb{X}}{p(x)p(y|x)\log{\frac{p(y|x)}{\sum_{x'\in\mathbb{X}}\limits{p(x')p(y|x')}}}}\right\}} [/math] 

tehát a maximumot elég a csatorna bemeneti abc-jén definiált [math]p(x)[/math] ([math]x\in\mathbb{X}[/math]) eloszlásokon képezni.

Csatorna megbízhatósági mértéke

TODO