Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén

Ez az oldal a korábbi SCH wiki-ről lett áthozva. Az eredeti változata itt érhető el.

Ha úgy érzed, hogy bármilyen formázási vagy tartalmi probléma van vele, akkor kérlek javíts rajta egy rövid szerkesztéssel.

Ha nem tudod, hogyan indulj el, olvasd el a migrálási útmutatót

• érdemes előtte megtanulni a Bayes döntést.

Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén

Az a posteriori valószínűségek a következő alakban írhatók: [math] P_i(x)=P\{A=a_i|X=x\}=\frac{P\{A=a_i,X=x\}}{P\{X=x\}}=\frac{P\{A=A_i\}P\{X=x|A=a_i\}}{P\{X=x\}}=\frac{q_ip_i(x)}{P\{X=x\}} [/math]

[math]P_i(x)[/math] ugyanarra az indexre veszi fel a maximumát, mint [math]q_ip_i(x)[/math].

Amennyiben az a priori valószínűségeloszlás egyenletes, azaz [math]\forall i[/math]-re [math] q_i=\frac{1}{s} [/math], akkor a Bayes-döntés a következőképpen alakuk:

[math] x \in D_j^* \text{ ha } p_j(x)=\max_i{p_i(x)} [/math]

Ezt maximum likelihood döntésnek nevezik. Általában akkor használják, ha az a priori valószínűségek nem ismertek.

Dekódolás bináris szimmetrikus csatorna kimenetén

[math] n [/math] hosszúságú bináris üzeneteket továbbítunk egy BSC csatornán. Maximum likelihood döntéssel szeretnénk a vett üzenet alapján dönteni, hogy mi volt az adott üzenet.

Legyenek az [math]\underline{A}=(A_1, \dots, A_n)[/math] valószínűsági változó értékei bináris [math]n[/math] hosszúságú kódszavak. (_Ez tehát egy olyan valószínűségi változó, ami n darab bináris valószínűségi változó bitjeinek konkatenálásával kapja a saját értékét?_)

Legyen egy ilyen kódszó [math]c_i[/math], bitjei [math]c_{i_j}[/math].

A BSC kimenetén az [math]\underline{X}=X_1,\dots,X_n[/math] [math]n[/math] hosszú bináris sorozat jelenik meg.

[math]\underline{X}[/math] eloszlását a [math]p[/math] átmenetvalószínűség és a továbbított [math]c_i[/math] kódszó határozza meg.

Mivel a BSC emlékezetnélküli így a [math]j[/math]-edik kimeneti bitet csak a [math]j[/math]-edik bemeneti bit befolyásolja. tehát: %BEGINLATEX{density="160"}[math] p_i(x)=P(\underline{X} = \underline{x} | \underline{A}=c_i) = \prod_{k=1}^n\left[\left(\frac{p}{1-p}\right)^{I_{\{x_k \ne c_{i_k} \}}}(1-p)\right] = \left(\frac{p}{1-p}\right)^{\sum_{k=1}^n\limits I_{\{x_k \ne c_{i_k} \}}} (1-p)^n [/math]

Ha a csatorna [math]\underline{X}[/math] kimenete ismeretében a bemenetre adott kódszót a max likelihood döntés segítségével akarjuk meghatározni, akkor azt a [math]c_i[/math]-t választjuk, amire az előző valószínűség ([math]p_i(x)[/math]) maximális, ami akkor van, ha az előbbi képletben a szummás kifejezés minimális. A szummás kifejezés viszont pont [math]x[/math] és [math]c_i[/math] Hamming távolsága, vagyis a dekódolás a kimeneten vett sorozattól minimális Hamming távolságra lévő kódszó választását jelenti.