„Hírközléselmélet 1.z - Kvíz - 1. ZH” változatai közötti eltérés
Ugrás a navigációhoz
Ugrás a kereséshez
21. sor: | 21. sor: | ||
# a kódráta ''R''[bit/szimbólum] a forrásszimbólum-vektor hosszának növelésével Shannon I. tétele értelmében a folyamat H<sub>∞</sub>(X) entrópiájához tart. | # a kódráta ''R''[bit/szimbólum] a forrásszimbólum-vektor hosszának növelésével Shannon I. tétele értelmében a folyamat H<sub>∞</sub>(X) entrópiájához tart. | ||
# ha szimbólumonként kódolunk, akkor a kódszó-hossz feltétlenül megegyezik a lehetséges forrásszimbólumok számával. | # ha szimbólumonként kódolunk, akkor a kódszó-hossz feltétlenül megegyezik a lehetséges forrásszimbólumok számával. | ||
+ | |||
+ | == Egy legalább ''k''-ad rendben stacionárius, diszkrét forrás ''k'' darab szimbólumát (X<sub>1</sub>, X<sub>2</sub>, ...,X<sub>''k''</sub>) tekintve, ha a forrás == | ||
+ | {{kvízkérdés|típus=több|válasz=2,4,}} | ||
+ | # memóriamentes (DMS), akkor a H<sub>k</sub>(X) egy szimbólumra eső entrópia nagyobb, mint a H(X<sub>k|</sub>X<sub>1</sub>, X<sub>2</sub>, ...,X<sub>''k-1''</sub>) feltételes entrópia. | ||
+ | # memóriával rendelkezik, akkor a H<sub>k</sub>(X) egy szimbólumra eső entrópia nagyobb vagy egyenlő, mint a H(X<sub>k|</sub>X<sub>1</sub>, X<sub>2</sub>, ...,X<sub>''k-1''</sub>) feltételes entrópia. | ||
+ | # memóriamentes (DMS), akkor a H<sub>k</sub>(X) egy szimbólumra eső entrópia ''k'' növelésével szigorúan monoton csökkenő. | ||
+ | # memóriamentes (DMS), akkor a H<sub>k</sub>(X) egy szimbólumra eső entrópia ''k'' növelésével nem változik. |
A lap 2022. március 14., 10:33-kori változata
Tartalomjegyzék
- 1 Két diszkrét valószínűségi változó, és esetén
- 2 Egy legalább k-ad rendben stacionárius, diszkrét forrás k darab szimbólumát (X1, X2, ...,Xk) tekintve, ha a forrás
- 3 Egy diszkrét szimbólumforrás (mint sztochasztikus folyamat) a redundanciát nem kihasználó (pl. ASCII) kódolása esetén
- 4 Egy legalább k-ad rendben stacionárius, diszkrét forrás k darab szimbólumát (X1, X2, ...,Xk) tekintve, ha a forrás
Két diszkrét valószínűségi változó, és esetén
- az azonos értékű események (xi = yj) információ tartama felétlenül azonos.
- ha p(xi) < p(yj), akkor xi esemény információ tartama feltétlenül nagyobb, mint yj eseményé.
- ha X egyenletes eloszlású és Y eltérő eloszlású, akkor H(X) < H(Y).
- ha xi < yj, akkor xi esemény információtartalma feltétlenülkisebb, mint yj eseményé.
Egy legalább k-ad rendben stacionárius, diszkrét forrás k darab szimbólumát (X1, X2, ...,Xk) tekintve, ha a forrás
- memóriával rendelkezik, akkor a H(X1, X2, ...,Xk) együttes entrópia kisebb, mint memóriamentes (DMS) esetben.
- memóriamentes (DMS), akkor a H(Xk|X1, X2, ...,Xk-1) feltételes entrópia k növelésével szigorúan monoton csökkenő.
- memóriamentes (DMS), akkor a H(X1, X2, ...,Xk) együttes entrópia k növelésével szigorúan monoton nő.
- memóriával rendelkezik, akkor a H(Xk|X1, X2, ...,Xk-1) feltételes entrópia k növelésével monoton csökkenő.
Egy diszkrét szimbólumforrás (mint sztochasztikus folyamat) a redundanciát nem kihasználó (pl. ASCII) kódolása esetén
- bináris kódok generálásakor a kódszavak bitjeinek száma mindenképpen nagyobb vagy egyenlő a lehetséges forrásszimbólumok számánál.
- fix hosszú forrásszimbólum sorozatot kódolunk fix hosszú kódszavakká.
- a kódráta R[bit/szimbólum] a forrásszimbólum-vektor hosszának növelésével Shannon I. tétele értelmében a folyamat H∞(X) entrópiájához tart.
- ha szimbólumonként kódolunk, akkor a kódszó-hossz feltétlenül megegyezik a lehetséges forrásszimbólumok számával.
Egy legalább k-ad rendben stacionárius, diszkrét forrás k darab szimbólumát (X1, X2, ...,Xk) tekintve, ha a forrás
- memóriamentes (DMS), akkor a Hk(X) egy szimbólumra eső entrópia nagyobb, mint a H(Xk|X1, X2, ...,Xk-1) feltételes entrópia.
- memóriával rendelkezik, akkor a Hk(X) egy szimbólumra eső entrópia nagyobb vagy egyenlő, mint a H(Xk|X1, X2, ...,Xk-1) feltételes entrópia.
- memóriamentes (DMS), akkor a Hk(X) egy szimbólumra eső entrópia k növelésével szigorúan monoton csökkenő.
- memóriamentes (DMS), akkor a Hk(X) egy szimbólumra eső entrópia k növelésével nem változik.