User Tools

Site Tools


tanszek:oktatas:infrendalapjai_architekturak:informacio_feldolgozas:entropia

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revisionPrevious revision
tanszek:oktatas:infrendalapjai_architekturak:informacio_feldolgozas:entropia [2024/11/12 12:24] kneheztanszek:oktatas:infrendalapjai_architekturak:informacio_feldolgozas:entropia [2024/11/12 12:25] (current) knehez
Line 5: Line 5:
 A //hírkészlet átlagos információtartalmát a hírkészlet entrópiájának// nevezik. A //hírkészlet átlagos információtartalmát a hírkészlet entrópiájának// nevezik.
  
-$$ H_E = \sum\limits_{i=1}^n p_i \cdot I_{E_i} = \sum\limits_{i=1}^n p_i \cdot log_2 \frac{1}{p_i} = -  \sum\limits_{i=1}^n p_i \cdot log_2 \cdot p_i $$ [bit].+$$ H_E = \sum\limits_{i=1}^n p_i \cdot I_{E_i} = \sum\limits_{i=1}^n p_i \cdot log_2 \frac{1}{p_i} = -  \sum\limits_{i=1}^n p_i \cdot log_2 \cdot p_i \ \ [bit]$$ .
  
 === Példa === === Példa ===
Line 11: Line 11:
 Adott egy eseményrendszer, amely két eseményből áll: \( E = \{E_1, E_2 \} \), továbbá \( p = \{ p_1, p_2\} \) ezért \( p_2 = 1- p_1 \), ekkor az átlagos információtartalom: Adott egy eseményrendszer, amely két eseményből áll: \( E = \{E_1, E_2 \} \), továbbá \( p = \{ p_1, p_2\} \) ezért \( p_2 = 1- p_1 \), ekkor az átlagos információtartalom:
  
-$$ H_E = - [ p_1 \cdot log p_1 + (1 - p_1) \cdot log (1-p_1) ] $$.+$$ H_E = - [ p_1 \cdot log p_1 + (1 - p_1) \cdot log (1-p_1) ] \ \ [bit] $$.
  
 Ez a függvény a következőképpen ábrázolható: Ez a függvény a következőképpen ábrázolható:
tanszek/oktatas/infrendalapjai_architekturak/informacio_feldolgozas/entropia.1731414289.txt.gz · Last modified: 2024/11/12 12:24 by knehez