Az Informatika Elméleti Alapjai dr. Kutor László
Törtszámok bináris ábrázolása, Az információ értelmezése és mérése http://mobil.nik.bmf.hu/tantargyak/iea.html Felhasználónév: iea 2007. ősz
BMF NIK
Jelszó: IEA07 dr. Kutor László
IEA 6/1
IEA 1. zh. eredményei 2008 ősz A megadott pontot elért dolgozatok száma
30
25
20
15
10
5
0 1
2007. ősz
2
3
4
5
6
7
8
9
10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25
BMF NIK
dr. Kutor László
zh pont IEA 6/2
Számok ábrázolása helyértékes rendszerben
Szám = ± m * R ± k pl.: 3141.5 = 3.1415 * 103 „normalizált alak”
R = számrendszer alapszáma ( Radix) m = mantissza k = kitevő (karakterisztika) m7 m6 m5 m4 m3 m2
n-1 i +m0*R0 = ∑ mi*R i=0 m1 m0
8
2
7 Szám = m7*R +…..
2007. ősz
7 6 5 4 BMF NIK
3
1
dr. Kutor László
IEA 6/3
Decimális törtek bináris ábrázolása Szám = ± m * R ± k 1
1 3
2007. ősz
2
3
4
4 4
2
BMF NIK
dr. Kutor László
IEA 6/4
Karakterisztika ábrázolás Abszolutértékes +x/2
Előjel x
-x/2
MSB
Negatív 1, pozitív 0
MSB
Negatív 1, pozitív 0
2-es komplemens x -x/2 „Többletes”, (eltolásos) +x/2 x +x/2 -x/2 2007. ősz
MSB
BMF NIK
Pozitív 1, negatív 0
dr. Kutor László
IEA 6/5
Számábrázolás DCBA. a bájt szervezésű tárban big-endian Cím Tartalom 00000 DC 00001 BA IBM 370, PDP-10, Motorola, Angol internet cím, pl: uk.ac.bris.pys.as , magyar (japán) dátum: év, hónap, nap 2005.10. 9.
little-endian
Cím 00000 00001
Tartalom BA DC
PDP-11, VAX, Intel, Internet cím pl: mobil.nik.bmf.hu európai dátum: dd.mm.yy 9.10.2005.
middle-endian amerikai dátum: 2007. ősz
Cím 00000 00001
mm/dd/yy
Tartalom CD AB
10/9/2005
BMF NIK
dr. Kutor László
IEA 6/6
Decimális törtek bináris „lebegőpontos” ábrázolása Az ábrázolás lépései: 1. A decimális szám egész részének binárissá alakítása 2. A decimális szám tört részének bináris törtté alakítása 3. A bináris tört „normalizálása”, azaz a bináris pont elmozgatása az első bináris 1 elé („0.5 és 1 közé normalizálás”, „lebegő pont”). 4. A bináris kitevő („karakterisztika”) „többletes, vagyis eltolásos” ábrázolása (a többlet értéke a számábrázolási hossztól függ: 127 „short real”, 1023 „long real, 16 383 ”temporal real”) 5. A bináris tört („mantissza”) MSB-jének elhagyásával („implicit MSB”) a bináris tört ábrázolása 6. A processzor típusától függően a bitsorozat „little-endian” vagy „big-endian” ábrázolása. 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/7
Az IEEE számábrázolási szabvány kialakulása
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/8
Az IEEE számábrázolás adattípusai
Ábrázolható tartomány ~ -32.768 <= X<= +32.767 -2*109 <= X<= +2*109 -9*1018 <= X<= + 9*1018 -99…999 <= X<= +99. 999 (18 számjegy) 8.43*10-37 <= X<= 3.37*1038 4.19*10-307 <= X<= 1.67*10308 3.4*10-4932 <= X<= 1.2*104932
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/9
Az információ értelmezése és mérése Alapvető kérdés:
Az információ jelenség, vagy lényeg? Az informatikában az információt fizika mennyiségként értelmezzük, és mérésénél ennek megfelelően járunk el.
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/10
Káosz? Rend ?
Worldpress 1994 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/11
Az Információ értelmezése 1. Az információ szó szinonimái a köznapi használatban: Tájékoztatás Hír, Újság Adat Felvilágosítás Közlés Tudás Bejelentés Jellemzés Értesülés Tudományos értelemben: Az információ olyan „mennyiség” amely egy eseményrendszer egyik vagy másik eseményének bekövetkezéséről, (illetve egy állapottér egyik vagy másik állapotáról) elemi szimbólumok sorozatával közölhető.
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/12
Az információ értelmezése 2. Az információ az anyag tulajdonságainak visszatükröződése jelek formájában Az információ egy üzenet kiválasztásában rejlő szabad választásunk mértékét jelöli Minden mérési eljárásnál elvárjuk, hogy ha egy mennyiséget részekre bontva mérünk meg, akkor a részek mérőszámainak összege egyezzen meg az egész mennyiség mérőszámával. „A mérték additivitása” 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/13
Az információ mérés előfutárai R. Fisher (1925) Statisztika Kérdés: „ Egy mintából mennyire lehet becsülni az egészet?”
R. Hartley (1928) Híradástechnika Kérdés: „Mitől függ az üzenet információ tartalma” „Választás során hogyan függ az információ egy adott ABC, illetve szótár (sokaság) méretétől?” 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/14
Az információ mérése 2. A tárgyak színeinek száma
m
( C1, C2, C3, ……Ci, ..Cj,…Cm ) Az Cj kiválasztásához tartozó információ = I (Cj) I (Cj)= f1 (m), I (Cj)= f2 (1/m), I (Cj)= f3 (p{Cj}) n ( X1, X2, X3, ……Xj, ..Xk,…Xn ) Az Xk kiválasztásához tartozó információ = I (Xk)
A tárgyak típusainak száma
I (Xk)= f1 (n), I (Xj)= f2 (1/n), I (Xj)= f3 (p{Xk}) 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/15
Az információ mérése Választási lehetőségek: 1. Tárgyat majd színt választunk (külön-külön) 2. Tárgyat és színt választunk Additivitás: (egyidejűleg)
I (Xk) + I (Cj)= I (Xk, Cj) f1 (n) + f1 (m) = f1 (n * m) f = log? + f2 (1/m) = f2 (1/n * 1/m) f2 (1/n) ˘ f3 (p{Xk}) + f3 (p{Cj})= f3 (p{Xk*Cj} 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/16
R. Hartley „formula” az információ mérésére
H= k * log n Ahol H = az információ mennyiség egy üzenet (szó) kiválasztásakor n = az üzenet-ABC betűinek száma k = a betűk száma az üzetben (szóban) Az információ mértékegységei különböző logaritmusok estén: H = k * log10 n [ Hartley] H = k * log2 n [ Shannon, 2007. ősz
bit]
H = k * loge n [ Nat ] BMF NIK
dr. Kutor László
IEA 6/17
Hasonló összefüggéssel leírható mennyiségek Fizikai entrópia:
S= k * logeD
http://en.wikipedia.org/wiki/Entropy
Ahol S = az entrópia nagysága k = Boltzmann állandó (1.38 * 10-23 [J/K]) D = a rendszer különböző állapotainak száma Az inger keltette érzet nagysága (Weber-Fechner törvény)
É= k * logeI +C
http://en.wikipedia.org/wiki/WeberFechner_law
Ahol É = az érzet-, I = az inget nagysága k = az érzékszervre jellemző konstans C = az abszolút ingerküszöb 2007. ősz
BMF NIK
dr. Kutor László
IEA 6/18
Egy kártya kiválasztásához tartozó információ 1.
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/19
Egy kártya kiválasztásához tartozó információ 2. 4
5
2
3
1
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/20
Betű kiválasztása a karakterkészletből
H=log 2 256
2007. ősz
BMF NIK
dr. Kutor László
IEA 6/21
Betű kiválasztása a karakterkészletből
H=log 2 256
Simon ben Kosiba, i.sz. 132-135 2007. ősz
BMF NIK
Bar Kochba („a csillag fia”), dr. Kutor László
IEA 6/22
Az információ (entrópia) függvény S = (X1, X2) P = (P1, P2) P1 = 0 P2 = 1- P1 = 1 H = - (0 – 1*log 2 1 ) = 0 P2 = 0 P1 = 1- P2 = 1 H = - (1*log 2 1 – 0 ) = 0 P1= P 2 = 0.5 1
H
0 2007. ősz
H = log2 2 = 1
0.5 BMF NIK
dr. Kutor László
1 Pi IEA 6/23