Floating Point. Jak je reprezentovaný a proč někdy nefunguje. 2. června 2013

Floating Point ˇ Jak je reprezentovaný a proˇc nekdy nefunguje ˇ ıdek Augustin Z´ augustinzidek<dot>eu

2. cˇ ervna 2013

Historie

I

Leonardo Torres y Quevedo 1914 – Analytical Engine s floating point

Historie

I

I

Leonardo Torres y Quevedo 1914 – Analytical Engine s floating point Floating point vs fixed point (von Neumann)

Historie

I

I I

Leonardo Torres y Quevedo 1914 – Analytical Engine s floating point Floating point vs fixed point (von Neumann) Ruzn ˚ e´ implementace aˇz do 1985 – IEEE 754-1985

Post IEEE-754 I

Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolaru˚

Post IEEE-754 I

I I

Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolaru˚ Konvertovali 64-bitový float na 16-bitový int ´ “Neoˇcekavan´ y overflow”

Post IEEE-754

I


I

Burza ve Vancouveru (1983)

I

I

Post IEEE-754 I

I I I I I

Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolaru˚ Konvertovali 64-bitový float na 16-bitový int ´ “Neoˇcekavan´ y overflow” Burza ve Vancouveru (1983) Index podhodnocený o 44 % ˇ ıcu˚ Zaokrouhlovac´ı chyba se sb´ırala 22 mes´

Post IEEE-754 I

I I


I

Burza ve Vancouveru (1983) Index podhodnocený o 44 % ˇ ıcu˚ Zaokrouhlovac´ı chyba se sb´ırala 22 mes´

I

Stˇrely Patriot (1991)

I I

Post IEEE-754 I

I I I I I I I

Raketa Ariane 5 (1996), 10 let vývoje, 7 miliard dolaru˚ Konvertovali 64-bitový float na 16-bitový int ´ “Neoˇcekavan´ y overflow” Burza ve Vancouveru (1983) Index podhodnocený o 44 % ˇ ıcu˚ Zaokrouhlovac´ı chyba se sb´ırala 22 mes´ Stˇrely Patriot (1991) 28 mrtvých, nepˇresnost 1/20 s kvuli ˚ 24-bitovým float

Post IEEE-754

ˇ Reprezentace – vedeck a´ notace

4.2 × 108 4.2 – mantisa 8 – exponent

Reprezentace floatu

+1.110012 × 21011 (= 3648)

Reprezentace floatu

+1.110012 × 21011 (= 3648)

Float

+/− 31 32 (1+8+23) bitu˚

Exponent 30 23

Mantisa 22

0

Reprezentace floatu

+1.110012 × 21011 (= 3648)

Float

+/− 31 32 (1+8+23) bitu˚

Double

+/− 63 64 (1+11+52) bitu˚

Exponent 30 23

Mantisa 22

Exponent 62 52

0

Mantisa 51

0

Reprezentace floatu – mantisa

I

´ 1 ≤ mantisa < 2 Mantisa normalizovana:


I I

´ 1 ≤ mantisa < 2 Mantisa normalizovana: ´ ´ Vˇzdy 1 na zaˇcatku – nen´ı tˇreba ukladat (hidden bit)


I I I

´ 1 ≤ mantisa < 2 Mantisa normalizovana: ´ ´ Vˇzdy 1 na zaˇcatku – nen´ı tˇreba ukladat (hidden bit) ´ mantisa = 01000... Jake´ cˇ ´ıslo je reprezentovano?


I I I

´ 1 ≤ mantisa < 2 Mantisa normalizovana: ´ ´ Vˇzdy 1 na zaˇcatku – nen´ı tˇreba ukladat (hidden bit) ´ mantisa = 01000... Jake´ cˇ ´ıslo je reprezentovano? 1 + 1/4 = 1.25

Reprezentace floatu – exponent Exp (bin) 00000000 00000001 ... 01111111 10000000 ... 11111110 11111111

Exp (dec) 0 1 ... 127 128 ... 254 255

Hodnota 0 pokud mantisa = 0 2−126 ... 20 21 ... 2127 inf pokud mantisa = 0, jinak NaN

Reprezentace floatu – exponent Exp (bin) 00000000 00000001 ... 01111111 10000000 ... 11111110 11111111

Exp (dec) 0 1 ... 127 128 ... 254 255

double: 2−1022 − 21023

Hodnota 0 pokud mantisa = 0 2−126 ... 20 21 ... 2127 inf pokud mantisa = 0, jinak NaN

Reprezentace floatu – denormalizovana´ mantisa

´ a´ se mantisa denormalizovana´ Pokud exponent = 0, stav 0 00000000 10000000 000000000 000000000 = 0.5 × 2−126

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

0x8000 0000 0000 0000

Mantisa 51

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0x8000 0000 0000 0000 = -0.0

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0x8000 0000 0000 0000 = -0.0 0x4008 0000 0000 0000

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0x8000 0000 0000 0000 = -0.0 0x4008 0000 0000 0000 = 1.5 * 2^1

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0x8000 0000 0000 0000 = -0.0 0x4008 0000 0000 0000 = 1.5 * 2^1 0x7FF0 0000 0000 0000

0

Cviˇcen´ı

Double

+/− 63

Exponent 62 52

Mantisa 51

0x8000 0000 0000 0000 = -0.0 0x4008 0000 0000 0000 = 1.5 * 2^1 0x7FF0 0000 0000 0000 = +Infinity

0

Cviˇcen´ı

Double

0x8000 0x4008 0x7FF0 0x7FF0

+/− 63

Exponent 62 52

0000 0000 0000 0000

0000 0000 0000 000A

Mantisa 51

0000 = -0.0 0000 = 1.5 * 2^1 0000 = +Infinity 0000

0

Cviˇcen´ı

Double

0x8000 0x4008 0x7FF0 0x7FF0

+/− 63

Exponent 62 52

0000 0000 0000 0000

0000 0000 0000 000A

0000 0000 0000 0000

Mantisa 51

= = = =

0

-0.0 1.5 * 2^1 +Infinity NaN

ˇ s´ı, nejmenˇs´ı Nejvetˇ

I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ


I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ


I I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ ´ Nejmenˇs´ı zaporn e´ analogicky


I I I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ ´ Nejmenˇs´ı zaporn e´ analogicky ´ Co nejmenˇs´ı pozitivn´ı? Pozor na denormalizovane!


I I I I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ ´ Nejmenˇs´ı zaporn e´ analogicky ´ Co nejmenˇs´ı pozitivn´ı? Pozor na denormalizovane! −126 . −45 Nejmenˇs´ı float: 0.000...1 × 2 = 1.4 × 10


I I I I I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ ´ Nejmenˇs´ı zaporn e´ analogicky ´ Co nejmenˇs´ı pozitivn´ı? Pozor na denormalizovane! −126 . −45 Nejmenˇs´ı float: 0.000...1 × 2 = 1.4 × 10 . Nejmenˇs´ı double: 0.000...1 × 2−1022 = 5 × 10−324


I I I I I I I

.

ˇ s´ı float: 1.111...111 × 2127 = 3 × 1038 Nejvetˇ . ˇ s´ı double: 1.111...111 × 21023 = 2 × 10308 Nejvetˇ ´ Nejmenˇs´ı zaporn e´ analogicky ´ Co nejmenˇs´ı pozitivn´ı? Pozor na denormalizovane! −126 . −45 Nejmenˇs´ı float: 0.000...1 × 2 = 1.4 × 10 . Nejmenˇs´ı double: 0.000...1 × 2−1022 = 5 × 10−324 ˇ e´ Float a Double Viz promenn

Machine epsilon

I

Definice: Rozd´ıl mezi 1.0 a nejmenˇs´ım ˇ s´ı neˇz jedna. reprezentovatelným cˇ ´ıslem, ktere´ je vetˇ

Machine epsilon

I

I

Definice: Rozd´ıl mezi 1.0 a nejmenˇs´ım ˇ s´ı neˇz jedna. reprezentovatelným cˇ ´ıslem, ktere´ je vetˇ ´ ı rozd´ıl mezi cˇ ´ısly aby byla povaˇzovana ´ Minimaln´ za ´ nestejna.

Machine epsilon

I

I

I I

Definice: Rozd´ıl mezi 1.0 a nejmenˇs´ım ˇ s´ı neˇz jedna. reprezentovatelným cˇ ´ıslem, ktere´ je vetˇ ´ ı rozd´ıl mezi cˇ ´ısly aby byla povaˇzovana ´ Minimaln´ za ´ nestejna. Float: 1.19209290E-7 Double: 2.2204460492503131E-16

Machine epsilon

I

I

I I I

Definice: Rozd´ıl mezi 1.0 a nejmenˇs´ım ˇ s´ı neˇz jedna. reprezentovatelným cˇ ´ıslem, ktere´ je vetˇ ´ ı rozd´ıl mezi cˇ ´ısly aby byla povaˇzovana ´ Minimaln´ za ´ nestejna. Float: 1.19209290E-7 Double: 2.2204460492503131E-16 Jednoduche´ vypoˇc´ıtat

´ an´ ´ ı Porovnav

´ float lze porovnavat bitoveˇ jako int Double

+/− 63

Exponent 62 52

Mantisa 51

0

Prvn´ı uskal´ ı ´

´ Jak je reprezentovano 0.1?

Prvn´ı uskal´ ı ´

´ Jak je reprezentovano 0.1? 1 11111101110 0110011001100110011001100...

´ ˇ ı Aritmetika – nasoben´ ı a delen´

(a × 2n ) · (b × 2m ) = a · b × 2n+m (a × 2n )/(b × 2m ) = a/b × 2n−m + normalizace

´ ı a odˇc´ıtan´ ´ ı Aritmetika – sˇc´ıtan´


ˇ s´ı cˇ ´ıslo 1. Denormalizuj na vetˇ 1 × 21 + 1.9 × 23 = 0.125 × 23 + 1.9 × 23


ˇ s´ı cˇ ´ıslo 1. Denormalizuj na vetˇ 1 × 21 + 1.9 × 23 = 0.125 × 23 + 1.9 × 23 2. Seˇcti/odeˇcti 0.125 × 23 + 1.9 × 23 = 2.025 × 23


ˇ s´ı cˇ ´ıslo 1. Denormalizuj na vetˇ 1 × 21 + 1.9 × 23 = 0.125 × 23 + 1.9 × 23 2. Seˇcti/odeˇcti 0.125 × 23 + 1.9 × 23 = 2.025 × 23 3. Normalizuj 2.025 × 23 = 1.0125 × 24

´ ı asociativn´ı? Je sˇc´ıtan´

(1.0 + 1.0E40) - 1.0E40 = 1.0 + (1.0E40 - 1.0E40)

´ ı asociativn´ı? Je sˇc´ıtan´

(1.0 + 1.0E40) - 1.0E40 = 1.0 + (1.0E40 - 1.0E40) ˇ Hmm, nekdy nen´ı...

´ ı ˇrad Sˇc´ıtan´

1 1

+ 21 + 13 + 14 + ... +

1 n

6=

1 n

+ ... + 41 + 13 + 21 +

1 1

´ ı IEEE-754 zaokrouhlovan´


I

´ ı s preferenc´ı sude´ cˇ ´ıslice (unbiased Zaokrouhlovan´ rounding)


I

I

´ ı s preferenc´ı sude´ cˇ ´ıslice (unbiased Zaokrouhlovan´ rounding) . . . 1.5 = 2.0, 2.5 = 2.0, 3.5 = 4.0


I

I I

´ ı s preferenc´ı sude´ cˇ ´ıslice (unbiased Zaokrouhlovan´ rounding) . . . 1.5 = 2.0, 2.5 = 2.0, 3.5 = 4.0 Výhoda: Statisticky stejneˇ cˇ asto .5 zaokrouhleno nahoru a dolu


I

I I

I

´ ı s preferenc´ı sude´ cˇ ´ıslice (unbiased Zaokrouhlovan´ rounding) . . . 1.5 = 2.0, 2.5 = 2.0, 3.5 = 4.0 Výhoda: Statisticky stejneˇ cˇ asto .5 zaokrouhleno nahoru a dolu ´ Ukazky RoundingProblem a RoundingProblem2

Co s t´ım

Co s t´ım

I

´ eˇ upˇr´ımne´ print(random()) – alesponˇ intelektualn

Co s t´ım

I I

´ eˇ upˇr´ımne´ print(random()) – alesponˇ intelektualn ´ Pouˇzit´ı knihoven (Apfloat, JScience), nastroj u˚ (Matlab, Octave)

Co s t´ım

I I

I

´ eˇ upˇr´ımne´ print(random()) – alesponˇ intelektualn ´ Pouˇzit´ı knihoven (Apfloat, JScience), nastroj u˚ (Matlab, Octave) V Javeˇ BigDecimal

BigDecimal

I

´ Libovolna´ pˇresnost, nastroje pro manipulaci

BigDecimal

I I

´ Libovolna´ pˇresnost, nastroje pro manipulaci ´ ı – idealn´ ´ ı pro Naprosta´ kontrola zaokrouhlovan´ finanˇcn´ı matematiku

BigDecimal

I I

´ Libovolna´ pˇresnost, nastroje pro manipulaci ´ ı – idealn´ ´ ı pro Naprosta´ kontrola zaokrouhlovan´ finanˇcn´ı matematiku

I docs.oracle.com/javase/7/docs/api/java/math/BigDecimal.html

´ u? Dotazy, ˇreˇsen´ı problem ˚

augustinzidek<dot>eu

ˇ Dekuji za pozornost

Floating Point. Jak je reprezentovaný a proč někdy nefunguje. 2. června 2013

Recommend Documents