Tizedes lebegőpont

Decimális lebegőpontos aritmetika ( angol.  Decimális lebegőpontos, DFP ) – gépi aritmetika tizedes lebegőpontos számok kezelésére . A tizedesjegyekkel való közvetlen munkavégzés elkerüli a számjegyek kerekítési hibáit , amelyek jellemzően tizedesjegyek (gyakran emberi beviteleknél, például méréseknél vagy pénzügyi információknál) és bináris törtek közötti átváltáskor fordulnak elő .

A lebegőpontos decimális ábrázolás előnye a fixpontos egész ábrázolással szemben, hogy sokkal szélesebb értéktartományt támogat. Például míg egy fixpontos ábrázolás, amely 8 tizedesjegyet és 2 tizedesjegyet foglal le, számokat is képviselhet:

123,456,78 ; 8765,43 ; 123.00

a 8 tizedesjegyű lebegőpontos ábrázolás a következőket is képviselheti:

1,2345678 ; 1,234,567,8 ; 0,000012345678 ; 12 345 678 000 000 000

stb. Ez a szélesebb tartomány jelentősen lelassíthatja a kerekítési hibák felhalmozódását a szekvenciális számításoknál; Például a Kahan-féle kompenzáló összegző algoritmus használható lebegőpontos számokon sok szám összeadásához a kerekítési hiba aszimptotikus felhalmozódása nélkül.

Irodalom

Linkek