Pontosság (számítástechnika)
A számítástechnikában a precizitás a részletek mértéke , amelyet általában bitekben , de néha decimális számjegyekben mérnek . Ez a matematikában szignifikáns számjegyekhez kapcsolódik , amely a numerikus kifejezések értékére használt számjegyek száma.
Néhány szabványos precíziós formátum:
- Fél pontosságú szám
- Egyetlen pontosságú szám
- Dupla pontosságú szám
- Négyszeres szám
- Oktális pontosságú szám
Ezek közül az oktális pontosságú formátumot még mindig ritkán használják. Az egyszeres és dupla precíziós formátumok a legszélesebb körben használtak és szinte minden platformon támogatottak. A félprecíziós formátum használata egyre terjed, különösen a gépi tanulás területén , mivel sok gépi tanulási algoritmus hibatűrő. [egy]
Lásd még
- Kiterjesztett pontosság
- számítógépes számformátum
Jegyzetek
- ↑ Mittal, Sparsh. Felmérés a közelítő számítástechnikai technikákról // ACM Comput. Surv. : folyóirat. - ACM, 2016. - május ( 48. évf. , 4. sz.). — P. 62:1-62:33 . - doi : 10.1145/2893356 .
Linkek
- Számítógépes számok és pontosságuk, I számtárolás
- Mi a különbség az egy-, dupla-, több- és vegyes precíziós számítástechnika között?
 Szótárak és enciklopédiák |
|---|