Kvantálási zaj – a jel kvantálása során fellépő hibák . Az analóg-digitális átalakítás típusától függően előfordulhatnak a jel kerekítése (egy bizonyos számjegyig) vagy a jel csonkítása (az alsó számjegyek elutasítása) miatt.
A kvantálási zaj egy additív diszkrét jelként ábrázolható, amely figyelembe veszi a kvantálási hibákat. Ha a kvantáló bemeneti jele, és az átviteli függvénye , akkor a kvantálási zajnak a következő lineáris modellje van:
A lineáris modell a kvantálási zaj tulajdonságainak analitikus elemzésére szolgál.
A determinisztikus becslések lehetővé teszik a kvantálási zaj abszolút határainak meghatározását egyenletes kvantálás esetén:
,ahol - a kvantálás bitjeinek száma (jel ), - kvantálási lépés - kerekítéskor - csonkításkor.
A valószínűségi becslések a kvantálási hibák (jel ) véletlenszerű zajszerű folyamatként való megjelenítésén alapulnak. Feltételezések a kvantálási zajról:
Ebben az esetben a kvantálási zaj elvárása és szórása a következőképpen definiálható (a kvantálásnál a kettő komplement kódját használjuk ):