Precizia unei valori numerice descrie numărul de cifre care sunt folosite pentru a indica valoarea respectivă. Într-un cadru științific, acesta ar fi numărul total de cifre (uneori numite cifre semnificative sau cifre semnificative) sau, mai rar, numărul de cifre fracționare sau de zecimale (numărul de cifre care urmează după virgulă). Această a doua definiție este utilă în aplicațiile financiare și inginerești, unde numărul de cifre din partea fracționară are o importanță deosebită.
În ambele cazuri, termenul "precizie" poate fi utilizat pentru a descrie poziția la care un rezultat inexact va fi rotunjit. De exemplu, în aritmetica cu virgulă mobilă, un rezultat este rotunjit la o precizie dată sau fixă, care este lungimea semnificației rezultate. În calculele financiare, un număr este adesea rotunjit la un anumit număr de poziții (de exemplu, la două poziții după separatorul zecimal pentru multe monede mondiale).
De exemplu, cantitatea zecimală 12,345 poate fi exprimată cu diferite cifre semnificative sau zecimale. În cazul în care nu este disponibilă o precizie suficientă, atunci numărul este rotunjit într-un anumit mod pentru a se potrivi cu precizia disponibilă. Tabelul următor prezintă rezultatele pentru diferite precizii totale și zecimale rotunjite la cea mai apropiată valoare folosind metoda de rotunjire la egal.
Rețineți că, adesea, nu este adecvat să se afișeze o cifră cu mai multe cifre decât cea care poate fi măsurată. De exemplu, dacă un dispozitiv măsoară la cel mai apropiat gram și oferă o citire de 12,345 kg, s-ar crea o falsă precizie dacă măsurarea ar fi exprimată "12,34500 kg" cu 2 zerouri ("00") în plus la sfârșit.
Reprezentarea unui număr pozitiv x cu o precizie de p cifre semnificative are o valoare numerică care este dată de formula
round(10-n-x)-10n, unde n = floor(log10 x) + 1 - p.
Pentru un număr negativ, valoarea numerică este minus valoarea absolută. Numărul 0, cu orice precizie, poate fi considerat ca fiind 0.