Der größte Fehler kann viel mehr sein, als Sie vielleicht vermuten. Die Genauigkeit der Zahl würde darauf hindeuten, dass sie
±0,0005 g beträgt . Digitale Messgeräte haben jedoch oft eine Präzision, die besser ist als ihre Genauigkeit.
Hier ist eine mit einer "Wiederholbarkeit" angegeben in Bezug auf die Standardabweichung der Messungen. Das sind 2mg. Die "Linearität" wird ebenfalls mit 2 mg angegeben. Somit liegen 95 % der Messwerte innerhalb von
6 mg des tatsächlichen Wertes, obwohl die Masse mit einer Genauigkeit von 1 mg angezeigt wird.