La précision que l'on peut atteindre dépend essentiellement de la qualité
du graphique et de la manière dont la numérisation est exécutée.
Pour une image de haute qualité et une numérisation réalisée
avec soin, la précision n'est pas meilleure que l'équivalent
d'environ un pixel. Pour avoir une idée sur la précision possible
sélectionnez Affichage-> Précision actuelle. La
boîte de dialogue d'information qui apparaît affiche la précision
courante correspondant à + / - un pixel dans chaque direction. Pour
un axe logarithmique les erreurs seront bien sûr asymétriques.
Bien que n'étant pas une estimation parfaite, les erreurs montrées
devrait vous donner une idée sur la précision de la numérisation
et la validité des valeurs obtenues.
Note: la précision des images déformée (telles que numérisations anciennes ou photocopies) est naturellement moins bonne.