(seleziona la voce desiderata)
 

  sono tutti i diametri compresi tra il diametro minimo ed il massimo misurabili dal calibro con le caratteristiche di precisione specificate. Il diametro massimo è limitato dal campo di misura o dalle caratteristiche di ripetibilità e linearità specificate. Il diametro minimo è determinato dalle caratteristiche di focalizzazione del fascio laser.
  è il campo quadrato entro il quale deve essere contenuto il pezzo per ottenere le caratteristiche di precisione specificate. I due lati corrispondono alle altezze delle zone esplorate dal fascio laser e sono orientati parallelamente alle direzioni di emissione dei fasci laser. Il posizionamento del pezzo al di fuori del campo di misura provoca una condizione di errore o un peggioramento delle caratteristiche.
  è la minima variazione di diametro apprezzabile dal calibro. Essa è normalmente determinata dal software di elaborazione dei segnali del calibro ma in ogni caso deve essere coerente con la ripetibilità di misura. Risoluzioni molto più elevate della ripetibilità di misura sono inutili e senza senso. La risoluzione è uguale per i due assi.
  è la massima variazione di diametro misurato, con il pezzo fermo e posizionato sempre nella stessa posizione del campo di misura. Essa è specificata ad una temperatura di 20°C ±1°C e con il tempo di misura di 1 secondo, salvo diversamente specificato. Il livello di confidenza è di ±3s, corrispondente al 99,7% delle misurazioni. La ripetibilità è uguale per i due assi ed è specificata per il valor medio (X+Y)/2.
Rispetto a quanto specificato, la ripetibilità migliora per diametri più piccoli del massimo misurabile e peggiora al diminuire del tempo di misura, essendo inversamente proporzionale alla radice quadrata di quest'ultimo. (Es.: l'errore di ripetibilità si dimezza quadruplicando il tempo di misura).

 

è il massimo errore di misura possibile per:

  • una variazione di diametro tra il massimo ed il minimo specificati,
  • uno spostamento del pezzo all'interno del campo di misura

L'asse del pezzo dev'essere mantenuto sempre perpendicolare al piano di scansione, onde evitare errori di misura dovuti all'inclinazione del pezzo.
Poichè le linearità hanno le caratteristiche di un errori sistematici, esse possono essere corrette ricalibrando il calibro con un diametro campione (master), inserito nella posizione in cui si troverà il pezzo da misurare.

 

massimo errore di misura del valor medio (X+Y)/2 di un tampone posizionato al centro del campo di misura quando il suo diametro varia tra il minimo ed il massimo specificati.

 

massimo errore di misura del valor medio (X+Y)/2 di un tampone di diametro specificato, quando questo si muove all'interno del campo, lungo i due assi X e Y passanti per il centro del campo.
  piano sul quale trasla l'asse del fascio laser
  frequenza con la quale il fascio laser esplora il campo di misura. Ad ogni scansione si effettua una singola lettura (su entrambe gli assi) che tuttavia non ha la ripetibilità specificata.
  velocità di traslazione uniforme con la quale il raggio laser esplora il campo di misura.
 

sono date dagli assi dell'ellisse o dal diametro del cerchio all'interno del quale è focalizzato il raggio laser (99% della potenza), nel punto di massima focalizzazione, normalmente coincidente con il centro del campo di misura.

La dimensione orizzontale (l) corrisponde alla larghezza del fascio laser e determina la dimensione longitudinale dei dettagli misurabili sul pezzo; la dimensione verticale (s) corrisponde allo spessore del raggio laser e determina il minimo diametro misurabile.
 

è specificato dalle coordinate h e d che definiscono la posizione alla quale si trova il centro del quadrato che costituisce il campo di misura.

  è effettuata su di un numero di scansioni pari al prodotto tra il tempo di misura programmato e la frequenza di scansione. Ogni media è effettuata su di un nuovo gruppo di scansioni.
  è effettuata su di un numero di scansioni pari a 4 volte il caso precedente. La media viene effettuata a cadenza pari al tempo di misura programmato: le ultime scansioni acquisite rimpiazzano continuamente le scansioni meno recenti, in modo da mantenere inalterato il numero totale.
  è il tempo minimo per la media semplice, necessario ad ottenere la ripetibilità specificata, per tutti i diametri misurabili. Il numero di scansioni mediate è dato dal prodotto tra il tempo di misura e la frequenza di scansione. Il tempo di misura specificato è relativo alla misurazione lungo entrambe gli assi. Un tempo di misura più breve di quello specificato degrada le caratteristiche di ripetibilità.
 

Valore tipico. Esprime la variazione di misura dovuta al cambiamento di temperatura ambiente, quando il calibro misura un pezzo a dilatazione termica nulla (INVAR).