- Precisión del índice de refracción (Unidades de Índice de Refracción, RUI) ± 1 x 10-4
- Repetitividad del índice de refracción: 1 × 10–5
- Precisión de concentración: ± 0.1 % 1
- Repetitividad de concentración: ± 0.01 % 1
- Precisión de la temperatura: ± 0.1°C
- Resolución y repetitividad de la temperatura: 0.01°C
- Tiempo de respuesta: 1.2 s (sin amortiguar)
- La amortiguación es configurable por el usuario.
1 Medida con glicol etileno y agua a 1,3 bar (20 psig), entre 24,5 y 26°C (76,1 y 78,8°F) y con un rango de calibración de concentración del 0 al 100%.