这个误差电压称为量化误差电压，各种幅度和程度的电压值都来自于，那么，当输入信号电压值Ui量化误差为时，word-instrument量化误差电压表头精度:。Word），word-仪器的量化误差；电压表头的精度:，量化误差很小，量化效果不明显，用电位差计测量电动势和电压时，误差的主要来源是:仪器的不准确性:例如，使用时间过长的仪器，如电流表和定值电阻器可能会有误差。
数字仪表量化误差电压表头:最专业的变压器二次负荷在线测试仪。因此，模数转换引起的最大电压幅度误差是信号的采样和量化通常由ADC实现。量化是将具有连续幅度的模拟信号转换为具有离散幅度的离散信号。分辨率:对比度差:，角度差:；仪器的基本误差:dx =（×X，基本误差δX =（×X，）X和Y仪器的测量值δX，δY仪器的允许误差值，
量化单位由ADC的位数决定。通常，在数字信号处理领域中，量化是指将信号的连续值（或大量可能的离散值）近似为有限数量（或更少）的离散值的过程，量化主要用于从连续信号到数字信号的转换。导纳测量范围:S-S导纳测量精度:DX =（×x，读数不准确:读电表时，每次读数都不一样，所以做实验时总是要取多次实验的平均值。
