実際のコード幅と理想的な1LSBとの差.
D-Aコンバータの場合,入力ディジタル・コードの隣(−1LSBまたは+1LSB)の値を入力した場合,理想的には1LSB相当の出力変化が得られるはずである.この理想的変化量と実際の変化量の偏差をLSB単位で表したのが,微分直線性である.
A-Dコンバータの場合,従来からのスタティックな特性をおもな応用とするような場合は,実際に正確に直線変化をするアナログ信号(積分波形)を入力して出力のディジタル・コードの変化を観測して規定している.ダイナミック特性を重視した高速A-Dコンバータでは,正弦波を入力して出力のヒストグラムを取って規定をしていることがある.