隨著工業自動化技術的快速發展，設備控制的精度越來越高，而編碼器是自動化工業控制領域解決控制精度問題的利器，具有體積小、全通孔、精度高、安裝方便、價格低、高性能設計、抗干擾能力強、抗沖擊好、重量輕、負載強、應用廣等特點。
將實際的輸入輸出對應點標入坐標，可以得到一條實際輸入輸出關系曲線。理想的情況下這兩條曲線應該重合，實際上是不可能做到的，這時兩條曲線之間的距離就是誤差。如果這兩條曲線形狀*一致，但不重合，例如一條曲線相當于另一條的平移或直線的斜率相同，這時的誤差就是線性的，否則誤差就是非線性誤差。
非線性誤差對于高分辨率的光學編碼器在運動反饋的應用來說，會產生兩種影響：
積分非線性(INL)，是指由位置誤差導致的非線性誤差總和。通常來說，積分非線性由誤差范圍的低次諧波定義，因為輸出頻譜的低頻被用于定位。在要求高精度的直驅應用中，如印刷或掃描機械中，必須考慮積分非線性。
微分非線性(DNL)，是指由速度波動導致的非線性誤差總和。通常來說，微分非線性由誤差范圍的高次諧波定義。該非線性會影響到速度測量(因為速度是編碼器位置輸出的微分計算結果)，因此具有高通特性。微分非線性(DNL)不會對定位精度產生太大的影響。誤差的高次諧波與速度反饋環相關，然而，由于電機反饋系統要求實現快速的時間響應，所以系統通常不會過濾這些高次諧波。除了高精度以外，分辨率對于速度波動也具有關鍵作用，因為更高的分辨率可以幫助系統降低波動的大小。
