“精度”是用來描述物理量的準確程度，其反應的是測量值與真實值之間的誤差，而“分辨率”是用來描述刻度劃分的，其反應的是數值讀取過程中所能讀取的最小變化值。簡比喻：一把常見的量程為10厘米的刻度尺，上面有100個刻度，最小能讀出1毫米的有效值。那么我們就說這把尺子的分辨率是1毫米，他只能1、2、3、4……100這樣讀值；而它的實際精度就不得而知了，因為用這把尺讀出來的2毫米，我們并不知道他與真實絕對的2毫米之間的誤差值。而當我們用火來烤一下它，并且把它拉長一段，然后再考察一下它。我們不難發現，它還有100個刻度，因而它的“分辨率”還是1毫米，跟原來一樣！然而，它的精度顯然已經改變了。

對于編碼器來說，“分辨率”除了與刻線數有關外，還會因電氣</a>信號方面的影響而改變，它是可調的，可控的，它可以隨著對信號的細分而改變，細分倍數越高，分辨率越小，但是細分倍數越高，引入加大的誤差就越大。而精度，更多的偏向于機械方面，一個產品生產出來后，他的精度基本已經固定（有些高精度的產品可以對信號進行補償等來提高精度），這個數值是通過檢測出來的，它與產品的做工，材料等綜合性能息息相關，我們難以通過計算來得出一個具體的數值作為精度的依據，大多只能在使用的過程當中判斷出精度的好壞來。

例如，對于13bit的，其碼盤上的絕對位置數為：8192，則：計算出的分辨率為158角秒，也就是說，在讀取數值的時候，要求數值間的跳動是158角秒，如果要讀取的第一個數值是0，則第二個讀取的數值要大于158，若要小于158，則我們需要選取更小的分辨率。當要讀取158這個數值的時候，由于誤差的存在，并不可能得到絕對的158秒，編碼器所讀取出來的158秒與絕對真實158秒之間的誤差，就取決于精度了。所以說，精度，是在分辨率的基礎上來談的。

而并非越細分得到小的分辨率就越好，因為細分會引入誤差和擴大誤差，過度的細分將無法保證精度！需要多少倍的細分，能做到多少倍的細分，前提必須是在保證精度的基礎上進行的，因為精度在使用前的不可見性而高倍細分是不負責任的。碼盤質量越高，刻線越好，信號質量信號越好，細分后產生的誤差就越小，這受到一臺編碼器綜合性能的影響，這也就是為什么會在相同的參數下，會有不同品牌，不同價位編碼器的一個原因。

例如，我們要讀取的數值為1、2、4、7、8，我至少要選擇1個單位的分辨率，選擇2個單位的分辨率是顯然不行的，因為我們讀出了1這個數值，則2是讀不出來的，在選擇1個單位分辨率的基礎上，我們讀出來的1與真實絕對的1的誤差就是精度。機床上的數控系統對于直光柵是有分辨率的設定的，需要讀取的數值間隔小于分辨率，機床就有可能會抖動或出錯等。

對于絕對式帶增量信號編碼器，能夠精確的保持串行傳輸的絕對位置值與增量值同步，絕對值確切的對應一個增量信號，位置值一定在一個增量信號的正弦周期之內。如13位絕對式，帶512線的增量信號，絕對位置間隔158秒，若要讀取兩個碼盤位置中間的一個位置是不合適的，但是，我們可以通過對其所帶的1Vpp增量信號進行細分，如細分100倍，則相當于在兩個絕對位置之間又引入了幾個細分后的位置，我們可以在絕對位置值的基礎上，通過計算細分后的增量脈沖數而讀取兩個絕對位置之間的一個位置值，如：512線細分100倍，絕對位置1數值是0，絕對位置2數值是158，則讀取這兩個位置間的位置可以在位置1：數值0的基礎上多出一個脈沖則是25，兩個則是25x2=50……但是，帶增量信號的絕對式編碼器本身是不帶細分的，這就要求用戶能自行的對增量信號進行細分處理。