于传感器的分辨率与精度的理解，可以用我们所用的机械三指针式手表打这样一个比喻：时针的分辨率是小时，分针的分辨率是分，秒针的分辨率是秒，眼睛反应快的，通过秒针在秒间的空格，我们甚至能分辨至约0.3秒，这是三针式机械指针手表都可以做到的；而精度是什么，就是每个手表对标准时间的准确性，这是每个手表都不同的，或者在使用的不同时间里都不同的（越走越快的或越走越慢的），大致在1秒至30秒之间。
同样的，在旋转编码器的使用中，分辨率与精度是完全不同的两个概念。
编码器的分辨率，是指编码器可读取并输出的最小角度变化，对应的参数有：每转刻线数（line）、每转脉冲数（PPR）、最小步距（Step）、位（Bit）等。
编码器的精度，是指编码器输出的信号数据对测量的真实角度的准确度，对应的参数是角分（′）、角秒（″）。
分辨率：线（line），就是编码器的码盘的光学刻线，如果编码器是直接方波输出的，它就是每转脉冲数（PPR）了（图1）, 但如果是正余弦（sin/cos）信号输出的，是可以通过信号模拟量变化电子细分，获得更多的方波脉冲PPR输出（图2），编码器的方波输出有A相与B相，相当于人的左右眼睛（“相”字边旁有个“目”），A相与B相差1/4个脉冲周期，可以判断旋转方向（反过来就是3/4周期），也可以通过上升沿与下降沿的判断，就可以获得1/4脉冲周期的变化步距（4倍频），这就是最小测量步距（Step）了，所以，严格地讲，最小测量步距就是编码器的分辨率。
正余弦信号sincos,可通过变化量与相位角细分
例如，德国Heidenhain的ROD426的3600线编码器，方波输出，就是3600ppr，脉冲周期0.1度，通过A相B相4倍频后，可获得0.025度的测量步距；而其提供的精度参数为18角秒（0.005度）。
如果是 ROD486的3600线的正余弦信号输出，可进行25倍的电子细分，获得90000的脉冲（ppr），0.004度的脉冲周期，通过A/B相的四倍频，可获得0.001度最小测量步距的分辨率，而其原始编码器的精度为18角秒（0.005度，不含细分误差）。
在以通讯数据输出型的编码器或绝对值编码器，其输出的分辨率是以多少“位”来表达，即2的幂次方的圆周分割度。
旋转编码器的精度，以角分、角秒为单位，与分辨率有一点关系，又不是全部，例如仍以德国海德汉的ROD400系列为例，其5000线以下的，海德汉提供的刻线精度为刻线宽度的1/20（与分辨率相关），6000-10000线的，精度为12角秒（与分辨率无关）。而海德汉的RON系列角度编码器，同样的是9000线—36000线，其RON200系列的精度是2.5~5角秒，RON700系列的是2角秒，RON800系列的是1角秒，RON900系列的是0.4角秒，都不由分辨率决定。实际上，影响编码器精度的有以下4个部分：
A：光学部分
B：机械部分
C：电气部分
D：使用中的安装与传输接收部分，使用后的精度下降，机械部分自身的偏差。
A编码器光学部分对精度的影响：
光学码盘—主要的是母板精度、每转刻线数、刻线精度、刻线宽度一致性、边缘精整性等。
光发射源—光的平行与一致性、光衰减。
光接收单元—读取夹角、读取响应。
光学系统使用后的影响—污染，衰减。
例如光学码盘,首先是母板的刻线精度,Heidenhain的母板据说其是在地下几十米双悬浮工作室内加工的，对于外界各种因素的影响减小到最小，甚至要考虑到海浪的次声波和远处汽车引擎的振动，为此，很多编码器厂家甚至向其购买母板。其次，加工的过程，光学成像的时间，温度，物理化学的变化，污染等，都会影响到码盘刻线的宽度和边缘性。所以，即使是一样的码盘刻线数，各家能做到的精度也是不同的。
B编码器机械部分对精度的影响：
轴的加工精度与安装精度。
轴承的精度与结构精度。
码盘安装的同心度，光学组建安装的精度。
安装定位点与轴的同心度。
例如，就轴承的结构而言，单轴承支撑结构的轴承偏差无法消除，而且经使用后偏差会更大，而双轴承结构或多支承结构，可有效降低单个轴承的偏差。
C编码器电气部分对精度的影响：
电源的稳定精度—对光发射源与接收单元的影响。
读取响应与电气处理电路带来的误差；
电气噪音影响，取决于编码器电气系统的抗干扰能力；
例如，如果电子细分，也会带来的误差，按照德国海德汉提供的介绍，海德汉编码器的细分电气误差与正余弦曲线的误差约在原始刻线宽度的1%左右。
D编码器使用中带来的精度影响：
安装时与测量转轴连接的同心度；
输出电缆的抗干扰与信号延迟（较长距离或较快频率下）；
接收设备的响应与接收设备内部处理可能的误差。
编码器高速旋转时的动态响应偏差。
最常见的是我们自己使用安装的方法与安装结果的偏差。
细分技术对分辨率与精度的影响
细分技术( Interpolation and Digitizing Electronics) ，将电压或电流式正余弦波信号分割转换成为方波信号，这种计算关系有专门的DSP电路与内置计算系统，可用于一般正余弦波信号输出的传感器。
细分电路对于A/B相波形量的变化，判断出相位角，并再次分割出更细的方波脉冲输出，同样提供1/4周期差的A’/B’两相和Z’相，A’/B’相可以继续的4倍频。
五倍的细分示波器图：
事实上对于细分后的编码器来说，其细分前的刻线数很重要，而其细分前的系统精度更加重要，细分可以提高分辨率，但不能提高精度，甚至可能降低了精度。
那么为什么我们有时候感到细分后，对于加工精度是提高的呢？
这里有几个因素：
1．细分前，精度远优于分辨率，细分后可以将精度用的更充分，例如前面介绍的ROD486，细分前3600刻线，分辨度（Step）步距为0.025度，按照±1步距来看，其使用精度仅达到0.05度，而精度为18角秒，细分后，在18角秒前，是可以提高精度的使用的，这样，给我们的感觉是，细分“提高了精度”。但如果细分倍数再高，其使用精度就无法超越18角秒。
2．目前大部分的运动控制是用速度环控制的，细分提高了分辨率，是可以提高速度环的精度的（下篇讨论），带来的最终加工效果看，似乎也是精度提高了。这样，给我们同样的感觉是“细分提高了精度”。
需要说明的是，上面这里两种“细分提高了使用精度”是因为对于信号使用的问题，而非真正“提高了编码器精度”。
高分辨率的编码器，精度不一定就高，以某日系17位编码器为例，其原始最高刻线为8位256线（如图3），经过多倍细分和A/B相4倍频后，得到17位（约13万圆周分割度）的分辨率，折算角度分辨率为9.89角秒，可其并没有提供精度参数，如以业内精度较高的海德汉提供的方法推算，编码器系统原始精度（误差）为刻线（256）的1/20，细分误差为原始刻线（256）的1%计算，得到的精度为152角秒—相当于2.5角分，如此的精度，证实这样的高分辨率编码器主要是应用于速度环的，对于定位的位置环，精度并不高。
图3 某日系17位编码器，256刻线细分至17位的码盘
综上所述，影响编码器精度的因素很多，编码器的精度与分辨率相关的，仅仅是光学部分的刻线数，刻线数越多（越密），精度可能越高，但还要看其余的很多部分，都与分辨率无关。而刻线数密度，也是受材料与加工工艺及光学衍射的限制的，一般58毫米外径工业级编码器的刻线数最高到10000线，更高的分辨率均由正余弦信号细分来完成的，其精度也就受到了一定的限制。