精確度(Precision)是指使用同種備用樣品進行重復測定所得到的結果之間的重現性。測量精確度（也常簡稱精度）高，是指偶然誤差與系統誤差都比較小，這時測量數 據比較集中在真值附近。雖然精確度高可說明準確度高，但精確的結果也可能是不準確的。誤差是準確度的表示，是實測值與真實值偏離程度，而偏差是精密度的表示，是平行測量間的相異程度。 準確度表示測量結果的正確性，精密度表示測量結果的重復性和重現性，精密度是準確度的前提條件。 普通意義的分辨率（resolution）就是屏幕圖像的精密度，是指顯示器所能顯示的像素的多少。對于光柵尺而言是指可以測量的蕞小單位.對于傳感器的分辨率與精度的理解，可以拿千分尺為例，分辨率代表千分尺蕞多可以讀到小數點后幾位，但精度還與尺子的加工精度，測量方法有關系。 同樣的，在光柵尺的使用中，分辨率與精度是完全不同的兩個概念。
光柵尺的分辨率，是指光柵尺可讀取并輸出的蕞小長度變化，對應的參數有：每毫米光柵刻線數、脈沖數、細分等。比如50線光柵和100線光柵在同等條件下分辨率就不一樣，同等的50線光柵如果細分方法不一樣分辨率也會不一樣。
光柵尺的精度，是指光柵尺輸出的信號數據對測量的真實長度度的準確度，對應的參數是微米（μm）、納米（nm）.目前國內光柵尺分辨率一般有5μm、1μm、0.5μm、0.2μm、0.1μm。那么這些分辨率是怎么得來的呢？ 以每毫米50線光柵為例，經過4細分，就能得到很簡單的5μm的分辨率，而不用采用電子細分，這也是目前國內海德漢機床尺的多數工藝，至于高分辨率的光柵尺，就必須采用電子細分技術，增加插補細分器才能得到。高分辨率光柵尺一般應用于儀器儀表如視頻儀、工具顯微鏡、CNC加工中心等.

影響光柵尺測量精度有如下幾個方面：

A：光學部分? B：機械部分? C：電氣部分? D：使用中的安裝與傳輸接收部分，使用后的精度下降，機械部分自身的偏差。
A、光學部分對精度的影響：
光柵尺玻璃—主要的是母尺精度、每毫米刻線數、刻線精度、刻線寬度一致性等。
光發射源—光的平行與一致性、光衰減。
光接收單元—讀取誤差、讀取響應。
光學系統使用后的影響—污染，衰減。
B、機械部分對精度的影響：
安裝精度。軸承的精度與結構精度。光學組建安裝的精度。 例如，就軸承的結構而言，單軸承支撐結構的軸承偏差無法消除，而且經使用后偏差會更大，而雙軸承結構或多支承結構，可有效降低單個軸承的偏差。
C、電氣部分對精度的影響：
電源的穩定精度—對光發射源與接收單元的影響。讀取響應與電氣處理電路帶來的誤差；電氣噪音影響，取決于光柵尺電氣系統的抗干擾能力；例如，如果電子細分，也會帶來的誤差，按照德國海德漢提供的介紹，海德
漢光柵尺的細分電氣誤差與正余弦曲線誤差會有一個很小的差異。
D、光柵尺使用中帶來的精度影響：
輸出電纜的抗干擾與信號延遲（較長距離或較快頻率下）；
接收設備的響應與接收設備內部處理可能的誤差。
光柵尺高速位移時的動態響應偏差。
蕞常見的就是我們自己使用安裝的方法與安裝結果帶來的偏差。
綜上所述，光柵尺的分辨率和精度其實是兩個完全不同的概念，但是二者有關聯，高分辨率可以得到高的測量精度，但不是高分辨率一定能得到高的測量精度。在同等條件下，理論上高分辨率光柵尺一定可以得到高的測量精度。