1、數字運算、修約、極限數值判定與表示方法一、 數字運算二、 數值修約規則三、 極限數值的表示方法和判定方法一、 數字運算在檢驗過程中，對檢驗所得的數據如何進行計算、整理，如何按照技術標準要求作出判定，是檢驗人員必須掌握的基礎知識。1、有效位數在檢驗過程中，記錄數據和計算結果究竟應該保留幾位數字？有的檢驗人員認為記錄和計算保留的位數越多越準確，其實不然。由于檢驗方法、儀器設備和人們感官分析能力的限制，測量中只能讀取一定位數的數字。讀取位數過多，不但不能提高檢驗結果的準確度，反而使計算工作量大大增加，而且還常常容易出錯；讀取位數過少，則表達不出測量的準確度。為了確切表達測量結果的位數，我們給出有效位

2、數的概念。若截取得到的近似數，其絕對誤差是末位上的半個單位，那么這個近似數，從第一個不是零的數字起到這個數位止，所有數字均稱為有效數字。一個進似數有n個有效數字，也叫這個進似數有n個有效位數。如3.1416、2.1173、180.00，均為五位有效數；而0.00274、274、27.4，均為三位有效數。在判斷有效數字時，要特別注意0這個數字，它可以是有效數字，也可以不是有效數字，例如：0.00274，前面三個0都不是有效數字，而180.00，后面三個0卻都是有效數字。因為前者與測量的精確度無關，而后者卻有關。為了說明這個問題，我們不妨各都去掉兩個0，即 0.00274=0.274×1

3、0-2表示其真值為： （0.27350.2745）×10-2其絕對誤差為：0.0005×10-2=0.000005而0.00274的絕對誤差也是0.000005，故去掉前面兩個0后，其絕對誤差不變；而對于180.00，若去掉后面兩個0，成為：180.00=180則其真值所在區間為：（180.5 179.5）其絕對誤差為0.5；但對于180.00來說，其真值所在區間應為： （180.005 179.995）其絕對誤差為0.005，顯然，由于去掉右邊兩個0，而使絕對誤差由0.005變成了0.5，這樣就不對了。因此，絕對不可象對待準確數那樣，隨隨便便去掉小數部分右邊的0，或在小數

4、部分右邊加上0，因為這樣做的結果，雖不會改變這個數的大小，卻改變了這個近似數的精確度。 對任一數值，其有效位數按下述原則確定：對沒有小數位且以若干個零結尾的數值，從非零數字最左一位向右數得到的位數減去無效零（即僅為定位用的零）的個數；對其他十進位數，從非零數字最左一位向右數而得到的位數，就是有效位數。例1：3.2、0.32、0.0032均為兩位有效位數； 0.320為三數有效位數；10.00為四位有效位數；12.490為五位有效位數。例2：35000，若有兩個無效零，則為三位有效位數，應寫為350×102；若有三個無效零，則為兩位有效位數，應寫為35×103。例3：12.4

5、90為五位有效位數；10.00為四位有效位數。2、有效位數的選擇（1）記錄數值時有效位數的選擇讀取或記錄測量數據時，一般按儀器最小分度值來讀數。對于那些需要做進一步運算的數值，則應在按最小分度值讀取后再估讀一位。讀數時，小數末尾的零不能隨意取舍。（2）計算過程中有效位數的選擇 加減。幾個數相加或相減時，以小數部分位數最少的一數為準，其余各數均修約或比該數多一位，然后運算。例1：求1648.0，13.65，0.0082，1.632，86.82，5.135，316.34，0.545的和。解1648.0+13.65+0.0082+1.632+86.82+5.135+316.34+0.5451648.

6、0+13.65+0.01+1.63+86.82+5.14+316.34+0.54=2071.932071.9 乘除。幾個數相乘或相除時，以有效位數最少的一數為準，其余各數均修約成比該數多一位，然后運算。例2：0.0121×1.36872的積解：0.0121×1.368720.0121×1.369=0.01656490.0166乘方或開方。原數有幾位有效位數，計算結果就可保留幾位。若還參加運算，則應多保留一位。常數。對于某些常數，如、e及某些倍數或分數可視為無限有效。計算過程中可根據需要確定有效位數。以上都是一些最簡單的，通常所說的“一步運算”的問題，但在實際問題中

7、遇到的計算，并不都這樣簡單，往往在一個式子里會包括幾種不同的運算，即所謂“多步運算”的問題，在多步運算的問題中，中間步驟計算的結果所保留的數字要比加減、乘除、乘方和開方的數字計算法則的規定多出一位。此外，在計算算術平均值時，若四個以上的數相平均，則平均值的有效位數可增加一位，這是因為平均值的誤差要比其它任何一個數的誤差小。二、數值修約規則在數據處理中，當有效位數確定后，對有效位數之后的數字要進行修約處理。修約按照國家標準GB8/T8170-87數值修約規則進行。（一）修約間隔修約間隔是確定修約保留位數的一種方式。修約間隔的數值一經給出，修約位數為該數值的整數倍。例如：指定修約間隔為0.1，修約

8、值總在0.1的整數倍中選取，即修約值保留一位小數。（二）半個單位修約和0.2單位修約1、 0.5單位修約（半個單位修約）指修約間隔為指定數位的0.5單位，即修約到指定數位的0.5個單位。具體辦法是：對擬修約值乘以2，按指定數位依照一般進舍規則修約，將所得值除以2即得修約值。例如，將下列數值修約到個數位的半個單位（或修約間隔為0.5）擬修約值 乘以2 2A修約值 修約值 （A） （2A） （修約間隔:1） （修約間隔:0.5） 60.25 120.50 120 60.060.38 120.76 121 60.5-60.75 -121.50 -122 -61.02、0.2單位修約指修約間隔為指定數

9、位的0.2單位，即修約到指定數位的0.2個單位。具體辦法是，對擬修約值乘以5，按指定數值依照一般進舍規則修約，將所得值除以5即得修約值。例如：將下列數值修約到百數位的0.2單位（或修約間隔為20）擬修約值 乘以5 5A修約值 修約值（A） （2A） （修約間隔:100） （修約間隔:20） 830 4150 4200 840 842 4250 4200 840-930 -4650 -4600 -920（三）進舍規則進舍規則可概括為如下口訣：“四舍六入五考慮，五后非零則進一，五后皆零視奇偶，五前為偶應舍去，五前為奇則進一。”1、 擬舍棄數字的最左一位數字小于5時，則舍去即保留的各位數字不變。例1

10、：將12.1498修約到一位小數，得12.1。例2：將12.1498修約到兩位有效位數，得12。2、將某一數值修約為有效位數N位，當第N+1位的數字小于5時，舍去；當第N+1位的數字大于5，或者是5且其后并非全部為零時，則進一。例如，下例左邊的數值修約為三位有效位數得右邊結果：2.32412.32，2.32632.33，2.325012.333、將某些數修約為有效位數N位，當第N+1位數字為5，而右邊無數字或皆為零時，看保留數字是奇數還是偶數。若保留數字的最末一位為偶數時（2、4、6、8），舍去；保留數字的最末一位為奇數時（1、3、5、7、9），進一。例1：間隔為0.1（或10-1）擬修約數值

11、 修約值1.050 1.0 0.350 0.4例2：修約間隔為1000（或103）擬修約數值 修約值2500 2×103 （特定時可寫為2000） 3500 4×103 （特定時可寫為4000） 例3：將下列數字修約成兩位有效位數 擬修約數值 修約值0.0325 0.03232500 32×103 （特定時可寫為32000） （四）負數修約先將負數的絕對值按上述方式進行修約，然后在修約值前面加上負號。例1：將下列數字修約到“十”數位擬修約數值 修約值 -355 -36×10 （特定時可寫為-360） -325 -32×10 （特定時可寫為-32

12、0） 例2：將下列數字修約成兩位有效位數 擬修約數 修約值 -365 -36 ×10（特定時可寫為-360） -0.0365 -0.036 （五）不許連續修約1、擬修約數值應在確定修約位數后一次修約獲得結果，而不得多次按上述規定連續修約。例1：7.35456要求三位有效位數時為7.35。不正確的做法：7.3545467.354557.35467.3557.36。例2：修約15.4546，修約間隔為1正確的做法：15.454615不正確的做法：15.454615.45515.4615.5162、在具體實施中，有時測試部門先將獲得數值按指定的修約位數多一位或幾位報出，而后由其他部門判定。

13、為避免產生連續修約的錯誤，要求在報出數值最右的非零數字為5時，應在數值后面加“（+）”或“（-）”或不加號，以分別表明已進行過舍、進或未舍未進。例如：16.50（+）表式實際數大于16.50，經修約舍棄成為16.50；16.50（-）表示實際值小于16.50，經修約進一成為16.50。三、極限數值判定與表示方法（一）書寫極限數值的一般原則1、 標準中規定考核的以數量形式給出的指標或參數等，應當規定極限數值，它表示符合標準要求的數值范圍的界限。通過給出最小極限值和（或）最大極限值，或給出基本數值和極限偏差值等方式表達。2、 標準中極限數值的形式及書寫位數應該適當。它的有效位數應全部寫出。書寫位數

14、表示的精確程度，應能保證產品或其它標準化對象的應有性能和質量，從而它也規定了為檢驗實際產品或其它標準化對象而得到的測定值或其計算值應具有的相應精確程度。 （二）表達極限數值的基本用語及其涵義1、 基本用語及其涵義基本用語 符號 特定情形下的基本用語 涵義 大于A A 多于A 高于A A值不符合要求小于A A 少于A 低于A A值不符合要求大于或等于A A 不小于A不少于A 不低于A A值符合要求 小于或等于A A 不大于A 不多于A 不高于A A值符合要求 基本用語也可組合使用，表明極限數值范圍。 不小于 不大于 例：C（%） 0.12 0.19 Si（%） 0.17 0.37 不多于、不少于

15、、多于、少于等用語宜用于敘述時間、距離指標，以及僅取整數值的計算指標等場合。如：使用壽命不少于3000h。 不高于、不低于、高于、低于等用語宜用于敘述溫度、高度（以向上作為正方向）指標等場合。如：所用柴油閃點不低于60。 2、 允許的習慣用語及其涵義必要時，允許采用下列用語 “A及以上”，指數值大于或等于A（A）；“A及以下”，指數值小于或等于A（A）。 “超過A”，指數值大于A（A）；“不足A”，指數值小于A（A）；“至多A”，指數值小于或等于A（A）；“至少A”，指數值大于或等于A（A）。3、 帶有極限偏差的數值及其涵義某基本數值A帶有絕對極限上偏差值+b1和絕對極限偏差值-b2即A+b1

16、-b2，指從（A- b2）到（A+ b1）符合標準要求。例：80+2-1mm，指從79mm到82mm符合標準要求。某基本數值A帶有相對極限上偏差值+b1%和相對極限下偏差-b2%，即A+b1-b2%，指實測值或其計算值R對于A的相對偏差值（R-A）/A從-b2%到+b1%符合標準要求。若某個極限偏差值或B已超出標準要求，則應附加括號，寫成“B（不含B）”。例：80+2-1mm（不含2），指從79mm到接近但不足82mm符合標準要求。（三）檢測結果的判定方法根據GB/T1250-89極限數值的表示方法和判定方法，在判定檢測數據是否符合標準要求時，應將檢驗所得的測定值或其計算值與標準規定的極限數值

17、作比較。比較的方法有全數值比較法和修約值比較法兩種。1、全數值比較法標準中各種極限數值（包括帶有極限偏差值的數值）未加說明時，均指采用全數值比較法。該方法是：將檢驗所得的測定值或其計算值不經修約處理（或按GB/T8170作修約處理，但應表明它是經舍、進或未舍未進而得），而用數值的全部數字與標準規定的極限數值作比較，只要越出規定的極限數值（不論越出程度大小），都判定為不符合標準要求。示例見下表。極限數值 測定值或其計算值 修約值 是否符合標準要求56×10 555 56×10(-) 不符 559 56×10(-) 不符 560 56 ×10 符合 565

18、56 ×10(+) 符合 97.0 97.01 97.0(+) 符合 97.00 97.0 符合 96.98 97.0（-） 不符 96.94 96.9（+） 不符 0.300.60 0.299 0.30(-) 不符 0.300 0.30 符合 0.600 0.60 符合 0.601 0.60（+） 不符 0.300.60 0.605 0.60(+) 不符2、修約值比較法凡標準中說采用修約值比較法的，應采用修約值比較法。 將測定值或其計算值按GB/T8170進行修約，修約位數與標準規定的極限數值書寫位數一致。 將修約后的數值與標準規定極限數值進行比較，以判定實際指標或參數是否符合標準要求。示例見下表。極限數值 測定值或