數值修約規則與數值極限的表示和判定

2021-09-11 21:21:02 字數 4767 閱讀 7712

gb/t 8170-2008《數值修約規則與數值極限的表示和判定》

定西公路總段試驗室

二o一o年十月

數值修約

一、數值修約的概念及意義

二、數值修約的基礎知識

三、數值修約規則及注意事項

四、數值運算規則

一、數值修約的概念及意義

◆ 測量及測量結果

◆ 數值修約的概念及意義

1. 測量、測量結果

(1)測量、測量結果

測量是以確定量值為目的的一組操作。量值是由乙個數(值)乘以測量單位所表示的特定量的大小。

測量有間接和直接之分:直接測量的結果可直接測到而不必通過函式計算;而間接測量的結果需將直接測量的結果代入函式計算才能得到。

由測量所得的賦予被測量的值稱為測量結果。

例如,用分析天平稱得乙個試樣的質量為 1.1080g, 1.1080g就是乙個測量結果。

由測量與測量結果的概念可看出,測量結果可表示如下:

測量結果=數(值)×單位量值

根據誤差公理,測量總是存在誤差的,測量結果只能是接近於測量真值的估計值,因而表示測量結果的數(值)是含有誤差的數(值),

就是說,表示測量結果的的數值是乙個近似值。

接上例結果, 1.1080g就是乙個測量結果。1.1080是數(值),克是單位量值。

1.1080表示該試樣的近似值,其中1.108是準確的,最後乙個0是有誤差的,而且這個0是不能夠捨棄的。

如果測量結果是1.108g,則表示1.10是準確的,8是有誤差的。

在數學上1.108和1.1080是沒有區別的,而在測量上是有很大區別的。

以天平來說,1.1080g 是萬分之一的天平,1.108g是千分之一的天平,二者之間相差乙個數量級。

2. 數值修約的概念及意義

(1)數值修約的概念

對某一表示測量結果的數值(擬修約數),根據保留位數的要求,將多餘的數字進行取捨,按照一定的規則,選取乙個近似數(修約數)來代替原來的數,這一過程稱為數值修約。

一般我們常用的四捨五入就是乙個簡單實用的修約,應用於實際生活中或不精確的測量資料中。而數值修約是將修約規則上公升到規範並且精細化的修約方法。在測量結果或統計分析中應用。

(2)數值修約的意義

a.出於準確表達測量結果的需要。

測量結果大都是通過間接測量得到的,間接測量的結果通常是通過計算得出的,其組成數字往往較多, 但具體測量的精度是確定的,就是說表示合理表徵測量結果的數字個數應是確定的,最終提供的測量結果應合理反映這一點,故此,通過對計算方法和直接測量得到的資料的分析,得到合理的保留位數,將多餘的數字進行取捨以得到合理反映測量精度的測量結果,即進行數值修約就非常必要。另外,即使採用直接測量,有時在提供測量程式要求的但高於實際測量精度的測量結果時也需要進行合理的數值修約。

b.在進行具體的數值計算前,對參加計算的數值進行修約,可簡化計算,降低計算出錯的機會。

如:4.78961×2.13×102.4387926=?

若不先進行數值修約就直接計算,繁瑣且容易出錯。若在計算前先按數值修約規則進行修約,捨去多餘參與計算的數值之中沒有意義的數字,則計算會簡單得多,計算也就不容易出錯。

二、數值修約的基礎知識

1. 有效數字

2 修約間隔

3.修約數字及確定修約位數的表達方式

1. 有效數字

1.1有效數字

有效數字是指在分析和測量中所能得到的有實際意義的數字。測量結果是由有效數字組成的(前後定位用的「0」除外)。

我們來看前面的測量結果1.1080g,組成數字1、1、0、8、0都是實際測讀到的,它們是表示試樣質量大小的,因而都是有實際意義的。

有效數字的前幾位都是準確數字,只有最後一位是可疑數字。

如前述的1.1080, 前幾位數字1、1、0、8都是稱量讀到的準確數字,而最後一位數字0則是在沒有刻度的情況下估讀出來的,是不準確的或者說可疑的。

有效數字是處於表示測量結果的數值的不同數字上。所有有效數字所占有的數字個數稱為有效數字位數。

例1:數值3.5,有兩個有效數字,占有個位、十分位兩個數字,因而有效數字位數為兩位;3.501有四個有效數字,占有個位、十分位、百分位等四個數字,因而是四位有效數字。

測量結果的數字,其有效位數反映了測量結果的精確度,它直接與測量的精密度有關。這也是有效數字實際意義的體現,是非常重要的體現。

例如前述例子中,若測量結果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。

2.2 有效數字位數的確定原則

由於有效數字的位數反映了測量結果的精確度,它直接與測量的精密度有關。因此,在科學實驗和生產活動中正確記錄有效數字,不能多寫或少寫,多寫了不能正確反映測量精度,則該資料不真實,因而也就不可靠;少寫損失測量精度度。另外,能夠正確判定表示測量結果的數中那些數字是有效數字,確定有效數字位數就顯得非常重要。

這也是在計量認證過程中,有效數字位數的確定往往成為考核內容之一的原因。

在確定有效數字位數時應遵循下列原則:

(1)數值中數字1~9都是有效數字。

(2)數字「0」在數值中所處的位置不同,起的作用也不同,可能是有效數字,也可能不是有效數字。判定如下:

1) 「0」在數字前,僅起定位作用,不是有效數字。

如,0.0257中, 「2」前面的兩個「0」均非有效數字。 0.123、0.0123、0.00123中「1」前面的 「0」也均非有效數字。

2)數值末尾的「0」屬於有效數字。

如0.5000中, 「5」後面的三個「0」均為有效數字;0.50中, 「5」後面的乙個「0」也是有效數字。

特例:見第4)條。

3)數值中夾在數字中間的「0」是有效數字。

如數值1. 008中的兩個「0」是均是有效數字; 數值8. 01中間的 「0」也是有效數字。

4)以「0」結尾的正整數, 「0」是不是有效數字不確定,應根據測試結果的準確度確定。

如3600,後面的兩個「0」如果不指明測量準確度就不能確定是不是有效數字。

測量中遇到這種情況,最好根據實際測試結果的精確度確定有效數字的位數,有效數字用小數表示,把「0」用10的乘方表示。如將3600寫成3.6×103表示此數有兩位有效數字;寫成3.

60×103表示此數有三位有效數字;寫成3.600×103表示此數有四位有效數字。

試看下面各資料的有效數字位數:

1.0008 43383 五位有效數字

0.5000 20.76% 四位有效數字

0.0257 154×10-10 三位有效數字

530.0070 二位有效數字

0.022×10-10 一位有效數字

3600100 有效數字位數不定

2.修約間隔

修約間隔又稱修約區間或化整間隔,系確定修約保留位數的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數)的形式表示,將同一k值的修約間隔,簡稱為°k±間隔。

修約間隔的數值一經確定,修約值即應為該數值的整數倍。

例1:如指定修約間隔為0.1,修約值即應在0.1的整數倍中選取,相當於將數值修約到一位小數。

1.0239修約到0.01,為1.02,

1.02÷0.01=102(倍)

例2:如指定修約間隔為100,修約值即應在100的整數倍中選取,相當於將數值修約到「百」數字。

3623修約間隔為100,修約結果是3600,

3600÷100=36(倍)

3.修約數字及確定修約位數的表達方式

修約時擬將擬修約數的哪一位數字後部分按修約規則捨去,則該數字就是修約數字。

數值修約時需要先明確修約數字,確定修約位數的表達方式如下:

(1 ) 指明具體的修約間隔。

如指明將某數按0.2(2×10-1)修約間隔修約、100 (1×102)修約間隔修約等。

(2 ) 指定將擬修約數修約至某數字的0.1、0.2或0.5個單位。

(3)指明按°k±間隔將擬修約數修約為幾位有效數字,或修約至某數字。這時「1」 間隔可不必指明,但「2」間隔和「5」間隔必須指明。

三、數值修約規則

1. gb/t 8170-2008 《數值修約規則》

2.通用修約方法

gb/t 8170-2008

《數值修約規則》

測量結果的資料處理是測量過程的最後環節,由於測量結果含有測量誤差,測量結果的有效位數應保留適宜,太多會使人誤認為測量精度很高,同時也會帶來計算上的繁瑣;太少則會損失測量準確度。測量、計算結果的數值應按《數值修約規則》( gb/t 8170-2008 )規定進行修約。

gb/t 8170-2008 《數值修約規則》規定的修約規則如下:

3.1 擬捨棄數字的最左一位數字小於5時,則捨去,即保留的各位數字不變。

例1:將12.1498修約到一位小數,得12.1。

例2:將12.1498修約成兩位有效位數,得12。

3.2 擬捨棄數字的最左一位數字大於5;或者是5,而其後跟有並非全部為0的數字時,則進一,即保留的末位數字加1。

例1:將1268修約到「百」數字,得13×102(特定時可寫為1300)。

例2:將1268修約成三位有效位數,得127×10(特定時可寫為1270)。

例3:將10.502修約到個數字,得11。

注:「特定時」的涵義係指修約間隔或有效位數明確時。

3.3 擬捨棄數字的最左一位數字為5,而右面無數字或皆為0時,若所保留的末位數字為奇數(1,3,5,7,9)則進一,為偶數(2,4,6,8,0)則捨棄。

例1:修約間隔為0.1(或10-1)

擬修約數修約值

1.0501.0

0.3500.4

例2:修約間隔為1000(或103)

擬修約數修約值

有效數字和數值的修約

1 目的 闡述如何把數字修約至適當的有效位數從而得出合理的報告結果。2 定義 1 有效數字 在檢驗工作中所能得到的有實際意義的數值,其最後一位數字牽住你是允許的,這種由可靠數字和最後一位估計值組成的數值,即為有效數字。2 有效數字 從左邊第乙個非零數字算起,所有的有效數字的個數。3 數字修約 對擬修...

有效數字和數值的修約及其運算規定

目的 規範各種測量或計算所得的數值進行修約 運算,確保計算結果的準確。適用範圍 本公司各種測量或計算。責任人 中心化驗室全體人員 製造部與工程部的全體管理人員 生產員工。內容 1 本規定系根據中國藥典2005年版 凡例 和國家標準gb8170 數值修約規程 制訂,適用於藥檢工作中除生物檢定統計法以外...

近似計算中的修約規則

乘除運算以有效數字為準,加減運算以小數點位數為準,計算過程中可多保留一位。已知 標準器證書給出的標準值為60.2,可見標準值是小數點後1位和三位有效數字。1.參與平均值計算的三個數字60,60,59均為兩位有效數字,平均值計算屬於乘除運算,且是求絕對誤差和相對誤差的計算過程中的乙個步驟,所以平均值計...