數值修約及運算規則_第1頁
數值修約及運算規則_第2頁
數值修約及運算規則_第3頁
數值修約及運算規則_第4頁
數值修約及運算規則_第5頁
已閱讀5頁,還剩16頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

《數值修約及運算規則》主要內容一、數值修約概念 (1)概念; (2)修約規則; (3)其他規定; (4)其他修約的間隔;(5)有效數字概念二、極限數值的表示和判定(一)概念1.數值修約:通過省略原數值的最后若干位數字,調整所保留的末位數字,最后所得到的值最接近原數值的過程。注:經數值修約后的數值稱為(原數值的)修約值。

2.有效數值:一個數從左邊第一個不是零的數字數起一直到最后一位數字(包括零、科學計數法不計10的N次方)稱為有效數字。0.0109 3.109×105

0.0230 是三位是三位是四位(一)概念

3.修約間隔:修約的最小數值單位。注:修約間隔的數值一經確定,修 約值即為該數值的整數倍。如:指定的修約間隔為0.1。修約值

應在0.1的整數倍中選取,相當于將數值修約到一位小數。(一)概念(二)修約規則1、確定修約間隔(確定有效位數),

0.0356修約到0.01得

保留一位有效數字,

2、進舍規則: 1)擬舍棄數字的最后一位數字小于5,

則舍去。保留其余各位數字不變。

12.1498修約到“1”,;修約到

0.1,得

0.040.041212.12)擬舍棄數字的最后一位數字大于5.則

進一,保留數字的末位數加1。

1268修約到“100”位.

13×102也意味著有效數字為位。 1300意味著有效數字為位。24(二)修約規則3)擬舍棄數字的最左一位數字是5,且

其后有非零數字也進一,保留數字

的末位數字加1.

10.5002.修約到“1”.得11

(二)修約規則4)擬舍棄數字的最后一位數字是5,且其后無數字或為0時,若所保留的數字為 奇數(1、3、5、7、9),則進一。即保留數字的末位數字加1.若保留的末位 數字為偶數(0、2、4、6、8)則舍去。1.050 修約間隔為“0.1”。10×10-1(或1.0)有效數字為2位。0.35 修約間隔為“0.1”。4×10-1(或0.4)有效數字為1位。2500 修約間隔“1000”。2×103(2000)有效數字1、4位。3500 修約間隔“1000”。4×103(4000)有效數字1、4位。(二)修約規則5)口訣四舍五入,逢五看前數,奇入偶不入。6)負數修約,先以負值絕對值按上述修約后,加上負號。

-15.456絕對值15.456.修約間隔“0.1”、

15.5.加上負號;-15.5。

(二)修約規則(三)其他規定1.不允許連續修約:擬修的數字應在確定修約間隔或指定修約數位后一次修約獲得結果,不得連續按上述要求修約。正確:97.46修約間隔“1”不允許:97.46→97.5→9897(三)其他規定2.特殊情況:具體實施中,有時測試與計算部先將獲得數值按指定的修約數位多一位或幾位報出,而后由其他部門判定。為免產生修約的錯誤,應按下述步驟進行:1)報出數值最右的非零數字為5時,應在數值右上角“+”或“-”,或不加符號,分別表明已進行過舍,進或未進。16.50+表示實際值在修約前大于16.50,經修約舍棄后為16.50;原數值可為:16.501“-”則是小于16.50比如16.499。

(三)其他規定2)如果修約后的數字為5“+”者進一“-”者舍去

原數值修約再修15.454615.5-15-15.4546-15.5--1516.520316.5+1717.500017.518(四)其他修約間隔還有以0.5和0.2單位修約的,方法如下:0.5單位修約:被修約的數乘以2,進行間隔修約后再除以2,得到修約值。0.2單位修約:被修約的數乘以5,進行間隔修約后再除以5,得到修約值。

(四)其他修約間隔下列數值修約得到“個位”的0.5單位修約被修約數值X2X2X修約X修約值60.25120.512060.060.38120.7612160.5

(四)其他修約間隔下列數值修約得到“百位”的0.2單位修約被修約數值X5X5X修約X修約值83041504200840842421042008408324160420084093046504600920

(五)有效數字的運算

1.加減法運算

以參與運算的各數中末位的修約間隔最大的數為準。其余的數均比它保留多一位,多余的應按規定修約。計算結果的末位的修約間隔,應與參與運算的數中末位的修約間隔最大的那個數相同。如果是過程計算,則可多保留一位:

(五)有效數字的運算

18.3+1.4546+0.87618.3為末位最大數量級的數,為“0.1”。則以“0.1”增加一位進行修約。

18.3+1.45+0.88=20.63修約:

如果還要參加下一步運算則取

20.620.63

(五)有效數字的運算

2.乘、除(或乘方、開方)運算:

以參與運算的各數中有效數字位數最少的那個數為準。其余多保留一位。運算結果的有效數字位數應與參與運算的數中有效數字位數最少的那個數相同。若是過程計算,則可多保留一位。

(五)有效數字的運算

1.1x0.3268x0.103001.1有效位數最小,

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論