3、有效數字及運算法則_第1頁
3、有效數字及運算法則_第2頁
3、有效數字及運算法則_第3頁
3、有效數字及運算法則_第4頁
3、有效數字及運算法則_第5頁
已閱讀5頁,還剩18頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

有效數字及運算法則定義:在測量結果的數字表示中,由若干位可靠數字加一位可疑數字,便組成了有效數字.儀器上顯示的數字勻為有效數字。一、有效數字的一般概念二、有效數字位數的確定1.關于“0”的有效問題①.當“0”在數字中間或末尾時有效如:、、等中的0均有效。注意:不能在數字的末尾隨便加“0”或減“0”數學上:物理上:1.關于“0”的有效問題②.小數點前面的“0”和緊接小數點后面的“0”不算作有效數字如:0.0123dm、0.123cm、0.00123m均是3位有效數字。注意:進行單位換算時,有效數字的位數不變。2.數值的科學記數法數據過大或過小時,可以用科學表達式。某電阻值為20000(歐姆),保留三位有效數字時寫成2.00104

又如數據為0.0000325m,使用科學記數法寫成3.2510-5m3.有效數字與儀器的關系有效數字的位數反應了測量值本身的大小、儀器的準確度

20分度游標卡尺L=2.525cm

(四位有效數字)

螺旋測微計L=2.5153cm

(五位有效數字)米尺L=2.52cm

(三位有效數字)三、直接測量有效數字的確定

——如何讀數讀數的一般規則:讀至儀器誤差所在的位置例:(1)用米尺測長度(2)用0.1級量程為100mA電流表測電流當物體長度在24㎜與25㎜之間時,讀數為24.*㎜當讀數正好為24㎜時讀數為24.0㎜被測物體△儀=100mA×0.1%=0.1mA指針在82mA與83mA之間:讀為82.*mA指針正好在82mA上:讀為82.0mA對于0.1級表:四、間接測量量有效數字的確定

——有效數字的運算法則1.加減法加減法運算后的有效數字,取到參與運算各數中最靠前出現可疑數的那一位。運算規則:例162.5+1.234=63.762.5+1.234—————63.734結果為63.7例219.68-5.848=13.83

19.68-5.848—————13.832––––––結果為13.83––2.乘除法運算規則:乘除運算后結果的有效數字一般以參與運算各數中有效數字位數最少的為準。例33.21

6.5=21

3.21

6.5—————1605––––––結果為21––1926—————20.865–––––––例42121.843=0.96____結果為0.96_如:錯誤正確1002=100102

100=10.0

49=7.049=74.02=164.02=16.03.乘方與開方運算規則:結果的有效數字與其底或被開方數的有效數字位數相同。(1)對數函數lgx的尾數與x的位數相同例5lg100=2.000

lg1.983=0.297322714

0.2973lg1983=3.29722714

3.29734.函數運算

(2)指數函數10x或ex的位數和x小數點后的位數相同(包括緊接小數點后面的0)例6106.25=1778279.411.8106100.0035=1.00809611.008首先用傳遞公式計算cosx的不確定度x=20018’

x=1’

0.0003弧度

求cosx的有效數字(3)三角函數解:誤差位在小數點后第四位而cos20o18’=0.937889…...根據不確定度:cos20o18’=0.9379例7

cosx=|sinx|x=sin(20018’)0.0003=0.0001①自然數不是測量值,不存在誤差,故有效數字是無窮位。

②常數

、e等的位數可與參加運算的量中有效數字位數最少的位數相同或多取一位。如在D=2R中,2不是一位有效數字,而是無窮位例8L=2R其中R=2.3510-2m

就應取3.14(或3.142)即L=23.1422.3510-2=0.148(m)5.自然數與常量綜合運算舉例

50.00(18.3016.3)(1033.0)(1.00+0.001)=50.002.0

1001.00=1.0102

100=1.0

10.02

lg100.0

27.321

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論