



VIP免費下載
版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領
文檔簡介
1、請下載支持!必酬聯箍有效數字和數值的修約及其運算肄薄薇蔗蛔荽果編制部門:質量管理部索蝕神蒙贛斷膀編號:HYJT/SMP01-08-2011譽筮前曹藏奠蠢頁數:1/5袂菜妨薄建肆蔓起草人童眠唐蔽襖肇勘審核人蝸芾肅螃薇邕希批準人慕小詢技凌膂起草原因:新i口修i腿嵋芍芾聿芍膽說明:蒲帔展奠艘蝸芳黃腿霜芽肇膈冗肇蒂滕蒞勞螂蒂褻黃踴慕童膈膀年月日蟆屋蟹節藻聿膀年月日量蓬蒞裊袈蟻螞年月日箱充莆蟆賺嵋羋頒發部門肅神衿螞童趣®質量管王里吾力分發部門執行日期年月日目的:規范標準溶液(滴定液)管理規程范圍:適用于公司檢驗用標準溶液職責:質量管理部對本規程實施負責內容:本規程系根據國家標準GB817087
2、數值修約規程制訂,適用于檢驗工作中除生物檢定統計法以外的各種測量或計算而得的數值。1.有效數字的基本概念1.1.有效數字系指在檢驗工作中所能得到有實際意義的數值。其最后一位數字欠準是允許的,這種由可靠數字和最后一位不確定數字組成的數值,即為有效數字。1.2.有效數字的定位(數位),是指確定欠準數字的位置。這個位置確定后,其后面的數字均為無效數字。欠準數字的位置可以是十進位的任何位數,用10n來表示:n可以是正整數,如n=1、101=10(十數位),n=2、102=100(百數位);n也可以是負數,如n=-1、10-l=0.1(十分位),n=-2、10-2=0.01(百分位)。1.3.有效位數在
3、沒有小數位且以若干個零結尾的數值中,有效位數系指從非零數字最左一位向右數得到的位數減去無效零(即僅為定位用的零)的個數。例如35000中若有兩個無效零,則為三位有效位數,應寫作350X102或3.50X104;若有三個無效零,則為兩位有效數,應寫作35X103或3.5X04。在其它十進位數中,有效數字系指從非零數字最左一位向右數而得到的位數。例如3.2、0.32、0.032和0.0032均為兩位有效位數,0.320為三位有效位數、10.00為四位有效位數,12.490為五位有效位數。非連續型數值(如個數、分數、倍數、名義濃度或標示量)是沒有欠準數字的,&T效位數可視為無限多位。例如分子
4、式“黔04”中的“2ffi”潞個數;常數冗、e和系數萬等數值的有效位數也可視為是無限多位;含量測定項下每1ml的XXXX滴定液(0.1mol/L)”中的“0.1為名義濃度,規格項下的“0.3酸fml”、“25m升的“0.3”1”和“2叨標示量,其有效位數也均為無限多位。即在計算中,其有效位數應根據其他數值的最少有效位數而定。有效數字和數值的修約及其運算編制部門:質量管理部編號:HYJT/SMP01-08-2011頁數:1/5pH值等對數值,具有效位數是由其小數點后的位數決定的,其整數部分只表明其真數的乘方次數。如pH=11.26(H+=5.510-12mol/L),其有效位數只有兩位。有效數字
5、的首位數字為8或9時,其有效位數可以多計一位。例如:85%與115%,都可以看成是三位有效位數;99.0%與101.0%都可以看成是四位有效數字。2 .數值修約及其進舍規則2.1. 數值修約是指對擬修約數值中超出需要保留位數時的舍棄,根據舍棄數來保留最后一位數或最后幾位數。2.2. 修約間隔是確定修約保留位數的一種方式。修約間隔的數值一經確定,修約值即應為該數值的整數倍。例如:指定修約間隔為0.1,修約值即應在0.1的整數倍中選取,也就是說,將數值修約到小數點后一位。2.3. 確定修約位數的表達方式指定數位指定修約間隔為10-n(n為正整數),或指明將數值修約到小數點后n位。指定修約間隔為1,
6、或指明將數值修約到個數位。指定修約間隔為10n(n為正整數),或指明將數值修約到10n數位,或指明將數值修約到千“、百“、干”數位。指定將數值修約成n位有效位數(n為正整數)。在相對標準偏差(RSD)的求算中,其有效數位應為其1/3值的首位(非零數字),故通常為百分位或千分位。2.4. 進舍規則擬舍棄數字的最左一位數字小于5時,則舍去,即保留的各位數字不變。例1將12.1498修約到一位小數(十分位),得12.1。例2將12.1498修約成兩位有效位數,得12。擬舍棄數字的最左一位數字大于5,或者是5,而其后跟有并非全部為0的數字時,則進一,即在保留的末位數字加1。例1將1268修約到百數位,
7、得13X1020例2將1268修約到三位有效位數,得127X10o例3將10.502修約到個數位,得11。擬舍棄數字的最左一位數字為5,而右面無數字或皆為0時,若所保留末位數為奇數(1,3,5,7,9)則進一,為偶數(2,4,6,8,0)則舍棄。例1修約間隔為0.1(10)有效數字和數值的修約及其運算編制部門:質量管理部編號:HYJT/SMP01-08-2011頁數:3/5擬修約數值修約值1.0501.00.3500.4例2修約間隔為1000(或103)擬修約數值修約值25002X10335004X103例3將下列數字修約成兩位有效位數擬修約數值修約值0.03250.0323250032X10
8、3在相對標準偏差(RSD)中,采用只進不舍”的原則,如0.163%、0.52%宜修約為0.17%、0.6%。不許連續修約擬修約數字應在確定修約位數后一次修約獲得結果,而不得多次按前面規則(例修約15.4546,修約間隔為1正確的做法為:15.454615;不正確的做法為:15.454615.45515.4615.516。為便于記憶,上述進舍規則可歸納成下列口訣:四舍六入五考慮,五后非零則進一,五后全零看五前,五前偶舍奇進一,不論數字多少位,都要一次修約成。但在按英、美、日藥典方法修約時,按四舍五入進舍即可。3 .運算規則在進行數學運算時,對加減法和乘除法中有效數字的處理是不同的。3.1.許多數
9、值相加減時,所得和或差的絕對誤差必較任何一個數值的絕對誤差大,因此相加減時應以諸數值中絕對誤差最大(即欠準數字的數位最大)的數值為準,以確定其它數值在運算中保留的位數和決定計算結果的有效位數。3.1. 許多數值相乘除時,所得積或商的相對誤差必較任何一個數值的相對誤差大。因此相乘除時應以諸數值中相對誤差最大(即有效位數最少)的數值為準,確定其它數值在運算中保留的位數和決定計算結果的有效位數。3.2. 在運算過程中,為減少舍入誤差,其它數值的修約可以暫時多保留一位,等運算得到結果時,再根據有效位數棄去多余的數字。有效數字和數值的修約及其運算編制部門:質量管理部編號:HYJT/SMP01-08-20
10、11頁數:4/5例113.65+0.00823+1.633=?本例是數值相加減,在三個數值中13.65的絕對誤差最大,其最末一位數為百分位(小數點后二位),因此將其它各數均暫先保留至千分位,即把0.00823修約成0.008,1.633不變,進行運算:13.65+0.008+1.633=15.291最后對計算結果進行修約,15.291應只保留至百分位,而修約成15.29。例214.131X0.07654W.78=?本例是數值相乘除,在三個數值中,0.78的有效位數最少,僅為兩位有效位數,因此各數值均應暫保留三位有效位數進行運算,最后結果再修約為兩位有效位數。既,14.131X0.07654刊.
11、78=14.1>0.07650.78=1.08論78=1.38=1.4例3計算氧氟沙星(Cl8H20FN304)的分子量。在諸元素的乘積中,原子數的有效位數可視作無限多位,因此可根據各原子量的有效位數對乘積進行定位,而在各乘積的相加中,由于中國藥典規定分子量的數值保留到小數點后二位(百分位),因此應將各元素的乘積修約到千分位(小數點后三位)后進行相加,再將計算結果修約到百分位,即得。12.011X8+1.00794X20+18.9984032+14.006747X3+15.9994X4=216.20+20.1588+18.9984032+42.020241+63.9976=216.20+
12、20.159+18.998+42.020+63.998=361.375=361.384.注意事項4.1. 正確記錄檢測所得的數值。應根據取樣量、量具的精度、檢測方法的允許誤差和標準中的限度規定,確定數字的有效位數(或數位),檢測值必須與測量的準確度相符合,記錄全部準確數字和一位欠準數字。4.2.正確掌握和運用規則。不論是何種辦法進行計算,都必須執行進舍規則和運算規則,如用計算器進行計算,也應將計算結果經修約后再記錄下來。如由工作站出的數據,可按有效數字修約原則修約后判定。有效數字和數值的修約及其運算編制部門:質量管理部編號:HYJT/SMP01-08-2011頁數:5/54.3.要根據取樣的要求,選擇相應的量具。精密稱定”系指稱取重量應準確到所取重量的0.1%,可根據稱量選用分析天平或半微量分析天平。精密量取”應選用符合國家標
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
- 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
- 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
- 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
- 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 餐飲公司股東會決議效力及表決權分配合同
- 商業街區地面車位使用權轉讓合同范本
- 知識產權拍賣委托授權合同范本
- 生態型彩鋼房設計與施工總承包合同
- 廠房倉庫租賃及維護保養合同范本
- 成都租賃合同維修責任范本
- 餐廳項目股權融資協議書范例
- 研發中心場地租賃改造與知識產權保護合同
- 車輛過戶居間代理服務協議
- 工程現場勘察與監測技術服務合同
- 2025年北京海淀初三二模語文試題及答案
- 2024北京海淀區四年級(下)期末數學試題及答案
- 2025年江蘇鹽城市燕舞集團有限公司招聘筆試參考題庫含答案解析
- 【MOOC】運輸包裝-暨南大學 中國大學慕課MOOC答案
- (100+170+100)m變截面三向預應力連續剛構橋掛籃懸臂澆筑法施工方案49頁
- 廣東省廣州市增城區2021-2022學年八年級下學期期末考試道德與法治試題(word無答案)
- 蘇州市初二生物會考考卷(附答案)
- 放行考試復習題目-放行人員理論試題規章部分
- 新版部編版五年級語文下冊全冊看拼音寫詞語附答案
- 柴油供貨運輸服務方案(完整版)
評論
0/150
提交評論