食品伙伴網服務號

化驗員、質監員培訓講義基本常識之有效數字的處理

放大字體  縮小字體 發布日期:2021-07-27  來源:食品微生物檢測公眾號  瀏覽次數:154
核心提示:一、有效數字。1.在分析工作中實際能測量到的數字就稱為有效數字。2.在記錄有效數字時,規定只允許數的末位欠準,而且只能上下差
 一、有效數字。

1.在分析工作中實際能測量到的數字就稱為有效數字。

2.在記錄有效數字時,規定只允許數的末位欠準,而且只能上下差1。


二、有效數字修約規則。

用“四舍六入五成雙”規則舍去過多的數字。

即當尾數≤時,則舍;尾數≥時,則入;尾數等于時,若前面為偶數則舍,為奇數時則入。當后面還有不是零的任何數時,無論前面是偶或奇皆入。

例如:將下面左邊的數字修約為三位有效數字

2.324→2.32 2.3252.32 2.3262.33 2.3352.34 2.325012.33


三、有效數字運算法則。

1.在加減法運算中,每數及它們的和或差的有效數字的保留,以小數點后面有效數字位數最少的為標準。在加減法中,因是各數值絕對誤差的傳遞,所以結果的絕對誤差必須與各數中絕對誤差最大的那個相當。

例如:2.0375+0.074539.54=?

39.54 是小數點后位數最少的,在這三個數據中,它的絕對誤差最大,為±0.01,所以應以39.54 為準,其它兩個數字亦要保留小數點后第二位,因此三數計算應為:2.040.0739.54=41.65


2.在乘除法運算中,每數及它們的積或商的有效數字的保留,以每數中有效數字位數最少的為標準。在乘除法中,因是各數值相對誤差的傳遞,所以結果的相對誤差必須與各數中相對誤差最大的那個相當。

例如:13.92×0.0112×1.9723=?

0.0112 是三位有效數字,位數最少,它的相對誤差最大,

所以應以0.0112 的位數為準,

即:13.9×0.0112×1.97=0.307


3.分析結果小數點后的位數,應與分析方法精密度小數點后的位數一致。


4.檢驗結果的寫法應與藥典規定相一致。

編輯:songjiajie2010

 
[ 網刊訂閱 ]  [ 檢驗技術搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關閉窗口 ] [ 返回頂部 ]
 
0條 [查看全部]  相關評論

 
 
推薦圖文
推薦檢驗技術
點擊排行
檢驗技術