当前位置:
首页 >> 工程类 >> 试验员 >> 辅导资料 >> 正文

2019年试验员考试公共基础知识点:修约方法及数值运算规则

发表时间:2019/5/17 10:07:25 来源:互联网 点击关注微信:关注中大网校微信
关注公众号

修约方法及数值运算规则

1、 数值修约规则(GB8170—87)

本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值.需要修约时,除另有规定者外,应按本标准给出的规则进行。

1 术 语

1.1修约间隔

系确定修约保留位数的一种方式.修约间隔的数值一经确定,修约值即应为该数值的整数倍 。

例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。

例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到 “ 百 ” 数位。

1.2 有效位数

对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数;对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。

例1:35000,若有两个无效零,则为三位有效位数,应写为350×10 2 ;若有三个无效零,则为两位有效位数,应写为35×10 3 。

例2:3.2,0.32,0.032,0.0032均为两位有效位数;0.0320为三位有效位数。

例3:12.490为五位有效位数;10.00为四位有效位数。

1.3 0.5单位修约(半个单位修约)

指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位。

例如,将60.28修约到个数位的0.5单位,得60.5(修约方法见本规则5.1)

1.4 0.2单位修约

指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位。

例如,将832修约到 “ 百 ” 数位的0.2单位,得840(修约方法见本规则5.2)

2 确定修约位数的表达方式

2.1 指定数位

a. 指定修约间隔为10 n (n为正整数),或指明将数值修约到n位小数;

b. 指定修约间隔为1,或指明将数值修约到个数位;

c. 指定修约间隔为10 n ,或指明将数值修约到10 n 数位(n为正整数),或指明将数值修约到 “ 十 ” , “ 百 ” , “ 千 ” ……数位。

2.2 指定将数值修约成n位有效位数

3 进舍规则

3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例1:将12.1498修约到一位小数,得12.1。

例2:将12.1498修约成两位有效位数,得12。

3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全部为0的数字时,则进一,即保留的末位数字加1。

例1:将1268修约到 “ 百 ” 数位,得13×10 2 (特定时可写为1300)。

例2:将1268修约成三位有效位数,得127×10(特定时可写为1270)。

例3:将10.502修约到个数位,得11。

注:本标准示例中, “ 特定时 ” 的涵义系指修约间隔或有效位数明确时。

3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1:修约间隔为0.1(或10 -1 )

拟修约数值 修约值

1.050  1.0

0.350  0.4

例2:修约间隔为1000(或10 3 )

拟修约数值 修约值

2500  2×10 3 (特定时可写为2000)

3500  4×10 3 (特定时可写为4000)

例3:将下列数字修约成两位有效位数

拟修约数值 修约值

0.0325 0.032

32500 32×10 3 (特定时可写为32000)

3.4 负数修约时,先将它的绝对值按上述3.1~3.3规定进行修约,然后在修约值前面加上负号。

例1:将下列数字修约到 “ 十 ” 数位

拟修约数值 修约值

-355  -36×10(特定时可写为-360)

-325  -32×10(特定时可写为-320)

例2:将下列数字修约成两位有效位数

拟修约数值 修约值

-365  -36×10(特定时可写为-360)

-0.0365 -0.036

4 不许连续修约

4.1 拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按第3章规则连续修约。

例如:修约15.4546,修约间隔为1

正确的做法:

15.4546→15

不正确的做法:

15.4546→15.455→15.46→15.5→16

4.2 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。

4.2.1报出数值最右的非零数字为5时,应在数值后面加 “ (+) ” 或 “ (-) ” 或不加符号,以分别表明已进行过舍、进或未舍未进。

如:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50;16.50(-)表示实际值小于16.50,经修约进一成为16.50。

4.2.2 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按第3章规则进行。

例如:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。

实测值 报出值  修约值

15.4546 15.5(一)  15

16.5203 16.5(+)  17

17.5000 17.5 18

-15.4546 -(15.5(一))-15

5 0.5单位修约与0.2单位修约

必要时,可采用0.5单位修约和0.2单位修约。

5.1 0.5单位修约

将拟修约数值乘以2,按指定数位依第3章规则修约,所得数值再除以2。

如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5)

拟修约数值 乘2  2A修约值  A修约值

(A) (2A) (修约间隔为1) (修约间隔为0.5)

60.25 120.50 120 60.0

60.38 120.76 121 60.5

-60.75 -121.50 -122  -61.0

5.2 0.2单位修约

将拟修约数值乘以5,按指定数位依第3章规则修约,所得数值再除以5。

例如:将下列数字修约到 “ 百 ” 数位的0.2单位(或修约间隔为20)

拟修约数值 乘5  5A修约值 A修约值

(A) (5A) (修约间隔为100) (修约间隔为20)

830 4150 4200 840

842 4210 4200 840

-930  -4650 -4600  -920

2、 数值运算规则

⑴. 加减运算

应以各数中有效数字末位数的数位最高者为准(小数即以小数部分位数最少者为准),其他数均比该数向右多保留一位有效数字。

例:41.3X+3.012X+0.322X+0.0578X→41.3+3.01+0.32+0.06=44.69

⑵. 乘除运算

应以各数中有效数字最少者为准,其余数均多取一位有效数字,所得积或商也多取一位有效数字。

例:0.0122×26.52×1.06892中,因第一个数0.0122的有效数字位数最少(3位),因此,第二、第三个数的有效数字位数取4位,所得积也取4个有效数字,由此得:

0.0122×26.52×1.069=0.3459

⑶. 平方或开方运算

其结果可比原数多保留一位有效数字。

⑷. 对数运算

所取对数位数应与真数有效数字位数相等。

⑸. 查角度的三角函数

所用函数值的位数通常随角度误差的减少而增多,一般三角函数表选择如下

角度误差 表的位数

10″ 5

1″ 6

0.1″ 7

0.01″ 8

⑹.在所有计算式中,常数π、e的数值和因子√2 等有效数字位数,可认为无限制,需要几位就几位。

⑺.表示精度时,如量测某一试件面积,得其有效面积A=0.0501502m2,而其量测的极限误差δmin=0.000005m2。所以量测结果应当表示为A=(0.050150±0.000005)m2。误差的有效数字为一位,即5,所以表示精度一般取一位有效数字已足够,最多取两位有效数字。

编辑推荐:

试验员通用版考试题库

试验员考试快速取证全国通用


(责任编辑:)

2页,当前第1页  第一页  前一页  下一页
最近更新 考试动态 更多>