当前位置:

二级计量师科目实务与案例考点数字修约规则

发表时间:2015/1/8 10:44:06 来源:互联网 点击关注微信:关注中大网校微信
关注公众号

数字修约规则

(1)通用的数字修约规则

通用的修约规则为:

--以保留数字的末位为单位,末位后的数字大于0.5者,末位进一;

--末位后的数字小于0.5者,末位不变(即舍弃末位后的数字);

--末位后的数字恰为0.5者,使末位为偶数(即当末位为奇数时,末位进一;

--当末位为偶数时,末位不变。

原则:“四舍六入,逢五取偶:

按通用规则数字修约举例:

uc=0.568mV,应写成uc=0.57mV或uc=0.6mV;

uc=0.561 mV ;应写成uc =0.56 mV ;

U=10.5nm,应写成U=10nm ;

U=10.5001nm,应写成U=11nm ;

U=11.5×10-5,取二位有效数字,应写成U=12×10-5;

取一位有效数字,应写成U=1×10-4;

U=1235687μA,取一位有效数字,应写成U=1×106μA=1A。

修约的注意事项:

--不可连续修约:

例如:

要将7.691499修约到四位有效数字,应一次修约为7.6915。

若采取7.691499   7.6915    7.692是不对的。

(2)为了保险起见,也可将不确定度的末位后的数字全都进位而不是舍去。

例如:

uc=10.27mΩ,报告时取二位有效数字,为保险起见可取uc=11 mΩ。

【案例】某计量检定员经测量得到被测量估计值为y=5012.53 mV,U=1.32mV,在报告时,她取不确定度为一位有效数字U=2 mV,测量结果为y土U=5013mV土2mV;核验员检查结果认为她把不确定度写错了,核验员认为不确定度取一位有效数字应该是U=1mV。

【案例分析】依据JJFl059-1999的规定:为了保险起见,可将不确定度的末位后的数字全都进位而不是舍去。该计量检定员采取保险的原则,给出测量不确定度和相应的测量结果是允许的,应该说她的处理是正确的。

而核验员采用通用的数据修约规则处理测量不确定度的有效数字也没有错。这种情况下应该尊重该检定员的意见。

编辑推荐:

二级计量师科目实务与案例考点最佳估计值的有效位数

二级计量师科目实务与案例考点实验标准偏差

(责任编辑:xy)

2页,当前第1页  第一页  前一页  下一页
最近更新 考试动态 更多>

近期直播

免费章节课

课程推荐

      • 注册计量师

        [考霸特训班]

        7大模块 准题库资料 校方服务

        1880起

        了解课程

        496人正在学习

      • 注册计量师

        [考霸通关班]

        5大模块 准题库资料 校方服务

        1280起

        了解课程

        615人正在学习

      各地资讯