数字修约规则
(1)通用的数字修约规则
通用的修约规则为:
--以保留数字的末位为单位,末位后的数字大于0.5者,末位进一;
--末位后的数字小于0.5者,末位不变(即舍弃末位后的数字);
--末位后的数字恰为0.5者,使末位为偶数(即当末位为奇数时,末位进一;
--当末位为偶数时,末位不变。
原则:“四舍六入,逢五取偶:
按通用规则数字修约举例:
uc=0.568mV,应写成uc=0.57mV或uc=0.6mV;
uc=0.561 mV ;应写成uc =0.56 mV ;
U=10.5nm,应写成U=10nm ;
U=10.5001nm,应写成U=11nm ;
U=11.5×10-5,取二位有效数字,应写成U=12×10-5;
取一位有效数字,应写成U=1×10-4;
U=1235687μA,取一位有效数字,应写成U=1×106μA=1A。
修约的注意事项:
--不可连续修约:
例如:
要将7.691499修约到四位有效数字,应一次修约为7.6915。
若采取7.691499 7.6915 7.692是不对的。
(2)为了保险起见,也可将不确定度的末位后的数字全都进位而不是舍去。
例如:
uc=10.27mΩ,报告时取二位有效数字,为保险起见可取uc=11 mΩ。
【案例】某计量检定员经测量得到被测量估计值为y=5012.53 mV,U=1.32mV,在报告时,她取不确定度为一位有效数字U=2 mV,测量结果为y土U=5013mV土2mV;核验员检查结果认为她把不确定度写错了,核验员认为不确定度取一位有效数字应该是U=1mV。
【案例分析】依据JJFl059-1999的规定:为了保险起见,可将不确定度的末位后的数字全都进位而不是舍去。该计量检定员采取保险的原则,给出测量不确定度和相应的测量结果是允许的,应该说她的处理是正确的。
而核验员采用通用的数据修约规则处理测量不确定度的有效数字也没有错。这种情况下应该尊重该检定员的意见。

编辑推荐:
(责任编辑:xy)