计算机化工应用 课后习题答案 特别鸣谢 章奇明 材料支持 Work01 1
已知某化工管道的真实长度为1000m,某次测量结果为1001m,其测量的绝 对误差,相对误差为多少
答:绝对误差为1m,相对误差为0
已知e 的真实值为2
718281828459046···,取2
71828 作为e 的替代值时,具 有几位有效数字
71827 作为e 的替代值时,有几位有效数字
71828 具有 6 位有效数字
71828 < 0
000001828 < 0
5×10− 5,m-p=-5, m=1,所以p=6
71827具有5位有效数字,e − 2
71827 < 0
000011828 < 0
5×10− 4, m-p=-4,m=1,所以p=5
假定使用一台十进制计算机,它表示的浮点数具有7 位尾数和1 位指数,超 过计算机存储位数的数字均被舍去,试分别计算以下表达式的值,写出运算过程
1) 123456
3254 2) 3563
212/12
53221 答: 1) 123456
3254 = 0
1234567*106+0
1013254*103 = 0
1234567*106+0
0001013*106=0
1235580*106 2) 3563
212/12
53221=0
3563212*104/0
1253221*102=0
2843243*103 4
以下浮点数运算采用IEEE 双精度格式,eps 表示从1 到一个较大浮点数的距 离;试写出其计算结果并简要说明计算过程
1) 2+eps-2 2) 2-2+eps 3) 2
0e308-1
1e308 4)1
8e308+0
5e308) 5) 0/((1+1e-16)-1) 6) 1
8e308-1
8e308 7