0.0000055を浮動小数点方式で表現
※仮数部は小数点第2位の小数とすること
答え: 0.55×10-5
0.000000001234を浮動小数点方式で表現
※仮数部は小数点第2位の小数とすること
答え: 12.34×10-10
456000000000000を浮動小数点方式で表現
※仮数部は小数点第2位の小数とすること
答え: 4.56 × 1014
(10÷7)×10000を計算
※小数点第2位までが有効桁数
※桁落ちを考えて計算すること
「(10÷7)×10000」の場合、「÷」と「×」の強さは同じなのですが、「10÷7」にカッコがついているので、「10÷7」を最初にして、その結果に「10000」をかけます。
「10÷7」の結果は、「1.428571428571...」と、小数部が無限に続きます。今回は、小数点第2位までが有効桁数なので、小数点第2位で桁落ちし、「10÷7」の結果は、「1.42」となります。
「10÷7」の結果である「1.42」に「10000」をかけると、結果は「14200」となります。
答え: 14200
10÷7×10000を計算
※小数点第2位までが有効桁数
※桁落ちの影響がなるべく少ないように計算すること
「10÷7×10000」の場合、「÷」と「×」の強さは同じなので、通常は、「10÷7」の結果に「10000」をかけることになります。
ですが今回は、桁落ちの影響をなるべく少なくするように計算します。そのためには、「10÷7」を先にすると、桁落ちの影響が大きくなってしまうので、「10×10000」の計算を先にして、その結果を「7」で割ります。「÷」と「×」の強さは同じなので、このように計算の順番を変えても、結果は同じになります。
そうすると、「10×10000」の結果である「100000」を「7」で割ることになるので、結果は「14285.71428571428571...」と、小数部が無限に続きます。今回は、小数点第2位までが有効桁数なので、小数点第2位で桁落ちし、「100000÷7」の結果は、「14285.71」となります。
答え: 14285.71
Copyright (C) Junko Shirogane, Tokyo Woman's Christian University 2018, All rights reserved.