計算問題における有効数字と四捨五入の扱い

皆さまお疲れさまです。

前回に引き続き、二次試験に突入した方から質問をいただきましたので、今回も読者の方への回答を記事にしていきます。

今回は計算問題を解くときの有効数字処理についてのお話です。

それこそ、電験3種の頃から気になっていた方はいると思います。気になったことがある方は数学のセンスがありますね!

もちろん、気にならなかったらセンスが無いというわけではないですよ。

私が行う有効数字処理

例題をもとに、私の計算の仕方を書いていきます。

Q.電圧200Vの三相交流回路に10kWの負荷(遅れ力率0.9)が接続されている。なお、線路抵抗は一線あたり0.2$\Omega$とする。このとき以下の2つを求めよ。ただし、有効数字は3桁とする。
 (1)線電流$I[\mathrm{A}]$  (2)一線あたりの損失$P_{\mathrm{L}}[\mathrm{W}]$

A.
(1)
\begin{align}I&=\frac{P}{\sqrt{3}V\mathrm{con}\theta}\\
&=\frac{10\times 10^3}{1.7320 \times 200 \times 0.9}\\
&=32.075\\
&\fallingdotseq 32.1[\mathrm{A}]\\
\end{align}

(2)
\begin{align}P_{\mathrm{L}}&=I^2R\\
&=32.075^2\times 0.2\\
&=205.76\\
&\fallingdotseq 206 [\mathrm{W}]\\
\end{align}

というふうに私は有効数字処理をしています。

ここで、人によってやり方が変わってくるところとしては、

  1. $\sqrt{3}=1.7320$とするか、電卓を使って  3    √  と押してウィンドウいっぱいの数字を作るか。
  2. $32.075$と書くか、$32.07$と書くか。
  3. 例えば$32.075$としたときに、小数第4位を切り捨てるか、四捨五入するか。
  4. (2)で$P_{\mathrm{L}}$を計算するときに、$I=32.075\mathrm{A}$とするか、$I=32.1\mathrm{A}$とするか。

というところでしょうか。ちなみに私はすべて前者の方法で計算しています。

試験問題の注意事項を正とする

実は先程の例題は、電験1種二次試験と電験2種二次試験の問題冊子の冒頭にある『答案用紙記入上の重要事項及び注意事項』のある一部分です。

余談ですが、電験1種の注意事項には電験2種の注意事項に加えて、
『○計算問題の答は、簡略式を用いても算出できる場合もありますが、問題文中に明記がある場合を除き、簡略式は使用しないでください。
という文言があります。この文言があることで必ず精密式を使うことが義務付けられますので、1種の計算量は格段に跳ね上がります…

この注意事項を見る限り、先程挙げた4つのうち

2. $32.075$と書くか、$32.07$と書くか。
 →$32.075$と書く。

4. (2)で$P_{\mathrm{L}}$を計算するときに、$I=32.075\mathrm{A}$とするか、$I=32.1\mathrm{A}$とするか。
 →$I=32.075\mathrm{A}$とする。

ということは分かります。

ただし、13はこれだけでは分かりません。

ということでもう少し調べてみました。

ちなみに、4の後者で計算している問題集もあるにはある

どの参考書のどの問題までは言いませんが、どうやらあるようです。

例えば、$1.3249$に戻した値を使うか、四捨五入をした$1.33$を使うかでは、使う数値が

\begin{align}\frac{1.33-1.3249}{1.3249}\fallingdotseq 0.4\%\\ \end{align}

くらいずれてきます。どのくらい減点されるかわからないものの、試験センターの注意事項に沿わない計算をしているということで、少なからず減点はされると思います。

この分数の計算の有効数字処理には突っ込まないでください笑

我を通して減点をくらうくらいならそんなプライドは捨ててしまったほうが、1年を無駄にする可能性を減らせますね。

切り捨てではなく四捨五入ではいけない?

話の展開のしやすさから3を先に考察していきます。

3. 例えば$32.075$としたときに、小数第4位を切り捨てるか、四捨五入するか。

試験センターを正としたいので他に試験センターの情報が無いか考えてみたところ、標準解答に答えがありそうかと思い、調べてみました。

平成29年度の標準解答を見てみると……なんと、四捨五入していました\(^o^)/

まぁ、私のやり方が間違っていたとしても、本番では僅かな減点をくらうだけでしょうから、些細といえば些細なのですが、ちょっとびっくりです。でも、標準解答ではその後にも四捨五入をして有効数字3桁で答えを出しているので、なんか数学的に美しくないような気がします。

有効数字処理は微妙な数字を最終的に加工することであって、それを2段階に分けるようなことをするのは何か釈然としないというか…。切り捨てであれば、有効数字処理をする桁(今回であれば4桁目)に直接関わってこない部分を書くのを端折るということですから、リーズナブルな気がするんですけどね。

だから、2と4の部分がそうなっていることは自然と受け入れらたのですが…

2. $32.075$と書くか、$32.07$と書くか。
 →$32.075$と書く。

4. (2)で$P_{\mathrm{L}}$を計算するときに、$I=32.075\mathrm{A}$とするか、$I=32.1\mathrm{A}$とするか。
 →$I=32.075\mathrm{A}$とする。

まぁ、言ってても始まらないので、本当にそうなのか確証を得るために他の年度も調べてみました。

 
四捨五入
切り捨て
平成29年度
平成28年度
平成27年度
平成26年度
平成25年度

ん~??どちらでも良いということでしょうか?それとも解答作成者によって変わるくらい気にしていないことなのでしょうか??まさか混在しているとは…

こういったことから、答えの最小単位のところで1くらい違っていても減点対象にならないのではと推測されます。

採点基準を明らかにしていませんので、やはり確証が無いままであることはご了承下さい。

無理数の扱い

3. 例えば$32.075$としたときに、小数第4位を切り捨てるか、四捨五入するか。
 →どちらでも問題なさそう。

ということが分かりましたので、

1. $\sqrt{3}=1.7320$とするか、電卓を使って  3    √  と押してウィンドウいっぱいの数字を作るか。

についても、どちらでも良さそうということになります。

もう少し詳しく書くと、前者が3でいう切り捨てに相当して、後者ができるだけの真値に相当します。式の展開中に有効数字より2桁多いところで、(切り捨てるか四捨五入するかの)何らかの処理はしても良いということになっていますので、前者の切り捨てはしても問題なさそうです。

他方で、後者はできるだけ真値に近い数値を使っているので、減点のしようが無いと思います。

$\pi$の扱い

$\pi$も同様に5桁まで覚えて、$3.1415$を使えば問題なさそうです。

ただし、電験1種では有効数字5桁で計算するときがありますので、$\pi$を7桁まで覚えておく必要があります。

$3.141592$です。少し大変ですが覚えておきましょう。

そうすると、$\sqrt 3$も7桁まで覚える必要があるかと思うかもしれませんが、こっちは覚えておいても良いですし、覚えておかなくても良いです。なぜなら、電卓を使って  3    √  と押せば数値が分かるからです。

まとめ

と、この記事の骨子を考えている最中に何度も言いたくなりましたが、ぐっと堪えて少し真面目に考えてみました笑 それにしても試験センターを盲目的に正にするのは、本当に良いことなのでしょうかね。

有効数字処理の知見は全く無いのでこれ以上の考察は私には無理ですが、それこそ数学者が考えると別の結論になるかもしれません。

最後に、この記事での考察まとめを残しておきます。

1. $\sqrt{3}=1.7320$とするか、電卓を使って  3    √  と押してウィンドウいっぱいの数字を作るか。
 →どちらでも問題なさそう。

2. $32.075$と書くか、$32.07$と書くか。
 →$32.075$と書く。

3. 例えば$32.075$としたときに、小数第4位を切り捨てるか、四捨五入するか。
 →どちらでも問題なさそう。

4. (2)で$P_{\mathrm{L}}$を計算するときに、$I=32.075\mathrm{A}$とするか、$I=32.1\mathrm{A}$とするか。
 →$I=32.075\mathrm{A}$とする。

それでは次回!

コメント

  1. 恥ずかしいので今回は匿名で より:

    タイトルと全く関係なくて大変恐縮なのですが、
    問題のRが0.2というのは
    どうやって求めれば良いのでしょうか?

    • ケンタ より:

      >恥ずかしいので今回は匿名で さん
      コメントありがとうございます!

      よく問題文を見られていますね。
      私の打ち込み忘れでした笑

      ご指摘ありがとうございました!

  2. 八咫烏 より:

    ケンタ 様

    お世話になります。

    加減のみ、乗除のみでの有効数字の取り扱いは比較的簡単ですが、これらが混合した時の扱いには苦慮しています。

    ケンタ 様にはどのようにお取り扱いでしょうか。

    • ケンタ より:

      >八咫烏さん
      コメントありがとうございます!

      桁落ちのことでしようか?
      正確性をもって突き詰めるのは大変そうでしたので、敢えてこの記事から省いていたのですが笑

      そういうときは私は桁数を多く計算しています。