コンピュータに扱える数値には範囲があります その7 897545*100000を正しく計算することはできませんでした。

マックス 「それにしても


          "897545*100000がただしく計算"


できていないとは・・・問題が根本的すぎる・・・


まさか


コンピュータが この計算をうまくできていないとは・・・」



ソーラー 「さすがに これはすぐにはわかりませんでした。


もしかしたら


この計算 897545*100000 を


もともとC言語が処理できない仕組みなのかもしれません。


さらにサイト、


本をよみすすめていく必要があります。」


ソーラー 「でも よかったこともあります。


あまり桁数のおおい


数値を計算するプログラムを作製すると


正しく数値計算が行われない可能性が


あるということ。」


てんC「897545*100000を計算すると


-7996603のようなおかしな計算結果がでるときは


そのような計算897545*100000をプログラムにくみこまないこと。」


マックス


「すごい成果じゃないか。 なんとなくとはいえ


適用限界をしっていることは


すごいことなんじゃないか。おれは素人だが・・・」


ぶーにゃん 「だいじょうぶ、マックスはちゃんと


前にすすんでいるにゃん。」


ソーラー 「そうですよ。 普通の人はこんなこと


知りもしませんよっと(笑)」



ソーラー 「統合開発環境Visual Studioと統合開発環境EAZY IDECで


同じ計算結果がでているんだね。


違いがでてくるかな?


と思ったけど


統合開発環境Visual Studioと

統合開発環境EAZY IDECでは


ここは同じ計算システムになっている


(コンパイラがソースコードを同じ機械語プログラムに翻訳しているため


計算結果も同じになるというわけです)


みたいだね。


面白いね



ともに897545*100000が正しく計算できないとは・・・


                             」


ぶーにゃん 「そうにゃ~ん、ごろごろ」


嬉しそうにのどをならすぶーにゃん。


てんC


「あっ ぶーにゃんさん、かわいいですね。」


マックス。「よし、すこしだけ進んだか


なかなかおもしろかったな。


もっと先をめざすぞ。燃えてきたぜぇ。」


コンピュータに扱える数値には範囲があります その8へ


お話は続きます


  • Twitterで共有
  • Facebookで共有
  • はてなブックマークでブックマーク

作者を応援しよう!

ハートをクリックで、簡単に応援の気持ちを伝えられます。(ログインが必要です)

応援したユーザー

応援すると応援コメントも書けます

新規登録で充実の読書を

マイページ
読書の状況から作品を自動で分類して簡単に管理できる
小説の未読話数がひと目でわかり前回の続きから読める
フォローしたユーザーの活動を追える
通知
小説の更新や作者の新作の情報を受け取れる
閲覧履歴
以前読んだ小説が一覧で見つけやすい
新規ユーザー登録無料

アカウントをお持ちの方はログイン

カクヨムで可能な読書体験をくわしく知る