閉じる
表示設定
目次
コンピュータに扱える数値には範囲があります。数値計算のプログラムを実行したとき正しい答えが表示されない場合があります。
コンピュータに扱える数値には範囲があります。
コンピュータで
数値計算のプログラムを実行したとき正しい答えが表示されない場合があります。
マックス 「よーし、 こんどは+、-、*、/の４つを
使った四則演算をしてみよう
（ *は掛け算を
/は割り算を あらわします。）
これはどうだ。
#include <stdio.h>
int main(void)
{
printf("%d\n",(10000 + 888100-555) * 100000/ 55);
return 0;
}
マックス「コンパイル！。」
プログラムの実行結果
（EAZY IDECの場合）
（Visual Studio2018の場合）
（Visual Studio2019の場合）
-7996603
マックス 「むっむむ 電卓で計算すると
(10000 + 888100-555) * 100000/ 55)の計算結果は
1631900000
のはず？
なにがおこっている？
おーまいがー まいアプリ
どうなっているんだ？」
ぶーにゃん
「改良をくわえてマイクロソフトに売りにいくにゃん。」
ソーラー 「これは なに がおこっているんでしょうか？」
マックス「な～にぃぃぃ～」
てんＣ 「コンピューターはデリケートですね。」
ぶーにゃん 「ソーラーはこういうデリケートなのがすきにゃん。」
ソーラー 「ぽっ」
ソーラー 「とりあえず
この計算式の中の数値を
全てもっと簡単な数値にしてみましょう。」
printf("%d\n",(100 + 100-50) * 100/ 5);
ソーラー 「これで、どうだっ
コンパイル」
3000
続行するには何かキーを押してください＿
C:\Users\solar\source\repos\Project2\Debug\Project2.exe (プロセス 11420) は、コード 0 で終了しました。
このウィンドウを閉じるには、任意のキーを押してください...
マックス
「いそいで電卓で計算するんだ。」
ソーラー 「はい 答えは・・・
マックス 大丈夫ですよ。」
「ふう、 これくらい単純な計算だと大丈夫か。」
ソーラー
「どうも数値の桁数が大きくなるとまちがいがでるようですね。
パソコンのアクセサリの電卓は扱う数値がおおきくても
異常がでませんが。ふふ」
てんＣ 「ふしぎですね・・・」
ぶーにゃん 「こんな情報をみつけたにゃんよー
int, long は整数型のいれもの
扱える範囲 ３２ビットの場合 -2147483648〜2147483647
整数値を出力するにはprintf文中で%d出力変換指定子をつかう」
てんＣ
「全然、わかりません。」
ソーラー「む～～～～
int, longの型 は整数値のいれもの
か・・・」
マックス「
int
long
は整数値の入れ物なのか？」
ソーラー 「
🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋🍋
これをみておもったんですが
もしかしたらコンピュータに扱える数値には範囲が
あるんじゃないでしょうか？
たとえば -2147483648〜2147483647
の数値ならとりあつかえるとか・・・」
「それで桁数の大きい数値では
コンピュータは
その数値をとりあつかえず
計算できなかったので
正しい答えをprintf出力表示
できなかったと・・・」
「よーし それなら実験してみよう。
もし-2147483648〜2147483647の値しか
コンピュータがあつかえないなら
・・・・・・
これがコマンドプロンプト画面に表示できるかな？
これ、これ
🍓1000000000000000000000さん🍓
いらっしゃい。
ためしに1000000000000000000000をprintf出力表示してみよう。
ちょっとたのしみだ。」
ハートをクリックで、簡単に応援の気持ちを伝えられます。（ログインが必要です）
応援したユーザーはいません
応援する
アカウントをお持ちの方はログイン
カクヨムで可能な読書体験をくわしく知る
機能をオンにすると、画面の下部をタップする度に自動的にスクロールして読み進められます。
カクヨムに登録すると作者に思いを届けられます。ぜひ応援してください。
新規ユーザー登録（無料）
カクヨムに登録して、気になる小説の更新を逃さずチェック！
カクヨムに登録して、お気に入り作者の活動を追いかけよう！
応援すると応援コメントも書けます