共感で繋がるSNS
GRAVITY

投稿

ASHiTAKA

ASHiTAKA

コンピュータって実は小数の計算が出来ないんです。Excelをお持ちの方はこんなことをしてみてください。
ーーA列にすぐ上のセルに0.1を足す数式を、B列には直接0.1、0.2、0.3と数字を、C列にはその2つが一致しているかを調べる関数を入力します。
あとは下方にコピーしていくと、60行目あたりで2つの数が,不一致になるんですーー
これは昔からで、我が家にある40年前のパソコンで同じようにやっても途中で誤差が発生します。こんなにコンピュータが進化しても0.1の足し算すら出来ないなんて、なんか面白いですよね。
#Excel #エクセル #パソコン #昭和レトロ #数学
GRAVITY10
GRAVITY241

コメント

コージ

コージ

1 GRAVITY

うお〜[泣き笑い] めっちゃ懐かし〜[大笑い] これってPC6001ですよね! 凄いな〜まだ動いてるんだな〜 感動だな〜[泣き笑い]

返信
Neil

Neil

1 GRAVITY

よもやのPC6001とは…当時はまだZ80A搭載でしたか…懐かしい^^;

返信
猫缶

猫缶

1 GRAVITY

え!? 6001、まだ稼働しているものが!?

返信
はるま

はるま

1 GRAVITY

高校の情報でやったところだ(浮動小数点数しか覚えてないけど

返信
みぃにゃん🐈‍⬛✰⋆。:゚

みぃにゃん🐈‍⬛✰⋆。:゚

1 GRAVITY

ちんぷんかんぷん(ⅹ_ⅹ)w

返信
もっと見る
関連検索ワード

コンピュータって実は小数の計算が出来ないんです。Excelをお持ちの方はこんなことをしてみてください。