Jul 23, 2006

十進数の呪縛

ガチ理系の真髄に萌えろ!(本編)ウェブサイトは誰のもの?はてブのコメントその辺の自堕落ゲーマー日記1/3は0.333… 2/3は0.666… では3/3は0.999…でなくてなんで1になるんでしょうか。

リンクを辿った軌跡を見ると、スタートとゴールが全然脈絡無いのが、Webの面白いところだ。調べ物をしていたはずなのにいつの間にか辞書を読みふけってしまっている、という感覚に似ている。

それはさておき、最後の1÷3×3=0.333...×3=0.999...=1になることを分かりやすく解説した話は非常に面白いと思った。十進君と三進君の例え話のストーリーが秀逸だ。コンピュータは何でも二進数で処理しようとする二進君だから、十進君な我々との間で色々誤差が出てしまうんだなあ。

エントリを編集します。

wikieditish message: Ready to edit this entry.











拡張機能