search

ValLaboratory / dokushokai

社内読書会リポジトリです
4 stars 0 forks source link

2015-11-04 Bグループ #201

Open takashiyamazaki opened 9 years ago

takashiyamazaki commented 9 years ago

鈴木(省)、望月、丸山

hmaruyama commented 9 years ago

そろばんの話： 江戸時代から存在する技術・・現代まで続く理にかなっているのがすごい！ ↑違うかも

hmaruyama commented 9 years ago

７つのランプで表現できる数の個数は、2の７乗

hmaruyama commented 9 years ago

＝１２８

hmaruyama commented 9 years ago

1983年のファミコンは８ビット！！

hmaruyama commented 9 years ago

すぐ超えちゃう

hmaruyama commented 9 years ago

３２ビットCPUを使っているのが多い現状

hmaruyama commented 9 years ago

１６進数はよく見るけど、８進法はあんまり見ない？

hmaruyama commented 9 years ago

メモリのアドレスを表すときに、１６進数を使うことが多い

hmaruyama commented 9 years ago

ここからが本番だ！

hmaruyama commented 9 years ago

有効数字３桁＝.000までは誤差がないよ！ それ以上の桁は誤差が生じる可能性があるよ！

hmaruyama commented 9 years ago

IEEE754は、「アイトリプルイー７５４」と読みます

hmaruyama commented 9 years ago

なぜ、0.3を１０回足しても３にならないのか？

hmaruyama commented 9 years ago

23ビットしかない。 無限にビットが存在すれば、きっちり計算することは可能だけど・・

hmaruyama commented 9 years ago

浮動小数点は、きっちり計算するのは苦手

hmaruyama commented 9 years ago

１０進法での計算とは！？

hmaruyama commented 9 years ago

きっと遅くなるよね

hmaruyama commented 9 years ago

Rubyで1.5と変数を定義すると、それはもう浮動小数点数！

hmaruyama commented 9 years ago

思わぬバグに繋がるので、理由がない場合は浮動小数点数は使わないほうがよい！

hmaruyama commented 9 years ago

浮動小数点ではなく、浮動小数点数

ssusan commented 9 years ago

浮動小数点数は主にシミュレーションとかの数値計算分野で使われるものという印象。

ssusan commented 9 years ago

有効数字3桁は、大きい方の桁から3桁目で丸められているという意味。 例) 1.2569 -> 1.26 (有効数字3桁)

hmaruyama commented 9 years ago

有効数字３桁と、有効数字２桁の数をかけ算すると、出てきた数の有効数字は何桁になる？ (有効数字３桁)1.25×(有効数字２桁)1.5=(有効数字??桁)1.875

正解：有効数字は２桁 理由：有効数字が小さい方に合わせる。・・・で、合っているのかな・・