mieki256's diary



2020/09/19() [n年前の日記]

#2 [lua] Luaでゼロを使った除算をした際の動作がよくわからないので確認した

Lua で、ゼロを使って除算(割り算)をした時の動作がよくわからなかったので、少し確認してみた。環境は、Windows10 x64 2004 + Lua 5.4.0。

以下のページが参考になった。ありがたや。

_lua-users wiki: Inf And Nan Comparisons

> lua -i
Lua 5.4.0  Copyright (C) 1994-2020 Lua.org, PUC-Rio

> 10/5
2.0

> 10/0
inf

> 0/10
0.0

> 0/0
nan

> a = 10/0
> a == math.huge
true
> a == -math.huge
false
> a > -math.huge and a < math.huge
false

> a = 0/0
> a ~= a
true
> a > -math.huge and a < math.huge
false


でもまあ、計算する前に、計算に使う各値が 0 かどうかをチェックして処理を分けたほうが楽かもしれない…。

以上です。

過去ログ表示

Prev - 2020/09 - Next
1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30

カテゴリで表示

検索機能は Namazu for hns で提供されています。(詳細指定/ヘルプ


注意: 現在使用の日記自動生成システムは Version 2.19.6 です。
公開されている日記自動生成システムは Version 2.19.5 です。

Powered by hns-2.19.6, HyperNikkiSystem Project