在任何语言中,数据的精度问题都会存在。比如在IDL中,就存在以下现象。
IDL> a =
2.3 +
0.08
IDL>
print, a
2.38000
IDL>
print, a
eq 2.38
0
IDL> a = 2.38
IDL> b = 2.38D
IDL>
print, a
eq b
0
查看了一些网上的搜索结果,大多数人的解决方法都是通过判断两者之差是否小于一个极小值,从而判断是否相等。
另附上一个简单解决方法:
其实在IDL里,可以通过把双精度变量转换成字符串类型,然后判断。
;这里的变量均为浮点型
IDL> a =
2.3 +
0.08
IDL>
print, a
eq 2.38
0
IDL>
print,
string(a)
eq string(
2.38)
1
;对于双精度
IDL> a =
2.3 +
0.08D
IDL>
help, a
A DOUBLE = 2.3800000
IDL>
print,
string(a)
eq string(
2.38)
0
IDL>
print,
string(a)
eq string(
2.38D)
1
文章来源:http://blog.sina.com.cn/s/blog_764b1e9d01014d5q.html