IDL

IDL中判断双精度变量是否EQ

0
分享 2016-06-06
在任何语言中,数据的精度问题都会存在。比如在IDL中,就存在以下现象。
IDL> a = 2.3 + 0.08
IDL> print, a
2.38000
IDL> print, a eq 2.38
0

IDL> a = 2.38
IDL> b = 2.38D
IDL> print, a eq b
0

查看了一些网上的搜索结果,大多数人的解决方法都是通过判断两者之差是否小于一个极小值,从而判断是否相等。
另附上一个简单解决方法:
其实在IDL里,可以通过把双精度变量转换成字符串类型,然后判断。
;这里的变量均为浮点型
IDL> a = 2.3 + 0.08
IDL> print, a eq 2.38
0
IDL> print, string(a) eq string(2.38)
1

;对于双精度
IDL> a = 2.3 + 0.08D
IDL> help, a
A DOUBLE = 2.3800000
IDL> print, string(a) eq string(2.38)
0
IDL> print, string(a) eq string(2.38D)
1
文章来源:http://blog.sina.com.cn/s/blog_764b1e9d01014d5q.html

0 个评论

要回复文章请先登录注册