主题:【原创】 测试的故事 - 黑猩猩测试法、丢了几百万、布什先生很安全 -- 山而王
共:💬22 🌺54
科学计数法说到底还是看有效数字。在32位机上,双精度数有17位有效数字。
我说的程序其实包含三部分:
。后台系统(即数据库)
。前台程序
。前后台交换数据的部分(包含数字和字符串的转换--假设用了SQL)
因为明确提到了13位(而不是十几位),如果不是只作用于1000-9999之间的数字(假设是股价),那么最后一部分(交换数据)出错的可能最大--我觉得就是那个数字和字符串的转换有可能是4位(小数点前)加13位。
我也不了解前台是什么语言编的,后台是何类型的数据库,还有系统如何,所以是瞎猜
另外,小数点后13位,已经是十万亿级的了,还能做手脚,这帮搞金融的人脑子不知是咋长的--要是俺编那个程序,估计也就是用双精度数
- 相关回复 上下关系8
😁属于猩猩派,还是鲨鱼派? 2 李禾平 字0 2006-03-13 14:59:20
😄俺即是猩猩派,也是鲨鱼派 landlord 字304 2006-03-13 16:18:43
而且还是32位系统 1 北纬42度 字2 2006-03-13 19:29:59
要么说是瞎猜呢(兼回楼主)
地主肯定要栽巴菲大爷手里了。这个问题好象最后是DB里的科学计数法。 山而王 字0 2006-03-13 17:07:17
人家是鸳鸯蝴蝶派 1 肥肥烤猪 字20 2006-03-13 16:28:19
😄哈,兄弟原来是在AT&T占山而为王 1 ★★★ 字0 2006-03-13 14:25:22
😂偶老早就猜。。。 东湖珞珈 字144 2006-03-13 15:13:17