五千年(敝帚自珍)

主题:【原创】 测试的故事 - 黑猩猩测试法、丢了几百万、布什先生很安全 -- 山而王

共:💬22 🌺54
分页树展主题 · 全看首页 上页
/ 2
下页 末页
            • 家园 要么说是瞎猜呢(兼回楼主)

              科学计数法说到底还是看有效数字。在32位机上,双精度数有17位有效数字。

              我说的程序其实包含三部分:

              。后台系统(即数据库)

              。前台程序

              。前后台交换数据的部分(包含数字和字符串的转换--假设用了SQL)

              因为明确提到了13位(而不是十几位),如果不是只作用于1000-9999之间的数字(假设是股价),那么最后一部分(交换数据)出错的可能最大--我觉得就是那个数字和字符串的转换有可能是4位(小数点前)加13位。

              我也不了解前台是什么语言编的,后台是何类型的数据库,还有系统如何,所以是瞎猜

              另外,小数点后13位,已经是十万亿级的了,还能做手脚,这帮搞金融的人脑子不知是咋长的--要是俺编那个程序,估计也就是用双精度数

          • 家园 地主肯定要栽巴菲大爷手里了。这个问题好象最后是DB里的科学计数法。
          • 家园 人家是鸳鸯蝴蝶派

            地主是猩猩鲨鱼派……

    • 家园 哈,兄弟原来是在AT&T占山而为王
分页树展主题 · 全看首页 上页
/ 2
下页 末页


有趣有益,互惠互利;开阔视野,博采众长。
虚拟的网络,真实的人。天南地北客,相逢皆朋友

Copyright © cchere 西西河