云风的 BLOG: double to int 神奇的 magic number

前段时间写过一篇 blog: _ftol 的优化。今天在读 lua 5.1 的 source 的时候，发现一个更加有趣的技巧。把 double 转成 int 居然可以这样的简单。

union luai_Cast { double l_d; long l_l; };
#define lua_number2int(i,d)  { volatile union luai_Cast u; \
   u.l_d = (d) + 6755399441055744.0; (i) = u.l_l; }

这个宏神奇的在正数和负数的双精度浮点数时都可以正确工作，以四舍五入方式转换为 32 位整数。

这个数字是 1.5*2^52 :) 小于 2^31 的数字在和这个magic number 相加的时候，按浮点加法的规则（以科学计数法记数），和一定按幂大的一个对齐。而 1.5 是2进制的 1.1 在浮点标准中，小数点前的 1 是不需要记录的。这样，double 的前四字节就被空出来。而需要转换的整数将因为加法恰当的被置入对应的位置。

这个技巧并不总是适用，比如初始化 D3D9 以后，就会失效。因为 D3d 默认会调整浮点运算的精度。在低精度模式下，这个技巧显然不能工作。关于这一点的讨论可以参考MSDN 上的一个帖子

Comments

Very good site. Thank you:-)
http://www.draze.com/search/?search=site%3Anadia.greatnow.com+Alprazolam&type=web&mix=il&eid=3 Buy Alprazolam Online

Posted by: Buy Alprazolam Online | (11) January 7, 2008 04:40 PM

Posted by: Buy Alprazolam Online | (10) January 7, 2008 04:39 PM

赞，如果早点看到这帖，就可以省掉半天的debug。

Posted by: Zwinger | (9) March 16, 2006 09:39 AM

试了一下,好. 还不太懂原理.

发现两点:(Mingw-gcc3.4.2 Win2K)
1. 不能正确舍入
2. double位数不能太大.

1234567890.4
double: 1234567890.400000 int: 1234567890
1234567890.5
double: 1234567890.500000 int: 1234567890
1234567890.6
double: 1234567890.600000 int: 1234567891

123456789012345
double: 123456789012345.000000 int: -2045911175
12345678901234
double: 12345678901234.000000 int: 1942892530

Posted by: sods | (8) March 1, 2006 02:12 PM

今天发现这个技巧在 d3d 下不能用，郁闷了一把。好在 d3d 设备初始化时可以选择控制对浮点状态寄存器的行为。

Posted by: Cloud | (7) February 28, 2006 12:19 AM