"精度"标签问题

精度

关于 | 用户 | 新回答

1
投票
1回答
阅读 2K

c++ double数据的循环精度问题

double i; for(i=0;i<=1;i+=0.05) {cout<<i<<endl;} 这里为什么最后只输到i=0.95,为什么没输出1,。还有如果将判断条件改为i!=1,却是死循环!求解啊大侠们 ...
2
投票
1回答
阅读 3K

解释一个C++double值运算的一个问题

double X,Y; 其中X,Y分别是两个精度很高的值,也就是有效数字到了小数点后十几位; 现在对X ,Y进行一系列乘除运算,然后同样得出了一个精度很高的值 然后调用 像Idirect3d之类的 CreateDevice函数,再对X,Y ...