整數運算,雙精度運算
作者:通達信 來源:cxh99.com 發布時間:2020年07月25日
-
咨詢內容:
經過連日對TDX的FLOAT運算研究,最終發現其只能提供7位有效十進制數字,無論如何都不能傳遞4個字節應該能傳遞的10位有效數字。
TDX中甚至不能進行整數運算,只能進行FLOAT運算,非常差勁!
在C++中,找到了利用FLOAT傳送10位有效數字的方法,就是DWORD與FLOAT相互內存數據拷貝,但是由于TDX不能進行精確運算,所以無法使用該方法。
DWORD dw = 0;
float f1 = 0.25;
cout<<"f1 = "<<f1<<endl;
?來源:C X H 9 9 .C O M )
-
通達信技術部: