整數(shù)運算，雙精度運算
作者：通達信 來源：cxh99.com 發(fā)布時間：2020年07月25日
-
咨詢內容：
經(jīng)過連日對TDX的FLOAT運算研究，最終發(fā)現(xiàn)其只能提供7位有效十進制數(shù)字，無論如何都不能傳遞4個字節(jié)應該能傳遞的10位有效數(shù)字。
TDX中甚至不能進行整數(shù)運算，只能進行FLOAT運算，非常差勁！
在C++中，找到了利用FLOAT傳送10位有效數(shù)字的方法，就是DWORD與FLOAT相互內存數(shù)據(jù)拷貝，但是由于TDX不能進行精確運算，所以無法使用該方法。
DWORD dw = 0;
float f1 = 0.25;
cout<<"f1 = "<<f1<<endl;
?來源:C X H 9 9 .C O M ）
-
通達信技術部：
打印本文
關閉窗口