整數(shù)運算，雙精度運算
作者：通達(dá)信 來源：cxh99.com 發(fā)布時間：2020年07月25日
-
咨詢內(nèi)容：
經(jīng)過連日對TDX的FLOAT運算研究，最終發(fā)現(xiàn)其只能提供7位有效十進(jìn)制數(shù)字，無論如何都不能傳遞4個字節(jié)應(yīng)該能傳遞的10位有效數(shù)字。
TDX中甚至不能進(jìn)行整數(shù)運算，只能進(jìn)行FLOAT運算，非常差勁！
在C++中，找到了利用FLOAT傳送10位有效數(shù)字的方法，就是DWORD與FLOAT相互內(nèi)存數(shù)據(jù)拷貝，但是由于TDX不能進(jìn)行精確運算，所以無法使用該方法。
DWORD dw = 0;
float f1 = 0.25;
cout<<"f1 = "<<f1<<endl;
?來源:C X H 9 9 .C O M ）
-
通達(dá)信技術(shù)部：
打印本文
關(guān)閉窗口