整數(shù)運算,雙精度運算
作者:通達信 來源:cxh99.com 發(fā)布時間:2020年07月25日
-
咨詢內容:
經(jīng)過連日對TDX的FLOAT運算研究,最終發(fā)現(xiàn)其只能提供7位有效十進制數(shù)字,無論如何都不能傳遞4個字節(jié)應該能傳遞的10位有效數(shù)字。
TDX中甚至不能進行整數(shù)運算,只能進行FLOAT運算,非常差勁!
在C++中,找到了利用FLOAT傳送10位有效數(shù)字的方法,就是DWORD與FLOAT相互內存數(shù)據(jù)拷貝,但是由于TDX不能進行精確運算,所以無法使用該方法。
DWORD dw = 0;
float f1 = 0.25;
cout<<"f1 = "<<f1<<endl;
?來源:C X H 9 9 .C O M )
-
通達信技術部: