一個讓人困惑的公式bug [金字塔]
- 咨詢內(nèi)容：
a:IFN(open-low<=1*MINDIFF,0,1);
把如上公式使用在600004白云機場日線圖，觀看14年8月4日這一天日線下該指標的顯示。
原本這一天的開盤減去收盤是，7.44-7.43=0.01,0.01確實小于等于該股的最小波動單位的，即0.01<=0.01的，所以a這個指標線應該是1（對應8月4日這一天）但是奇怪的是在金字塔上實際那個位置是0.
這是為什么呢？請大家看看為什么 - 金字塔客服：
這個可能是數(shù)型的問題，我不知道現(xiàn)在的編程語言是怎么樣的，我記得以前用“Fortran”寫程序時，只有“整型”數(shù)才可以用“=”進行判斷，而實型數(shù)是不可以的。而實型數(shù)的相等判斷一般是用abs(a-b)<....來判斷。
- 用戶回復：
ROUNDS(dd,2);對open-l進行小數(shù)點為精確,實際返回值的時候涉及浮點誤差,有小數(shù)點位影響
- 網(wǎng)友回復：
哦，感謝回復。
繼續(xù)請教，是不是a股的數(shù)據(jù)，其實并不是2位小數(shù)，而實際是小數(shù)點后三位？
- 網(wǎng)友回復：
計算機對浮點數(shù)的計算可能會存在小數(shù)點上的誤差，你要精確判斷的話用3樓的那個函數(shù)自己限制掉位數(shù)。
有思路，想編寫各種指標公式，程序化交易模型，選股公式，預警公式的朋友
可聯(lián)系技術(shù)人員 QQ: 1145508240 進行 有償 編寫！（不貴！點擊查看價格！）
相關(guān)文章
-
沒有相關(guān)內(nèi)容
會員登錄/注冊