一個(gè)讓人困惑的公式bug [金字塔]
- 咨詢內(nèi)容：
a:IFN(open-low<=1*MINDIFF,0,1);
把如上公式使用在600004白云機(jī)場(chǎng)日線圖，觀看14年8月4日這一天日線下該指標(biāo)的顯示。
原本這一天的開(kāi)盤減去收盤是，7.44-7.43=0.01,0.01確實(shí)小于等于該股的最小波動(dòng)單位的，即0.01<=0.01的，所以a這個(gè)指標(biāo)線應(yīng)該是1（對(duì)應(yīng)8月4日這一天）但是奇怪的是在金字塔上實(shí)際那個(gè)位置是0.
這是為什么呢？請(qǐng)大家看看為什么 - 金字塔客服：
這個(gè)可能是數(shù)型的問(wèn)題，我不知道現(xiàn)在的編程語(yǔ)言是怎么樣的，我記得以前用“Fortran”寫程序時(shí)，只有“整型”數(shù)才可以用“=”進(jìn)行判斷，而實(shí)型數(shù)是不可以的。而實(shí)型數(shù)的相等判斷一般是用abs(a-b)<....來(lái)判斷。
- 用戶回復(fù)：
ROUNDS(dd,2);對(duì)open-l進(jìn)行小數(shù)點(diǎn)為精確,實(shí)際返回值的時(shí)候涉及浮點(diǎn)誤差,有小數(shù)點(diǎn)位影響
- 網(wǎng)友回復(fù)：
哦，感謝回復(fù)。
繼續(xù)請(qǐng)教，是不是a股的數(shù)據(jù)，其實(shí)并不是2位小數(shù)，而實(shí)際是小數(shù)點(diǎn)后三位？
- 網(wǎng)友回復(fù)：
計(jì)算機(jī)對(duì)浮點(diǎn)數(shù)的計(jì)算可能會(huì)存在小數(shù)點(diǎn)上的誤差，你要精確判斷的話用3樓的那個(gè)函數(shù)自己限制掉位數(shù)。
有思路，想編寫各種指標(biāo)公式，程序化交易模型，選股公式，預(yù)警公式的朋友
可聯(lián)系技術(shù)人員 QQ: 1145508240 進(jìn)行 有償 編寫！（不貴！點(diǎn)擊查看價(jià)格！）
相關(guān)文章
-
沒(méi)有相關(guān)內(nèi)容
會(huì)員登錄/注冊(cè)