快科技8月27日消息，近日，《美國醫(yī)學(xué)會(huì)腫瘤學(xué)雜志》刊登的一篇研究報(bào)告指出，ChatGPT生成的癌癥治療方案漏洞百出，毫無參考意義。

據(jù)悉，該研究來自哈佛醫(yī)學(xué)院附屬的布里格姆婦女醫(yī)院，該醫(yī)院的研究人員發(fā)現(xiàn)，在ChatGPT回答的關(guān)于癌癥病例與其治療方案的回答中，有三分之一存在不正確信息。

更致命的是，這些錯(cuò)誤信息被ChatGPT與正確信息混雜在一起，導(dǎo)致用戶難以分辨到底哪些信息是準(zhǔn)確可靠的。

參與該研究的Danielle Bitterman博士稱，ChatGPT回答中，錯(cuò)誤信息與正確信息的混合程度相當(dāng)高，已經(jīng)達(dá)到了專家也難以發(fā)現(xiàn)問題的程度。

事實(shí)上，此前就曾有大量消息指出，目前的ChatGPT，或其他生成式人工智能，仍然存在給出強(qiáng)誤導(dǎo)性、或是完全錯(cuò)誤信息的情況。

對(duì)此，以O(shè)penAI為首的人工智能研發(fā)團(tuán)隊(duì)已經(jīng)表示，將在后續(xù)的開發(fā)中提高AI回答的可靠性，避免這樣類似幻覺”情況的出現(xiàn)。

此外，OpenAI已經(jīng)在使用條款中警告用戶，模型并非是為提供醫(yī)療信息設(shè)計(jì)，也不應(yīng)該被用于為嚴(yán)重的醫(yī)療狀況提供診斷或治療服務(wù)。