研究人員發現使用“根據”這個詞可減少 AI 幻覺
本文概要:
1. 研究人員通過添加兩個詞來減少大型語言模型中的幻覺。
2. 這種簡單的技術可以提高答案的準確性。
3. 該技術對于較大的指令調整模型最為有效。
微新創想（idea2003.com）8月4日 消息:約翰·霍普金斯大學的研究人員發現了一種簡單的技術，可以減少大型語言模型（LLM） 中的幻覺并提高答案的準確性。通過在查詢中添加“根據”，LLM更有可能引用觀察到的文本并提供事實信息，而不是捏造答案。
他們使用 QUIP 分數指標對語言模型的回答進行審查，發現當在查詢中加入“根據維基百科……”等基礎提示時，引用信息的準確性可以提高5-15%。這種技術尤其在較大的指令調整模型中表現出色。
研究人員指出，通過使用基礎提示詞，大型語言模型更有可能引用觀察到的文本并提供真實的事實信息，而不是虛構的答案。
這一發現有助于提高人工智能系統的可信度和準確性，并減少系統產生虛假信息的情況。然而，研究人員也指出，這種技術在不同的語言模型和應用場景中可能會有所不同，需要進一步的研究和優化。
總體而言，這項研究為改進語言模型的質量和可靠性提供了一個簡單有效的方法。
