#Grok
-
揭AI答題易出現「幻覺」原因 OpenAI：模型評分機制鼓勵猜測
|文教科技開發ChatGPT的OpenAI近期發布文章指出，大型語言模型容易產生「AI幻覺」，原因是目前評估模型表現的機制，會間接鼓勵模型對問題做出「猜測」行為，而非直接承認不知道答案。文章作者指出，要解決這種「幻覺」，必須改變模型評分機制，除了獎勵回答準確的答案外，也要給予誠實棄權、表達不確定的模型計分。
