🔥 Search Hot Tweets

LLM 发展到今天, hallucination 已经不能准确的表达它错误生成的现象。 第一种， Hallucinate，幻觉。 LLM 不确定真相，但回答的动机是诚实的，只是事实错误。 第二种，Lie，谎言。 LLM知道真相，但要完成某种目的，故意误导，编造谎言。 第三种，Bullshit，胡扯。 LLM 根本不在乎真相是什么，对真相漠视，只是完成输出。 要理解这三种现象，看这三篇论文： 幻觉： Why Language Models Hallucinate 谎言： Can LLMs Lie? Investigation beyond Hallucination 胡扯： Machine Bullshit: Characterizing the Emergent Disregard for Truth in Large Language Models