🔥 Search Hot Tweets

Double Shot | LLM Persona, role play 两篇喜欢的文章，一起看。 “you are a helpful assistant”，这种烙印般的persona，会让 LLM 时刻想回到乐于助人的状态，而无法稳定地长期的保持其他的人格状态。 Paper 1: 模型因为对齐得太好，而无法扮演反派角色。 Paper 2: 模型随着时间推移，会慢慢忘记最初角色设定，而回到帮手状态。 在漏洞检测时，我们需要红队人格。 在金融博弈中，我们需要套利钻营人格。 并不是所有情景，都需要 helpful assistant。