星光澄海 | BLOG

可编辑对话记录:解决LLM上下文污染的新方案

17个测试用户里,超过八成更爱用能修改对话历史的LLM界面——这是爱尔兰QxLab团队在arXiv发布的一篇cs.AI论文里的受控实验结果。

老问题:LLM的对话记录是个“死序列”
现在主流LLM聊天系统的对话历史,都是按轮次顺序排列的不可变序列,相当于把所有交互内容钉死在那。但用户的需求从来不是静态的:可能刚才说错了地点,可能后来想换个品类,可能之前提过的限制被新情况推翻。这种“动态变化的用户意图”和“静态不变的对话记录”之间的 mismatch,就是论文定义的“上下文污染”——过时的、无关的信息会一直留存,持续干扰后续回复。比如你先问“北京哪家川菜馆靠谱”,后来改成“上海的”,旧的北京相关记录还在,LLM大概率会在回复里混进北京的选项。

新范式:把对话记录改成“可编辑状态”
QxLab提出的Mutable Transcripts,核心是把对话记录从“被动的历史存档”,变成“可编辑的对话状态”。用户不用重启对话,只要用自然语言提修改请求——比如直接说“把刚才问川菜馆的地点改成上海”,系统会直接更新之前的对话轮次,而不是只在后面追加新内容。团队还做了个叫ReChat的原型,把这种可编辑功能整合到标准聊天界面里,开源代码放在GitHub上,任何人都能查看。

实测反馈:用户更爱用,对话还能变短
团队的受控实验有17名参与者,结果很具体:在清晰度、回答信心、使用便捷度这三个核心指标上,大家对可编辑对话记录的偏好,明显高于标准聊天界面;想重启对话的意愿也更少。再看对话内容分析,用了可编辑功能后,不仅整体对话长度缩短了,那些没用的过时上下文也能被彻底清除,不会再干扰后续的交互。

现在大厂都在疯狂堆LLM的上下文窗口容量,动不动就搞百万Token级别的,要是先把对话历史改成能精准清理的状态,是不是比单纯堆Token更能解决实际使用里的上下文污染痛点?


素材来源:arXiv (LLM/多模态新论文) · AI情报、融资并购、科研前沿、消费级AI
查看报道原文

发表第一条评论吧

支持 Markdown