多轮对话提示词策略

多轮对话的核心挑战

与单轮问答不同，多轮对话面临三个核心挑战：上下文窗口有限（即使是128K的模型，长对话也会逐渐超出窗口）、对话状态追踪（AI需要记住用户之前说过什么、做出了什么决定）、话题漂移管理（用户可能突然切换话题，AI需要灵活应对）。这些挑战叠加在一起，使得构建高质量的多轮对话系统比想象中困难得多。

很多人以为把历史消息全部拼接起来发给模型就能实现多轮对话。这在对话较短时确实有效，但随着对话增长，问题会逐渐暴露：token消耗线性增长、模型注意力被无关历史稀释、响应速度越来越慢、成本不断攀升。据统计，超过20轮的对话中，前5轮的信息对当前回复的贡献率不足5%，但它们消耗了超过60%的上下文token。

上下文窗口的精细管理

上下文窗口管理的核心原则是：不要把所有历史一股脑塞给模型，而是有策略地选择最有价值的上下文。常见策略包括：滑动窗口（只保留最近N轮对话）、关键信息摘要（将早期对话压缩为摘要）、混合策略（近N轮保留原文，更早的用摘要替代）。

滑动窗口策略实现简单但会丢失早期关键信息——比如用户在第1轮说了自己的预算，第15轮问推荐方案时AI已经忘记了预算。摘要策略可以保留关键信息但可能丢失细节。最佳实践是二者的结合：对超过阈值的历史进行摘要压缩，保留最近10轮的完整原文，同时在摘要中重点保留用户画像、关键决策、待办事项等结构性信息。

from openai import OpenAI

client = OpenAI(api_key="your-deepseek-api-key", base_url="https://api.deepseek.com")

class ContextManager:
    def __init__(self, max_raw_turns=8, max_total_tokens=8000):
        self.max_raw_turns = max_raw_turns
        self.summary = ""
        self.raw_history = []
        self.user_profile = {}

    def add_turn(self, role, content):
        self.raw_history.append({"role": role, "content": content})
        if role == "user":
            self._update_profile(content)
        if len(self.raw_history) > self.max_raw_turns * 2:
            self._compress()

    def _update_profile(self, content):
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"从用户消息提取关键信息JSON: {preferences:[],constraints:[],decisions:[]}"},
                      {"role":"user","content":content}], temperature=0.1)

    def _compress(self):
        old_turns = self.raw_history[:-self.max_raw_turns*2]
        self.raw_history = self.raw_history[-self.max_raw_turns*2:]
        history_text = "\n".join(f"{t['role']}: {t['content'][:200]}" for t in old_turns)
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"压缩为100字摘要，保留用户需求、决定、待解决问题"},
                      {"role":"user","content":history_text}], temperature=0.1)
        self.summary = response.choices[0].message.content

    def build_messages(self, system_prompt):
        msgs = [{"role":"system","content":system_prompt}]
        if self.summary:
            msgs.append({"role":"system","content":f"【历史摘要】{self.summary}\n【用户画像】{self.user_profile}"})
        msgs.extend(self.raw_history)
        return msgs

ctx = ContextManager(max_raw_turns=6)
ctx.add_turn("user","我想买一台预算5000左右的笔记本电脑，主要用于编程")
ctx.add_turn("assistant","好的，5000元预算的编程笔记本推荐ThinkBook 14+...")
msgs = ctx.build_messages("你是一位电脑导购专家。")

对话状态追踪

对话状态追踪（Dialogue State Tracking, DST）是多轮对话系统的核心组件。它的任务是维护一个结构化的对话状态——包括用户的意图、已提供的槽位信息（如出发地、目的地、日期）、对话所处的阶段等。好的状态追踪让AI始终知道对话进行到哪了。

实现DST有多种方式：最简单的是在system prompt中维护一个状态块，每轮都更新；中等复杂度的是用JSON结构存储状态，通过Function Calling更新；最复杂但最可靠的是在代码层面维护状态机，根据状态决定提示词策略。对于大多数应用，JSON状态块的方式在效果和复杂度之间取得了很好的平衡。

class DialogueStateTracker:
    def __init__(self):
        self.state = {"phase":"greeting","intent":None,"slots":{},"missing_slots":[],"turn_count":0}

    def update(self, user_msg, asst_msg):
        self.state["turn_count"] += 1
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":f"你是对话状态追踪器。\n当前状态：{self.state}\n用户：{user_msg}\n助手：{asst_msg}\n输出更新JSON。phase: greeting/info_collection/recommendation/confirmation/completed"}],
            temperature=0.1)
        # self.state = json.loads(response.choices[0].message.content)

tracker = DialogueStateTracker()
tracker.update("我要订机票","好的，请问从哪里出发？")
tracker.update("从北京到上海","请问出发日期是？")

话题切换与漂移处理

现实对话中用户经常突然切换话题——"对了，顺便问一下……""不说这个了，我们聊聊……"。AI需要优雅地处理这种话题切换，同时不丢失之前的上下文。关键策略包括：识别切换意图（是临时问一句还是永久切换）、保留旧话题状态（以便用户切回来时能接上）、确认切换（对于重要话题切换，先确认"您想先处理XX问题，还是YY问题？"）。话题切换检测可以通过模型判断或规则匹配实现。简单规则：检测切换关键词（"对了""换个话题""不说这个了"），配合语义相似度计算（当前消息与上一轮的语义距离突然增大）。

长期记忆与个性化

跨会话的记忆是多轮对话的终极挑战。用户今天聊了一段，明天回来继续聊——AI还能记住吗？这需要持久化的用户记忆系统。常见的实现方案：基于向量的语义记忆（将每次对话编码为向量存入数据库，新对话时检索最相关的历史）、结构化画像（提取并存储用户的偏好、习惯、重要决策）、会话摘要链（每次会话结束后自动生成摘要并存档）。

class LongTermMemory:
    def __init__(self):
        self.sessions = {}
        self.user_profile = {"preferences":{},"expertise_level":"unknown","common_topics":[],"interaction_style":"unknown"}

    def summarize_session(self, session_id, messages):
        dialogue = "\n".join(f"{m['role']}: {m['content'][:300]}" for m in messages)
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"提取对话关键信息：1.用户目标 2.达成的结论 3.未解决的问题 4.用户偏好。150字以内。"},
                      {"role":"user","content":dialogue}])
        self.sessions[session_id] = response.choices[0].message.content

    def recall_relevant(self, current_query):
        relevant = [f"会话{sid}: {summary}" for sid, summary in list(self.sessions.items())[-5:]]
        return "\n".join(relevant) if relevant else "无相关历史"

memory = LongTermMemory()
memory.summarize_session("s001",[{"role":"user","content":"帮我分析竞品A定价策略"},{"role":"assistant","content":"竞品A采用三级定价..."}])

成本优化的三角权衡

多轮对话系统面临"质量-成本-延迟"的不可能三角：想提高质量就得多传上下文（增加成本和延迟），想降低成本就得压缩上下文（可能降低质量），想降低延迟就得简化处理（同样影响质量）。在实际项目中，需要根据业务场景在这三者之间找到最优平衡点。对于客服系统：延迟比成本更重要但上下文管理可以激进一些；对于AI辅导系统：质量最重要，成本可以适当放宽；对于娱乐聊天机器人：成本最重要，可以使用激进的压缩策略。

生产环境部署清单

• 上下文上限保护：设置硬性的token上限（如不超过模型上下文的70%），防止超出窗口导致截断或报错。
• 对话超时与清理：设置会话超时时间（如30分钟无活动自动结束），清理僵尸会话释放内存。
• 并发会话隔离：确保不同用户的会话状态完全隔离，不要因为内存共享导致信息泄露。
• 降级策略：当某轮对话模型返回异常时（如超长输出、格式错误），有fallback机制保证对话不中断。
• 监控与告警：监控平均对话轮数、用户满意度、异常退出率等关键指标。