マルチターン対話プロンプト戦略

多輪対話の核心的な課題

単発のQ&Aとは異なり、多輪対話には3つの核心的な課題があります：コンテキストウィンドウの制限（128Kのモデルでも、長い会話は徐々にウィンドウを超える）、対話状態の追跡（AIはユーザーが以前に何を言ったか、どのような決定をしたかを覚えておく必要がある）、話題の逸脱管理（ユーザーが突然話題を変える可能性があり、AIは柔軟に対応する必要がある）。これらの課題が重なり合い、高品質な多輪対話システムの構築は想像以上に困難です。

多くの人は、過去のメッセージをすべて連結してモデルに送れば多輪対話が実現できると思っています。これは対話が短い場合には確かに有効ですが、対話が長くなるにつれて問題が徐々に顕在化します：トークン消費が線形に増加し、モデルの注意力が無関係な履歴によって薄まり、応答速度が遅くなり、コストが上昇し続けます。統計によると、20輪を超える対話では、最初の5輪の情報が現在の応答への貢献度は5%未満ですが、それらはコンテキストトークンの60%以上を消費します。

コンテキストウィンドウの細かい管理

コンテキストウィンドウ管理の核心的な原則は、すべての履歴を一度にモデルに詰め込むのではなく、最も価値のあるコンテキストを戦略的に選択することです。一般的な戦略には、スライディングウィンドウ（直近のN輪のみ保持）、キー情報の要約（初期の対話を要約に圧縮）、ハイブリッド戦略（直近のN輪は原文を保持し、それ以前は要約で置き換える）があります。

スライディングウィンドウ戦略は実装が簡単ですが、初期の重要な情報を失います。例えば、ユーザーが1輪目で予算を述べた場合、15輪目で推薦を求めたときにはAIは予算を忘れています。要約戦略は重要な情報を保持できますが、詳細を失う可能性があります。最良の実践は両者の組み合わせです：閾値を超えた履歴は要約に圧縮し、直近の10輪は完全な原文を保持し、要約にはユーザープロファイル、重要な決定、未完了のタスクなどの構造化情報を重点的に保持します。

from openai import OpenAI

client = OpenAI(api_key="your-deepseek-api-key", base_url="https://api.deepseek.com")

class ContextManager:
    def __init__(self, max_raw_turns=8, max_total_tokens=8000):
        self.max_raw_turns = max_raw_turns
        self.summary = ""
        self.raw_history = []
        self.user_profile = {}

    def add_turn(self, role, content):
        self.raw_history.append({"role": role, "content": content})
        if role == "user":
            self._update_profile(content)
        if len(self.raw_history) > self.max_raw_turns * 2:
            self._compress()

    def _update_profile(self, content):
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"ユーザーメッセージからキー情報をJSONで抽出: {preferences:[],constraints:[],decisions:[]}"},
                      {"role":"user","content":content}], temperature=0.1)

    def _compress(self):
        old_turns = self.raw_history[:-self.max_raw_turns*2]
        self.raw_history = self.raw_history[-self.max_raw_turns*2:]
        history_text = "\n".join(f"{t['role']}: {t['content'][:200]}" for t in old_turns)
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"100字の要約に圧縮し、ユーザーのニーズ、決定、未解決の問題を保持"},
                      {"role":"user","content":history_text}], temperature=0.1)
        self.summary = response.choices[0].message.content

    def build_messages(self, system_prompt):
        msgs = [{"role":"system","content":system_prompt}]
        if self.summary:
            msgs.append({"role":"system","content":f"【履歴要約】{self.summary}\n【ユーザープロファイル】{self.user_profile}"})
        msgs.extend(self.raw_history)
        return msgs

ctx = ContextManager(max_raw_turns=6)
ctx.add_turn("user","予算5000円程度のノートパソコンを買いたい、主にプログラミング用")
ctx.add_turn("assistant","はい、5000円のプログラミング用ノートPCならThinkBook 14+をお勧めします...")
msgs = ctx.build_messages("あなたはコンピュータ購入の専門家です。")

対話状態の追跡

対話状態追跡（Dialogue State Tracking, DST）は、多輪対話システムの核心的なコンポーネントです。そのタスクは、構造化された対話状態を維持することです。これには、ユーザーの意図、提供されたスロット情報（出発地、目的地、日付など）、対話の現在の段階が含まれます。優れた状態追跡により、AIは常に会話がどこまで進んでいるかを把握できます。

DSTを実装する方法はいくつかあります：最も簡単なのは、system promptに状態ブロックを維持し、毎回更新する方法です。中程度の複雑さは、JSON構造で状態を保存し、Function Callingで更新する方法です。最も複雑ですが最も信頼性が高いのは、コードレベルで状態機械を維持し、状態に応じてプロンプト戦略を決定する方法です。ほとんどのアプリケーションでは、JSON状態ブロックの方法が効果と複雑さのバランスが取れています。

class DialogueStateTracker:
    def __init__(self):
        self.state = {"phase":"greeting","intent":None,"slots":{},"missing_slots":[],"turn_count":0}

    def update(self, user_msg, asst_msg):
        self.state["turn_count"] += 1
        response = client.chat.completions.create(
   

class LongTermMemory:
    def __init__(self):
        self.sessions = {}
        self.user_profile = {"preferences":{},"expertise_level":"unknown","common_topics":[],"interaction_style":"unknown"}

    def summarize_session(self, session_id, messages):
        dialogue = "\n".join(f"{m['role']}: {m['content'][:300]}" for m in messages)
        response = client.chat.completions.create(
            model="deepseek-chat",
            messages=[{"role":"system","content":"対話から重要な情報を抽出：1.ユーザーの目標 2.到達した結論 3.未解決の問題 4.ユーザーの好み。150文字以内。"},
                      {"role":"user","content":dialogue}])
        self.sessions[session_id] = response.choices[0].message.content

    def recall_relevant(self, current_query):
        relevant = [f"セッション{sid}: {summary}" for sid, summary in list(self.sessions.items())[-5:]]
        return "\n".join(relevant) if relevant else "関連する履歴なし"

memory = LongTermMemory()
memory.summarize_session("s001",[{"role":"user","content":"競合他社Aの価格戦略を分析して"},{"role":"assistant","content":"競合他社Aは3段階の価格設定を採用..."}])