短期記憶って何?
エージェントとのやり取りで、「さっき何を聞いたか」「前に何を決めたか」を覚えているのが短期記憶です。会話やツールの結果など一時的な情報をコンテキスト(文脈)に積み、毎回の返答が前の話につながるようにします。長期記憶と何が違う?
短期:いまのセッションだけセッションが終われば消えます。次に会っても「記憶喪失」状態で、前回の話は覚えていません。
長期:セッションをまたいで残る
大切な情報をデータベースやベクトルストアに保存し、次のセッションでも呼び出せます。
どう実現するのか
コンテキストウィンドウ一番直接的な方法。履歴をそのまま毎回の文脈に入れ、モデルに「前の内容」を見せます。
要約で圧縮
会話が長くなったら、前の部分を要約にまとめる。トークンを節約しつつ要点は残せます。
スライディングウィンドウ
直近のN件だけ残して古いものは捨てる。手軽ですが、より前の重要情報を忘れがちです。
価値と限界
短期記憶は会話の流れを保ち、複数ステップのタスクを完走させます。ただし容量に限りがあり、忘れやすく、セッションが切れればゼロ。セッションをまたぐ話は長期記憶の出番です。まとめ:短期記憶はエージェントの「作業台」。いま机の上にあるものは置けるけれど、仕事が終われば空になります。
コメント