パターン 4: スタンドアローンメモリ（リアルタイム）

既存のチャットループはそのまま残します。各 LLM 呼び出しの直前にユーザー メッセージへ関連したコンテキストを Sonzai に問い合わせ、LLM の応答後に そのやり取りだけを session.turn() に提出します。ムードは ~300–500 ms で インラインに反映されます。より深い抽出 — ファクト、パーソナリティのドリフト、 習慣検出、ゴール更新 — は背景で 5〜15 秒かけて非同期に走ります。 Sonzai はあなたのツール実行を一切見ず、モデルも代わりに選びません。

チャットコンパニオン、音声エージェント、エージェントフレームワーク （OpenAI Agents SDK / LangChain / LiveKit）、そして Sonzai を採用する 前から本番稼働中だった LLM ループのある場面に最適です。

使うべき時

• カスタムツール、評価、プロンプトテンプレ、特定プロバイダなど、本番 稼働中の LLM ループがすでにある。
• ターンごとに新鮮なコンテキストが必要 — 会話の頭で 1 回引いて済ませたく ない。
• ムード・ファクト・パーソナリティ・習慣・ゴール・関係性のシグナルは 欲しいが、LLM 選択とツール実行の主導権は手放したくない。

切り替えるべき時

• 1 つの会話の中で .turn() のレイテンシを毎回待っていられない — パターン 5: スタンドアローン・バッチ に切り替え。
• Sonzai が LLM 呼び出しを所有してもよい — パターン 1: マネージドランタイム に切り替えて ほとんどのコードを削除できます。

アーキテクチャ

┌─────────────┐     ┌──────────────────┐     ┌──────────────┐
│  Your App   │     │   Sonzai API     │     │   Your LLM   │
└──────┬──────┘     └────────┬─────────┘     └──────┬───────┘
     │                     │                       │
     │  sessions.start     │                       │
     │────────────────────>│ (prewarms memory)     │
     │  <── Session ───────│                       │
     │                     │                       │
     │  ─── Per turn ──────────────────────────── │
     │                     │                       │
     │  session.context()  │                       │
     │────────────────────>│                       │
     │  <── enriched ctx ──│                       │
     │    personality, mood│                       │
     │    memories, goals  │                       │
     │                     │                       │
     │  Your LLM loop ─────┼──────────────────────>│
     │  + your tools       │                       │
     │  <── reply ─────────┼───────────────────────│
     │                     │                       │
     │  sendToUser(reply)  (no waiting on Sonzai)  │
     │                     │                       │
     │  session.turn()     │                       │
     │────────────────────>│ ⇒ sync mood ~300ms    │
     │  <── mood, status ──│ ⇒ background extract  │
     │                     │   (5–15s)             │
     │                     │                       │
     │  ─── Repeat ────────────────────────────── │
     │                     │                       │
     │  session.end()      │                       │
     │────────────────────>│── consolidate         │
     │                     │   long-term memory    │
     └─────────────────────┴───────────────────────┘

エンドツーエンドの例

最小構成のループ：セッションを開き、ターンごとにコンテキストを取得して LLM を呼び、やり取りを提出する。終了時にセッションをクローズします。

import { Sonzai } from "@sonzai-labs/agents";

const sonzai = new Sonzai({ apiKey: process.env.SONZAI_API_KEY! });

async function runConversation(agentId: string, userId: string) {
const sessionId = `session-${Date.now()}`;
const history: { role: string; content: string }[] = [];

// Session handle bundles agentId/userId/sessionId + provider/model
// defaults so you don't repeat them on every call.
const session = await sonzai.agents.sessions.start(agentId, {
  userId,
  sessionId,
  provider: "gemini",
  model:    "gemini-3.1-flash-lite-preview",
});

async function turn(userMessage: string): Promise<string> {
  // 1. Pull fresh, query-relevant context BEFORE the LLM call.
  const ctx = await session.context({ query: userMessage });

  // 2. Your LLM, your tools — Sonzai is OUT of the loop here.
  const reply = await yourLLM.chat({
    system:   buildSystemPrompt(ctx),
    messages: [...history, { role: "user", content: userMessage }],
  });

  sendToUser(reply.content);

  // 3. Submit the exchange. Sync mood ~300ms; deeper extraction
  //    (facts, personality, habits) runs asynchronously 5–15s later.
  await session.turn({
    messages: [
      { role: "user",      content: userMessage },
      { role: "assistant", content: reply.content },
    ],
  });

  history.push({ role: "user",      content: userMessage });
  history.push({ role: "assistant", content: reply.content });
  return reply.content;
}

return { turn, end: () => session.end() };
}

// /context returns a flat object — read what you need, drop the rest.
function buildSystemPrompt(ctx: any): string {
const facts = (ctx.loaded_facts ?? []).map((f: any) => `- ${f.atomic_text}`).join("\n");
return [
  ctx.personality_prompt ?? "You are a helpful AI companion.",
  `Personality (Big5): ${JSON.stringify(ctx.big5 ?? {})}`,
  `Current mood: ${JSON.stringify(ctx.current_mood ?? {})}`,
  facts ? `Relevant memories:\n${facts}` : "",
].filter(Boolean).join("\n\n");
}

次に読む