jinbay無料で相談する

AIエンジニアの面接対策

会話履歴と記憶の設計|「前の話を覚えている AI」をどう作るかの面接対策

LLM のチャットで、長い会話や数日前のやり取りをどう扱うか。会話履歴の切り詰めと要約、長期の記憶の保存と取り出し、削除の扱いまで、システム設計面接の流れで解説します。

更新日 2026年11月16日 / 書いた人 上田 英介(ジンベイ株式会社 代表取締役/職業紹介責任者)

LLM 自体は、前の会話を覚えていません。毎回の呼び出しで、必要な過去のやり取りを入力に含めて渡しているだけです。そのため「前の話を覚えているように見せる」には、何を残し、何を捨て、いつ取り出すかを設計する必要があります。

この記事では、業務アシスタントを題材に、会話履歴と長期の記憶の設計を解説します。

問題の例

社内の業務アシスタントを作っている。利用者は1日に何度も話しかけ、1つの会話が100往復を超えることもある。「先週お願いした資料の件」のように、過去の会話を前提にした依頼にも答えたい。会話履歴と記憶をどう設計しますか。

1. まず聞き返す

聞くことなぜ聞くか
1つの会話の長さの分布履歴をそのまま渡せるか、切り詰めが要るか
会話をまたいで覚えておくべき情報は何か好みや役割か、進行中の作業か、過去の結論か
利用者が記憶を見たり消したりできる必要があるか記憶を利用者に見える形で持つかどうか
保存してよい期間と、個人情報の扱い削除の仕組みと保存の場所
複数人で共有する会話があるか記憶の持ち主を誰にするか

「何を覚えておくべきか」は用途によって大きく違います。ここを聞かずに「全部ベクトル DB に入れます」と答えると、評価は伸びません。

2. 全体の構成

記憶を3つに分けて考えると、整理しやすくなります。

種類中身保存の場所と期間
会話の中の履歴今の会話のやり取り会話ごとに保存。入力に入る範囲に収める
作業の状態進行中の依頼、決まったこと、確認待ちの事項構造化したデータとして、作業が終わるまで
長期の記憶利用者の役割や好み、過去の結論利用者ごとに保存。期間と削除の方法を決める

会話の中の履歴

会話が長くなると、入力の上限(コンテキストの長さ)を超えるか、超えなくても費用と応答時間が増えます。対策は段階的に考えます。

  1. 直近の数往復はそのまま残す:今話している内容は、言い回しまで必要になる
  2. 古い部分は要約に置き換える:一定の長さを超えたら、古いやり取りを要約して1つのまとまりにする
  3. ツールの結果は短くする:検索結果や API の応答は大きいので、使い終わったら要点だけ残す

要約には、決まったことや数値、固有名詞が落ちやすいという弱点があります。このため、大事な事項は要約の文章ではなく、次の「作業の状態」として別に持つのが安全です。費用への影響はLLM アプリの費用と応答時間で扱っています。

作業の状態

「どの資料の、どの版を作っているか」「誰の承認待ちか」は、文章ではなく、項目の決まったデータとして保存します。毎回の入力で、この状態を履歴とは別の欄として渡します。こうすると、会話が要約されても、数日空いても、作業を正しく再開できます。

長期の記憶

会話をまたいで覚えておく情報は、次の流れで扱います。

  1. 書き込み:会話の終わりなどに、覚えておく価値のある事実を LLM に抜き出させる(「利用者は経理部で、月末に請求書の処理をしている」など)
  2. 整理:既にある記憶と重複・矛盾していないかを確かめ、古い記憶を更新する
  3. 取り出し:新しい会話の始まりや、過去の話題に触れたときに、関連する記憶を検索して入力に加える

取り出しには、ベクトル検索と、日付や話題での絞り込みを組み合わせます。「先週の件」のように時間で指す依頼が多いので、日付の情報は必ず持たせます。検索の精度の上げ方は検索の精度を上げるが参考になります。

3. 深掘りの質問と答え方

「間違った記憶が残り続けて、毎回間違えます」

記憶に、いつ、どの会話から作られたかを残しておき、利用者が一覧で見て消せるようにします。新しい情報と矛盾したら、新しいほうで上書きする規則にします。記憶を書き込むときに確信の低いものは保存しない、という基準も持たせます。

「利用者から、自分の記憶を全部消してほしいと言われました」

長期の記憶だけでなく、会話の履歴、要約、検索用のベクトル、ログ、回答の使い回し用の保存まで、どこに利用者のデータがあるかを一覧にしておく必要があります。利用者 ID で一括して消せる作りにしておく、と答えます。

「他の人の記憶が混ざることはありませんか」

記憶の検索は、必ず利用者 ID で絞り込みます。チームで共有する会話がある場合は、個人の記憶とチームの記憶を分けて保存します。権限の考え方は権限とデータの分離で解説しています。

「長いコンテキストを扱えるモデルなら、全部渡せばよいのでは」

技術的に入る場合でも、費用と応答時間が増えます。また、長い入力の途中にある情報は見落とされやすいという報告もあります。必要な情報を選んで渡すほうが、品質と費用の両方で有利なことが多い、と答えます。

面接官が見ていること

  • 記憶を種類に分けて、それぞれに合った保存の仕方を選べるか
  • 要約で情報が落ちる弱点を分かっていて、状態を別に持つ工夫ができるか
  • 削除、誤った記憶の修正、他人との分離まで考えているか

フロントエンドやモバイルの経験がある人は、状態管理の考え方がそのまま活きます。画面の状態をどこに持つかを設計した経験を、ここにつなげて話すと伝わりやすくなります。

まとめ

会話の記憶は、今の会話の履歴、作業の状態、長期の記憶の3つに分けて設計します。履歴は直近を残して古い部分を要約し、大事な事項は状態として別に持ち、長期の記憶は利用者が見て消せる形で保存する。この流れで話せれば、十分な答えになります。面接で自分の経験をどう結び付けるか迷ったら、ジンベイにご相談ください。

あわせて読みたい