Files
javis_bot/docs/v2/memory.md
javis-bot 54a465948a feat(memory): v2 conversation history store and its context in the reply prompt
- src/jarvis/memory/history.py keeps voice transcripts, Jarvis's answers,
  registered chat channel messages (with edits and deletes) and voice channel
  presence in one SQLite file. Every read is scoped to the asker: own records
  always, chat channels and others' words (only while the asker was in the
  same voice channel) behind settings, plus an optional since and off.
- Search is language-agnostic: Unicode words, prefixes keeping 60% of the
  word, rarer words weigh more, newer wins ties. 100k records search in
  24-61 ms here. context() returns the recent window and the matches cut to a
  token budget, matches at most half so chatter cannot push out the record
  the question is about.
- run_reply_engine(history=...) puts that context into the system prompt
  under "Information shared in previous conversations", fenced as data.
  evals/test_history_context_recall.py: with the block qwen2.5:7b answers the
  stored day in Korean and English (3 of 3 runs), without it the day is unknown.
- Spec history.spec.md, registry entry in CLAUDE.md, reply.spec.md,
  docs/llm_contexts.md, docs/v2/memory.md and roadmap updated.

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-11-11 12:45:33 +09:00

3.5 KiB

이전 대화 참고 (대화 기억)

v1 코드는 최근 5분 대화 원문과, 과거 기록(일기 요약, 메모리 그래프)에서 관련 내용 3개만 가져옵니다(src/jarvis/config.py: dialogue_memory_timeout=300, memory_enrichment_max_results=3).

v2에서는 다음 두 가지를 전부 대화 기록 저장소(SQLite)에 남깁니다. 답할 때마다 지난 기록 전체에서 관련된 부분을 찾아 넣습니다.

"전부 참고"의 실제 방식

몇 달 치 대화를 통째로 LLM에 넣지 않습니다. 모델이 한 번에 읽을 수 있는 양을 넘고, 넣는 양이 많을수록 첫 소리도 늦어지기 때문입니다.

그래서 전체 기록은 검색 대상으로 두고, 이번 질문과 관련된 부분과 최근 대화 원문만 골라 넣습니다. 오래된 대화는 요약본으로, 최근 대화는 원문으로 들어갑니다.

GUI 설정

설정 기본값 설명
참고 범위 전체 기간 끔 / 최근 N일 / 전체 기간
최근 대화 원문 최근 30분 또는 20턴 요약하지 않고 그대로 넣는 최근 대화의 양
과거 기록에서 가져올 개수 5개 1~20개. 관련도가 높은 순서로 가져옴
참고 분량 상한 약 4,000토큰 참고 내용 전체의 최대 길이. 화면에 "예상 추가 지연"을 같이 보여 줌
등록한 채팅 채널 참고 켜짐 켜짐 / 꺼짐
같은 음성 채널의 다른 사람 말 참고 켜짐 켜짐 / 꺼짐. 끄면 본인 기록(과 채팅 채널)만 참고
기록 보관 기간 무기한 기간이 지나면 자동 삭제. 데이터 화면에서 사람별 기록 보기·삭제
  • 본인 기록: 그 사람이 음성·채팅으로 한 말과, 그에 대한 봇의 답입니다. 항상 참고합니다.
  • 같은 음성 채널의 다른 사람 말: 질문한 사람이 같은 음성 채널에 함께 있던 동안 다른 사람이 한 말과, 그에 대한 봇의 답입니다. 질문한 사람이 없던 때의 대화는 넣지 않습니다.
  • 채팅 채널: 등록한 채널의 메시지 전체입니다. 다른 사람이 쓴 글도 포함합니다.

숫자 기본값은 M0에서 맥락 길이별 첫 토큰 시간을 재서 확정합니다.

검색 방식 (M3, 2026-11-11)

저장소와 검색 규칙은 history.spec.md에 있습니다.

  • 질문의 낱말이 기록에 들어 있는지로 찾습니다. 낱말 뒤쪽이 조금 달라도 찾습니다(앞부분이 60% 이상 같으면 됨, "영화를"로 "영화", "watching"으로 "watched"). 드문 낱말에 점수를 더 줍니다. 특정 언어의 낱말 목록은 쓰지 않습니다.
  • 뜻으로 찾는 검색(임베딩)은 아직 넣지 않았습니다. Strata는 대화 모델만 돌려서 임베딩을 만들지 못하고, 넣으려면 음성 워커에 작은 다국어 임베딩 모델을 따로 둬야 합니다. 실제 대화에서 낱말 검색이 놓치는 경우가 보이면 그때 넣습니다.
  • 참고 분량 상한 안에서 지난 기록은 절반까지만 씁니다. 최근 대화가 길어도 이번 질문과 관련된 기록이 밀려나지 않게 하기 위해서입니다.
  • 기록 10만 개에서 한 번 찾는 데 24~61ms, 두뇌에 넘길 내용을 만드는 데 54ms가 걸렸습니다(이 서버 기준). 이 시간은 LLM 호출 없이 SQLite만 읽는 데 드는 시간입니다.