- src/jarvis/memory/history.py keeps voice transcripts, Jarvis's answers, registered chat channel messages (with edits and deletes) and voice channel presence in one SQLite file. Every read is scoped to the asker: own records always, chat channels and others' words (only while the asker was in the same voice channel) behind settings, plus an optional since and off. - Search is language-agnostic: Unicode words, prefixes keeping 60% of the word, rarer words weigh more, newer wins ties. 100k records search in 24-61 ms here. context() returns the recent window and the matches cut to a token budget, matches at most half so chatter cannot push out the record the question is about. - run_reply_engine(history=...) puts that context into the system prompt under "Information shared in previous conversations", fenced as data. evals/test_history_context_recall.py: with the block qwen2.5:7b answers the stored day in Korean and English (3 of 3 runs), without it the day is unknown. - Spec history.spec.md, registry entry in CLAUDE.md, reply.spec.md, docs/llm_contexts.md, docs/v2/memory.md and roadmap updated. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
3.5 KiB
3.5 KiB
이전 대화 참고 (대화 기억)
v1 코드는 최근 5분 대화 원문과, 과거 기록(일기 요약, 메모리 그래프)에서 관련 내용 3개만 가져옵니다(src/jarvis/config.py: dialogue_memory_timeout=300, memory_enrichment_max_results=3).
v2에서는 다음 두 가지를 전부 대화 기록 저장소(SQLite)에 남깁니다. 답할 때마다 지난 기록 전체에서 관련된 부분을 찾아 넣습니다.
- 음성 전사
- 등록한 채팅 채널(conversation.md)의 메시지
"전부 참고"의 실제 방식
몇 달 치 대화를 통째로 LLM에 넣지 않습니다. 모델이 한 번에 읽을 수 있는 양을 넘고, 넣는 양이 많을수록 첫 소리도 늦어지기 때문입니다.
그래서 전체 기록은 검색 대상으로 두고, 이번 질문과 관련된 부분과 최근 대화 원문만 골라 넣습니다. 오래된 대화는 요약본으로, 최근 대화는 원문으로 들어갑니다.
GUI 설정
| 설정 | 기본값 | 설명 |
|---|---|---|
| 참고 범위 | 전체 기간 | 끔 / 최근 N일 / 전체 기간 |
| 최근 대화 원문 | 최근 30분 또는 20턴 | 요약하지 않고 그대로 넣는 최근 대화의 양 |
| 과거 기록에서 가져올 개수 | 5개 | 1~20개. 관련도가 높은 순서로 가져옴 |
| 참고 분량 상한 | 약 4,000토큰 | 참고 내용 전체의 최대 길이. 화면에 "예상 추가 지연"을 같이 보여 줌 |
| 등록한 채팅 채널 참고 | 켜짐 | 켜짐 / 꺼짐 |
| 같은 음성 채널의 다른 사람 말 참고 | 켜짐 | 켜짐 / 꺼짐. 끄면 본인 기록(과 채팅 채널)만 참고 |
| 기록 보관 기간 | 무기한 | 기간이 지나면 자동 삭제. 데이터 화면에서 사람별 기록 보기·삭제 |
- 본인 기록: 그 사람이 음성·채팅으로 한 말과, 그에 대한 봇의 답입니다. 항상 참고합니다.
- 같은 음성 채널의 다른 사람 말: 질문한 사람이 같은 음성 채널에 함께 있던 동안 다른 사람이 한 말과, 그에 대한 봇의 답입니다. 질문한 사람이 없던 때의 대화는 넣지 않습니다.
- 채팅 채널: 등록한 채널의 메시지 전체입니다. 다른 사람이 쓴 글도 포함합니다.
숫자 기본값은 M0에서 맥락 길이별 첫 토큰 시간을 재서 확정합니다.
검색 방식 (M3, 2026-11-11)
저장소와 검색 규칙은 history.spec.md에 있습니다.
- 질문의 낱말이 기록에 들어 있는지로 찾습니다. 낱말 뒤쪽이 조금 달라도 찾습니다(앞부분이 60% 이상 같으면 됨, "영화를"로 "영화", "watching"으로 "watched"). 드문 낱말에 점수를 더 줍니다. 특정 언어의 낱말 목록은 쓰지 않습니다.
- 뜻으로 찾는 검색(임베딩)은 아직 넣지 않았습니다. Strata는 대화 모델만 돌려서 임베딩을 만들지 못하고, 넣으려면 음성 워커에 작은 다국어 임베딩 모델을 따로 둬야 합니다. 실제 대화에서 낱말 검색이 놓치는 경우가 보이면 그때 넣습니다.
- 참고 분량 상한 안에서 지난 기록은 절반까지만 씁니다. 최근 대화가 길어도 이번 질문과 관련된 기록이 밀려나지 않게 하기 위해서입니다.
- 기록 10만 개에서 한 번 찾는 데 24~61ms, 두뇌에 넘길 내용을 만드는 데 54ms가 걸렸습니다(이 서버 기준). 이 시간은 LLM 호출 없이 SQLite만 읽는 데 드는 시간입니다.