- Search scored only the newest 5,000 matching records, so an old record behind enough newer chatter was never found. Both passes (word rarity counts and the score) now run in SQLite over every record in scope and only the best rows come back. - context() excluded the recent window from search and then cut that window for the budget, so a relevant recent record could vanish. Search now covers the recent window, matches keep their half of the budget, and a matched record is removed from the recent block so it appears once. - Matching used SQLite's ASCII-only lower() against Python's lowercasing. Stored text gets a folded column (NFKC + casefold) and query words are folded the same way, so case is ignored in every script. - Prompt label "Records related to this question" (matches may now be recent); eval re-run 3x on qwen2.5:7b, all pass. Spec, memory.md and roadmap updated. Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
3.8 KiB
3.8 KiB
이전 대화 참고 (대화 기억)
v1 코드는 최근 5분 대화 원문과, 과거 기록(일기 요약, 메모리 그래프)에서 관련 내용 3개만 가져옵니다(src/jarvis/config.py: dialogue_memory_timeout=300, memory_enrichment_max_results=3).
v2에서는 다음 두 가지를 전부 대화 기록 저장소(SQLite)에 남깁니다. 답할 때마다 지난 기록 전체에서 관련된 부분을 찾아 넣습니다.
- 음성 전사
- 등록한 채팅 채널(conversation.md)의 메시지
"전부 참고"의 실제 방식
몇 달 치 대화를 통째로 LLM에 넣지 않습니다. 모델이 한 번에 읽을 수 있는 양을 넘고, 넣는 양이 많을수록 첫 소리도 늦어지기 때문입니다.
그래서 전체 기록은 검색 대상으로 두고, 이번 질문과 관련된 부분과 최근 대화 원문만 골라 넣습니다. 오래된 대화는 요약본으로, 최근 대화는 원문으로 들어갑니다.
GUI 설정
| 설정 | 기본값 | 설명 |
|---|---|---|
| 참고 범위 | 전체 기간 | 끔 / 최근 N일 / 전체 기간 |
| 최근 대화 원문 | 최근 30분 또는 20턴 | 요약하지 않고 그대로 넣는 최근 대화의 양 |
| 과거 기록에서 가져올 개수 | 5개 | 1~20개. 관련도가 높은 순서로 가져옴 |
| 참고 분량 상한 | 약 4,000토큰 | 참고 내용 전체의 최대 길이. 화면에 "예상 추가 지연"을 같이 보여 줌 |
| 등록한 채팅 채널 참고 | 켜짐 | 켜짐 / 꺼짐 |
| 같은 음성 채널의 다른 사람 말 참고 | 켜짐 | 켜짐 / 꺼짐. 끄면 본인 기록(과 채팅 채널)만 참고 |
| 기록 보관 기간 | 무기한 | 기간이 지나면 자동 삭제. 데이터 화면에서 사람별 기록 보기·삭제 |
- 본인 기록: 그 사람이 음성·채팅으로 한 말과, 그에 대한 봇의 답입니다. 항상 참고합니다.
- 같은 음성 채널의 다른 사람 말: 질문한 사람이 같은 음성 채널에 함께 있던 동안 다른 사람이 한 말과, 그에 대한 봇의 답입니다. 질문한 사람이 없던 때의 대화는 넣지 않습니다.
- 채팅 채널: 등록한 채널의 메시지 전체입니다. 다른 사람이 쓴 글도 포함합니다.
숫자 기본값은 M0에서 맥락 길이별 첫 토큰 시간을 재서 확정합니다.
검색 방식 (M3, 2026-11-11)
저장소와 검색 규칙은 history.spec.md에 있습니다.
- 질문의 낱말이 기록에 들어 있는지로 찾습니다. 낱말 뒤쪽이 조금 달라도 찾습니다(앞부분이 60% 이상 같으면 됨, "영화를"로 "영화", "watching"으로 "watched"). 드문 낱말에 점수를 더 줍니다. 특정 언어의 낱말 목록은 쓰지 않습니다.
- 뜻으로 찾는 검색(임베딩)은 아직 넣지 않았습니다. Strata는 대화 모델만 돌려서 임베딩을 만들지 못하고, 넣으려면 음성 워커에 작은 다국어 임베딩 모델을 따로 둬야 합니다. 실제 대화에서 낱말 검색이 놓치는 경우가 보이면 그때 넣습니다.
- 참고 분량 상한 안에서 지난 기록은 절반까지만 씁니다. 최근 대화가 길어도 이번 질문과 관련된 기록이 밀려나지 않게 하기 위해서입니다.
- 최근 기록만 고르지 않고 전체 기간에서 관련도가 높은 기록을 고릅니다. 대소문자는 모든 문자에서 같게 봅니다("МОСКВА"로 "москва" 찾기). 최근 대화 안에 있는 관련 기록도 지난 기록 몫으로 지켜서, 분량 상한 때문에 빠지지 않습니다.
- 기록 10만 개에서 한 번 찾는 데 48~143ms, 두뇌에 넘길 내용을 만드는 데 36ms가 걸렸습니다(이 서버 기준, 10만 개 중 가장 오래된 기록도 찾음). LLM 호출 없이 SQLite만 읽는 시간입니다.