long_term
-
로컬 챗봇 시리즈 #6 — LLM을 우회하는 슬래시 커맨드: 작은 모델의 메타 판단 한계를 사용자가 보완하는 채널IT 2026. 5. 8. 23:30
들어가며 — "기억해줘"가 작은 모델에서 흔들릴 때"내 가족 구성원의 생일은 5월 12일이야, 기억해줘"라고 챗봇에 말하면 ChatGPT는 알아서 long_term memory에 저장한다. 잘 동작할 때는 마법 같지만, 작은 모델은 "이건 메모리에 저장할 만한 사실이다"라는 메타 판단이 약해서 며칠 후 다시 물으면 모른다. 자동 메모리 도구(save_memory)는 호출 자체가 안 일어났을 가능성이 크다."모델을 더 똑똑하게 학습"하는 건 시간이 걸리는 길이고, "사용자가 명시적으로 신호를 보낼 채널"을 추가하는 건 즉시 가능한 길이다. 슬래시 커맨드 — /remember . 이번 글은 이 한 채널이 LLM 호출을 어떻게 우회하고, 왜 그 우회가 사용자 신뢰의 핵심인지 다룬다.1. 자동 추출의 두 가지 ..