langfuse
-
n8n으로 로컬 AI 챗봇 오케스트레이션 이전하기 — 하루 종일 삽질한 실전 기록IT 2026. 4. 18. 21:00
코드 속에 갇힌 AI 에이전트로컬 서버에서 Gemma 4 모델을 vLLM으로 서빙하고, LangGraph로 ReAct 에이전트를 만들어 RAG 검색, 웹 검색, 캘린더, 메모리 저장 등 7개 도구를 연결해 쓰고 있었습니다. 코드로는 잘 돌아가지만 몇 가지 불만이 있었습니다.에이전트가 어떤 도구를 호출했는지 확인하려면 로그 파일을 grep해야 합니다시스템 프롬프트 한 줄 바꾸려면 Python 코드를 수정하고 서버를 재시작해야 합니다새 도구를 추가하려면 코드 작성 → 테스트 → 배포 사이클을 돌아야 합니다실행 흐름을 파악하려면 코드를 머릿속으로 따라가야 합니다이걸 해결할 방법을 찾다가 n8n을 떠올렸습니다. 이미 셋업은 해놨지만 실제로 AI 에이전트 워크플로우에 써본 적은 없었거든요.n8n이 뭔가요?n8n은..
-
LangGraph 에이전트에 Langfuse 붙이기 — LLM 앱의 블랙박스를 유리상자로IT 2026. 4. 16. 22:00
LLM 에이전트를 만들었다. 질문하면 답이 온다. 그런데 왜 그런 답을 했는지, 어디서 시간이 걸렸는지, 어떤 도구를 호출했는지 전혀 보이지 않는다. 에이전트는 블랙박스다. 이 블랙박스에 유리창을 달아주는 도구가 Langfuse다.Langfuse란 무엇인가Langfuse(Lang + Fuse)는 LLM 애플리케이션을 위한 오픈소스 관측성(observability) 플랫폼이다. 전기 퓨즈가 회로를 보호하고 모니터링하듯, LLM 앱 내부의 흐름을 추적하고 시각화한다.어떤 문제를 해결하는가LLM 앱은 전통적인 소프트웨어와 디버깅 방식이 다르다. 입력이 같아도 출력이 달라지고, 에이전트가 도구를 여러 번 호출하면서 내부 상태가 계속 바뀐다. 기존 로그만으로는 "에이전트가 왜 이런 판단을 내렸는지" 추적하기 어렵..