OpenAI API
-
OpenAI-compat 표준화로 어댑터 100줄 들어내기 — passthrough가 가져온 코드 청결도IT 2026. 5. 6. 22:40
들어가며 — 어댑터가 점점 무거워지는 신호홈서버에 6개의 자체 프로젝트(편의상 A~F)가 LLM을 부르고 있었다. 백엔드는 Ollama, 호출 방식은 프로젝트마다 미묘하게 달랐다.프로젝트 A·B: Ollama /api/chat 직접 호출 (Ollama-native JSON)프로젝트 C: 클라이언트로부터 OpenAI-compat을 받아 Ollama-native로 변환해 백엔드에 넘기는 어댑터 (양방향)프로젝트 D: ChatOllama 라이브러리프로젝트 E: requests로 Ollama 직접 호출프로젝트 F: 프로젝트 C를 경유vLLM으로 백엔드를 옮기면서 호출 방식을 모두 OpenAI-compat으로 표준화했다. 가장 흥미로운 결과는 프로젝트 C에서 일어났다 — OpenAI ↔ Ollama-native ..