아프니까 개발자다 아프니까 개발자다

LLM을 붙여 무언가를 만들 때 가장 먼저 부딪히는 질문은 보통 이거다. "어떤 모델을 쓰지?" 자연스럽게 우리는 모델 이름들을 줄 세운다. 작고 빠른 모델, 중간 모델, 가장 똑똑한 모델. 그리고 작업이 어려워 보이면 큰 모델로, 단순해 보이면 작은 모델로 손이 간다. 마치 모델을 고르는 일이 곧 "얼마나 똑똑하게 풀까"를 정하는 일인 것처럼.그런데 최근 모델들은 이 한 줄 직관을 깨뜨린다. 같은 모델 안에서도 "얼마나 깊게 생각할지"를 따로 조절할 수 있게 됐기 때문이다. 이걸 흔히 추론 깊이(reasoning effort)라고 부른다 — 모델이 답을 내기 전에 속으로 얼마나 많은 단계를 거쳐 생각하느냐를 정하는 값이다. 같은 모델, 같은 질문이라도 추론 깊이를 낮게 주면 빠르고 싸게, 높게 주면 느..