아프니까 개발자다 아프니까 개발자다

시리즈 맥락 복기Step 5에서 루프가 자율적으로 시작되고 끝날 수 있게 됐습니다. 자율성이 높아질수록 "사람이 개입할 지점"을 잘 정해야 합니다. 너무 많이 개입하면 자동화의 의미가 없고, 너무 적게 개입하면 사고가 납니다. Step 6의 HITL(Human-in-the-Loop) 정책이 바로 이 균형을 설계하는 단계입니다.#0 ~ #5 (이전 단계)#6 HITL 정책 ← 이번 편#7 감사 로그#8 측정 + 회고이 단계의 의미 — HITL은 하네스의 '브레이크 강도' 설정Step 4의 Hook이 "비상 브레이크"였다면, Step 6의 HITL은 "브레이크 강도 조절"입니다. 어떤 명령은 묻지 않고 지나가고, 어떤 명령은 확인 후 지나가고, 어떤 명령은 아예 막습니다. 이 등급 체계를 코드로 구현한 것이..

191개 허용 목록을 관리하다 지쳤다AI 코딩 에이전트에게 터미널 명령 실행 권한을 주는 방식은 크게 두 가지입니다.화이트리스트: 허용한 명령만 실행. 나머지는 사용자에게 물어봄.블랙리스트: 전부 실행. 위험한 것만 차단.처음에는 당연히 화이트리스트를 선택했습니다. 안전하니까요. git *, python3 *, ls * 같은 패턴을 하나씩 추가했습니다.문제는 시간이 지나면서 드러났습니다.누적되는 일회성 항목에이전트가 새로운 명령을 실행하려 할 때마다 "이 명령을 허용하시겠습니까?" 프롬프트가 뜹니다. 허용하면 그 정확한 명령 문자열이 allow 목록에 추가됩니다. 그 결과:kill 44489 — 특정 PID를 죽이려 했던 일회성 명령cp /home/user/project/very/specific/path..

AI가 일을 대신 해준다면서, 왜 이렇게 자꾸 물어보는 거야?AI 에이전트 도구를 쓰다 보면 이런 경험 해보셨을 겁니다."파일 읽어도 될까요?""이 명령어 실행해도 될까요?""이 검색을 수행해도 될까요?"한두 번이야 괜찮죠. 그런데 작업 하나에 10번, 20번씩 물어보면 어떨까요? AI한테 일을 시킨 건데, 결국 내가 계속 "응, 해" 버튼을 눌러야 합니다. 이러면 자동화가 아니라 반자동화도 아닌, 그냥 승인 버튼 노가다입니다.이 문제의 핵심에 HITL(Human-in-the-Loop)이라는 개념이 있습니다. AI 에이전트가 자율적으로 작업하되, 적절한 순간에 사람의 판단을 받는 구조인데요. 여기서 "적절한 순간"을 잘 정의하는 것이 바로 HITL Policy입니다.HITL Policy란?HITL Pol..