반응형 AI에이전트3 AI가 만든 JSON이 계속 퇴짜맞을 때: LLM 호출을 75% 줄인 세 가지 처방 LLM 프로덕트 엔지니어링 AI가 만든 JSON이 계속 퇴짜맞을 때: LLM 호출을 75% 줄인 세 가지 처방 PydanticAI 구조화 출력 · 검증-재시도 루프 최적화 실측 기록 핵심 요약 자연어를 복잡한 트레이딩 전략 JSON으로 바꿔주는 AI 기능이, 간단한 요청 하나에 131초 · LLM 호출 8회를 쓰고 있었다. 범인은 모델이 아니라 검증 실패 → 전체 재생성(retry) 루프였다. 처방 세 가지: ① 프롬프트에 완전한 동작 예제 JSON(규칙 목록 10줄보다 효과적) ② 흔한 파라미터는 quick reference로 인라인(불필요한 도구 호출 제거) ③ 흔한 실수는 검증 전에 코드로 수리. 결과: LLM 호출 8회 → 2~3회, 토큰 66K → 13~26K.. 2026. 8. 23. 서브에이전트 위임의 기준 — 조직도가 아니라 작업 경계 AI 페어 프로그래밍 에이전트를 늘리면 개발이 빨라질까 서브에이전트 위임의 기준 — 조직도가 아니라 작업 경계 핵심 요약 멀티에이전트는 분명한 트렌드지만, "많이 띄울수록 좋다"는 입증된 적이 없다. 같은 연구 안에서도 독립적으로 쪼개지는 작업은 최대 +80.8%, 순차 의존이 강한 작업은 39~70% 악화됐다 — 성패를 가르는 건 에이전트 수가 아니라 작업의 구조다. 서브에이전트는 새로운 전문가가 아니다 — 부모의 대화도, 읽은 파일도 모르는 빈 컨텍스트에서 시작하는 임시 워커다. "20년 경력 전문가" 역할극은 전문성을 만들지 않는다. 위임 전 네 가지 게이트: 독립성 · 압축 가능성 · 검증 가능성 .. 2026. 7. 20. 하네스와 루프 — AI에게 일을 시키는 시스템 설계 AI 페어 프로그래밍 프롬프트를 고치지 말고 시스템을 고쳐라 하네스와 루프 — AI에게 일을 시키는 시스템 설계 핵심 요약 AI가 실수하면 가장 흔한 대응은 프롬프트에 지시 한 줄을 얹는 것이다. 더 오래가는 대응은 같은 실수가 다시 일어날 수 없게 주변 시스템을 고치는 것 — 요즘 이걸 하네스(harness) 엔지니어링이라 부른다. 하네스 = 행동 전에 방향을 잡아주는 가이드 + 행동 후에 잘못을 스스로 알게 하는 센서. 지침(프롬프트)은 확률적으로 유도할 뿐이고, lint·테스트·권한은 기계적으로 강제한다. "될 때까지 반복"은 자동화가 아니라 비용이 드는 낙관이다. 반복이 개선이 되려면 외부 증거(v.. 2026. 7. 20. 이전 1 다음 반응형
