반응형 프롬프트엔지니어링2 AI가 만든 JSON이 계속 퇴짜맞을 때: LLM 호출을 75% 줄인 세 가지 처방 LLM 프로덕트 엔지니어링 AI가 만든 JSON이 계속 퇴짜맞을 때: LLM 호출을 75% 줄인 세 가지 처방 PydanticAI 구조화 출력 · 검증-재시도 루프 최적화 실측 기록 핵심 요약 자연어를 복잡한 트레이딩 전략 JSON으로 바꿔주는 AI 기능이, 간단한 요청 하나에 131초 · LLM 호출 8회를 쓰고 있었다. 범인은 모델이 아니라 검증 실패 → 전체 재생성(retry) 루프였다. 처방 세 가지: ① 프롬프트에 완전한 동작 예제 JSON(규칙 목록 10줄보다 효과적) ② 흔한 파라미터는 quick reference로 인라인(불필요한 도구 호출 제거) ③ 흔한 실수는 검증 전에 코드로 수리. 결과: LLM 호출 8회 → 2~3회, 토큰 66K → 13~26K.. 2026. 8. 23. 어제 고친 버그를 오늘 또 만드는 AI — 컨텍스트 엔지니어링 AI 페어 프로그래밍 어제 고친 버그를 오늘 또 만드는 AI 기억이 리셋되는 천재 동료와 일하는 법 (컨텍스트 엔지니어링) 핵심 요약 AI는 매일 아침 기억이 리셋되는 뛰어난 동료와 같다 — 어제 함께 알아낸 걸 오늘은 하나도 기억하지 못한다(구조적 한계). 하필 무는 건 코드만 봐선 모르는 비자명한 함정이라, "다음엔 코드를 다시 읽으면 되지"가 안 통한다 — 그 지식은 코드 안에 없다. 그래서 내가 그 동료의 외장 기억이 되어준다 — 비자명한 함정을 풀 때마다 한 줄 적고, 그 파일을 모든 새 세션에 자동 주입. 이게 컨텍스트 엔지니어링이다. "항상 로드"와 "조건부 로드"를 나눠 노이즈를 관리하는 것까지가 기술이다... 2026. 6. 13. 이전 1 다음 반응형
