문제 해결
오래된 대화 정보가 실제 작업으로 이어지는 문제
- 문제
- 결제 이후에도 모델이 결제 이전 상태로 답하거나, 카드 번호를 생산 배치 번호처럼 사용하는 사례가 있었습니다.
- 해결
- 서버가 거래·가공·생산 상태를 읽어 별도 시스템 메시지로 제공하고, 수량·금액·카드 제목은 서버 조회값으로 구성했습니다. 대화 답변과 진행 패널이 같은 서버의 남은 일 판정을 사용하도록 연결했습니다.
- 결과
- 모델의 기억 대신 서버 상태를 기준으로 다음 작업을 판단합니다. 실제 운영 환경의 오류율 감소 수치는 측정하지 않았습니다.
핵심 코드
저장소에서 그대로 발췌했습니다 · S15P21E104 · origin/backend/develop
실제 업무 상태를 두 번째 system 메시지로 — 턴을 시작할 때 서버가 읽은 거래·가공·생산 상태를 기본 프롬프트와 분리해 넣고, 그 뒤에 대화 이력을 붙입니다.
@Transactional(readOnly = true)
public TurnPrompt loadPrompt(Long conversationId, String liveState) {
AgentConversation conversation = load(conversationId);
List<LlmMessage> messages = new ArrayList<>();
messages.add(LlmMessage.system(promptBuilder.build(conversation)));
if (StringUtils.hasText(liveState)) {
messages.add(LlmMessage.system(liveState));
}
messages.addAll(store.toLlmMessages(store.history(conversationId)));
if (endsWithOwnWords(messages)) {
messages.add(LlmMessage.user(SCREEN_EVENT_NOTICE));
}
return new TurnPrompt(messages, registry.specs());
}관련 테스트
저장소의 테스트 메서드입니다
AgentEventStateTests.java1개
- 막힌 단계는 매 턴 시스템 프롬프트로 들어간다
