{ "cases": "lab02-challenge.json", "webhook": "my-helpdesk", "passed": 1, "total": 5, "results": [ { "case": "VPN · LLM 한 번 · 2.5초 안", "webhook": "my-helpdesk", "run": 1, "passed": false, "problems": [ "llm_calls = 2 (expected 1)" ], "seconds": 2.2, "status": 200, "request": { "question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?", "user": "이준호", "no_cache": true }, "response": { "route": "자동 답변", "category": "faq", "answer": "VPN 접속 오류가 발생하면 VPN 클라이언트를 최신 버전으로 업데이트하고 인증서 만료 여부를 확인한 후 다시 접속해 보시기 바랍니다. 추가 도움이 필요하시면 담당자에게 문의해 주시기 바랍니다.", "sources": [ "FAQ-003" ], "llm_calls": 2, "cached": false, "steps": [ "rule", "faq", "ticket", "answer", "review" ], "timings": { "data_ms": 33, "answer_ms": 1054, "review_ms": 1038, "total_ms": 2141 } } }, { "case": "비밀번호 · LLM 한 번", "webhook": "my-helpdesk", "run": 1, "passed": false, "problems": [ "llm_calls = 2 (expected 1)" ], "seconds": 2.0, "status": 200, "request": { "question": "비밀번호를 잊어버렸어요. 재설정은 어떻게 하나요?", "user": "한지훈", "no_cache": true }, "response": { "route": "자동 답변", "category": "faq", "answer": "사내 포털 로그인 화면의 '비밀번호 찾기'에서 휴대폰 인증 후 새 비밀번호를 설정하시면 됩니다. 추가 도움이 필요하시면 언제든 문의해 주시기 바랍니다.", "sources": [ "FAQ-001" ], "llm_calls": 2, "cached": false, "steps": [ "rule", "faq", "ticket", "answer", "review" ], "timings": { "data_ms": 72, "answer_ms": 943, "review_ms": 950, "total_ms": 1984 } } }, { "case": "접수 현황 · LLM 한 번", "webhook": "my-helpdesk", "run": 1, "passed": false, "problems": [ "llm_calls = 2 (expected 1)" ], "seconds": 2.3, "status": 200, "request": { "question": "T-1002 처리 상태 알려 주세요", "user": "박서연" }, "response": { "route": "자동 답변", "category": "ticket", "answer": "T-1002 티켓은 현재 \"처리 중\" 상태이며, 인증서 발급 승인 대기 중입니다. 완료 예정일은 10월 20일입니다. 추가 문의 사항이 있으시면 010-2718-2818로 연락해 주시기 바랍니다.", "sources": [], "llm_calls": 2, "cached": false, "steps": [ "rule", "faq", "ticket", "answer", "review" ], "timings": { "data_ms": 26, "answer_ms": 932, "review_ms": 1241, "total_ms": 2213 } } }, { "case": "규칙으로 모르면 분류 + 답 두 번", "webhook": "my-helpdesk", "run": 1, "passed": false, "problems": [ "llm_calls = 3 (expected 2)" ], "seconds": 2.8, "status": 200, "request": { "question": "회의실 화면 공유가 안 되는데 누구에게 물어보나요?", "user": "이준호", "no_cache": true }, "response": { "route": "자동 답변", "category": "faq", "answer": "죄송합니다만, 해당 정보를 찾지 못했습니다. 담당 직원이 곧 도움을 드리겠습니다. 감사합니다.", "sources": [], "llm_calls": 3, "cached": false, "steps": [ "rule", "classify", "faq", "ticket", "answer", "review" ], "timings": { "data_ms": 27, "classify_ms": 730, "answer_ms": 1041, "review_ms": 926, "total_ms": 2736 } } }, { "case": "빈 질문은 LLM 없이", "webhook": "my-helpdesk", "run": 1, "passed": true, "problems": [], "seconds": 0.0, "status": 400, "request": { "question": "", "user": "이준호" }, "response": { "error": "question is required" } } ] }