169 lines
5.0 KiB
JSON
169 lines
5.0 KiB
JSON
{
|
|
"cases": "lab01-challenge.json",
|
|
"webhook": "my-cost",
|
|
"passed": 3,
|
|
"total": 4,
|
|
"results": [
|
|
{
|
|
"case": "기록 1 · VPN",
|
|
"webhook": "my-cost",
|
|
"run": 1,
|
|
"passed": true,
|
|
"problems": [],
|
|
"seconds": 3.5,
|
|
"status": 200,
|
|
"request": {
|
|
"question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?",
|
|
"user": "이준호"
|
|
},
|
|
"response": {
|
|
"route": "자동 답변",
|
|
"answer": "VPN 접속이 자주 끊길 경우, VPN 클라이언트를 최신 버전으로 업데이트하고 인증서 만료 여부를 IT 포털에서 확인하시기 바랍니다. 인증서는 만료 30일 전부터 재발급 신청이 가능합니다. 추가 도움이 필요하시면 IT 문의로 연락해 주십시오.",
|
|
"sources": [
|
|
"FAQ-003"
|
|
],
|
|
"llm_calls": 3,
|
|
"usage": {
|
|
"prompt_tokens": 1999,
|
|
"completion_tokens": 150,
|
|
"by_step": {
|
|
"classify": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 78,
|
|
"completion_tokens": 6,
|
|
"cost_usd": 4.08e-05
|
|
},
|
|
"answer": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 1781,
|
|
"completion_tokens": 78,
|
|
"cost_usd": 0.0008372
|
|
},
|
|
"review": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 140,
|
|
"completion_tokens": 66,
|
|
"cost_usd": 0.0001616
|
|
}
|
|
}
|
|
},
|
|
"cost_usd": 0.0010396
|
|
}
|
|
},
|
|
{
|
|
"case": "기록 2 · 접수",
|
|
"webhook": "my-cost",
|
|
"run": 1,
|
|
"passed": true,
|
|
"problems": [],
|
|
"seconds": 3.0,
|
|
"status": 200,
|
|
"request": {
|
|
"question": "T-1002 처리 상태 알려 주세요",
|
|
"user": "박서연"
|
|
},
|
|
"response": {
|
|
"route": "자동 답변",
|
|
"answer": "티켓 T-1002는 현재 인증서 발급 승인 대기 중이며, 10월 20일에 완료될 예정입니다. 추가 문의 사항이 있으시면 연락해 주시기 바랍니다.",
|
|
"sources": [],
|
|
"llm_calls": 3,
|
|
"usage": {
|
|
"prompt_tokens": 1973,
|
|
"completion_tokens": 98,
|
|
"by_step": {
|
|
"classify": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 71,
|
|
"completion_tokens": 6,
|
|
"cost_usd": 3.8e-05
|
|
},
|
|
"answer": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 1791,
|
|
"completion_tokens": 49,
|
|
"cost_usd": 0.0007948
|
|
},
|
|
"review": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 111,
|
|
"completion_tokens": 43,
|
|
"cost_usd": 0.0001132
|
|
}
|
|
}
|
|
},
|
|
"cost_usd": 0.000946
|
|
}
|
|
},
|
|
{
|
|
"case": "기록 3 · 다른 사람",
|
|
"webhook": "my-cost",
|
|
"run": 1,
|
|
"passed": true,
|
|
"problems": [],
|
|
"seconds": 3.4,
|
|
"status": 200,
|
|
"request": {
|
|
"question": "비밀번호를 잊어버렸어요. 재설정은 어떻게 하나요?",
|
|
"user": "한지훈"
|
|
},
|
|
"response": {
|
|
"route": "자동 답변",
|
|
"answer": "비밀번호 재설정은 사내 포털 로그인 화면의 '비밀번호 찾기'에서 휴대폰 인증 후 새 비밀번호를 설정하시면 됩니다. 추가 도움이 필요하시면 IT 문의로 연락해 주시기 바랍니다.",
|
|
"sources": [
|
|
"FAQ-001"
|
|
],
|
|
"llm_calls": 3,
|
|
"usage": {
|
|
"prompt_tokens": 1979,
|
|
"completion_tokens": 102,
|
|
"by_step": {
|
|
"classify": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 81,
|
|
"completion_tokens": 6,
|
|
"cost_usd": 4.2e-05
|
|
},
|
|
"answer": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 1789,
|
|
"completion_tokens": 47,
|
|
"cost_usd": 0.0007908
|
|
},
|
|
"review": {
|
|
"model": "gpt-4.1-mini",
|
|
"prompt_tokens": 109,
|
|
"completion_tokens": 49,
|
|
"cost_usd": 0.000122
|
|
}
|
|
}
|
|
},
|
|
"cost_usd": 0.0009548
|
|
}
|
|
},
|
|
{
|
|
"case": "사용량 요약 · 요청 3건",
|
|
"webhook": "http://localhost:8800/usage/summary",
|
|
"run": 1,
|
|
"passed": false,
|
|
"problems": [
|
|
"requests = 0 (expected 3)",
|
|
"cost_usd = 0.0 (expected 1e-06..0.05)",
|
|
"by_user has none of ['이준호', '박서연', '한지훈']",
|
|
"by_model has none of ['gpt-4.1-mini']"
|
|
],
|
|
"seconds": 0.0,
|
|
"status": 200,
|
|
"request": {},
|
|
"response": {
|
|
"requests": 0,
|
|
"calls": 0,
|
|
"prompt_tokens": 0,
|
|
"completion_tokens": 0,
|
|
"cost_usd": 0.0,
|
|
"by_model": {},
|
|
"by_user": {},
|
|
"by_route": {}
|
|
}
|
|
}
|
|
]
|
|
} |