74일차 정답 공개 (LAB-A · VIBE-A · answers · tver), Lab 03 예제 3 이해하기 보강

Co-Authored-By: Claude Opus 5.5 <noreply@anthropic.com>
2026-10-28 20:43:38 +09:00
1 parent 2ae33432a9
commit d663d045e3
@@ -0,0 +1,257 @@
+$ uv run tools/flow.py push answers/74-lab02-challenge2-broken.json
+! unpublished '74 IT helpdesk + release API (reference)' (w2caac7c1a6981b8): it used the same webhook path
+✔ pushed '74 IT helpdesk + broken release check (answer)' (id w86d00ad9781296e)
+   POST http://localhost:5678/webhook/my-helpdesk
+
+$ uv run tools/flow.py test cases/lab02-challenge2.json -v
+✔ before: POST http://localhost:8800/releases/helpdesk/reset · HTTP 200 · 0.0s · {"name": "helpdesk", "active": "1.0.0", "canary": null, "require_gate": false, "releases": {"1.0.0": {"prompt_version": 
+    → request  POST http://localhost:8800/releases/helpdesk/reset
+      {}
+    ← response HTTP 200
+      {
+        "name": "helpdesk",
+        "active": "1.0.0",
+        "canary": null,
+        "require_gate": false,
+        "releases": {
+          "1.0.0": {
+            "prompt_version": "p1",
+            "model": "gpt-4.1-mini",
+            "note": "첫 릴리스"
+          },
+          "1.1.0": {
+            "prompt_version": "p2",
+            "model": "gpt-4.1-mini",
+            "note": "FAQ 답 끝에 출처 번호"
+          },
+          "1.2.0": {
+            "prompt_version": "p3",
+            "model": "gpt-4.1-mini",
+            "note": "답을 한 문장으로 짧게"
+          },
+          "2.0.0": {
+            "prompt_version": "p2",
+            "model": "gpt-5.4-nano",
+            "note": "더 작은 모델 (비용)"
+          },
+          "2.1.0": {
+            "prompt_version": "p9",
+            "model": "gpt-4.1-mini",
+            "note": "출처 번호 · 존댓말 다듬기 (지시문 이름 확인 필요)"
+          }
+        }
+      }
+POST http://localhost:5678/webhook/my-helpdesk · 5 case(s) × 1
+✔ 망가진 릴리스 2.1.0 · 400 release broken · 1.0s
+    → request  POST /webhook/my-helpdesk
+      {
+        "question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?",
+        "user": "이준호",
+        "release": "2.1.0"
+      }
+    ← response HTTP 400
+      {
+        "error": "release broken",
+        "release": "2.1.0",
+        "prompt_version": "p9"
+      }
+✔ 평소 · 1.1.0은 저장소의 p2 · 2.0s
+    → request  POST /webhook/my-helpdesk
+      {
+        "question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?",
+        "user": "이준호",
+        "release": "1.1.0"
+      }
+    ← response HTTP 200
+      {
+        "route": "자동 답변",
+        "answer": "VPN 접속 오류가 발생하면 VPN 클라이언트를 최신 버전으로 업데이트하고, 인증서 만료 여부를 확인한 뒤 다시 접속하시기 바랍니다. 추가 도움이 필요하면 담당자가 도와드리겠습니다. [FAQ-003]",
+        "sources": [
+          "FAQ-003"
+        ],
+        "version": {
+          "release": "1.1.0",
+          "prompt_version": "p2",
+          "model": "gpt-4.1-mini",
+          "channel": "pinned",
+          "prompt_source": "registry"
+        }
+      }
+✔ before: POST http://localhost:8800/admin/fault · HTTP 200 · 0.0s · {"faq": "ok", "tickets": "ok", "prompts": "error", "slow_seconds": 8.0}
+    → request  POST http://localhost:8800/admin/fault
+      {
+        "prompts": "error"
+      }
+    ← response HTTP 200
+      {
+        "faq": "ok",
+        "tickets": "ok",
+        "prompts": "error",
+        "slow_seconds": 8.0
+      }
+✔ 저장소 고장 · 1.1.0도 기본 지시문으로 · 1.2s
+    → request  POST /webhook/my-helpdesk
+      {
+        "question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?",
+        "user": "이준호",
+        "release": "1.1.0"
+      }
+    ← response HTTP 200
+      {
+        "route": "자동 답변",
+        "answer": "VPN 접속 오류는 VPN 클라이언트를 최신 버전으로 업데이트하고, 인증서 만료 여부를 확인한 뒤 다시 접속하시기 바랍니다. 현재 접수된 문의 건이 없어 추가 지원이 필요하면 담당자가 도와드리겠습니다.",
+        "sources": [
+          "FAQ-003"
+        ],
+        "version": {
+          "release": "1.1.0",
+          "prompt_version": "p2",
+          "model": "gpt-4.1-mini",
+          "channel": "pinned",
+          "prompt_source": "fallback"
+        }
+      }
+✔ after: POST http://localhost:8800/admin/fault · HTTP 200 · 0.0s · {"faq": "ok", "tickets": "ok", "prompts": "ok", "slow_seconds": 8.0}
+    → request  POST http://localhost:8800/admin/fault
+      {
+        "prompts": "ok"
+      }
+    ← response HTTP 200
+      {
+        "faq": "ok",
+        "tickets": "ok",
+        "prompts": "ok",
+        "slow_seconds": 8.0
+      }
+✔ before: POST http://localhost:8800/admin/fault · HTTP 200 · 0.0s · {"faq": "ok", "tickets": "ok", "prompts": "error", "slow_seconds": 8.0}
+    → request  POST http://localhost:8800/admin/fault
+      {
+        "prompts": "error"
+      }
+    ← response HTTP 200
+      {
+        "faq": "ok",
+        "tickets": "ok",
+        "prompts": "error",
+        "slow_seconds": 8.0
+      }
+✔ 저장소 고장 · 없는 릴리스는 그대로 400 · 0.1s
+    → request  POST /webhook/my-helpdesk
+      {
+        "question": "VPN 접속이 자꾸 끊겨요. 어떻게 하나요?",
+        "user": "이준호",
+        "release": "9.9.9"
+      }
+    ← response HTTP 400
+      {
+        "error": "unknown release",
+        "release": "9.9.9",
+        "known": [
+          "1.0.0",
+          "1.1.0",
+          "1.2.0",
+          "2.0.0",
+          "2.1.0"
+        ]
+      }
+✔ after: POST http://localhost:8800/admin/fault · HTTP 200 · 0.0s · {"faq": "ok", "tickets": "ok", "prompts": "ok", "slow_seconds": 8.0}
+    → request  POST http://localhost:8800/admin/fault
+      {
+        "prompts": "ok"
+      }
+    ← response HTTP 200
+      {
+        "faq": "ok",
+        "tickets": "ok",
+        "prompts": "ok",
+        "slow_seconds": 8.0
+      }
+✔ 운영(active 1.0.0)은 그대로 · 1.3s
+    → request  POST /webhook/my-helpdesk
+      {
+        "question": "프린터 출력이 안 돼요",
+        "user": "최유진"
+      }
+    ← response HTTP 200
+      {
+        "route": "자동 답변",
+        "answer": "프린터 전원과 네트워크 연결을 확인하고, 인쇄 대기열을 비운 뒤 다시 출력해 보시기 바랍니다. 추가 도움이 필요하시면 담당 직원이 도와드리겠습니다.",
+        "sources": [
+          "FAQ-004"
+        ],
+        "version": {
+          "release": "1.0.0",
+          "prompt_version": "p1",
+          "model": "gpt-4.1-mini",
+          "channel": "stable",
+          "prompt_source": "registry"
+        }
+      }
+Passed 5/5
+report: runs/lab02-challenge2-20261027-184139.json
+✔ after: POST http://localhost:8800/admin/fault · HTTP 200 · 0.0s · {"faq": "ok", "tickets": "ok", "prompts": "ok", "slow_seconds": 8.0}
+    → request  POST http://localhost:8800/admin/fault
+      {
+        "prompts": "ok",
+        "slow_seconds": 8
+      }
+    ← response HTTP 200
+      {
+        "faq": "ok",
+        "tickets": "ok",
+        "prompts": "ok",
+        "slow_seconds": 8.0
+      }
+✔ after: POST http://localhost:8800/releases/helpdesk/reset · HTTP 200 · 0.0s · {"name": "helpdesk", "active": "1.0.0", "canary": null, "require_gate": false, "releases": {"1.0.0": {"prompt_version": 
+    → request  POST http://localhost:8800/releases/helpdesk/reset
+      {}
+    ← response HTTP 200
+      {
+        "name": "helpdesk",
+        "active": "1.0.0",
+        "canary": null,
+        "require_gate": false,
+        "releases": {
+          "1.0.0": {
+            "prompt_version": "p1",
+            "model": "gpt-4.1-mini",
+            "note": "첫 릴리스"
+          },
+          "1.1.0": {
+            "prompt_version": "p2",
+            "model": "gpt-4.1-mini",
+            "note": "FAQ 답 끝에 출처 번호"
+          },
+          "1.2.0": {
+            "prompt_version": "p3",
+            "model": "gpt-4.1-mini",
+            "note": "답을 한 문장으로 짧게"
+          },
+          "2.0.0": {
+            "prompt_version": "p2",
+            "model": "gpt-5.4-nano",
+            "note": "더 작은 모델 (비용)"
+          },
+          "2.1.0": {
+            "prompt_version": "p9",
+            "model": "gpt-4.1-mini",
+            "note": "출처 번호 · 존댓말 다듬기 (지시문 이름 확인 필요)"
+          }
+        }
+      }
+
+$ uv run tools/flow.py gate answers/74-lab02-challenge-golden.json --set release=2.1.0 --max-p95 3
+POST http://localhost:5678/webhook/my-helpdesk · 9 case(s) × 1
+✘ VPN · 해결 방법 · 0.1s · status 400 (expected 200); route = null (expected 자동 답변); answer has none of ['인증서']
+✘ VPN · 순서도 (업데이트) · 0.1s · status 400 (expected 200); answer has none of ['업데이트', '최신']
+✘ 비밀번호 · 해결 방법 · 0.1s · status 400 (expected 200); answer has none of ['비밀번호 찾기', '휴대폰']
+✘ 프린터 · 해결 방법 · 0.0s · status 400 (expected 200); answer has none of ['대기열', '전원']
+✘ 메일함 · 해결 방법 · 0.1s · status 400 (expected 200); answer has none of ['보관함', '삭제']
+✘ 접수 처리 중 · 상태와 예정일 · 0.1s · status 400 (expected 200); answer has none of ['처리 중']
+✘ 접수 처리 중 · 예정일 · 0.1s · status 400 (expected 200); answer has none of ['10월 20일', '20일']
+✘ 접수 처리 완료 · 0.0s · status 400 (expected 200); answer has none of ['처리 완료', '완료']
+✘ 포털로 떠넘기지 않기 · 0.0s · status 400 (expected 200)
+Passed 0/9
+report: runs/74-lab02-challenge-golden-20261027-184140.json
+gate [release=2.1.0]: pass 0/9 (0%) · p95 0.0s → FAIL · pass rate 0% < 100%
+✔ gate record → /gates/helpdesk: 2.1.0 rollback