$ uv run tools/flow.py test cases/lab03-challenge2.json -v
✔ before: POST http://localhost:8800/ops-reset · HTTP 200 · 0.0s · {"seeded_at": "2026-11-04T08:30:00", "note": "79일차 운영 아침 상태 (연습 데이터, seed 79)", "counts": {"alerts": 6, "dlq": 3, "quali
    → request  POST http://localhost:8800/ops-reset
      {}
    ← response HTTP 200
      {
        "seeded_at": "2026-11-04T08:30:00",
        "note": "79일차 운영 아침 상태 (연습 데이터, seed 79)",
        "counts": {
          "alerts": 6,
          "dlq": 3,
          "quality_log": 4,
          "quarantine": 1,
          "usage": 192
        }
      }
POST http://localhost:5678/webhook/my-ops-eval · 4 case(s) × 1
✘ 기준을 안 주면 0.9 · 1.2s · min_score = null (expected 0.9); gate = null (expected pass)
    → request  POST /webhook/my-ops-eval
      {
        "cases": [
          {
            "question": "알림이 몇 건 와 있어?",
            "area": "alerts",
            "numbers": [
              "6"
            ]
          }
        ]
      }
    ← response HTTP 200
      {
        "total": 1,
        "passed": 1,
        "score": 1,
        "area_ok": 1,
        "refused_ok": 1,
        "number_ok": 1,
        "grounded": 1,
        "failed": []
      }
✘ 골든 8 · 기준 0.8 → 통과 · 2.7s · gate = null (expected pass); min_score = null (expected 0.8)
    → request  POST /webhook/my-ops-eval
      {
        "cases": [
          {
            "question": "지난주 오류율이 얼마야?",
            "area": "runs",
            "numbers": [
              "5.88"
            ]
          },
          {
            "question": "알림이 몇 건 와 있어?",
            "area": "alerts",
            "numbers": [
              "6"
            ]
          },
          {
            "question": "DLQ에 parked 된 건 몇 건이야?",
            "area": "dlq",
            "numbers": [
              "2"
            ]
          },
          {
            "question": "FAQ 배치 품질 점수 평균은?",
            "area": "quality",
            "numbers": [
              "0.6583",
              "65.83",
              "0.66"
            ]
          },
          {
            "question": "오늘 LLM 비용이 예산의 몇 퍼센트야?",
            "area": "cost",
            "numbers": [
              "92"
            ]
          },
          {
            "question": "카나리 버전 문제 있어?",
            "area": "release",
            "numbers": [
              "62.5"
            ]
          },
          {
            "question": "DLQ 1번 다시 돌려 줘",
            "area": "action",
            "refused": true
          },
          {
            "question": "점심 메뉴 추천해 줘",
            "area": "unknown",
            "refused": true
          }
        ],
        "min_score": 0.8
      }
    ← response HTTP 200
      {
        "total": 8,
        "passed": 8,
        "score": 1,
        "area_ok": 8,
        "refused_ok": 8,
        "number_ok": 8,
        "grounded": 8,
        "failed": []
      }
✘ 틀린 기대 · 기준 0.9 → 실패 · 1.2s · gate = null (expected fail)
    → request  POST /webhook/my-ops-eval
      {
        "cases": [
          {
            "question": "알림이 몇 건 와 있어?",
            "area": "cost",
            "numbers": [
              "6"
            ]
          }
        ],
        "min_score": 0.9
      }
    ← response HTTP 200
      {
        "total": 1,
        "passed": 0,
        "score": 0,
        "area_ok": 0,
        "refused_ok": 1,
        "number_ok": 1,
        "grounded": 1,
        "failed": [
          {
            "question": "알림이 몇 건 와 있어?",
            "area": "alerts",
            "ok": false,
            "area_ok": false,
            "refused_ok": true,
            "number_ok": true,
            "grounded": true,
            "answer": "알림은 총 6건이 와 있으며, 이 중 3건은 높은 심각도입니다. 알림 사유로는 타임아웃 1건, 속도 제한 1건, 배치 거부 1건, 저품질 2건, API 오류 1건이 있습니다."
          }
        ]
      }
✘ 실패하면 알림 한 건 · 0.0s · count = 0 (expected 1); alerts.0.workflow = null (expected ops-eval); alerts.0.score = null (expected 0)
    → request  POST http://localhost:8800/alerts/list
      {
        "reason": "eval_below"
      }
    ← response HTTP 200
      {
        "count": 0,
        "alerts": []
      }
Passed 0/4
report: runs/lab03-challenge2-20261101-185730.json