79일차 운영 데이터 기반 Ops Assistant: 실습 15개 · 강의(개요 30장 · 단계 문서 · 4단계 정리 · 05 바이브), 정답본 LAB-A · answers · VIBE-A · tops 포함

2026-11-03 20:54:35 +09:00
1 parent 9ce9aceba6
commit 6f0ecd59a9
@@ -0,0 +1,127 @@
+{
+  "cases": "lab02-challenge.json",
+  "webhook": "my-ops-ask",
+  "passed": 1,
+  "total": 5,
+  "results": [
+    {
+      "case": "낱말이 없는 비용 질문",
+      "webhook": "my-ops-ask",
+      "run": 1,
+      "passed": false,
+      "problems": [
+        "area = unknown (expected cost)",
+        "router = keyword (expected llm)",
+        "refused = true (expected false)",
+        "numbers_ok = null (expected true)"
+      ],
+      "seconds": 0.0,
+      "status": 200,
+      "request": {
+        "question": "이번 주에 AI 쓰는 데 얼마나 나갔어?"
+      },
+      "response": {
+        "question": "이번 주에 AI 쓰는 데 얼마나 나갔어?",
+        "area": "unknown",
+        "router": "keyword",
+        "refused": true,
+        "reason": "out_of_scope",
+        "answer": "운영 데이터(실행 · 알림 · DLQ · 품질 · 비용 · 릴리스)로 답할 수 있는 질문만 받습니다."
+      }
+    },
+    {
+      "case": "낱말이 없는 DLQ 질문",
+      "webhook": "my-ops-ask",
+      "run": 1,
+      "passed": false,
+      "problems": [
+        "area = unknown (expected dlq)",
+        "router = keyword (expected llm)",
+        "numbers_ok = null (expected true)",
+        "answer has none of ['3']"
+      ],
+      "seconds": 0.1,
+      "status": 200,
+      "request": {
+        "question": "어젯밤에 접수 못 하고 남은 건 몇 건이야?"
+      },
+      "response": {
+        "question": "어젯밤에 접수 못 하고 남은 건 몇 건이야?",
+        "area": "unknown",
+        "router": "keyword",
+        "refused": true,
+        "reason": "out_of_scope",
+        "answer": "운영 데이터(실행 · 알림 · DLQ · 품질 · 비용 · 릴리스)로 답할 수 있는 질문만 받습니다."
+      }
+    },
+    {
+      "case": "낱말이 없는 릴리스 질문",
+      "webhook": "my-ops-ask",
+      "run": 1,
+      "passed": false,
+      "problems": [
+        "area = unknown (expected release)",
+        "router = keyword (expected llm)",
+        "numbers_ok = null (expected true)",
+        "answer has none of ['62.5']"
+      ],
+      "seconds": 0.0,
+      "status": 200,
+      "request": {
+        "question": "새 판을 일부 사용자에게 먼저 내보낸 거 어떻게 되고 있어?"
+      },
+      "response": {
+        "question": "새 판을 일부 사용자에게 먼저 내보낸 거 어떻게 되고 있어?",
+        "area": "unknown",
+        "router": "keyword",
+        "refused": true,
+        "reason": "out_of_scope",
+        "answer": "운영 데이터(실행 · 알림 · DLQ · 품질 · 비용 · 릴리스)로 답할 수 있는 질문만 받습니다."
+      }
+    },
+    {
+      "case": "LLM도 운영 밖이면 거절",
+      "webhook": "my-ops-ask",
+      "run": 1,
+      "passed": false,
+      "problems": [
+        "router = keyword (expected llm)"
+      ],
+      "seconds": 0.1,
+      "status": 200,
+      "request": {
+        "question": "점심 메뉴 추천해 줘"
+      },
+      "response": {
+        "question": "점심 메뉴 추천해 줘",
+        "area": "unknown",
+        "router": "keyword",
+        "refused": true,
+        "reason": "out_of_scope",
+        "answer": "운영 데이터(실행 · 알림 · DLQ · 품질 · 비용 · 릴리스)로 답할 수 있는 질문만 받습니다."
+      }
+    },
+    {
+      "case": "낱말이 있으면 LLM을 부르지 않음",
+      "webhook": "my-ops-ask",
+      "run": 1,
+      "passed": true,
+      "problems": [],
+      "seconds": 1.0,
+      "status": 200,
+      "request": {
+        "question": "지난주 오류율이 얼마야?"
+      },
+      "response": {
+        "question": "지난주 오류율이 얼마야?",
+        "area": "runs",
+        "router": "keyword",
+        "refused": false,
+        "reason": null,
+        "answer": "지난주 오류율은 5.88%였습니다. 총 357회 실행 중 21회 오류가 발생했습니다.",
+        "numbers_ok": true,
+        "unknown_numbers": []
+      }
+    }
+  ]
+}