Files
aio-01d4-stu/Lecture/68/CONCEPT-68.md
T

8.5 KiB

68일차 개념 정리 · LLM · Tool · Agent · 라우터 · Supervisor · LLM과 규칙의 일

1. 다섯 개념을 오늘 파일에 대 보면

개념 n8n에서 실체 다음 할 일은 누가 정하나 오늘 예
LLM OpenAI chat model 노드 스스로는 아무것도 못 함 (글만 씀) gpt-4.1-mini
Tool HTTP Request Tool 노드 (ai_tool 연결) Agent가 부를지 말지 정함 Search FAQ, Get ticket
Agent AI Agent 노드 + 모델 + Tool LLM이 "Tool을 부를까, 답할까"를 되풀이해 정함 IT help agent (67일차)
Agent 워크플로우 웹훅 → … → Agent → … → 응답. 계약(입력 · 결과 모양)이 있는 워크플로우 하나 안에서는 Agent, 밖에서 보면 HTTP 주소 하나 /webhook/it-agent, /webhook/meeting-agent
라우터 웹훅 → 업무 나누기 → Switch → HTTP Request로 각 Agent 워크플로우 호출 → Merge → 응답 정해진 흐름 (Switch 규칙). LLM은 "나누기"에만 Lab 02 예제 my-assistant
Supervisor AI Agent 하나에 다른 Agent 워크플로우를 Tool로 붙임 (HTTP Request Tool → /webhook/it-agent) LLM이 어느 Agent를 몇 번 부를지 정함 Lab 02 과제 my-supervisor
flowchart LR
  L["LLM<br/>글만 씀"] --> AG["Agent<br/>LLM + Tool<br/>스스로 길 고름"] --> AW["Agent 워크플로우<br/>계약 + 웹훅 주소"]
  AW --> R["라우터<br/>규칙이 나눠 줌"]
  AW --> S["Supervisor<br/>LLM이 골라 부름"]
  T["Tool"] --> AG

2. 헷갈리는 지점 세 가지

2.1 "Agent"라는 말이 두 층에 쓰인다

  • n8n의 AI Agent 노드 하나를 가리킬 때도, 그 노드를 품은 워크플로우(웹훅으로 부르는 it-agent)를 가리킬 때도 "Agent"라고 합니다.
  • 오늘 Multi-Agent의 "Agent"는 워크플로우 쪽입니다. 그래서 라우터는 Agent를 노드로 품지 않고 HTTP로 부릅니다 (http://localhost:5678/webhook/it-agent).
  • 부르는 쪽은 계약(입력 question · user, 결과 route · answer …)만 알면 됩니다. 계약을 지키면 Agent 속은 바꿔도 됩니다.

2.2 라우터에도 LLM이 있지만 라우터는 Agent가 아니다

  • Split tasks는 AI Agent 노드이지만 Tool이 없고 JSON(업무 목록)만 돌려줍니다.
  • 그다음 갈 곳은 Switch가 type 값으로 정합니다.
  • 그래서 같은 업무 목록이면 같은 길로 가고, 테스트하기 쉽고, 꺼진 Agent는 규칙으로 "담당자 연결"로 돌릴 수 있습니다 (Lab 03).

2.3 Supervisor는 "Agent 위의 Agent"

  • 겉모양은 67일차 IT help agent와 똑같습니다. Tool 자리에 FAQ 대신 다른 Agent(Ask IT agent, Ask meeting agent)가 붙는 것만 다릅니다.
  • 유연합니다 (나누기 · 고르기 · 다시 묻기를 LLM이 알아서). 대신 몇 번 부를지 LLM이 정하므로 같은 테스트가 매번 다를 수 있고 느립니다 (수업 준비 때 복합 요청 9.6~10.8초).

3. LLM이 할 일, 규칙이 할 일 (개요 7장)

복합 요청 하나를 처리하는 세 가지 일을 나눠 맡기는 기준입니다. 뜻을 알아야 하는 일은 LLM, 늘 같은 답이어야 하는 일은 규칙(코드).

일 누가 이유
문장을 업무로 나누기, 유형 고르기 LLM 말의 뜻을 알아야 함
유형 → 담당 Agent 규칙 (표) 늘 같은 답이어야 함
필요한 입력이 있나 규칙 (빈 칸 확인) 짐작하면 안 됨

예시 요청으로 따라가 봅니다.

"T-1002 처리 상태 알려주고, 첨부한 회의록에서 할 일도 정리해줘. 그리고 프린터 출력이 안 돼요."

3.1 문장을 업무로 나누기, 유형 고르기 → LLM

  • 이 문장에는 업무가 셋 있습니다: 접수 건 조회(it), 회의록 정리(meeting), 프린터 문의(it).
  • 어디서 끊을지, 각 업무가 무슨 종류인지는 말의 뜻을 알아야 압니다. "프린터 출력이 안 돼요"가 IT 문의라는 것을 키워드 규칙으로 다 잡기는 어렵습니다 (표현이 끝없이 다양함).
  • 그래서 LLM(Split tasks)이 하고, 결과는 JSON으로 받습니다: {"tasks": [{"type": "it", "text": "..."}, ...]}

3.2 유형 → 담당 Agent → 규칙 (표)

유형 담당
it it-agent
meeting meeting-agent
그 밖 담당자 연결
  • 유형만 정해지면 담당은 표 하나로 끝납니다.
  • LLM에게 맡기면 같은 유형인데 어떤 날은 다른 곳으로 보낼 수 있습니다. 담당 배정은 늘 같은 답이어야 하므로 Code나 Switch가 합니다.
  • 담당이 바뀌어도 표 한 줄만 고치면 됩니다 (LLM 지시문을 다시 시험할 필요가 없음).

3.3 필요한 입력이 있나 → 규칙 (빈 칸 확인)

  • 회의록 정리를 해 달라는데 요청 본문의 notes가 비었다면 그 업무는 처리할 수 없습니다.
  • LLM에게 맡기면 그럴듯한 회의록을 지어내거나(짐작) 있는 것처럼 답할 수 있습니다. 칸이 비었는지는 코드가 확실히 압니다.
  • 그래서 규칙이 missing: ["notes"]를 표시하고, 그 업무는 Agent를 부르지 않고 "회의록을 붙여 주세요"로 돌려줍니다 (Lab 01 과제, Lab 03에서 다시).

3.4 왜 이렇게 나누나

  • 실측: 나누기만 한 워크플로우는 lab01 7/7이지만, 담당과 빠진 입력까지 보는 lab01-challenge는 0/4였고, 규칙을 더하자 4/4가 되었습니다 (수업 준비 때). LLM이 나누기를 잘해도 결정 · 확인은 따로 해야 합니다.
  • 고칠 곳: LLM 지시문에 "회의록이 없으면 missing에 넣어"라고 적기보다, 결과를 읽는 코드에서 한 줄로 정하는 편이 확실합니다.
  • 2단계와 이어짐: 이 나눔이 그대로 라우터의 모양입니다 (나누기 = LLM, 갈래 = Switch, 빈 칸 = 규칙). Supervisor는 3.2 · 3.3까지 LLM에게 맡기는 방식이라 유연하지만 매번 다를 수 있습니다.

LLM에게는 해석만, 결정과 확인은 규칙에게.

4. 그림으로

라우터 (정해진 흐름)

flowchart LR
  W(["웹훅<br/>message · user"]) --> SP["Split tasks<br/>LLM: 나누기만"] --> SW{"Switch<br/>type"}
  SW -->|it| H1["HTTP Request"] --> IA[["it-agent 워크플로우"]]
  SW -->|meeting| H2["HTTP Request"] --> MA[["meeting-agent 워크플로우"]]
  SW -->|other| O["정해진 답"]
  IA --> M["Merge"]
  MA --> M
  O --> M
  M --> R(["응답"])

Supervisor (LLM이 정함)

flowchart LR
  W(["웹훅<br/>message · user"]) --> SV{{"AI Agent<br/>Supervisor"}} --> R(["응답"])
  MD["OpenAI chat model"] -.-> SV
  T1["Tool: Ask IT agent"] -.-> SV
  T2["Tool: Ask meeting agent"] -.-> SV
  T1 --- IA[["it-agent 워크플로우"]]
  T2 --- MA[["meeting-agent 워크플로우"]]

5. 라우터와 Supervisor 고르기

라우터 Supervisor
다음 갈 곳 Switch 규칙 LLM
같은 입력 → 같은 길 예 (나누기 결과가 같으면) 아닐 수 있음
테스트 · 원인 찾기 쉬움 (갈래마다 확인) 어려움 (Tool 호출 기록을 봐야 함)
새 업무 유형 Switch 갈래와 규칙을 더함 Tool 하나와 설명을 더함
장애 격리 규칙으로 "담당자 연결" (Lab 03) 지시문에 맡김
어울리는 곳 업무 종류가 정해진 사내 접수 요청 모양이 자유롭고 종류가 자꾸 늘어날 때

6. 한 문장으로

Agent는 스스로 길을 고르는 일꾼, 라우터는 일꾼에게 일을 나눠 주는 정해진 접수 창구, Supervisor는 그 창구에 LLM 팀장을 앉힌 것입니다. 일꾼끼리는 계약(입력 · 결과 모양)만 지키면 속을 바꿔도 됩니다. 그리고 어느 모양이든 LLM에게는 해석만, 결정과 확인은 규칙에게 맡깁니다.