[LLM] AI Agent의 계획(Planning)과 실행(Execution) 분리 전략

1. AI 에이전트의 계획(Planning) 개요

📌 복잡한 작업을 수행하는 AI 에이전트는 먼저 "계획(Plan)"을 세운 후 실행해야 한다.

• AI가 적절한 방법을 선택하지 않으면, 비효율적인 방식으로 문제를 해결하려 할 가능성 증가
• 따라서, "무엇을 할 것인가?"(Planning)와 "어떻게 실행할 것인가?"(Execution)는 분리하는 것이 이상적

✅ 계획을 잘못 세우면 실행 과정이 비효율적이 될 수 있음

• 예제: "1조 달러 이상 투자금을 유치한 회사를 찾아라"
  • ❌ 비효율적인 방법:
    • 모든 기업을 검색한 후 "수익 없음" 필터를 적용 → 검색 범위가 너무 넓어짐
  • ✅ 효율적인 방법:
    • 1조 달러 이상을 유치한 기업만 검색한 후, 수익이 없는 기업을 필터링 → 검색 범위를 축소하여 빠른 결과 도출

📌 결론:

• AI가 계획을 잘못 세우면, 불필요한 연산과 시간이 낭비될 수 있음
• 좋은 계획을 세우는 것이 AI 시스템의 성능을 극대화하는 핵심 요소!

---

2. 계획과 실행을 분리하는 전략 (Decoupling Planning from Execution)

📌 왜 계획과 실행을 분리해야 하는가?

✅ AI가 처음부터 실행하면, 불필요한 작업을 수행할 위험이 있음

✅ 계획 단계에서 비효율적인 방법을 걸러내면, 비용 절감 및 속도 향상 가능

🔹 비효율적인 실행의 예제

💡 잘못된 방식:

• AI에게 "단계별로 생각하라(Chain-of-Thought)"는 프롬프트를 주고 한 번에 실행
• 문제점:
  • AI가 1,000단계에 걸친 계획을 세우지만, 최종적으로 목표를 달성하지 못할 가능성이 있음
  • 시간이 낭비되고 API 호출 비용이 증가

✅ 해결책:

1️⃣ 계획(Planning)과 실행(Execution)을 분리

2️⃣ 먼저 계획을 검증(Validate Plan)한 후, 실행하도록 설계

3️⃣ 계획이 비효율적이라면, AI가 새로운 계획을 생성하도록 유도

📌 AI 에이전트의 계획 및 실행 분리 구조

(Query → Planner → Evaluator → Executor → Finish)

✅ 계획(Planner) → 여러 개의 계획을 생성

✅ 검증(Evaluator) → 실행하기 전에 계획의 타당성을 평가

✅ 실행(Executor) → 검증된 계획만 실행

🔥 이 구조를 활용하면, 비효율적인 실행을 방지하고 성능을 최적화할 수 있음! 🚀

---

3. 다중 에이전트 시스템(Multi-Agent System) 활용

📌 AI 시스템이 충분히 복잡하면, "다중 에이전트(Multi-Agent)" 구조가 필요할 수 있다.

✅ 각각의 역할을 분리하여 더 효율적인 워크플로우를 구축 가능

💡 예제: 다중 에이전트 시스템에서의 역할 분리

에이전트 유형	역할
계획 에이전트(Planner)	적절한 실행 계획을 수립
평가 에이전트(Evaluator)	계획이 적절한지 검토
실행 에이전트(Executor)	계획을 실행하고 결과 도출

📌 병렬 처리(Parallel Processing)로 속도 최적화 가능

• 여러 개의 계획을 동시에 생성하고, 가장 최적의 계획을 선택하여 실행
• 여러 개의 실행 방안을 비교 후, 가장 적절한 경로를 선택할 수 있음

✅ 결론:

• AI 에이전트가 비효율적인 경로를 선택하지 않도록 하기 위해, "계획 → 검증 → 실행"의 3단계 구조가 필수적!
• 복잡한 작업일수록, 다중 에이전트 시스템을 활용하면 더 효율적인 결과 도출 가능

---

4. 계획(Planning)의 핵심 요소: 의도(Intent) 이해하기

📌 AI가 적절한 계획을 세우려면, 사용자의 "의도(Intent)"를 정확히 이해해야 한다.

✅ 의도를 파악하면, 더 적절한 도구를 선택할 수 있음

💡 예제: 고객 지원 AI에서의 의도 분석

• 사용자가 "청구서 관련 문의"를 하면, AI는 결제 기록을 조회하는 도구를 사용해야 함
• 반면, "비밀번호 재설정 방법"을 묻는다면, 기술 문서를 검색하는 도구를 사용해야 함

📌 해결책: 의도 분류(Intent Classification)

1️⃣ AI가 입력된 쿼리를 분석하여 의도를 자동 분류

2️⃣ 적절한 도구(검색, SQL 조회, 문서 검색 등)를 선택

3️⃣ 올바른 도구를 기반으로 최적의 계획 수립

✅ 결론:

• AI가 무조건 실행하는 것이 아니라, "사용자가 원하는 바를 먼저 이해"한 후 최적의 방법을 선택해야 한다!
• 의도 분석을 통해, 더 정교한 검색 및 자동화가 가능해짐

---

5. 결론: AI 에이전트의 계획 능력이 곧 성능을 결정한다!

✅ AI가 작업을 수행하기 전에, "계획 → 검증 → 실행"의 3단계 프로세스를 적용해야 한다.

✅ 무작정 실행하는 방식은 비효율적이며, 비용과 시간이 낭비될 가능성이 큼.

✅ 계획을 평가하는 과정이 포함되면, 최적의 방법을 선택할 수 있음.

✅ AI가 사용자의 "의도(Intent)"를 이해하면, 더 적절한 도구를 선택할 수 있음.

AI 에이전트의 핵심은 "빠르게 실행하는 것"이 아니라, "가장 효과적인 방법을 선택하는 것"이다!