[LLM] AI Agent의 계획(Planning)과 실행(Execution) 분리 전략

1. AI 에이전트의 계획(Planning) 개요

복잡한 작업을 수행하는 AI 에이전트는, 곧바로 실행에 들어가기보다는 먼저 ‘계획(Plan)’을 수립한 후 이를 실행하는 구조를 갖는 것이 바람직합니다.

AI가 문제 해결 과정에서 적절한 방법을 선택하지 못할 경우,
불필요하게 비효율적인 경로를 탐색하거나 과도한 연산을 수행할 가능성이 크게 증가합니다.
따라서 “무엇을 할 것인가(Planning)”와 “어떻게 실행할 것인가(Execution)”를 명확히 분리하는 것이 이상적인 설계 방식이라고 볼 수 있습니다.

특히 계획 단계가 잘못 설계되면, 이후 실행 단계에서 아무리 최적화를 시도하더라도
전체적인 효율은 크게 개선되기 어렵습니다.

예시:

“1조 달러 이상 투자금을 유치한 회사를 찾아라”

• 비효율적인 접근 방식
  • 모든 기업을 대상으로 검색한 뒤
  • 이후에 “수익 없음”과 같은 조건을 적용
    → 검색 범위가 지나치게 넓어져 불필요한 연산이 발생
• 효율적인 접근 방식
  • 처음부터 “1조 달러 이상 투자 유치 기업”만을 대상으로 검색
  • 그 이후에 수익 조건을 필터링
    → 검색 공간을 크게 축소하여 더 빠르고 정확한 결과 도출 가능

정리하자면

AI가 계획을 잘못 수립할 경우,
불필요한 연산 비용과 시간 낭비가 발생할 가능성이 매우 높아집니다.
결국 좋은 계획을 수립하는 것이 AI 시스템 전체 성능을 극대화하는 핵심 요소라고 할 수 있습니다.

2. 계획과 실행을 분리하는 전략

왜 계획과 실행을 분리해야 하는가?

AI가 충분한 사전 계획 없이 곧바로 실행을 시작하면,
목표와 직접적으로 관련 없는 작업을 수행할 위험이 큽니다.
반면, 계획 단계에서 비효율적인 접근 방식을 미리 걸러내면
비용 절감과 처리 속도 향상을 동시에 달성할 수 있습니다.

비효율적인 실행의 대표적인 예

• 잘못된 방식
  • AI에게 “단계별로 생각하라(Chain-of-Thought)”는 프롬프트를 주고
  • 한 번의 실행으로 문제 해결을 시도
• 문제점
  • AI가 수백~수천 단계의 추론을 수행하지만
  • 최종 목표에 도달하지 못할 가능성이 존재
  • 그 과정에서 시간과 API 호출 비용이 과도하게 증가

해결 전략

1. 계획(Planning)과 실행(Execution)을 명확히 분리
2. 실행 전에 계획의 타당성을 검증(Validate Plan) 하는 단계 추가
3. 계획이 비효율적이라고 판단되면,
   AI가 새로운 계획을 다시 생성하도록 유도

이를 구조화하면 다음과 같은 파이프라인으로 정리할 수 있습니다.

Query → Planner → Evaluator → Executor → Finish

• Planner: 여러 개의 실행 계획을 생성
• Evaluator: 실행 전에 계획의 타당성과 효율성을 평가
• Executor: 검증을 통과한 계획만 실제 실행

이러한 구조는 불필요한 실행을 사전에 차단하는 데 매우 효과적입니다.

3. 다중 에이전트 시스템(Multi-Agent System)의 활용

AI 시스템의 복잡도가 일정 수준 이상으로 올라가면,
단일 에이전트 구조보다는 다중 에이전트(Multi-Agent) 구조가 더 적합한 경우가 많습니다.

역할을 명확히 분리함으로써,
각 에이전트가 자신의 책임 영역에 집중할 수 있고
전체 워크플로우의 효율성도 크게 향상됩니다.

다중 에이전트 시스템에서의 역할 분리 예시

 

에이전트	유형역할
평가 에이전트 (Evaluator)	계획의 타당성과 효율성 검토
실행 에이전트 (Executor)	검증된 계획을 실제로 실행
계획 에이전트 (Planner)	적절한 실행 계획 수립

또한 다중 에이전트 구조를 활용하면 다음과 같은 장점이 있습니다.

• 여러 개의 계획을 병렬로 생성한 뒤 가장 효율적인 계획 선택
• 여러 실행 경로를 비교하여 최적의 경로를 선택
• 병렬 처리 기반으로 전체 응답 속도 개선

정리하자면

AI 에이전트가 비효율적인 경로를 선택하지 않도록 하기 위해서는
“계획 → 검증 → 실행”의 3단계 구조가 사실상 필수적입니다.
특히 작업이 복잡할수록, 다중 에이전트 시스템은 더 큰 효과를 발휘합니다.

4. 계획(Planning)의 핵심 요소: 의도(Intent) 이해

AI가 적절한 계획을 수립하기 위해서는,
사용자의 요청 그 자체보다 그 이면에 있는 의도(Intent)를 정확히 이해하는 것이 중요합니다.

의도를 정확히 파악할 수 있다면,
AI는 불필요한 도구를 사용하는 대신
가장 적절한 도구와 접근 방식을 선택할 수 있습니다.

예시: 고객 지원 AI에서의 의도 분석

• 사용자가 “청구서 관련 문의”를 한 경우
  → 결제 기록 조회, 계정 정보 확인 도구 사용이 적절
• 사용자가 “비밀번호 재설정 방법”을 문의한 경우
  → 기술 문서 검색 또는 가이드 제공 도구 사용이 적절

해결 방법: 의도 분류(Intent Classification)

1. 사용자의 입력 쿼리를 분석하여 의도를 자동 분류
2. 분류된 의도에 따라 적절한 도구 선택
   (검색, SQL 조회, 문서 검색 등)
3. 선택된 도구를 기반으로 최적의 실행 계획 수립

결론

AI는 무작정 실행에 들어가기보다,
“사용자가 무엇을 원하는지”를 먼저 이해한 후
가장 효율적인 방법을 선택해야 합니다.
의도 분석은 더 정교한 자동화와 고품질 응답을 가능하게 하는 핵심 요소입니다.

5. 결론: AI 에이전트의 계획 능력이 곧 성능을 결정합니다

AI 에이전트가 복잡한 작업을 수행할 때는,
“계획 → 검증 → 실행”의 3단계 프로세스를 적용하는 것이 매우 중요합니다.

• 무작정 실행하는 방식은
  비용과 시간이 낭비될 가능성이 큽니다.
• 계획을 평가하는 과정이 포함되면
  가장 효율적인 방법을 선택할 수 있습니다.
• 사용자의 의도를 정확히 이해할수록
  더 적절한 도구와 실행 전략을 선택할 수 있습니다.

결국 AI 에이전트의 성능은 모델 자체보다는,
얼마나 잘 계획하고 검증하는 구조를 갖추었는지에 의해 결정된다고 볼 수 있습니다.