멀티 에이전트 오케스트레이션: AI 에이전트가 소통하고 조율하며 함께 일하는 방식 (Part 2)

에이전틱 AI가 엔터프라이즈 워크플로로 확산되면서 이제 중요한 과제는 단순히 똑똑한 AI 에이전트를 구축하는 것이 아니라, 여러 에이전트가 안정적으로 협업하도록 만드는 것입니다.

단일 AI 에이전트는 추론하고, 도구를 사용하며, 행동을 수행할 수 있습니다. 하지만 복잡한 비즈니스 프로세스는 여러 시스템, 데이터 소스, 의사결정 단계를 아우르는 경우가 많습니다.

멀티 에이전트 시스템(Multi-agent System, MAS)은 이러한 업무를 여러 전문 에이전트에게 나누어 처리할 수 있도록 합니다. 그러나 시스템이 제대로 작동하려면 누가, 언제, 어떤 정보를 바탕으로 행동하고, 결과가 어떻게 다음 단계로 이어지는지를 조율해야 합니다.

이러한 조율 계층이 바로 멀티 에이전트 오케스트레이션(Multi-Agent Orchestration)입니다.

이 시리즈의 Part 1에서는 구성 요소, 이점, 활용 사례, 과제를 포함해 멀티 에이전트 시스템(MAS)의 기본 개념을 소개했습니다. 또한 전문 에이전트가 책임을 나누고 공동 목표를 향해 협력하는 방식을 살펴보았습니다.

>> 더 알아보기: 멀티 에이전트 시스템: 여러 AI 에이전트는 어떻게 협업하는가 (Part 1)

이 글에서는 에이전트가 어떻게 조율되고, 어떻게 소통하며, MCP(Model Context Protocol)와 A2A(Agent2Agent) 같은 기술이 에이전트를 도구, 데이터, 다른 에이전트와 어떻게 연결하는지 살펴보는 기술적 계층으로 넘어갑니다.

멀티 에이전트 오케스트레이션은 여러 AI 에이전트가 공동 목표를 향해 작업할 수 있도록 조율하는 과정입니다. 모든 에이전트가 독립적으로 작동하도록 두는 대신, 오케스트레이션 계층은 각 작업을 어떤 에이전트가 처리해야 하는지, 작업을 어떤 순서로 또는 병렬로 실행해야 하는지, 에이전트 간에 어떤 정보를 전달해야 하는지, 개별 산출물을 어떻게 결합해야 하는지를 결정합니다.

오케스트레이터는 아키텍처에 따라 다양한 형태를 취할 수 있습니다. 전용 AI 에이전트일 수도 있고, 결정론적 워크플로 엔진, 규칙 기반 라우터, 또는 소프트웨어 로직과 AI 추론을 결합한 하이브리드 시스템일 수도 있습니다. 일반적인 패턴은 기본 에이전트가 주요 인터페이스 역할을 하면서 전문 작업을 보조 에이전트에 위임하는 방식입니다.

예를 들어, 비즈니스 리서치 워크플로를 생각해 볼 수 있습니다. 기본 에이전트가 시장 분석 요청을 받은 뒤, 자료 수집은 리서치 에이전트에, 정량 분석은 데이터 에이전트에, 검증은 리뷰 에이전트에 배정할 수 있습니다. 이러한 작업이 완료되면 오케스트레이터는 산출물을 결합해 최종 결과를 만들 수 있습니다.

목표는 단순히 더 많은 에이전트를 추가하는 것이 아닙니다. 아키텍처는 각 에이전트가 명확한 책임을 갖고, 전체 워크플로가 예측 가능하고 관리 가능한 상태를 유지하도록 보장해야 합니다.

멀티 에이전트 워크플로는 일반적으로 상위 수준의 요청에서 시작해, 시스템이 수행해야 할 작업을 판단하고 적절한 에이전트에 업무를 배정한 뒤 산출물을 결합하는 여러 단계를 거칩니다.

워크플로는 시스템이 사용자, 애플리케이션 또는 비즈니스 프로세스로부터 요청을 받으면서 시작됩니다. 이 단계에서 시스템은 달성해야 할 전체 목표를 식별합니다.

오케스트레이터는 요청을 분석하고 이를 더 작고 관리하기 쉬운 하위 작업으로 나눕니다. 예를 들어 시장 분석 요청은 시장 조사, 경쟁사 분석, 고객 데이터 분석으로 분해될 수 있습니다. 이를 통해 서로 다른 에이전트가 전체 작업의 특정 부분에 집중할 수 있습니다.

오케스트레이터는 각 하위 작업을 처리하기에 가장 적합한 에이전트를 판단하고 그에 따라 업무를 배정합니다. 에이전트 선택은 에이전트의 역량, 사용 가능한 도구, 특정 데이터에 대한 접근 권한, 또는 워크플로 내에서 정의된 역할과 같은 요소를 기반으로 할 수 있습니다.

배정된 에이전트는 각자의 도구, 데이터, 컨텍스트를 활용해 작업을 수행합니다. 작업 간 의존성에 따라 에이전트는 순차적으로 또는 병렬로 작업할 수 있습니다. 오케스트레이션 계층은 이러한 활동을 조율하고 워크플로가 진행되는 동안 에이전트 간 정보 흐름을 관리합니다.

개별 작업이 완료되면 그 산출물이 오케스트레이션 계층으로 반환됩니다. 그런 다음 오케스트레이터는 이러한 산출물을 결합하고, 필요한 경우 평가하여 원래 요청에 부합하는 일관된 최종 결과를 생성합니다.

이 다섯 단계 구조는 오케스트레이션이 여러 전문 에이전트를 하나의 워크플로로 연결하는 방식을 명확하게 보여 주며, 다음 섹션에서 다양한 오케스트레이션 패턴을 논의할 수 있는 기반을 제공합니다.

모든 멀티 에이전트 애플리케이션에 맞는 단일 아키텍처는 없습니다. 적절한 설계는 워크플로, 필요한 자율성 수준, 그리고 에이전트가 상호작용해야 하는 방식에 따라 달라집니다.

1. 중앙집중식(Centralized) 오케스트레이션

중앙집중식 아키텍처에서는 하나의 오케스트레이터가 전체 워크플로를 관리합니다. 오케스트레이터는 요청을 받고, 어떤 에이전트가 참여해야 하는지 판단하며, 작업을 배정하고 결과를 결합합니다.

이 접근 방식은 모니터링과 거버넌스를 위한 명확한 통제 지점을 제공합니다. 워크플로가 정의된 비즈니스 규칙을 따르고 예측 가능한 실행이 필요한 경우 특히 유용할 수 있습니다.

기본 에이전트 패턴이 한 가지 예입니다. 주 에이전트는 사용자와 상호작용하면서 전문 작업을 보조 에이전트에 위임합니다. 이 모델은 Salesforce의 Agentforce와 같은 엔터프라이즈 플랫폼에서도 나타납니다.

계층형 아키텍처는 여러 수준의 조율을 도입합니다. 상위 수준의 에이전트 또는 오케스트레이터가 더 넓은 목표를 관리하고, 하위 에이전트 또는 서브 오케스트레이터가 특정 업무 영역을 처리합니다.

예를 들어 비즈니스 분석 워크플로에는 리서치, 재무 분석, 보고 그룹을 각각 감독하는 주 조율자가 있을 수 있습니다. 각 그룹은 다시 자체 전문 에이전트들을 조율할 수 있습니다.

이 구조는 더 큰 워크플로를 체계화하는 데 도움이 될 수 있지만, 동시에 모니터링해야 할 추가적인 조율 계층도 만들어냅니다.

피어 투 피어(Peer-to-Peer) 모델에서는 에이전트가 중앙 오케스트레이터에 전적으로 의존하기보다 서로 더 직접적으로 소통할 수 있습니다. 에이전트는 다른 에이전트의 역량을 발견하고, 적절한 경우 작업을 위임할 수 있습니다.

이 접근 방식은 특히 에이전트가 독립적으로 개발되었거나 서로 다른 시스템에서 작동할 때 더 역동적인 협업을 지원할 수 있습니다. 그러나 동시에 커뮤니케이션, 거버넌스, 관측 가능성의 중요성도 커집니다.

많은 엔터프라이즈 시스템은 멀티 에이전트 아키텍처 안에서 여러 패턴을 결합할 수 있습니다. 최상위 시스템은 중앙집중식 오케스트레이션을 사용하고, 개별 에이전트 팀은 병렬 또는 피어 투 피어 협업을 사용할 수 있습니다.

이 하이브리드 모델은 엔터프라이즈 AI의 더 넓은 원칙을 보여 줍니다. AI 추론은 모호하거나 전문적인 작업을 처리할 수 있고, 기존 소프트웨어는 비즈니스 규칙, 권한, 예측 가능한 실행을 강제할 수 있습니다.

멀티 에이전트 아키텍처를 이해하는 또 다른 방법은 에이전트가 언제 활성화되고 작업이 시간에 따라 어떻게 구성되는지 살펴보는 것입니다. 실제 오케스트레이션에서는 일반적으로 순차형, 병렬형, 이벤트 기반의 세 가지 실행 패턴이 활용됩니다.

순차형 오케스트레이션에서는 에이전트가 정해진 순서에 따라 작업하며, 각 단계가 이전 단계의 결과에 의존합니다. 한 에이전트의 결과가 다음 에이전트의 입력으로 사용되는 명확한 의존 관계가 있는 워크플로에 적합합니다.

• 리서치 → 분석 → 검토 → 게시

이 방식은 예측과 모니터링이 쉽다는 장점이 있지만, 각 단계가 이전 단계의 완료를 기다려야 하기 때문에 실행 시간이 길어질 수 있습니다.

병렬형 오케스트레이션에서는 서로 간의 의존성이 크지 않은 여러 작업을 여러 에이전트가 동시에 수행합니다. 워크플로를 독립적인 작업 영역으로 나눌 수 있고 전체 실행 시간을 줄여야 하는 경우 유용합니다.

• 리서치 + 데이터 분석 + 경쟁사 분석 → 종합

병렬 실행은 작업 속도를 높일 수 있지만, 결과가 서로 다른 형식으로 생성되거나 일관성이 떨어지는 것을 방지하기 위해 명확한 출력 형식과 효과적인 결과 종합 단계가 필요합니다.

이벤트 기반 오케스트레이션에서는 정해진 순서나 직접적인 사용자 요청이 아니라 특정 이벤트가 발생했을 때 에이전트가 활성화됩니다. 새로운 고객 문의, 데이터베이스 업데이트, 시스템 알림 또는 비즈니스 상태의 변화 등이 이벤트가 될 수 있습니다.

• 새로운 고객 티켓 → 분류 → 전문 에이전트 → 조치 → 모니터링

이 모델은 사용자가 수동으로 시작할 때만이 아니라 실제 비즈니스 활동에 대응해 워크플로가 지속적으로 실행될 수 있기 때문에 엔터프라이즈 자동화와 특히 관련이 깊습니다.

2026년에 발표된 이벤트 기반 멀티 에이전트 오케스트레이션 연구에서는 에이전트 수를 확장하면 새로운 조율 문제가 발생할 수 있으며, 연구자들의 엔터프라이즈 규모 실험에서 에이전트 탐색 노이즈가 중요한 병목 현상으로 나타났다고 밝혔습니다.

이 시사점은 중요합니다. 에이전트를 더 많이 추가한다고 해서 아키텍처가 자동으로 더 좋아지는 것은 아닙니다. 조율 메커니즘은 에이전트와 상호작용의 수에 맞춰 확장될 수 있어야 합니다.

여러 에이전트가 협업하려면 서로 정보를 교환할 수 있는 안정적인 방법이 필요합니다. 가장 단순하게는 한 작업의 결과를 다음 작업으로 전달하는 방식이 있을 수 있으며, 보다 발전된 형태에서는 에이전트가 서로의 기능을 탐색하고 여러 시스템에 걸쳐 협업할 수도 있습니다.

시스템 규모가 커질수록 커뮤니케이션 형식은 더욱 중요해집니다. 모든 에이전트가 서로에게 자유로운 형식의 자연어 결과를 전달한다면 전체 워크플로를 통제하기 어려워질 수 있습니다. 따라서 엔터프라이즈 환경에서는 구조화된 커뮤니케이션이 특히 중요합니다.

구조화된 커뮤니케이션을 사용하면 입력값을 검증하고, 실행 과정을 추적하며, 실패한 작업을 재시도하고, 일관된 인터페이스를 유지하기가 더 쉬워집니다.

이러한 이유로 에이전트 간 상호운용성을 지원하는 프로토콜(Interoperability Protocol)의 중요성이 점점 커지고 있습니다.

AI 에이전트가 엔터프라이즈 도구, 데이터 소스, 다른 에이전트와 점점 더 많이 연결되면서 상호운용성은 중요한 아키텍처 고려사항이 됩니다.

현재 에이전틱 AI 생태계와 특히 관련이 깊은 두 가지 프로토콜은 다음과 같습니다.

• Model Context Protocol (MCP): AI 애플리케이션과 에이전트를 도구 및 데이터에 연결하는 데 초점을 둡니다.

• Agent2Agent (A2A): 독립적인 AI 에이전트 간의 커뮤니케이션과 협업에 초점을 둡니다.

이 두 프로토콜은 서로 다른 커뮤니케이션 문제를 해결하며, 동일한 표준의 경쟁 버전으로 보아서는 안 됩니다. 하나의 엔터프라이즈 워크플로 안에서 두 프로토콜을 함께 사용할 수도 있습니다. 예를 들어 한 에이전트가 A2A를 통해 다른 전문 에이전트와 소통한 다음, MCP를 사용해 CRM이나 데이터베이스에 접근할 수 있습니다.

Model Context Protocol (MCP)는 Anthropic이 2024년에 외부 데이터 소스와 도구를 AI 애플리케이션에 연결하기 위한 오픈 표준으로 도입했습니다.

각 시스템마다 별도의 맞춤형 통합을 요구하는 대신, MCP는 AI 애플리케이션이 외부 기능과 상호작용할 수 있는 표준화된 방식을 제공합니다. MCP 서버는 도구, 리소스, 프롬프트를 노출할 수 있으며, MCP 클라이언트 역할을 하는 AI 애플리케이션은 이 프로토콜을 통해 해당 기능에 연결할 수 있습니다.

MCP는 개별 에이전트가 서로 다른 엔터프라이즈 리소스에 접근해야 할 때 특히 중요해집니다. 에이전트는 전문성을 유지하면서도 외부 리소스와의 연결은 공통 인터페이스를 따를 수 있습니다. 이러한 분리는 조직이 권한을 관리하고 각 에이전트가 접근할 수 있는 시스템을 통제하는 데도 도움이 될 수 있습니다.

Agent2Agent (A2A)는 다른 커뮤니케이션 계층을 다룹니다. 에이전트가 도구에 접근하는 방식을 표준화하는 대신, A2A는 독립적인 AI 에이전트가 기능을 탐색하고, 소통하며, 작업을 위임하고, 결과를 교환할 수 있도록 설계되었습니다. 

이 프로토콜에는 에이전트 탐색, 기능, 작업, 메시지, 아티팩트, 스트리밍, 장기 실행 상호작용과 같은 개념이 포함됩니다. 에이전트는 자신의 기능을 설명하는 Agent Card를 게시하여, 다른 에이전트가 작업을 위임하기 전에 해당 에이전트가 무엇을 할 수 있는지 이해하도록 할 수 있습니다.  

이는 에이전트가 독립적으로 개발되거나 운영될 때 특히 중요해집니다. 모든 에이전트가 다른 시스템의 내부 구현을 이해하도록 요구하는 대신, 표준화된 커뮤니케이션은 공통된 상호작용 방식을 제공할 수 있습니다. 

>> 더 알아보기: A2A 오케스트레이션: MuleSoft로 구현하는 실행형 AI 

MCP와 A2A는 멀티 에이전트 아키텍처에서 서로 보완적인 계층으로 이해할 수 있습니다. 

여행 계획 워크플로를 예로 들어 보겠습니다. 여행 에이전트는 A2A를 통해 호텔 에이전트와 소통하며 숙박 옵션을 요청합니다. 그런 다음 호텔 에이전트는 MCP를 사용해 예약 시스템에 연결하고 이용 가능한 정보를 가져옵니다. 

이 예에서: 

• A2A → 에이전트를 다른 에이전트와 연결합니다. 

• MCP → 에이전트를 도구와 데이터에 연결합니다. 

이 구분은 엔터프라이즈 AI 워크플로가 점점 더 에이전트, 외부 시스템, 데이터라는 세 가지 요소를 모두 포함하기 때문에 유용합니다. 하나의 에이전트는 다른 에이전트와 협업하는 동시에 여러 엔터프라이즈 애플리케이션에도 접근해야 할 수 있습니다. 

성장하는 에이전트 생태계에는 프레임워크, 프로토콜, 모델, 런타임, 엔터프라이즈 플랫폼이 포함됩니다. 이러한 기술들을 서로 대체 가능한 것으로 보아서는 안 됩니다. 

CrewAI는 멀티 에이전트 시스템 구축을 위해 특별히 설계된 오픈소스 프레임워크입니다. 

문서에서는 두 가지 주요 추상화를 설명합니다. 

• Crews: 전문 에이전트 간의 자율 협업에 초점을 둡니다.  

• Flows: 상태 관리, 조건부 로직, 이벤트 기반 실행을 포함해 더 구조화된 워크플로 제어를 제공합니다.  

CrewAI는 현재 MCP에 대한 일급 지원과 A2A 연결성도 강조하고 있어, 에이전트 오케스트레이션과 상호운용성 프로토콜이 서로 다른 아키텍처 계층에 존재할 수 있음을 보여 주는 유용한 실제 사례입니다.  

프로덕션 환경을 위해 CrewAI는 에이전트 워크플로의 배포, 모니터링, 확장을 지원하는 플랫폼도 제공합니다.  

Claude(클로드)는 오케스트레이션 프로토콜이라기보다 AI 모델 생태계입니다. 

이 아키텍처와의 관련성은 부분적으로 Anthropic의 MCP 개발 및 채택에서 비롯됩니다. Anthropic의 현재 문서는 Claude Code, Claude.ai, Claude Desktop, Messages API를 포함한 제품 전반에서 MCP 지원을 설명합니다.  

이는 AI 모델이나 애플리케이션이 표준화된 프로토콜을 사용해 모델 자체 외부의 기능에 접근할 수 있음을 보여 줍니다. 

OpenClaw(오픈클로)는 멀티 에이전트 런타임 아키텍처의 또 다른 실제 사례를 제공합니다. 

현재 문서는 하나의 Gateway 안에서 여러 격리된 에이전트를 실행하고, 각 에이전트가 별도의 워크스페이스, 상태 디렉터리, 인증 프로필, 세션 기록을 갖는 방식을 설명합니다. 들어오는 메시지는 구성 가능한 바인딩을 통해 적절한 에이전트로 라우팅될 수 있습니다.  

OpenClaw는 명시적인 에이전트 간 접근 제어도 지원하여, 조직이 어떤 에이전트가 서로 상호작용할 수 있는지 통제할 수 있도록 합니다.  

이는 단순한 작업 위임이 아니라 멀티 에이전트 아키텍처의 또 다른 측면인 에이전트 격리와 라우팅을 이해하는 데 유용합니다. 

>> 더 알아보기: OpenClaw: 챗봇에서 오퍼레이터 에이전틱 시스템으로 

Salesforce(세일즈포스)는 Agentforce 멀티 에이전트 오케스트레이션을 통해 보다 엔터프라이즈 지향적인 사례를 제공합니다. 

Salesforce는 단일 접점 역할을 하는 기본 에이전트가 사용자의 요청을 분석하고 작업을 전문 보조 에이전트로 라우팅한다고 설명합니다. 이러한 에이전트는 전문 데이터와 액션을 사용한 뒤 결과를 기본 에이전트로 반환할 수 있습니다.  

Agentforce는 자사 에이전트를 서드파티 에이전트와 연결하기 위한 A2A 지원도 문서화하고 있으며, 이는 엔터프라이즈 에이전트 플랫폼이 하나의 플랫폼 안에서만 작동하는 것이 아니라 더 넓은 멀티 에이전트 생태계에 참여할 수 있음을 보여 줍니다. 

멀티 에이전트 AI의 발전은 고립된 AI 어시스턴트를 넘어, 에이전트가 엔터프라이즈 리소스에 접근하고 다른 에이전트와 협업하며 다단계 워크플로를 실행할 수 있는 상호 연결된 시스템으로 이동하고 있습니다. 

MCP와 A2A 같은 프로토콜은 서로 다른 수준에서 상호운용성을 다루기 때문에 이러한 전환에 중요합니다. MCP는 AI 애플리케이션을 도구와 리소스에 연결하기 위한 표준화된 인터페이스를 제공하고, A2A는 에이전트가 다른 에이전트를 탐색하고 협업하기 위한 표준화된 메커니즘을 제공합니다.  

실제 프레임워크와 플랫폼의 등장은 멀티 에이전트 아키텍처가 더 이상 연구 개념에만 머물러 있지 않음을 보여 줍니다. CrewAI는 에이전트 팀과 구조화된 플로를 위한 오픈소스 프레임워크를 제공하고, OpenClaw는 멀티 에이전트 라우팅과 격리를 제공하며, Agentforce와 같은 엔터프라이즈 플랫폼은 멀티 에이전트 오케스트레이션을 비즈니스 애플리케이션에 통합하고 있습니다.  

동시에 에이전트 수가 증가하면서 새로운 엔지니어링 과제가 등장합니다. 바로 조율 자체가 설계, 모니터링, 보안, 최적화가 필요한 하나의 시스템이 된다는 점입니다. 

에이전틱 AI가 성숙해짐에 따라 우선순위는 개별 에이전트를 구축하는 것에서, 에이전트가 효과적으로 함께 일할 수 있는 거버넌스가 적용된 신뢰할 수 있는 시스템을 설계하는 것으로 이동하고 있습니다. 

AI 솔루션 도입을 고민하고 계신가요? 

UPP Global Technology JSC는 AI 통합 파트너로서 전략 수립과 개발부터 시스템 통합, 지속적인 개선까지 기업의 End-to-End AI 라이프사이클 전반을 지원합니다. UPP의 AI-Native Delivery 접근 방식은 MASS(Multi-Agent Software Studio)를 기반으로 하며, 기업이 AI 솔루션을 더욱 빠르고 효율적으로 개발하고 확장성 있게 구축할 수 있도록 지원합니다. 

>> UPP의 솔루션을 살펴보기 

멀티 에이전트 오케스트레이션은 여러 AI 에이전트가 작업을 분담하고, 서로 소통하며, 작업 간 의존성을 관리하고, 워크플로를 실행하고, 결과를 검증하면서 하나의 공동 목표를 달성할 수 있도록 조정하는 과정입니다. 

멀티 에이전트 시스템은 여러 AI 에이전트를 포함하는 보다 넓은 개념의 아키텍처입니다. 반면 멀티 에이전트 오케스트레이션은 이러한 에이전트가 어떻게 상호작용하고 각자의 작업이 어떻게 관리되는지를 결정하는 조정 계층을 의미합니다. 

MCP(Model Context Protocol)는 AI 애플리케이션이 외부 도구, 리소스 및 컨텍스트 정보에 연결하는 방식을 표준화하는 오픈 프로토콜입니다. 

A2A(Agent2Agent)는 독립적인 AI 에이전트가 서로의 기능을 탐색하고, 소통하고, 작업을 위임하며, 결과를 교환할 수 있도록 설계된 오픈 프로토콜입니다. 

가장 간단하게 구분하면 MCP는 AI 애플리케이션 또는 에이전트를 도구와 데이터에 연결하고, A2A는 독립적인 에이전트를 다른 에이전트와 연결합니다. 두 프로토콜은 하나의 멀티 에이전트 아키텍처 안에서 함께 사용할 수 있습니다. 

네. 멀티 에이전트 아키텍처에서는 각 에이전트의 요구사항에 따라 서로 다른 모델을 할당할 수 있습니다. 예를 들어 하나의 에이전트에는 추론에 최적화된 모델을 사용하고, 다른 에이전트에는 분류나 반복적인 작업을 위해 더 빠르고 비용 효율적인 모델을 사용할 수 있습니다. 

반드시 그렇지는 않습니다. 멀티 에이전트 시스템은 업무에 서로 다른 책임 영역이나 전문화된 도구가 있거나, 병렬 실행 또는 독립적인 검증이 필요한 경우 유용합니다. 반면 단순한 워크플로에서는 하나의 에이전트로 처리하는 것이 조정에 필요한 오버헤드를 줄일 수 있습니다.