AI 모델에서 에이전트로: 무엇이 시스템을 “에이전트적”으로 만드는가?
AI 최근 몇 년간 모델과 대규모 언어 모델(LLM)은 언어 생성 및 이해와 같은 자연어 처리 분야에서 놀라운 발전을 이루며 비약적인 진전을 보였습니다. 하지만 현재 일어나고 있는 진정한 변화는 종단간(end-to-end) 작업을 계획하고 실행할 수 있는 현대적인 지능형 에이전트( AI )의 개발입니다. 1997년 IBM의 체스 엔진 ‘딥 블루(Deep Blue)’와 같이, 인간 챔피언을 손쉽게 이길 수 있었지만 하나의 특정 작업에만 집중했던 초기 특수 목적 인공지능( AI ) 시스템과의 차이를 생각해 보십시오. 이에 반해 오늘날의 확률론적이고 도구를 활용하는 AI 에이전트는 “다음 주 샌프란시스코 여행을 1,000달러 미만으로 예약하라”와 같이 모호한 종단 간 작업을 계획하고 실행할 수 있으며, 이 과정에서 여러 단계와 자율적인 의사결정이 필요합니다.
최근 저는 ‘클로드 인증 아키텍트(Foundations)’ 자격을 취득했는데, 이 과정을 통해 에이전트 기반 시스템( AI)의 구조와 복잡성, 그리고 그 안에 담긴 기회를 이해하는 데 큰 도움이 되었습니다. 그 핵심 원칙 중 몇 가지를 여러분과 공유하고 싶습니다.
먼저, 에이전트 기반 AI 아키텍처가 기존의 AI 아키텍처와 어떻게 다른지 정의해 보겠습니다. 에이전트의 핵심 특징은 모델, 외부 도구 및 메모리를 활용하여 기반이 되는 대규모 언어 모델의 기본 기능을 확장할 수 있는 능력입니다. 에이전트는 목표를 자율적으로 계획하고, 복잡한 워크플로우를 다단계 작업으로 분해하는 데 중점을 두며, 많은 경우 병렬 실행을 가능하게 함으로써 작동합니다. 후술하겠지만, 이 마지막 측면은 에이전트 기반 아키텍처의 가장 매력적인 특징 중 하나입니다. 전문적인 기술과 목표를 가진 서로 다른 에이전트를 활용함으로써, 오케스트레이터는 작업을 효과적으로 위임한 다음 그 결과를 통합할 수 있습니다. 이는 단일 사용자 요청으로 복잡한 문제를 해결하려는 시도보다 훨씬 더 강력한 방식입니다.
에이전트를 이해하는 또 다른 방법은 그들이 처리할 수 있는 쿼리의 종류를 살펴보는 것입니다. 대규모 언어 모델(LLM)은 단일 쿼리를 받아 종종 인상적이고 겉보기에는 신중하게 고안된 결과를 도출해 냅니다. 반면 에이전트 기반 시스템은 복잡한 과제를 해결하라는 임무를 받을 수 있으며, 이를 위해서는 ‘인식 → 추론 → 행동 → 관찰 → 기억 업데이트 → 목표 달성 시까지반복’이라는 반복적인 루프가 필요합니다 . 게다가 에이전트는 LLM에만 국한되지 않고 외부 시스템과 연결되어 지식을 확장하고 행동을 취합니다. 사용자의 선호도에 따라 많은 에이전트가 최소한의 인간 개입만으로 작동할 수 있습니다.
비즈니스 관점에서 볼 때, 조직들이 채팅 방식의 보조 도구에서 자율적인 워크플로로 전환을 모색함에 따라, 최근 몇 년간 에이전트 기반 AI 시스템이 기업 내 논의의 주류로 자리 잡았습니다. 에이전트 기능이 기업 규모로 회사 데이터에 접근하게 됨에 따라, 작업 자동화 및 점점 더 복잡해지는 작업 처리 능력 덕분에 기업 내 다양한 분야에서 이 시스템의 활용 범위가 크게 확대될 수 있습니다.
핵심 행위적 AI 아키텍처 구성 요소
대부분의 에이전트 기반 AI 아키텍처는 네 가지 핵심 기능으로 나눌 수 있지만, 해결하려는 문제의 구체적인 특성에 따라 각 유형은 하나의 에이전트로 구성될 수도 있고 여러 에이전트로 구성될 수도 있습니다.
- 오케스트레이션 계층은 는 전체 작업을 관리하고 구성 요소를 하위 에이전트에 위임하는 역할을 담당합니다
- 인식 이 과제들은 주어진 과제를 이해하고, 의도를 파악하며, 관련 정보를 찾기 위해 종종 중요한 데이터 소스를 처리하는 데 중점을 둡니다.
- 추론 추론 과제는 과제에 대한 이해와 추론을 위한 기초 자료를 활용하여 이상적인 행동 방안을 결정하는 데 사용된다
- 실행 중심의 작업 외부 작업을 수행할 수 있도록, 사용 가능한 기능을 공개하는 외부 서비스(주로 MCP(Model Context Protocol) 서버를 통해)와 연결됩니다.
다음 섹션에서는 이러한 구성 요소들을 하나씩 살펴보며, 에이전트 기반 AI 시스템이 어떻게 구축되는지, 그리고 성공적이고 효율적인 에이전트 기반 시스템을 구현하기 위해 필요한 다양한 고유한 설계 측면을 이해해 보겠습니다. 이 블로그는 에이전트 기반 시스템을 연결하는 데 사용되는 수많은 기술 표준과 인터페이스, 또는 많은 분산 시스템의 복잡한 환경을 다루려는 것이 아니라, 현재 적용되고 있는 중요한 절충점과 일반적인 설계 접근 방식에 대한 전반적인 개요를 제공하는 데 목적을 두고 있습니다.
지각: 행위자 시스템이 세상을 어떻게 받아들이고 이해하는가
지각은 행위자적 AI 가 세상을 이해하는 “감각적” 계층입니다. 당면한 과제의 맥락을 이해하기 위해, 행위자들은 다음과 같이 광범위하고 다양한 유형의 데이터를 읽어들이고 이해해야 합니다:
- 채팅 입력, 이메일, 서비스 티켓과 같은 자연어 입력
- 사양서, 웹 페이지, PDF 등 비정형 문서 입력 자료 . 이러한 고밀도 비정형 콘텐츠를 에이전트 기반 아키텍처가 이해할 수 있는 입력 자료로 변환하는 것은 특히 중요합니다. 이를 통해 AI 의 에이전트가 인간이 일반적으로 인지하는 것과 유사한 맥락을 파악할 수 있게 되기 때문입니다.
- SQL 데이터베이스, 센서 데이터, 오디오, 비디오 또는 기타 객체 저장 방식과 같은 구조화된 데이터 입력.
모든 데이터 유형에 걸쳐 근본적인 과제는 이를 추론 엔진이 효율적으로 처리할 수 있는 구조화된 형태로 변환하는 것입니다.
조율과 추론: ‘ AI ’ 에이전트의 인지 엔진
에이전트 아키텍처의 중심에는 오케스트레이션 및 추론 계층이 있습니다. 추론 계층은 목표를 선택하고, 이를 계획으로 세분화하며, 도구를 선정하고, 작업이 ‘완료’된 시점을 결정하는 AI 에이전트의 ‘두뇌’ 역할을 합니다. 현재로서는 LLM(GPT‑4.1, Gemini Pro, Claude, LLaMA 변형 모델 등)이 대표적인 추론 엔진이며, 이 아키텍처의 핵심을 이루고 있습니다.
단일 LLM 호출과 에이전트 기반 접근 방식의 차이점은, 전체 오케스트레이터를 포함한 추론 계층이 과제를 하위 목표로 세분화한다는 점입니다. 이 하위 목표들은 다른 에이전트에게 업무를 위임할 시점, 사람에게 문의할 시점, 도구를 사용할 시점, 그리고 목표가 달성되지 않아 작업을 종료해야 할 시점을 결정합니다. 에이전트 기반 시스템에서, 다중 에이전트 구성의 각 하위 에이전트에게는 전체 임무보다 더 구체적인 특정 임무가 부여됩니다. 이 특정 임무에는 에이전트가 집중하여 전문적인 작업을 더 효과적으로 수행할 수 있도록 돕기 위해, 맞춤형 역할, 시스템 프롬프트 및 기술이 함께 제공됩니다.
작업에 따라, 추론 에이전트는 LLM의 제약 조건 내에서 작업 범위를 달성할 수 있도록 신중하게 설계됩니다. 프롬프트의 최대 길이에 도달하거나, 데이터가 비정형 형식으로 제공되거나, 단순히 작업 규모가 너무 클 경우, 환각 현상이나 핵심 사실을 “잊어버리는” 현상이 발생할 수 있습니다. 이러한 경우, 대규모 작업을 더 작은 하위 집합을 처리하는 직렬 또는 병렬 에이전트로 재구성하는 다중 에이전트 워크플로가 필요할 수 있습니다. 다중 에이전트 협업의 복잡성은 하위 작업 관리에 있으며, 이는 오케스트레이터의 조정 복잡성을 증가시킵니다.
기억: 행위자 중심 AI 시스템의 단기 및 장기적 맥락
에이전트 기반 추론( AI ) 역시 에이전트가 작업 진행 상황을 추적할 수 있도록 하기 위해 필연적으로 영구 메모리에 의존하며, 특히 에이전트가 시간의 흐름에 따라 여러 단계, 세션 또는 연속적인 작업을 수행할 때 더욱 그러합니다. 이 중 가장 간단한 예는 대화 이력으로, LLM은 근본적으로 상태 비저장형(stateless)이므로 에이전트 프레임워크가 이를 추론 계층에 다시 제공해야 합니다. 작업이 진행됨에 따라 대화가 넘치지 않도록 보장하기 위해서는 구조화된 컨텍스트 관리가 필요합니다.
대화 내역 자체에 대한 단기 기억과는 별도로, 벡터 데이터베이스, 지식 그래프 또는 관계형/SQL 저장소를 통해 구현된 사용자 프로필, 과거 사건, 프로젝트 이력, 도메인별 문서와 같은 영구 저장소 외부의 장기 기억이 존재합니다. 장기 기억을 활용하면 ‘ AI ’ 에이전트가 RAG(검색 강화 생성, Retrieval-Augmented Generation) 파이프라인을 구축할 수 있으며, 이를 통해 예를 들어 고객 지원 담당자가 과거 티켓 및 구매 내역을 조회하여 맞춤형 응답을 제공할 수 있습니다.
행동: 도구 사용, 실행 및 실제 세계에서의 영향
주체 중심 AI 의 핵심은 AI 를 통해 내린 결정을, 도구, API, 데이터베이스 또는 다른 에이전트를 호출하고, 코드, 티켓 또는 구성 변경 사항을 생성함으로써 실제 세계의 변화로 연결하는 능력에 있습니다 . 이 글을 작성하는 시점에서, 도구는 대개 MCP를 통해 노출되는데, MCP는 AI 에서 사용할 수 있는 도구를 공개하고 입력 및 출력을 위한 구조화된 스키마를 제공합니다.
도구 사용은 중요한 함의를 수반합니다. 현재로서는 너무 많은 도구를 과도하게 사용하거나 지나치게 복잡한 스키마를 제공하면 혼란을 초래할 위험이 있어, 추론 엔진이 잘못된 도구를 선택하거나 컨텍스트 윈도우에 과부하가 걸릴 수 있습니다. 에이전트를 전문화된 작업으로 세분화하고 각 하위 작업에 적합한 도구를 할당하는 것은 성공률을 높이는 한 가지 전략입니다.
이와 마찬가지로 중요한 것은 에이전트가 승인된 도구에만 접근할 수 있도록 충분한 보안을 확보하고, 불확실성이 높거나 위험이 크거나 재정적 영향이 큰 영역 등에서는 사람의 감독이 이루어지도록 하는 것입니다. 오류 처리는 도구가 성공적으로 완료되도록 보장하고, 그렇지 않을 경우 에이전트가 관리형 재시도 등과 같은 방식으로 상황을 원활하게 처리할 수 있도록 하는 데 중요할 뿐만 아니라, 도구 호출이 비즈니스 로직이나 보안 정책을 준수하도록 보장하는 안전 장치를 제공하는 데에도 중요합니다.
시스템 아키텍처 유형: 단일 에이전트, 다중 에이전트 및 하이브리드 시스템
에이전트 기반 시스템의 복잡도는 다양할 수 있습니다. 오늘날 단일 에이전트 시스템은 특정 업무 흐름에 집중하여 처리할 수 있으며, 다중 에이전트 시스템은 복잡하거나 대규모 문제에 활용되고, 하이브리드 구성은 여러 계층에 걸쳐 인간과 AI 에이전트를 결합합니다.
- 단일 에이전트 아키텍처: 자체적인 추론, 메모리 및 도구를 갖춘 하나의 ' AI ' 에이전트가 루프 내에서 실행되는 방식입니다. 대표적인 예로는 고객 지원 에이전트, 문서 작업을 위한 내부 보조 에이전트, 보고서 생성 에이전트 등이 있습니다.
- 다중 에이전트 아키텍처: 이는 메시지를 통해 협력하는 여러 전문 에이전트(예: “연구자”, “기획자”, “실행자”, “검토자”)로 구성됩니다. 다중 에이전트 AI 설계 패턴에는 계층적 구조(조정자 + 작업자), 분산형 피어투피어 네트워크, 그리고 작업 상황에 따라 주도권이 전환될 수 있는 하이브리드 구조 등이 포함됩니다. 각 구조는 고유한 장점과 복잡성을 지니고 있습니다.
불필요한 복잡성을 피하기 위해, 단일 에이전트 시스템으로 시작하여 특정 추가 요구 사항(예: 전문화, 병렬화, 검증의 필요성)을 해결하기 위한 경우에만 다중 에이전트 시스템으로 전환하는 것이 모범 사례입니다.
전망
에이전틱 컴퓨팅(Agentic AI )은 새로운 기능의 개발 속도를 높일 수 있으며, 다양한 산업 분야와 활용 유형에 걸쳐 널리 도입되고 있습니다. 점점 더 많은 서비스가 입력 또는 출력 작업을 위해 에이전트가 해당 서비스에 접근할 수 있도록 하는 MCP 인터페이스를 공개함에 따라, 에이전트의 기술과 기능은 빠르게 진화하고 있습니다. Sonatus 은 이 분야에 막대한 투자를 하고 있으며, 사전 생산 테스트 및 검증부터 사후 서비스에 이르는 다양한 사용 사례를 지원하기 위해 복잡한 다중 에이전트 시스템을 제공하고 있습니다. 저희는 이 새로운 유형의 컴퓨팅이 지닌 잠재력과 이를 통해 고객에게 제공할 수 있는 가능성에 큰 기대를 걸고 있습니다.
