인공지능의 급격한 발전은 산업 전반을 변화시키고 있으며, 단일 코파일럿에서 멀티 에이전트 시스템으로의 전환은 중요한 도약을 의미합니다. 특화된 AI 에이전트들이 협업하고 자체 비판하는 이러한 상호 연결된 접근 방식은 전례 없는 수준의 자동화와 효율성을 제공할 것으로 기대됩니다. 그러나 이러한 복잡한 시스템을 구축하고 관리하는 데에는 비용, 지연 시간, 규정 준수 및 보안과 같은 고유한 과제가 따르며, 신중한 고려가 필요합니다. 최근 VentureBeat AI Impact Series 토론에서 얻은 통찰력을 바탕으로 기업, 개인, 그리고 더 넓은 기술 환경에 대한 멀티 에이전트 AI 시스템의 전략적 의미를 살펴봅니다.
멀티 에이전트 AI 시스템의 복잡성 관리
단일 코파일럿은 이제 옛말입니다. 경쟁 우위를 확보하려면 협업하고 자체 비판하며 모든 단계에 적합한 모델을 호출하는 특화된 에이전트 네트워크를 구축해야 합니다. SAP가 샌프란시스코에서 주최한 VentureBeat의 AI Impact Series 최신호에서는 멀티 에이전트 AI 시스템의 구축 및 관리 문제를 다루었습니다.
SAP Labs U.S. 상무이자 SAP의 연구 혁신 글로벌 책임자인 Yaad Oren과 분석 및 임상 실험실 기술 회사인 Agilent의 수석 부사장 겸 CIO인 Raj Jampa는 비용, 지연 시간, 규정 준수 가이드라인을 준수하면서 실제 환경에 이러한 시스템을 구축하는 방법에 대해 논의했습니다. Oren은 SAP의 목표는 고객이 AI 에이전트를 안전하게 확장할 수 있도록 지원하는 것이라고 말했습니다.
“원한다면 거의 완전 자율적으로 운영할 수 있지만, 개선 및 수정을 돕기 위한 수많은 검사 지점과 모니터링 시스템을 마련해 두었습니다.”라고 그는 말했습니다. “이 기술은 대규모로 모니터링되어야 합니다. 아직 완벽하지 않습니다. 에이전트를 확장하면서 동시에 취약성을 최소화하기 위해 우리가 하고 있는 일은 빙산의 일각에 불과합니다.”
조직 전체에 걸쳐 능동적인 AI 파일럿 구축
현재 Agilent는 조직 전체에 AI를 적극적으로 통합하고 있다고 Jampa는 말했습니다. “우리는 지금 결과를 보고 있는 단계입니다.”라고 그는 설명했습니다. “이제 ‘AI 모니터링을 어떻게 강화할 것인가?’, ‘AI 비용 최적화는 어떻게 할 것인가?’와 같은 문제를 해결해야 합니다. 더 이상 탐색하는 단계가 아니라, 새로운 과제와 이러한 비용 및 모니터링 도구를 처리하는 방법을 고민하는 두 번째 단계에 있습니다.”
Agilent 내에서 AI는 세 가지 전략적 축을 중심으로 구축된다고 Jampa는 말했습니다. 첫째, 제품 측면에서는 개발하는 기기에 AI를 내장하여 혁신을 가속화하는 방법을 모색하고 있습니다. 둘째, 고객 중심 측면에서는 고객에게 가장 큰 가치를 제공할 AI 기능을 파악하고 있습니다. 셋째, 자가 치유 네트워크와 같은 솔루션을 구축하여 효율성과 용량을 높이는 등 내부 운영에 AI를 적용하고 있습니다.
“이러한 사용 사례를 구현하면서 중점을 둔 한 가지는 거버넌스 프레임워크입니다.”라고 Jampa는 설명했습니다. 여기에는 정책 기반 경계 설정 및 각 솔루션에 대한 가이드라인을 통해 불필요한 제한을 없애면서 규정 준수 및 보안을 유지하는 것이 포함됩니다.
최근 에이전트 중 하나가 구성 업데이트를 수행했지만 경계가 확실한지 확인하는 절차가 없었을 때 이러한 중요성이 강조되었습니다. Jampa는 업그레이드로 인해 즉시 문제가 발생했지만, 두 번째 축인 감사, 즉 모든 입력과 출력을 기록하고 추적할 수 있도록 하는 시스템 덕분에 네트워크에서 신속하게 문제를 감지할 수 있었다고 말했습니다.
인적 요소 추가는 마지막 단계입니다.
“소규모의 소문자 사용 사례는 매우 간단하지만, 자연어, 대규모 번역 등의 경우 복잡한 모델이 사용됩니다.”라고 그는 말했습니다. “이러한 중요한 결정의 경우, 에이전트가 ‘다음 단계를 위해 사람의 개입과 승인이 필요합니다’라고 말하는 요소를 추가합니다.”
또한 속도와 정확성 문제는 의사 결정 과정 초기에 작용한다고 덧붙였습니다. 비용이 빠르게 증가할 수 있기 때문입니다. 지연 시간이 짧은 작업에 복잡한 모델을 사용하면 비용이 크게 증가합니다. 거버넌스 계층은 에이전트 결과의 속도, 지연 시간 및 정확성을 모니터링하여 기존 구축 환경을 기반으로 확장하고 AI 전략을 지속적으로 확장할 수 있는 기회를 파악하는 데 도움이 됩니다.
에이전트 통합 과제 해결
AI 에이전트와 기존 엔터프라이즈 솔루션 간의 통합은 여전히 주요 난제입니다. 레거시 온프레미스 시스템은 데이터 API 또는 이벤트 기반 아키텍처를 통해 연결할 수 있지만, 가장 좋은 방법은 먼저 모든 솔루션이 클라우드 프레임워크 내에서 작동하도록 하는 것입니다.
“클라우드 솔루션만 있으면 모든 연결과 모든 제공 주기를 더 쉽게 관리할 수 있습니다.”라고 Oren은 말했습니다. “많은 기업들이 온프레미스 설비를 갖추고 있습니다. 우리는 AI와 에이전트를 사용하여 이러한 설비를 클라우드 솔루션으로 마이그레이션할 수 있도록 지원하고 있습니다.”
SAP의 통합 툴 체인을 사용하면 레거시 소프트웨어 사용자 지정과 같은 복잡한 작업도 클라우드에서 쉽게 유지 관리할 수 있습니다. 모든 것이 클라우드 인프라 내에 있으면 데이터 계층이 마련되는데, 이는 그 못지않게 중요합니다.
SAP에서는 Business Data Cloud가 SAP 및 비SAP 소스의 정보를 통합하는 통합 데이터 플랫폼 역할을 합니다. Google이 웹 콘텐츠를 색인화하는 것처럼 Business Data Cloud는 비즈니스 데이터를 색인화하고 시맨틱 컨텍스트를 추가할 수 있습니다.
Oren은 다음과 같이 덧붙였습니다. “그러면 에이전트는 연결하고 엔드 투 엔드 비즈니스 프로세스를 생성할 수 있습니다.”
엔터프라이즈 에이전트 활성화의 격차 해소
많은 요소가 작용하지만 세 가지가 중요합니다. 데이터 계층, 오케스트레이션 계층, 개인 정보 보호 및 보안 계층입니다. 깨끗하고 잘 구조화된 데이터는 물론 중요하며, 성공적인 에이전트 구축은 통합 데이터 계층에 따라 달라집니다. 오케스트레이션 계층은 에이전트 연결을 관리하여 시스템 전반에 걸쳐 강력한 에이전트 자동화를 가능하게 합니다.
“[에이전트]를 오케스트레이션하는 방법은 과학이지만 예술이기도 합니다.”라고 Oren은 말합니다. “그렇지 않으면 오류뿐만 아니라 감사 및 기타 문제도 발생할 수 있습니다.”
마지막으로 보안 및 개인 정보 보호에 대한 투자는 절대 타협할 수 없는 부분입니다. 특히 데이터베이스 및 엔터프라이즈 아키텍처 전반에서 수많은 에이전트가 작동하는 경우 권한 부여 및 ID 관리는 매우 중요합니다. 예를 들어 HR 팀원은 급여 또는 개인 식별 정보에 액세스해야 할 수 있지만 다른 사람은 이를 볼 수 없어야 합니다.
우리는 인간 엔터프라이즈 팀에 에이전트와 로봇 팀원이 합류하는 미래를 향해 나아가고 있으며, ID 관리는 그때 더욱 중요해질 것이라고 Oren은 말했습니다.
“우리는 에이전트를 점점 더 인간처럼 보기 시작했지만, 에이전트는 추가 모니터링이 필요합니다.”라고 그는 덧붙였습니다. “여기에는 온보딩과 권한 부여가 포함됩니다. 또한 변경 관리도 필요합니다. 에이전트는 직원과 마찬가지로 유지 관리해야 하는 전문적인 개성을 갖기 시작했지만, 훨씬 더 많은 모니터링과 개선이 필요합니다. 수명 주기 관리 측면에서는 자율적이지 않습니다. 변경 및 개선해야 할 사항을 확인하기 위한 검사 지점이 있습니다.”
멀티 에이전트 AI의 다양한 이해관계자와 광범위한 영향
멀티 에이전트 시스템으로의 전환은 기반 기술에 대한 더 깊은 이해를 필요로 합니다. 민감한 데이터를 공유하지 않고 에이전트가 협업하여 학습하는 연합 학습과 같은 분야는 안전하고 확장 가능한 구축을 가능하게 하는 데 매우 중요합니다. 또한 자연어 처리(NLP)의 발전으로 에이전트가 복잡한 지침을 이해하고 응답할 수 있게 되어 원활한 인간-에이전트 상호 작용이 가능해졌습니다. 금융, 의료, 제조와 같은 산업에서는 이미 프로세스 최적화, 위험 관리 및 맞춤형 고객 경험을 위해 멀티 에이전트 시스템의 잠재력을 모색하고 있습니다. 표준화된 통신 프로토콜 및 상호 운용성 프레임워크의 개발은 다양한 분야에서 이러한 시스템의 도입을 더욱 가속화할 것입니다.
멀티 에이전트 AI의 부상은 다양한 이해관계자에게 광범위한 영향을 미칩니다. 기업은 이러한 시스템을 활용하여 복잡한 워크플로우를 자동화하고, 의사 결정을 개선하고, 고객 서비스를 강화할 수 있습니다. 그러나 직원의 역할이 지능형 에이전트와 함께 발전함에 따라 새로운 과제에 직면할 수 있습니다. 재교육 이니셔티브 및 인간-에이전트 협업에 중점을 두어 잠재적인 일자리 감소 문제를 해결하는 것이 중요합니다. 소비자는 개인화된 경험과 향상된 효율성의 혜택을 누리겠지만, 데이터 개인 정보 보호 및 알고리즘 편향에 대한 우려는 강력한 거버넌스 프레임워크와 투명한 AI 관행을 통해 해결해야 합니다.
멀티 에이전트 AI는 경제 생태계를 재편할 태세입니다. 기업이 지능형 에이전트를 활용하여 혁신적인 제품과 서비스를 만들어냄에 따라 새로운 비즈니스 모델이 등장할 것입니다. AI 전문가, 데이터 과학자, 윤리학자에 대한 수요는 계속 증가하여 노동 시장의 변화를 주도할 것입니다. AI 플랫폼 제공업체 간의 경쟁이 심화되어 에이전트 기능 및 구축 전략의 발전으로 이어질 것입니다. 기존 가치 사슬에 멀티 에이전트 시스템이 통합되면 산업 전반에 걸쳐 협업 및 가치 창출을 위한 새로운 기회가 창출될 것입니다.
AI 인재, 데이터 인프라 및 보안 조치에 대한 투자를 우선
앞으로 멀티 에이전트 AI 시스템은 자율 의사 결정 및 복잡한 문제 해결 능력을 갖춘 더욱 정교한 시스템으로 발전할 것입니다. 이는 책임성, 투명성, 의도하지 않은 결과의 가능성과 관련된 중요한 윤리적 고려 사항을 제기합니다. 규제 프레임워크는 이러한 시스템으로 인해 발생하는 고유한 과제를 해결하고 책임감 있는 개발 및 구축을 보장하기 위해 적응해야 할 것입니다. 기업은 멀티 에이전트 AI의 혁신적인 잠재력을 효과적으로 활용하기 위해 AI 인재, 데이터 인프라 및 보안 조치에 대한 투자를 우선시해야 합니다. 거버넌스, 윤리적 고려 사항 및 인력 적응에 대한 선제적 접근 방식은 진화하는 지능형 자동화 환경을 헤쳐나가는 데 매우 중요할 것입니다.
Oren과 Jampa의 통찰력에서 강조되었듯이 멀티 에이전트 AI 시스템으로의 전환에는 전략적이고 전체적인 접근 방식이 필요합니다. 이들의 분석을 바탕으로 성공적인 구현은 강력한 데이터 인프라, 효율적인 오케스트레이션, 그리고 보안 및 개인 정보 보호에 대한 확고한 의지에 달려 있음을 알 수 있습니다. 엔터프라이즈 운영의 미래는 인간의 전문 지식이 지능형 에이전트의 연산 능력을 보완하는 원활한 인간-에이전트 협업에 있습니다. 멀티 에이전트 AI의 기술적, 윤리적, 경제적 의미를 해결함으로써 기업은 혁신, 효율성 및 경쟁 우위를 위한 새로운 기회를 열 수 있습니다. 지속적인 학습, 적응 및 책임감 있는 AI 관행을 우선시하는 미래 지향적인 전략을 수용하는 조직은 지능형 자동화 시대에 성공할 수 있는 최상의 위치에 있을 것입니다.
참고
VB Staff, VB AI Impact Series: Can you really govern multi-agent AI?, VentureBeat
About the Author
