기업 AI 에이전트 도입, 신뢰·보안·정확도 통합 관리가 관건 - 지티티코리아

챕스비전이 기업 전반의 AI 에이전트를 구성·배포·오케스트레이션·거버넌스할 수 있는 플랫폼 ‘챕스에이전츠’를 정식 출시했다. 회사는 대기업 임원의 85.7%가 에이전틱 AI 도입의 주요 장애물로 신뢰성, 보안, 정확도를 꼽았다고 밝혔으며, 이에 대응해 엔터프라이즈 지식 기반 연결과 거버넌스를 핵심 축으로 제시했다. 에이전틱 AI 확산의 관건이 모델 성능 자체보다 신뢰 가능한 지식 연결과 통제 체계로 이동하고 있음을 시사한다. 기업의 에이전틱 AI 도입이 확산되면서 파일럿 단계에서 실제 운영으로 전환하는 과정에서 성능 못지않게 신뢰성과 거버넌스 문제가 주요 과제로 부상하고 있다. 특히 AI가 잘못된 정보를 기반으로 판단하거나 통제 없이 행동할 경우, 기업 리스크로 직접 연결될 수 있다. 따라서 AI 에이전트가 자율적으로 의사결정과 실행을 수행하는 환경에서는 정확성, 보안, 통제 구조 확보가 핵심 요소로 작용하고 있다. 이러한 환경에서 기업들은 AI 에이전트를 대규모로 운영하기 위한 플랫폼에 주목하고 있다. AI 및 데이터 솔루션 기업 챕스비전(ChapsVision)이 에이전틱 AI 플랫폼 ‘챕스에이전(ChapsAgents)’를 출시했다. 챕스에이전츠는 기업 전반의 AI 에이전트 생태계를 구성하고, 배포하고, 오케스트레이션하며, 거버넌스를 적용하는 엔터프라이즈 플랫폼이다. 신뢰와 통제가 에이전틱 AI 확산의 변수로 부상 많은 기업이 에이전틱 AI를 시험 프로젝트와 제한된 적용 수준에서 운영하고 있다. 챕스비전의 조사에서 대기업 임원의 85.7%가 신뢰성, 보안, 정확성을 에이전틱 AI 도입의 주요 장애 요인으로 꼽았다. 에이전틱 AI에 대한 관심이 빠르게 높아지는 반면, 이를 실제 업무 환경에서 안정적으로 운영할 체계는 아직 충분히 갖춰지지 않았다는 점을 보여주는 수치다. 챕스비전은 이 과제를 지식 기반 신뢰성과 행동 거버넌스의 두 축으로 설명했다. 하나는 AI 에이전트가 어떤 정보를 바탕으로 답하고 판단하느냐의 문제이고, 다른 하나는 어떤 규칙 아래서 업무를 수행하느냐의 문제다. 챕스에이전츠는 이 두 영역을 함께 다룰 수 있도록 설계된 플랫폼으로 소개됐다. 챕스비전 제프 에버넘(Jeff Evernham) 혁신 총괄은 “AI는 질문에 답하는 도구에서 계획·의사결정·실행을 수행하는 단계로 진화하고 있다.”라며 “신뢰와 확장성을 동시에 확보하는 것이 기업 AI 도입의 핵심”이라며, “챕스에이전츠는 기업 확산을 가로막아 온 신뢰와 확장성 문제에 대한 해법으로 단순한 에이전트 생성이 아니라 기업 환경에서의 운영 기반에 맞춰져 있다.”고 강조했다. 기업 지식 연결과 보안 통제를 함께 겨냥 챕스에이전츠의 기술 핵심은 에이전틱 검색증강생성(Agentic RAG)과 관리 기술로 대규모 글로벌 배포 환경에서 검증됐다고 설명했다. 또한 해당 플랫폼이 고규제 산업과 정부의 핵심 업무 환경에서 활용돼 왔으며, 이번 공개를 계기로 글로벌 기업 시장으로 확대 제공된다고 밝혔다. 챕스에이전츠의 첫 번째 특징은 보안, 프라이버시, 거버넌스를 플랫폼 전 계층에 반영한 점이다. 에이전트가 기업 데이터와 업무를 다루는 환경에서는 결과 품질뿐 아니라 접근 통제, 정책 준수, 감사 가능성이 함께 요구된다. 챕스비전은 챕스에이전츠가 이러한 요구를 반영한 엔터프라이즈급 운영 기반이라고 설명했다. 두 번째는 기업 지식 기반 연결이다. 챕스비전은 에이전틱 RAG를 통해 환각을 줄이고 더 신뢰할 수 있는 결과를 제공한다고 밝혔다. 외부 일반 지식에 의존하기보다 기업 내부의 검증된 지식에 근거해 에이전트가 동작하도록 설계한 것이다. 이는 답변 정확도뿐 아니라 실제 업무 처리의 일관성을 높이는 방향으로 제시됐다. 세 번째는 노코드 에이전트 빌더다. 챕스비전은 이를 통해 기업 전반에서 AI 에이전트 생성과 관리를 폭넓게 활용할 수 있다고 설명했다. 개발 조직뿐 아니라 현업 부서도 업무 목적에 맞는 특화 에이전트를 빠르게 만들고 운영할 수 있도록 지원하는 구성이 포함됐다. 네 번째는 확장성과 재사용성이다. 챕스비전은 파일럿에서 대규모 운영으로 빠르게 전환하고, 기존 에이전트 역량을 재사용하거나 확장할 수 있다고 설명했다. 또 어떤 형식과 언어 환경에서도 수천 개 에이전트를 오케스트레이션할 수 있다고 밝혔다. 이는 글로벌 기업이나 다부서 운영 환경에서 필요한 대규모 관리 역량을 겨냥한 설명이다. 챕스비전 브라이언 커크(Brian Kirk) 북미 총괄 매니저는 “이 플랫폼이 모든 사용자가 에이전트를 만들 수 있도록 지원하면서도 각 계층에서 보안, 프라이버시, 컴플라이언스를 보장한다.”라고 말했다. 고규제 산업과 대형 조직의 운영 수요 반영 이번 공개는 에이전틱 AI 시장의 관심이 기능 시연에서 운영 신뢰성으로 옮겨가고 있음을 보여준다. 금융, 공공, 제조, 국방처럼 규제와 감사 요구가 큰 산업에서는 AI 에이전트의 성능만으로 도입이 결정되기 어렵다. 실제 업무에 연결하려면 통제 가능성, 설명 가능성, 보안 체계가 함께 검토돼야 하기 때문이다. 챕스비전이 고규제 조직, 정부의 핵심 업무 환경, 보안, 컴플라이언스, 거버넌스를 반복적으로 강조한 것도 이런 수요와 맞닿아 있다. 에이전틱 AI가 기업 내부 시스템과 데이터에 연결될수록, 도입 여부는 모델 성능보다 운영 체계와 통제 수준에 더 크게 좌우될 수 있다. 고객사 사례도 함께 제시됐다. 커민스(Cummins)의 올리버 스콧 비어드(Oliver Scott Beard) AI 시스템 총괄 기술 아키텍트는 “챕스비전과의 협력을 통해 더 빠른 혁신, 재작업 감소, 시장 및 규제 요구에 대한 민첩한 대응을 경험하고 있다”라며, “챕스에이전츠가 디지털 스레드 전반의 에이전틱 잠재력을 여는 중요한 진전”이라고 평가했다. 챕스에이전츠는 에이전트 생성 자체보다 신뢰, 지식 기반 연결, 보안, 거버넌스, 확장 운영에 초점을 맞춘 플랫폼으로 공개됐다. 기업이 에이전틱 AI를 실제 업무 체계에 적용하려면 무엇을 답하느냐뿐 아니라 어떤 지식을 근거로 어떤 규칙 아래 어떻게 작동하느냐가 중요해지고 있다. 이번 발표는 에이전틱 AI 시장에서 운영 통제와 전사 확장 역량이 주요 경쟁 요소로 부상하고 있음을 보여준다. 관련기사 - 통제 안 된 AI 에이전트 300만개...모델·도구 호출 한 곳서 막는다 - 기업 AI 에이전트 보안 리스크 관리...실행 단계 분석으로 위험 행위 사전 차단 - AI 업무 확산 막는 지식 파편화, 통합 검색·업무 자동화가 해법 - 패치 지연 줄이고 반복 티켓 자동화하는 AI 기반 IT·보안 운영 기술 - 자율형 AI, 모델보다 운영 맥락 없으면 IT 자동화 실패한다 - 고객서비스 지식 오류 줄인다...AI 대응 ‘지식 에이전트’ 공개 - AI 도입 앞당길수록 커지는 신뢰 리스크...데이터 동의 UX부터 다시 설계해야 - 멀티모델 API, 기업 AI 종속 리스크 줄일 대안으로 부상 - AI가 한 일을 끝까지 증명한다...에이전트 실행 거버넌스 운영체제 등장 - 실험 끝내고 운영 돌입한 AI 마케팅...검색 노출·성과 측정이 성패 가른다