통제 안 된 AI 에이전트 300만개...모델·도구 호출 한곳서 막는다 - 지티티코리아

그라비티가 기업의 AI 에이전트 운영을 통제·보안·관측하는 AI 게이트웨이를 출시했다. 신규 조사에서는 미국·영국 대기업이 배치한 AI 에이전트가 약 300만 개에 이르며, 이 중 47%는 능동적 모니터링이나 보안 없이 운영되는 것으로 제시됐다. 에이전트가 LLM을 호출하고 외부 도구를 실행하는 흐름이 늘어나는 상황에서, 호출 경로별 통제를 API 관리 방식으로 끌어오려는 시도라는 점이 핵심이다. 기업의 AI 에이전트 도입이 빠르게 확대되면서 보안과 관리 체계 부족 문제가 새로운 위험 요소로 부상하고 있다. 특히 자율적으로 동작하는 AI 에이전트가 증가하면서 기업 내부 데이터 접근과 외부 도구 활용에 대한 통제가 핵심 과제로 떠오르고 있다. API 관리 기업 그라비티(Gravitee, CEO 로리 블런델)는 AI 에이전트 관리 및 보안을 위한 AI 게이트웨이(AI Gateway)를 출시했다. 이번 솔루션은 자율형 AI 에이전트가 사용하는 두 가지 핵심 경로인 LLM 접근과 외부 도구 연결을 통합 관리하는 것이 특징이다. API 관리 기업 그라비티(Gravitee)는 이런 문제를 겨냥해 AI 게이트웨이(AI Gateway)를 출시했다고 9일 밝혔다. 회사는 이를 통해 자율형 에이전트가 사용하는 두 경로인 LLM 연결과 외부 도구 호출을 통합 관리할 수 있다고 설명했다. 300만 AI 에이전트, 절반은 무통제 상태 그라비티가 발표한 ‘AI 에이전트 보안 현황 2026(State of AI Agent Security 2026)’ 보고서에 따르면 기업 AI 에이전트 도입 속도는 빠르게 증가하고 있지만 보안 체계는 이를 따라가지 못하고 있는 것으로 나타났다. 보고서에 따르면 미국과 영국의 대기업은 약 300만 개의 AI 에이전트를 운영하고 있으며 이는 글로벌 유통 기업 월마트(Walmart) 직원 수보다 많은 규모다. 그러나 전체 AI 에이전트 중 47%는 모니터링이나 보안 체계 없이 운영되고 있는 것으로 조사됐다. 또한 88%의 기업이 지난 12개월 동안 AI 에이전트 관련 보안 또는 데이터 개인정보 사고를 경험했거나 의심한 것으로 나타났다. LLM 호출과 도구 실행을 같은 통제면으로 묶었다 이번 제품의 핵심은 에이전트가 실제로 움직이는 경로를 따로 보지 않고 한곳에서 다루는 데 있다. 그라비티는 AI 게이트웨이를 AI 에이전트 관리 플랫폼의 핵심 축으로 두고, 에이전트 간 통신, 도구 호출, LLM 호출을 하나의 게이트웨이 계층으로 묶는다고 설명했다. 공식 자료에 따르면 이번 구성에는 LLM 프록시(Proxy)와 MCP 프록시가 포함된다. 여기에 앞서 도입된 A2A 프록시가 더해지면서, 에이전트가 다른 에이전트와 통신하고 외부 도구를 찾고 실행하며 LLM에 요청을 보내는 흐름을 단일 제어 지점에서 다룬다. 그라비티는 이를 기존 에이전트 메시(Agent Mesh)에서 한 단계 확장한 형태로 설명한다. 단순 연결 계층을 넘어서 정책 적용, 보안 통제, 관측 기능을 함께 묶어 에이전트 수가 늘어날수록 커지는 운영 복잡도를 줄이겠다는 방향이다. 토큰 제한·PII 정책·MCP 통제로 실제 운영 지점을 겨냥했다 LLM 프록시는 여러 LLM 제공자를 단일 인터페이스로 연결하는 기능을 맡는다. 하나의 인터페이스로 여러 LLM 제공자에 연결하고, 토큰 제한과 가드레일, PII 관련 정책, 시맨틱 캐시를 중앙에서 적용할 수 있다. 지연 시간과 성능, 비용을 실시간으로 모니터링하고 요청·응답 단위 가시성도 제공한다. 이번 발표에서는 이 LLM 프록시가 오픈AI 호환 인터페이스를 노출하고 오픈AI, 제미나이 베드록 등으로 요청을 라우팅한다고 설명한다. 또 AI 토큰 사용량 제한(AI Token Rate Limit) 정책으로 일정 시간 동안 허용할 입력·출력 토큰 총량을 제한할 수 있으며, 프롬프트 가드레일(Prompt Guard Rails) 정책으로 욕설, 성적 표현, 유해 의도, 탈옥 및 프롬프트 인젝션 시도를 차단할 수 있다고 밝혔다. MCP 프록시는 도구 호출 통제를 겨냥한다. 회사는 API와 도구를 MCP 표준 기반의 에이전트 사용 가능 도구로 노출하고, 에이전트의 도구 발견과 호출 방식을 표준화하며, 도구 사용에 검증·거버넌스·접근 통제를 적용한다고 설명했다. 에이전트가 외부 시스템을 건드리는 지점에서 제어를 걸겠다는 의미다. 에이전트 확산 단계에서 보안 운영 초점도 바뀌고 있다 이번 발표의 핵심은 AI 도입 여부보다 운영 통제다. 그라비티 로리 블런델(Rory Blundell) 공동 창립자 겸 CEO는 “기업의 관심이 ‘에이전트를 만들 수 있는가’에서 ‘에이전트를 어떻게 통제할 것인가’로 이동하고 있다.”라며 “AI 게이트웨이는 기업이 AI 에이전트를 안전하게 운영하기 위한 필수 통제 계층을 제공한다.”라고 말했다. 이번 제품은 에이전트를 별도 실험 도구가 아니라 API와 이벤트처럼 관리 대상 인프라로 다루겠다는 발표에 가깝다. AI 에이전트 수가 늘어날수록 통제 지점은 모델 앞단만으로는 부족해지고, 모델 호출·도구 실행·에이전트 간 통신을 함께 묶어 추적하는 방식이 실제 운영의 기준으로 떠오를 가능성이 커지고 있다. 그라비티는 AI 게이트웨이 기능이 즉시 제공된다고 밝혔다.