AI가 한 일을 끝까지 증명한다...에이전트 실행 거버넌스 운영체제 등장 - 지티티코리아

GIS QSP가 AI 에이전트 실행을 통제·감사하는 거버넌스 플랫폼 ‘클라비저.AI’를 공개했다. 이 플랫폼은 계획, 추적, 검증, 증명의 4단계 기능과 암호학적 증빙 체계를 통해 AI 행위의 재현성과 감사 가능성을 확보하는 데 초점을 맞췄다. 에이전틱 AI가 규제 산업의 실제 업무로 들어가는 국면에서, 실행 결과를 입증하는 별도 거버넌스 계층이 인프라 과제로 떠오르고 있다. AI 에이전트가 실제 업무를 자율적으로 수행하는 환경에서는 결과뿐 아니라 수행 과정의 통제 여부가 중요하다. 특히 국방, 에너지, 헬스케어, 금융서비스처럼 규제 강도가 높은 산업에서는 AI가 어떤 절차로 작업했고, 정책을 충족했는지, 사후 감사에 필요한 기록을 남겼는지가 도입 판단의 기준이 된다. 글로벌 사이버 보안·핵심 인프라 보호 기업 GIS QSP(GIS Quantum Solutions Practice)는 AI 실행용 거버넌스 운영체제인 클라비저.AI를 공개했다. 회사는 이를 위해 클라비저를 자회사로 출범시켰다고 밝혔다. AI 실행을 별도 거버넌스 계층에서 관리 GIS QSP는 기업이 AI 에이전트를 업무에 적용하더라도 실제로 어떤 행동이 수행됐는지, 결과가 규정과 절차를 충족했는지 입증하기 어렵다고 설명했다. 특히 복잡한 워크플로에서는 실행 과정의 기록과 검증 체계가 부족하면 규제 환경에서 배치가 제한될 수 있다고 밝혔다. 클라비저.AI는 기존 AI 에이전트 위에서 작동하는 거버넌스 오버레이 구조를 적용한다. 기저 AI 시스템을 교체하는 대신 상위 계층에서 실행 흐름을 관리하는 방식이다. 회사는 이를 통해 모든 행위를 통제하고, 각 단계에 대한 암호학적 규정 준수 증거를 남길 수 있다고 밝혔다. 회사에 따르면 플랫폼은 ‘AI의 비행 데이터 기록 장치’ 개념으로 설계됐다. 에이전트가 어떤 작업을 수행했는지 단순 로그로 남기는 수준을 넘어, 실행 과정 전체를 추적하고 검증 가능한 형태로 기록하는 데 초점을 맞췄다. 계획·추적·검증·증명 4단계 구조 클라비저.AI의 핵심 구조는 계획, 추적, 검증, 증명 4단계로 구성된다. 계획 단계에서는 AI 작업이 시작되기 전에 범위와 순서, 측정 가능한 성공 기준을 정의한다. 작업 시작 전부터 실행 조건을 구조화해 관리하는 방식이다. 추적 단계에서는 에이전트의 모든 행위를 실시간으로 기록하고 변조가 불가능한 형태의 암호학적 증거를 남긴다고 회사는 설명했다. 이를 통해 실행 이력의 무결성과 추적 가능성을 확보하도록 했다. 검증 단계에서는 표면적으로 정상처럼 보이는 결과라도 실제 운영 기준에 부합하는지를 자동으로 점검한다. 단순 성공 여부가 아니라 결과의 적합성과 품질까지 확인하는 절차를 포함한 구조다. 증명 단계에서는 전체 작업이 끝난 뒤 무엇이 언제 누구에 의해 수행됐는지를 보여주는 암호학적 검증 가능 감사 패키지를 생성한다. 이 패키지는 규제 대응과 내부 감사, 운영 검토에 활용할 수 있도록 설계됐다. FIPS 140-3 기반 암호 인프라와 규제 정합성 GIS QSP는 클라비저의 거버넌스 아키텍처가 FIPS 140-3 검증 하드웨어급 암호 인프라를 기반으로 한다고 밝혔다. 회사는 이 기반이 정부와 핵심 인프라 환경에서 요구되는 보안 수준과 연결된다고 설명했다. 또한 플랫폼이 DO-178C, CMMI 레벨 5, SOC 2 타입 II, ISO 27001, NIST AI RMF, EU AI 법과 정렬된 구조라고 밝혔다. 이는 AI 실행 통제와 기록 보존, 규제 대응 문서화까지 고려한 구성으로 제시됐다. 적용 대상 산업도 함께 제시했다. 회사는 클라비저가 핵심 인프라, 국방, 에너지, 헬스케어, 금융서비스 분야의 엔터프라이즈 배포를 겨냥한다고 밝혔다. 해당 산업은 AI 성능뿐 아니라 실행 통제와 감사 가능성이 요구되는 분야다. 클라비저는 특정 모델에 종속되지 않는 모델 불가지론적 구조를 채택했다고 밝혔다. 기존 AI 인프라에 거버넌스 오버레이로 통합되며, 하부 AI 시스템을 변경하지 않고도 적용할 수 있다고 설명했다. 규제 산업의 AI 운영 통제 수요 반영 AI 도입이 시범 적용에서 운영 단계로 넘어가면서 기업은 모델 성능 외에 통제 체계와 감사 대응 구조를 함께 검토하고 있다. 특히 에이전트가 데이터에 접근하고 외부 도구를 실행하는 환경에서는 실행 이력을 재구성할 수 있는 체계가 필요하다. 클라비저가 제시한 구조는 AI 거버넌스를 문서나 정책 선언이 아니라 실행 시점의 통제와 기록 관리 문제로 다룬다. 규제 산업에서 요구하는 정책 준수, 추적, 검증, 감사 대응 요소를 실행 계층에 연결한 점이 이번 발표의 중심 내용이다. 스티븐 재스민(Steven Jasmin) 클라비저 AI 공동창업자 겸 이사회 의장은 “AI의 가치는 얼마나 신뢰할 수 있느냐에 달려 있다. 클라비저.AI 플랫폼은 올바른 실행에 대한 암호학적 증명을 통해 그 신뢰를 만들기 위해 구축됐다.”라며,“기밀 시스템을 보호하던 동일한 원칙이 이제 AI 실행을 통제한다.”고 말했다. 이번 발표는 AI 에이전트 도입 과정에서 실행 기록, 검증, 감사 대응을 하나의 제품 체계로 묶은 사례다. 규제 산업을 중심으로 AI 실행 과정의 통제와 입증 체계를 요구하는 수요에 대응하는 방향으로 해석된다. 관련기사 - AI도 보안 위협...기업에선 악성코드·랜섬웨어만큼 경계 - 오탐 줄이고 탐지 앞당긴다...AI 보안 분석 수요 커진다 - 보안팀이 모르는 AI 사용 포착...5만개 AI 앱 위험 평가 기술 공개 - 데이터 검증부터 브랜드 일관성까지 자동화하는 기업용 프레젠테이션 플랫폼 - 설비 상태를 재무 판단에 바로 반영하는 실시간 AI 자산 추적 기술 - AI 에이전트 위험 점수 매기는 AI 거버넌스 기술...민감 데이터 추적·규제 및 감사 대응 강화 - 위험 식별·통제 검증·감사 대응 자동화하는 에이전틱 AI 기반 통합 GRC 플랫폼 - AI 보안 검증도 AI로 검증한다...멀티모델 기반 보안 평가 플랫폼 경쟁 본격화 - 문서 추출·수정·검토·승인까지 자동화하는 실행형 문서 에이전트 - AI 에이전트 데이터 접근 권한 작업 단위 자동화…실시간 데이터 프로비저닝 등장 - 매출 파이프라인 관리 자동화로 예측 정확도 높이는 레브옵스 운용 모델 - 멀티모델 AI 운영관리 플랫폼 ‘AI 컨트롤 플레인’...모델 라우팅·거버넌스·비용 관리로 AI 운영 간소화