“클라우드 없이도 최상급 AI를 쓴다”…구글 제미나이, 완전 온프레미스 시대 열렸다 - kmjournal.net

인터넷 연결 없이도 구글의 최신 AI 모델 ‘제미나이’를 구동할 수 있는 환경이 등장했다. 핵심은 단순한 기술 진화가 아니라, 데이터 통제권을 기업 내부로 완전히 되돌리는 구조 변화다. AI 활용 방식이 클라우드 중심에서 ‘사내 인프라 중심’으로 이동하고 있다는 점에서 산업 흐름의 분기점으로 평가된다. 클라우드 의존 끊은 제미나이, 기업 내부로 들어오다 클라우드 인프라 기업 시라스케일은 ‘구글 클라우드 넥스트’ 행사에서 구글 분산 클라우드(GDC)를 기반으로 한 제미나이 온프레미스 솔루션을 공개했다. 가장 큰 특징은 외부 인터넷과 완전히 분리된 상태에서 AI를 운영할 수 있다는 점이다. 기존에도 구글은 온프레미스 형태의 제미나이를 제공해왔지만, 업데이트나 관리 과정에서 클라우드 연결이 필요했다. 이번에는 그 연결 자체를 끊었다. 완전히 독립된 환경에서 AI를 구동하는 방식은 이번이 처음이다. 이 시스템은 8개의 엔비디아 GPU가 탑재된 고성능 서버에 제미나이 모델을 최적화해 넣은 ‘AI 전용 장비’ 형태다. 기업은 이를 자체 데이터센터에 설치해 바로 활용할 수 있다. 데이터는 밖으로 나가지 않는다, 설계 자체가 달라졌다 이번 구조의 핵심은 데이터 흐름이다. 입력 데이터부터 결과값까지 모든 처리 과정이 내부에서만 이뤄진다. 외부 서버로 전송되는 과정이 없기 때문에, 데이터 유출 가능성을 구조적으로 차단한다. 모델 운영 방식도 눈에 띈다. AI는 저장되지 않고 메모리상에서만 실행된다. 전원이 꺼지면 모델 자체가 사라지는 구조다. 여기에 물리적 변조나 보안 정책 위반이 감지되면 시스템이 자동으로 중단되고 모델이 삭제되는 보호 기능도 적용됐다. 이런 설계는 금융, 의료, 국방처럼 규제가 강한 산업에서 요구해온 조건을 충족한다. 그동안은 고성능 AI를 쓰려면 데이터를 외부 클라우드에 맡겨야 했지만, 이제는 그 전제가 깨지고 있다. 성능과 운영까지 직접 통제하는 환경 온프레미스 환경은 보안뿐 아니라 성능에서도 장점이 있다. 클라우드 API를 사용할 때 발생하는 지연이나 속도 변동 없이 일정한 처리 속도를 유지할 수 있다. 기업 입장에서는 운영 방식도 달라진다. 사용자별 우선순위 설정, 토큰 사용량 관리, 작업 스케줄링까지 모두 내부 정책에 맞게 직접 조정할 수 있다. AI를 단순히 사용하는 수준을 넘어, 인프라처럼 다루는 단계로 넘어가는 셈이다. ‘역 클라우드’ 흐름, AI 시장 판도 바뀌나 이번 발표가 주목받는 이유는 기술 자체보다 방향성에 있다. AI 산업은 그동안 클라우드 기반으로 확장돼 왔다. 하지만 최근 들어 데이터 주권과 보안 요구가 커지면서 핵심 모델을 내부로 가져오려는 움직임이 뚜렷해지고 있다. 특히 공공기관과 금융권, 의료 분야에서는 이런 수요가 빠르게 늘고 있다. 데이터가 곧 경쟁력인 산업일수록 외부 의존도를 줄이려는 흐름이 강해지고 있기 때문이다. 시장 경쟁도 달라질 가능성이 있다. 마이크로소프트는 애저 기반 AI, 아마존은 베드록과 아웃포스트로 기업 시장을 공략하고 있다. 여기에 구글이 ‘완전 단절형 온프레미스’라는 카드를 꺼내면서 경쟁 구도가 한층 복잡해졌다. 신주백 기자 [email protected]