구글, AI칩도 '엔비디아 독주' 흔든다…학습·추론용 TPU 완전 분리 - 뉴스핌

AI 핵심 요약 beta- 구글이 22일 8세대 텐서 프로세싱 유닛부터 학습용과 추론용 칩을 분리해 출시하며 엔비디아에 정면 도전했다. - 학습용 칩은 기존 대비 2.8배 성능을 제공하고 추론용 칩은 80% 개선됐으며 올해 말 시장 출시 예정이다. - 시타델·앤스로픽 등이 구글 칩 채택을 확대하면서 빅테크 간 반도체 주도권 경쟁이 심화되고 있다. !AI가 자동 생성한 요약으로 정확하지 않을 수 있어요. "아직 엔비디아 못 넘지만"…성능은 대폭 개선 시타델·앤스로픽도 채택…"구글 TPU 확산 중" [서울=뉴스핌] 고인원 기자= 구글이 인공지능(AI) 반도체 전략을 대폭 수정하며 엔비디아(NVDA)와의 정면 승부에 나섰다. 지금까지 하나의 칩으로 처리해온 AI 모델 학습(training)과 추론(inference) 작업을 앞으로는 각각 별도의 전용 칩으로 분리해 효율성을 극대화하겠다는 전략이다. 미국 CNBC에 따르면 구글은 22일(현지시간) 8세대 텐서 프로세싱 유닛(TPU)부터 학습용 칩과 추론용 칩을 별도로 출시한다고 밝혔다. 두 제품 모두 올해 말 시장에 선보일 예정이다. 구글 AI 인프라 부문 수석 부사장 겸 최고기술책임자(CTO)는 "AI 에이전트의 확산과 함께 학습과 서비스 제공에 각각 특화된 칩이 필요하다고 판단했다"며 "각 작업에 최적화된 전용 프로세서가 더 큰 효율성을 제공할 것"이라고 설명했다. 이번 결정은 AI 반도체 시장에서 절대 강자인 엔비디아에 대한 구글의 가장 직접적인 도전으로 평가된다. 엔비디아는 AI 모델 학습과 추론을 모두 처리할 수 있는 GPU로 시장을 장악해왔으며, 최근에는 추론 속도를 높이기 위해 AI 칩 스타트업 그록을 200억 달러에 인수한 기술을 활용한 차세대 반도체 전략도 공개했다. 구글은 엔비디아의 대형 고객이기도 하지만, 동시에 자사 클라우드 고객들에게는 TPU를 엔비디아 칩의 대안으로 제공하고 있다. ◆ 빅테크 모두 'AI 맞춤형 반도체' 경쟁 AI 시대가 본격화되면서 주요 빅테크 기업들은 자체 반도체 개발에 사활을 걸고 있다. 애플은 수년 전부터 아이폰 자체 칩에 뉴럴 엔진(Neural Engine) 기반 AI 부품을 탑재해왔고, 마이크로소프트는 지난 1월 2세대 AI 칩을 공개했다. 메타 역시 브로드컴과 협력해 여러 버전의 AI 프로세서를 개발 중이라고 밝혔다. 아마존웹서비스(AWS)는 2018년 AI 요청 처리용 '인퍼렌시아(Inferentia)' 칩을, 2020년에는 학습용 '트레이니엄(Trainium)' 프로세서를 선보였다. 구글은 이 흐름의 선두주자였다. 2015년부터 자체 설계한 AI 칩을 내부적으로 사용하기 시작했고, 2018년부터는 이를 외부 클라우드 고객에게 임대했다. 월가에서는 TPU 사업의 가치도 높게 평가하고 있다. DA 데이비슨은 지난해 구글 TPU 사업과 딥마인드 AI 조직의 가치를 합쳐 약 9000억 달러로 추산했다. ◆ "아직 엔비디아 못 넘지만"…성능은 대폭 개선 다만 아직까지 어떤 빅테크도 엔비디아를 완전히 대체하지는 못하고 있다. 구글 역시 이번 신형 TPU의 성능을 엔비디아 제품과 직접 비교하지는 않았다. 대신 구글은 학습용 칩이 지난해 11월 공개된 7세대 '아이언우드(Ironwood)' TPU 대비 같은 가격에 2.8배 높은 성능을 제공한다고 밝혔다. 추론용 칩의 성능은 80% 개선됐다고 설명했다. 특히 추론용 신형 칩 'TPU 8i'는 대용량 SRAM(정적 랜덤 액세스 메모리)을 기반으로 설계됐다. 각 칩에는 384MB의 SRAM이 탑재되며, 이는 기존 아이언우드의 3배 수준이다. 알파벳의 순다르 피차이 최고경영자(CEO)는 "수백만 개의 AI 에이전트를 동시에 운영하기 위해서는 대규모 처리량과 낮은 지연 시간이 필수"라며 "TPU 8i는 이를 비용 효율적으로 구현하도록 설계됐다"고 말했다. ◆ 시타델·앤스로픽도 채택…"구글 TPU 확산 중" 실제 시장 채택도 빠르게 늘고 있다. 시타델 증권은 구글 TPU를 활용한 퀀트 리서치 소프트웨어를 구축했고, 미국 에너지부 산하 17개 국립연구소 모두 해당 칩 기반의 AI 공동과학자(co-scientist) 소프트웨어를 사용하고 있다고 구글은 밝혔다. AI 스타트업 앤스로픽 역시 수 기가와트 규모의 구글 TPU 사용을 약속한 상태다. AI 산업이 단순한 모델 개발 경쟁을 넘어 '누가 더 효율적인 인프라를 구축하느냐'의 싸움으로 옮겨가면서, 반도체 주도권을 둘러싼 빅테크 간 경쟁도 더욱 치열해질 전망이다. [email protected]