구글, 8세대 AI칩 'TPU 8t·8i' 공개…훈련용·추론용으로 분리 - 매일경제 마켓
[AI] ai inference
|
|
💰 할인
#하드웨어/반도체
#aerox 5
#best buy
#bestbuy
#discount
#gaming mouse
#steelseries
#할인
원문 출처: [AI] ai inference · Genesis Park에서 요약 및 분석
요약
구글이 AI 에이전트 시대에 대비해 훈련용 ‘TPU 8t’와 추론용 ‘TPU 8i’ 등 8세대 AI 칩 두 종류를 공개했다. TPU 8t는 전작 대비 처리 능력을 3배 향상시켜 모델 개발 기간을 단축하고, TPU 8i는 지연 시간을 최소화해 로봇과 같은 실시간 AI 서비스에 최적화됐다. 이번 칩들은 구글 AI 하이퍼컴퓨터의 핵심 기반으로 활용될 예정이다.
본문
구글, 8세대 AI칩 'TPU 8t·8i' 공개…훈련용·추론용으로 분리 "구글 AI하이퍼컴퓨터의 핵심 기반"…HBM 공급업체는 공개 안해 입력 : 2026.04.22 21:00:01 (라스베이거스=연합뉴스) 권영전 특파원 = 구글이 인공지능(AI) 에이전트 시대 준비를 위한 8세대 AI칩 두 종류를 한꺼번에 공개했다. 구글은 22일(현지시간) 미국 라스베이거스 만달레이베이 컨벤션센터에서 개최한 '구글 클라우드 넥스트' 행사를 통해 훈련과 추론에 각각 최적화한 텐서처리장치(TPU)인 'TPU 8t'와 'TPU 8i'를 선보였다. 칩 이름에서 '8'은 8세대를, 't'와 'i'는 각각 훈련(training)과 추론(inference)을 뜻한다. TPU 8t는 높은 연산 처리량과 공유 고대역폭메모리(HBM) 등을 활용해 전작인 7세대 '아이언우드'와 비교해 처리 능력을 3배로 끌어올렸다. 칩 간 연결(ICI) 기술을 활용해 칩을 최대 9천600개까지, HBM 용량을 최대 2PB(페타바이트·TB의 약 1천 배)까지 확장해 훈련 성능과 속도를 높일 수 있는 것이 특징이다. 이 칩을 이용하면 최첨단 모델의 개발 기간을 몇 개월에서 몇 주로 단축할 수 있다고 구글은 설명했다. 구글에 따르면 추론에 최적화한 TPU 8i는 HBM 288GB에 속도가 빠른 S램 384MB를 함께 탑재한 데다 칩 간 데이터 이동 경로를 절반 이상 단축해 AI의 답변이나 결과물을 지연 없이 즉각 제공한다. 일반적인 AI 챗봇의 응답은 물론이고, 로봇이나 에이전트를 구동할 때 작업의 병목이 발생하는 것을 막을 수 있다는 것이다. 이를 통해 8i는 전작인 '아이언우드'와 비교해 달러당 성능을 80% 높일 수 있었다고 회사 측은 전했다. 토머스 쿠리안 CEO는 AI 칩을 두 종류로 나눈 이유에 대해 "생성 AI가 폭넓게 확산했을 때 사람들이 학습에 최적화한 시스템과 추론에 맞춘 시스템을 각각 원할 것으로 판단했다"고 설명했다. 쿠리안 CEO는 이어 "AI 인프라 확장에서 전력이 제약 요인이 될 것을 예상하고 설계 단계부터 에너지 효율을 극대화하는 데 중점을 뒀다"고 부연했다. 실제로 8t와 8i 모두 와트당 성능을 아이언우드의 최대 2배까지 끌어올렸다. 구글은 전력 효율을 위해 중앙처리장치(CPU)도 인텔·AMD 제품 대신 자체 설계한 액시온(Axion)으로 교체했다. 8세대 TPU 2종과 액시온이 엔비디아의 그래픽처리장치(GPU)와 함께 구글의 AI 하이퍼컴퓨터의 핵심 기반이 된다고 구글은 밝혔다. 구글이 추론용 칩을 따로 선보이고, 전력 효율성도 높인 것은 AI 발전의 흐름이 로봇과 에이전트로 이어지고 있기 때문이다. 수많은 로봇과 에이전트가 각기 업무를 나눠 사고나 실수 없이 처리하려면 빠르고 저렴한 추론이 필수적이라는 설명이다. TPU 개발을 총괄하는 아민 바닷 구글 수석부사장은 전날 사전행사에서 구글은 내부적으로 2년 전부터 에이전트에 대해 얘기를 해왔고, 이에 따라 칩을 두 가지로 나눠 내기로 한 결정도 2년 전에 이뤄졌다고 설명했다. 바닷 부사장은 이들 칩에 들어가는 HBM의 공급 업체가 어디인지에 관한 질문에 "공급업체에 대해서는 언급하지 않는다"고 답했다. [email protected] (끝) - 1 DDC엔터프라이즈, 조정 EBITDA 흑자 전환과 비트코인 자산 확대로 주목받다 - 2 페라리, 2026년 1분기 실적 발표 5월 5일 확정 - 3 피델리티 D & D 뱅코프, 1분기 순이익 750만 달러..전년비 25% 증가 - 4 피트니스챔프스홀딩스, 500만 달러 공모 발표에 주식 희석 우려 확산 - 5 애클라리온, 250만 달러 자사주 매입 프로그램 승인…경영진의 저평가 인식 부각 - 6 AMD, 1분기 EPS 전년 대비 68.6% 급증 전망…AI 반도체 성장 기대감 부각 - 7 에퀴팩스, 1분기 실적 호조에도 가이던스 유지…거시경제 불확실성 부각 - 8 SB 파이낸셜 그룹, 2025년 순이익 1,400만 달러·EPS 2.19달러 기록 - 9 피트니스 챔프스 홀딩스, 500만 달러 규모 공모 발표 - 10 엔브이알, 1분기 순이익 1억9800만 달러..전년비 34% 감소
Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.
공유