뉴스피드 큐레이션 SNS 대시보드 저널

구글 클라우드, 8세대 TPU AI 칩 2개 출시 - VOI.id

[AI] google tpu | | 🖥️ 하드웨어
#하드웨어/반도체

요약

구글 클라우드는 AI 생태계의 상호작용성과 비용 효율성을 높이기 위해 8세대 TPU인 TPU 8t와 TPU 8i를 출시했습니다. TPU 8t는 대규모 모델 훈련 시간을 획기적으로 단축하는 데 초점을 맞췄으며, TPU 8i는 매우 낮은 지연 시간을 제공하는 추론 시스템으로 개발되었습니다.

왜 중요한가

개발자 관점

검토중입니다

연구자 관점

검토중입니다

비즈니스 관점

검토중입니다

본문

구글 클라우드는 TPU 라인에 TPU 8t 및 TPU 8i라는 두 개의 새로운 인공 지능 (AI) 칩을 출시했습니다. TPU 8 세대는 AI 에이전트 개발을 위해 특별히 설계되었습니다. "우리는 특히 에이전트 시대에 맞게 설계된 TPU의 8 세대를 자랑스럽게 발표합니다."라고 Google Cloud는 4 월 23 일 목요일 인용 된 공식 웹 사이트에서 말했습니다. 그에 따르면 두 개의 새로운 칩은 AI 생태계를보다 상호 작용적이고 비용 효율적으로 지원할 수 있습니다. TPU 8t은 매우 높은 처리량으로 AI 모델 훈련 프로세스를 수행하는 데 사용되는 주요 엔진으로 개발되었습니다. 이 장치는 대규모 모델 훈련 시간을 단축하기 위해 이전 세대보다 최대 3 배 빠른 컴퓨팅 성능을 제공합니다. TPU 8t 슈퍼포드 유닛은 고속 인터커넥션을 통해 통합적으로 연결된 9,600개의 칩을 수용할 수 있습니다. 한 클러스터에 100만 개 이상의 칩이 있으면 일반적으로 몇 달이 걸리는 복잡한 모델 훈련 프로세스를 몇 주 안에 완료할 수 있습니다. 한편, TPU 8i는 매우 낮은 지연 시간의 추론 프로세스를위한 특수 추론 시스템으로 개발되었습니다. 이 칩에는 288GB의 높은 대역폭 메모리가 장착되어 있으며, AI 작업 흐름에서 데이터 액세스 제한을 해결합니다. TPU 8i는 또한 대규모 캐시 데이터를 저장하기 위해 실리콘에서 SRAM 메모리 용량을 두 배로 늘립니다. 이 설계는 이전 세대보다 80% 더 나은 성능을 제공할 수 있다고 생각됩니다. 두 개의 최신 칩은 Google 클라우드 고객에게 곧 제공 될 예정입니다. TPU 8t 및 TPU 8i의 출시로 개발자는 이제 AI 개발 단계에 맞는 하드웨어를 선택할 때 더 많은 유연성을 갖게되었습니다. Tag: google cloud chip kecerdasan buatan

관련 저널 읽기

전체 보기 →