“GPU 대체하는 다층형 AI 인프라”…구글이 쏘아올린 AI 반도체 지각변동 - 조선비즈 - Chosunbiz

[](https://www.chosun.com/) 2026년 4월 24일(금) [](https://biz.chosun.com/) [이코노미조선](https://economychosun.com/) [English](https://biz.chosun.com/en)[日本語](https://biz.chosun.com/jp) [](https://www.chosun.com/subscribe/signin/) [](https://www.chosun.com/subscribe/signin/) [](https://www.chosun.com/subscribe/signin/) [](https://www.chosun.com/subscribe/signin/) [재테크](https://biz.chosun.com/about-investing/) [증권](https://biz.chosun.com/stock/) [부동산](https://biz.chosun.com/real_estate/) [IT](https://biz.chosun.com/it-science/) [금융](https://biz.chosun.com/finance/) [산업](https://biz.chosun.com/industry/) [중소기업·벤처](https://biz.chosun.com/business-venture/) [바이오](https://biz.chosun.com/bio/) [유통](https://biz.chosun.com/distribution/) [정책](https://biz.chosun.com/policy/) [정치](https://biz.chosun.com/poli_main/) [사회](https://biz.chosun.com/topics/) [국제](https://biz.chosun.com/international/) [사이언스조선](https://biz.chosun.com/science-chosun/) [문화](https://biz.chosun.com/culture/) [오피니언](https://biz.chosun.com/opinion/) [](https://biz.chosun.com/) * * * * * * * * [IT](https://biz.chosun.com/it-science/)[ICT](https://biz.chosun.com/it-science/ict/) # "GPU 대체하는 다층형 AI 인프라"…구글이 쏘아올린 AI 반도체 지각변동 GPU 대비 압도적인 학습·추론 비용 효율 TPU 이어 CPU 활용성도 높여 인텔 "AI 인프라 내 CPU 사용비율 급증" [황민규 기자](https://biz.chosun.com/people/hwang-mingyu/) [최효정 기자](https://biz.chosun.com/people/choi-hyojung/) 입력 2026.04.24. 13:17업데이트 2026.04.24. 13:19 구글 클라우드는 지난 22일(현지시각) 미국 라스베이거스에서 연례 기술 콘퍼런스 '구글 클라우드 넥스트 2026'을 열고 8세대 TPU를 공개했다. (왼쪽부터) AI 학습용 칩 'TPU 8t'와 추론용 칩 'TPU 8i' 모습. /구글 클라우드 제공 구글이 지난 22일(현지시각) 새롭게 개발한 8세대 텐서처리장치(TPU)를 공개하며 인공지능(AI) 반도체 시장의 균형이 흔들리고 있다. 그동안 AI 반도체 시장을 독점해온 엔비디아의 그래픽처리장치(GPU) 중심 구조에서 벗어나 특화 칩(ASIC)·CPU·클라우드까지 결합된 '다층형 아키텍처'로 패러다임이 이동하고 있다는 평가다. **◇GPU의 비효율성 제거한 新개념 AI 반도체** 최근 구글은 8세대 TPU를 공개하면서 학습용과 추론용 칩을 분리해 지속적으로 자체 개발 AI 반도체 비중을 확장한다는 전략을 공식화했다. 특히 추론 전용 TPU는 대규모 AI 서비스에서 핵심인 지연시간(latency) 감소와 비용 효율성을 극대화하는 데 초점을 맞췄다. AI 인프라 구축이 과거 '모델 학습' 중심에서 '실시간 추론' 중심으로 이동하면서 범용 GPU만으로는 효율적인 대응이 어렵다는 인식이 확산되고 있다. 실제 TPU는 특정 워크로드에서 GPU 대비 최대 4배 수준의 가격 대비 성능을 제공하고, 전력 효율도 크게 앞서는 것으로 알려졌다. 이러한 변화는 단순한 성능 경쟁을 넘어, AI 인프라 설계 철학 자체의 전환을 의미한다. 엔비디아 GPU는 그래픽 처리에서 출발해 AI까지 확장된 '범용 가속기'다. 반면 TPU는 처음부터 딥러닝 연산에 최적화된 ASIC이다. 이 차이는 점점 AI 데이터 시장의 투자 효율 관점에서 점점 더 중요한 요소로 부각되고 있다. AI 모델은 규모가 커질수록 데이터 이동·전력 소비·비용 구조가 핵심 경쟁력이 되면서 특정 작업에 최적화된 칩이 유리하다. 실제로 TPU는 GPU 대비 최대 80%까지 비용 절감 효과가 있는 것으로 분석되며 일부 기업들은 GPU 클러스터를 TPU로 전환해 추론 비용을 크게 낮추고 있다. **◇S램 증설로 '메모리 병목' 돌파... 엔비디아와 닮은꼴 전략** 8세대 TPU 설계의 백미는 데이터 병목 현상을 잡기 위해 칩 내부의 초고속 저장 공간인 S램(SRAM) 용량을 전작 대비 3배 키운 점에 있다. 연산기 바로 옆에서 데이터를 주고받는 '초고속 서랍'인 S램은 외부 메모리(HBM) 이동 시간을 극단적으로 줄여준다. 구글은 연산 능력보다 데이터 통로의 효율이 중요해진 AI 트렌드에 맞춰 비싼 단가에도 S램 대폭 증설이라는 정공법을 택했다. S램은 별도 부품이 아닌 설계 단계에서 내부에 배치되는 핵심 자산(IP)이다. 구글은 브로드컴과 밑그림을 그리고 TSMC 최신 공정으로 칩을 찍어낸다. 덩치가 큰 S램을 3배 늘린 것은 파운드리 미세 공정력을 한계까지 활용해 데이터 효율을 극대화했다는 의미다. 이는 엔비디아가 '블랙웰'에서 캐시 메모리를 늘린 전략과 궤를 같이하며, AI 반도체 승부처가 '메모리 최적화'로 넘어왔음을 시사한다. 1152개 칩을 광회로 스위치(OCS)로 묶어 메모리 용량을 7배 확장한 설계도 주목할 대목이다. 시스템 레벨에서 거대모델의 병목을 해결한 것이 이번 TPU의 핵심 경쟁력이다. 이는 한국 메모리 업계에도 기회와 도전을 동시에 던진다. HBM 채용량은 늘어났으나 칩 내부 S램 비중이 높아지는 만큼, 삼성전자와 SK하이닉스도 칩 설계와 더 밀착된 '커스텀 HBM' 등 고도화된 기술 대응이 필요할 전망이다. **◇CPU 사용량 증가로 다시 기회 잡은 인텔** 지난해 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 '모바일 월드 콩그레스(MWC) 2025'를 찾은 관람객들이 인텔 부스를 방문해 AI 기술 등을 체험하고 있다. /뉴스1 AI 인프라 내 CPU 수요도 더 커질 가능성이 높다. 구글은 이번 TPU 시스템에 자체 설계 CPU를 함께 탑재하며 CPU를 단순 보조 연산 장치가 아닌 'AI 오케스트라의 지휘자'로 재정의했다. 수많은 AI 에이전트가 동시에 작동하는 환경에서는 작업 스케줄링, 데이터 흐름 관리, 시스템 제어 등을 담당할 범용 프로세서가 필수적이기 때문이다. 인텔은 올해 1분기 실적 컨퍼런스 콜에서 AI 데이터센터에서 GPU와 CPU의 사용 비중이 과거 1:8 수준에서 최근에는 1:4 수준으로 변화하고 있다고 강조했다. 향후에는 1:1 또는 GPU보다 많이 탑재될 가능성을 거론하기도 했다. 립부 탄 인텔 CEO는 "AI 처리가 추론으로 이동하는 상황에서 작업 조율과 제어, 다양한 에이전트와 데이터 관리 측면에서CPU가 더 효율적"이라고 설명했다. 한편 구글의 이 같은 전략이 탈(脫) 엔비디아 흐름을 가속화할 것으로 보인다. 현재 AI 가속기 시장에서 엔비디아는 여전히 80~90% 점유율을 차지하고 있다. 하지만 TPU 확산이 본격화하고 다른 빅테크 역시 자체 서비스에 최적화한 맞춤형 AI 반도체, CPU 활용을 극대화할 경우 엔비디아 매출의 최대 10%까지 잠식할 수 있다는 전망도 나온다. [ English 기사보기 ](https://biz.chosun.com/en/en-it/2026/04/24/CE7CYSOGWBBVFGRNVH7SSC6XIM/) [ 日本語 기사보기 ](https://biz.chosun.com/jp/jp-it/2026/04/24/ODX54DFWS5HNXP4OKPEDNLX33A/) [](https://e.chosunbiz.com/tc-events/2026-%EB%AF%B8%EB%9E%98%EA%B8%88%EC%9C%B5%ED%8F%AC%EB%9F%BC/) [](https://biz.chosun.com/people/hwang-mingyu/) ### [황민규 기자](https://biz.chosun.com/people/hwang-mingyu/) 편집국 IT부 기자 [](https://biz.chosun.com/people/choi-hyojung/) ### [최효정 기자](https://biz.chosun.com/people/choi-hyojung/) 편집국 테크부 기자 관련 기사 [](https://biz.chosun.com/it-science/ict/2026/04/24/P5C5WA5MPFC3TOFHRSDGPNPTMA/) [8세대 TPU 공개에도 구글 "엔비디아와 서로 사랑해"](https://biz.chosun.com/it-science/ict/2026/04/24/P5C5WA5MPFC3TOFHRSDGPNPTMA/) 구글이 자체 인공지능(AI) 반도체 '텐서처리장치(TPU)' 8세대 신제품을 공개하면서도 엔비디아와의 협력 관계를 재확인했다.... 오늘의 핫뉴스 [](https://biz.chosun.com/industry/car/2026/04/24/ETECJDUW6BEG5MSZMYRPPAM3QY/) [완전 새로운 아이오닉… '中心' 잡을 날렵한 디자인 공개](https://biz.chosun.com/industry/car/2026/04/24/ETECJDUW6BEG5MSZMYRPPAM3QY/) [](https://biz.chosun.com/real_estate/real_estate_general/2026/04/24/HUFCXMAZ75FDZDIQABGGARJYKE/) [11만명, 신도시급인데… 왜 아직도 화성시 봉담 '읍'?](https://biz.chosun.com/real_estate/real_estate_general/2026/04/24/HUFCXMAZ75FDZDIQABGGARJYKE/) [](https://biz.chosun.com/distribution/food/2026/04/24/7QPIBJFBXRF27G3ASMOV5AW3QU/) [툭하면 가격 올리더니… 치킨 업계가 잠잠한 이유](https://biz.chosun.com/distribution/food/2026/04/24/7QPIBJFBXRF27G3ASMOV5AW3QU/) [](https://biz.chosun.com/industry/business-venture/2026/04/24/AJPGAU5XBZACJL4WKG2YV7QHUI/) [물에 떠있는 데이터센터… 무궁무진 K 조선, 美 공략](https://biz.chosun.com/industry/business-venture/2026/04/24/AJPGAU5XBZACJL4WKG2YV7QHUI/) [](https://biz.chosun.com/it-science/ict/2026/04/24/Z2NRH7NWU5FRTG3WJTNHVOYKXU/) [엔비디아 어쩌나… 구글, GPU 압도하는 새 칩 공개](https://biz.chosun.com/it-science/ict/2026/04/24/Z2NRH7NWU5FRTG3WJTNHVOYKXU/) IT 많이 본 뉴스 [](https://biz.chosun.com/it-science/ict/2026/04/24/Z2NRH7NWU5FRTG3WJTNHVOYKXU/) ["GPU 대체하는 다층형 AI 인프라"…구글이 쏘아올린 AI 반도체 지각변동 ](https://biz.chosun.com/it-science/ict/2026/04/24/Z2NRH7NWU5FRTG3WJTNHVOYKXU/) [](https://biz.chosun.com/it-science/ict/2026/04/23/H3E3LXNOIZGVFHGUJYHA3LNLEQ/) [이재용 회장, 박항서·김상식 감독과 '찰칵'… 베트남 국빈 만찬서 회동](https://biz.chosun.com/it-science/ict/2026/04/23/H3E3LXNOIZGVFHGUJYHA3LNLEQ/) [](https://biz.chosun.com/it-science/ict/2026/04/22/H4P3PLICRBBG5L3QIO3DCXADOY/) [[단독] 노조 집회·파업 앞둔 삼성전자… "필수 시설 정상 운영 유지돼야"](https://biz.chosun.com/it-science/ict/2026/04/22/H4P3PLICRBBG5L3QIO3DCXADOY/) 100자평 [도움말](https://biz.chosun.com/comments/help)[삭제기준](https://biz.chosun.com/comments/guideline) 많이 본 뉴스 1 ["최고지도자는 상징일 뿐"… 이란 권력, 군부로 넘어갔다](https://biz.chosun.com/international/international_general/2026/04/24/32SVH22CVFGN5NZWKCUROBOA3Y/) 2 ["GPU 대체하는 다층형 AI 인프라"…구글이 쏘아올린 AI 반도체 지각변동 ](https://biz.chosun.com/it-science/ict/2026/04/24/Z2NRH7NWU5FRTG3WJTNHVOYKXU/) 3 [인구 11만 된 화성시 봉담읍, '동' 전환 놓고 의견 분분](https://biz.chosun.com/real_estate/real_estate_general/2026/04/24/HUFCXMAZ75FDZDIQABGGARJYKE/) 4 [[2026 오토차이나] 베일 벗은 '아이오닉 V'… 현대차, 中 재공략 시동 (종합)](https://biz.chosun.com/industry/car/2026/04/24/ETECJDUW6BEG5MSZMYRPPAM3QY/) 5 [삼성重, 강·바다에 떠있는 '부유식 데이터센터'로 美 시장 공략 ](https://biz.chosun.com/industry/company/2026/04/24/KYVYFDFTNNBLHIKYUNQAKLKLFM/) 6 [[Why] 올릴 이유는 많지만... BBQ가 '치킨값 동결' 총대 멘 이유](https://biz.chosun.com/distribution/food/2026/04/24/7QPIBJFBXRF27G3ASMOV5AW3QU/) 7 [[법조 인사이드] "먼저 먹으면 임자?" 1억 리니지 아이템... 법원 판단은 달랐다](https://biz.chosun.com/topics/law_firm/2026/04/23/AS5EUQVHOBGAFD4SFVSCZGF2OI/) 8 [[단독] SK家 3세 이승환, 올해 10억 기부금 모집… 취약계층 지원](https://biz.chosun.com/topics/topics_social/2026/04/23/VIY75PAKFBFYRL7WTQRNJN4G2E/) 9 [[단독] 창업 2년된 'K로봇 스타트업' 홀리데이, 1500억 투자유치… 유니콘 등극 눈앞](https://biz.chosun.com/stock/market_trend/2026/04/24/JTIMTQINCFGM5G763XQASJKF5U/) 10 ["나프타 보릿고개 넘겼지만 안심 못해"… 석화업계, 고비용·저수익까지 '이중고'](https://biz.chosun.com/industry/company/2026/04/24/HGBUQNAP5BA25NPYEKG5D5P4SE/) 실시간 TOP 종목 04.24 14:33 장중 거래량상승하락 전체코스피코스닥ETF * 1 [KODEX 200선물인버스2X](https://biz.chosun.com/nsearch/?query=KODEX%20200%EC%84%A0%EB%AC%BC%EC%9D%B8%EB%B2%84%EC%8A%A42X&siteid=chosunbiz&website=chosunbiz&opt_chk=true) 거래량2,565,620,498 거래대금456,757,026,097 178 +0.56% * 2 [KODEX 인버스](https://biz.chosun.com/nsearch/?query=KODEX%20%EC%9D%B8%EB%B2%84%EC%8A%A4&siteid=chosunbiz&website=chosunbiz&opt_chk=true) 거래량231,685,087 거래대금320,167,341,070 1,379 +0.29% * 3 [KEC](https://biz.chosun.com/nsearch/?query=KEC&siteid=chosunbiz&website=chosunbiz&opt_chk=true) 거래량122,038,926 거래대금220,573,622,423 1,864 +16.43% * 4 [대원전선](https://biz.chosun.com/nsearch/?query=%EB%8C%80%EC%9B%90%EC%A0%84%EC%84%A0&siteid=chosunbiz&website=chosunbiz&opt_chk=true) 거래량112,202,624 거래대금995,294,973,705 8,900 +9.34% * 5 [KODEX 코스닥150선물인버스](https://biz.chosun.com/nsearch/?query=KODEX%20%EC%BD%94%EC%8A%A4%EB%8B%A5150%EC%84%A0%EB%AC%BC%EC%9D%B8%EB%B2%84%EC%8A%A4&siteid=chosunbiz&website=chosunbiz&opt_chk=true) 거래량61,905,853 거래대금123,059,557,515 1,967 -2.38% 연예 많이 본 뉴스 1 ["유명 男배우, 단역 배우와 관계하느라 지각"…매니저 폭로에 연예계 발칵 ('직업의 모든 것')[종합]](https://biz.chosun.com/entertainment/enter_general/2026/04/23/HAYWKM3BGVTDANBYG5STIYRYMU/) [](https://biz.chosun.com/entertainment/enter_general/2026/04/23/HAYWKM3BGVTDANBYG5STIYRYMU/) 2 ['55세' 김혜수, 뼈말라 몸매에 소두 실화?..현실감 無 비주얼](https://biz.chosun.com/entertainment/enter_general/2026/03/28/GU2GMOBQGQ3TEMZSGRSWMZJWGY/) [](https://biz.chosun.com/entertainment/enter_general/2026/03/28/GU2GMOBQGQ3TEMZSGRSWMZJWGY/) 3 ['故 최진실 딸' 최준희, '♥예비신랑'과 달콤 뽀뽀…웨딩 화보 촬영 공개 "나 어쩜 좋아"](https://biz.chosun.com/entertainment/enter_general/2026/04/24/GFSDIMRWHA4DKOBRHEZTAN3BGI/) [](https://biz.chosun.com/entertainment/enter_general/2026/04/24/GFSDIMRWHA4DKOBRHEZTAN3BGI/) 4 [김지민 "♥김준호, 결혼 전 장난기 있는 모습 좋았는데 이젠 철들어"('준호지민')](https://biz.chosun.com/entertainment/enter_general/2026/04/24/MI3DIMZYGFRGKOJWGZTDKM3GGA/) [](https://biz.chosun.com/entertainment/enter_general/2026/04/24/MI3DIMZYGFRGKOJWGZTDKM3GGA/) 5 [여에스더, ♥홍혜걸 女아나운서 '술자리 목격담' 폭로 "사진 찍혔다"](https://biz.chosun.com/entertainment/enter_general/2026/04/20/GEYDKN3GGZRGIYTFHFRGEYRXHE/) [](https://biz.chosun.com/entertainment/enter_general/2026/04/20/GEYDKN3GGZRGIYTFHFRGEYRXHE/) 6 [고윤정, 차기작은 '첫 드라마 주연' 구교환과 호흡…'모자무싸' 출연 확정](https://biz.chosun.com/entertainment/tv/2026/01/20/MNTGKOLDMFSDGNBXGZSDIMBQME/) [](https://biz.chosun.com/entertainment/tv/2026/01/20/MNTGKOLDMFSDGNBXGZSDIMBQME/) 7 [김성수, 썸녀 박소윤과 동대문 철야 데이트…든든한 외조 (신랑수업2)](https://biz.chosun.com/entertainment/tv/2026/04/22/GBSWGNLEGNQWGMLEGBSGIZBXME/) [](https://biz.chosun.com/entertainment/tv/2026/04/22/GBSWGNLEGNQWGMLEGBSGIZBXME/) 8 [유정현, 아나운서→국회의원 탄탄대로 였는데.."저 때문에 아내 죽을뻔" ('동치미')](https://biz.chosun.com/entertainment/enter_general/2024/10/12/MS4LKQBON7CHM3Z646ZHG55KEY/) [](https://biz.chosun.com/entertainment/enter_general/2024/10/12/MS4LKQBON7CHM3Z646ZHG55KEY/) 9 [지수, 칸 시리즈 어워즈 라이징 스타상 수상 "블랙핑크와 팬들에게 감사"](https://biz.chosun.com/entertainment/enter_general/2026/04/24/HE2WKM3FMQ3DGNJZMFTGMMBTHE/) [](https://biz.chosun.com/entertainment/enter_general/2026/04/24/HE2WKM3FMQ3DGNJZMFTGMMBTHE/) 10 [이준영, 맨손으로 케이크 먹으며 풍긴 은근한 퇴폐미 [화보]](https://biz.chosun.com/entertainment/tv/2025/11/21/GA4DKODBGNQWKMBXGU3DOOBWHA/) [](https://biz.chosun.com/entertainment/tv/2025/11/21/GA4DKODBGNQWKMBXGU3DOOBWHA/) [](https://biz.chosun.com/) 주소: 서울특별시 중구 세종대로 135, 5층 | 전화 02)724-6090 인터넷신문등록번호: 서울 아01175 (등록일자: 2010년 3월 19일) 발행인: 방준오 편집인: 김영수 [개인정보처리방침](https://members.chosun.com/cms_user/privacy/web/index.jsp) 청소년보호책임자: 진교일 Copyright 조선비즈 All rights reserved. [](https://www.samsung.com/sec/)[](https://www.koreanair.com/global/ko.html) [회사소개](https://biz.chosun.com/company/)[인재채용](https://biz.chosun.com/company/#recruit)광고안내[사업문의](https://biz.chosun.com/company/#service)독자참여 및 제보 관련사 [개인정보처리방침](https://members.chosun.com/cms_user/privacy/web/index.jsp) Copyright 조선비즈 All rights reserved.