메타, AWS 그래비톤5 대규모 도입으로 에이전트 AI 인프라 확장 - 헬로티
[AI] meta
|
|
🧠 기타 AI
#ai도입
#aws
#가비아
#비용최적화
#판교창업존
#ai 에이전트
#ai 전환
#ax
#ax 전환
#경험 격차
#기타 ai
#머신러닝/연구
#생성형 ai
#엠클라우드브리지
#코파일럿
원문 출처: [AI] meta · Genesis Park에서 요약 및 분석
요약
한국수출입은행은 2028년까지 중장기 디지털 전략의 일환으로 총 130억 원을 투자해 자체 생성형 AI 플랫폼 'KEXIM AI'를 구축한다고 발표했습니다. 이번 사업은 민감한 내부 정보를 보호하기 위해 외부 클라우드가 아닌 내부 인프라를 기반으로 비대면 대출 심사 단축과 해외 진출 중소기업 맞춤형 상담 등 고객 서비스를 고도화하는 데 중점을 둡니다. 또한 은행은 비정형 데이터를 활용한 업무 자동화와 AI 관리 체계를 수립하여, 직원들이 단순 작업을 벗어나 고객 서비스 품질 향상에 집중할 수 있도록 지원할 계획입니다.
본문
아마존웹서비스(AWS)가 메타(Meta)에 AWS 그래비톤(AWS Graviton) 프로세서를 대규모로 도입하기 위한 계약을 체결했다고 발표했다. 이번 계약은 수천만 개의 그래비톤 코어를 시작으로 메타의 AI 역량 성장에 맞춰 유연하게 확대할 수 있는 구조로 설계됐다. 이번 계약은 AI 인프라 구축 방식의 변화를 반영한다. GPU가 대규모 모델 학습에 여전히 필수적인 반면 에이전트 AI의 부상으로 실시간 추론과 코드 생성·검색·다단계 작업 오케스트레이션 등 CPU 집약적 워크로드에 대한 수요가 급격히 증가하고 있다. 그래비톤5는 이러한 워크로드에 최적화된 설계로 메타가 대규모 환경에서 이를 효율적으로 실행할 수 있는 연산 능력을 제공한다. 그래비톤5는 192개의 코어를 탑재하고 이전 세대 대비 5배 확장된 캐시를 통해 코어 간 통신 지연을 최대 33% 단축한다. 3나노미터(nm) 공정 기술을 기반으로 설계돼 이전 세대 대비 최대 25% 향상된 성능을 제공하면서도 높은 에너지 효율을 유지한다. 또한 그래비톤5 인스턴스 라인업은 EFA(Elastic Fabric Adapter)를 지원해 인스턴스 간 저지연·고대역폭 통신을 가능하게 한다. 나페아 브샤라 아마존 부사장 겸 수석 엔지니어는 "수천만 개의 그래비톤 코어를 도입하는 메타와의 파트너십 확대는 전용 설계 실리콘과 AWS의 완전한 AI 스택을 결합해 차세대 에이전트 AI를 구동할 때 어떤 성과가 나오는지를 잘 보여준다"고 말했다. 산토시 자나단 메타 인프라 책임자는 "메타의 AI 인프라를 확장해 나가는 과정에서 컴퓨팅 소스의 다변화는 전략적으로 필수적인 과제"라며 "그래비톤으로의 확장을 통해 에이전트 AI를 뒷받침하는 CPU 집약적 워크로드를 우리 규모에 걸맞은 성능과 효율로 실행할 수 있게 됐다"고 말했다. 이처럼 컴퓨팅 수요가 산업 전반에서 확대됨에 따라 비용 관리와 환경 영향을 줄이는 측면까지 고려할 때 기반 인프라의 효율성은 더욱 중요한 과제가 되고 있다. 메타 관계자 측은 이번 계약이 대규모 AI 인프라 구축 방식의 새로운 전환점을 알리는 동시에 전용 설계 칩이 메타가 전 세계 수십억 명의 사용자에게 더 스마트하고 개인화된 경험을 제공하는 데 어떻게 기여할 수 있는지를 보여준다고 밝혔다. 헬로티 구서경 기자 |
Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.
공유