SKT-엔비디아, 초거대 AI 학습 안정성 고도화 - 뉴스프리존

[AI] SKT-엔비디아 | | ⚡ AI 서비스
#ai 인프라 #gpu 효율화 #sk텔레콤 #소버린 ai #옴디아 #ai 에이전트 #api #openai #샌드박스 #오픈 소스 #자동화
원문 출처: [AI] SKT-엔비디아 · Genesis Park에서 요약 및 분석

요약

**요약:** AI 에이전트는 코딩에는 강하지만 실제 작업을 마무리하는 데 한계가 있어 인간 개입이 필요합니다. 폴포(Polpo)는 역할, 기술, 인증 정보를 부여한 AI 에이전트 팀을 구축하여 작업을 자동화하고, 3개의 독립적 LLM 심사가 점수 미만인 경우 작업을 자동으로 재시도하는 품

본문

SK텔레콤 을지로 본사에서 AI 모델 개발자들이 엔비디아 담당자들과 원격 회의를 진행하고 있다. (사진=SKT 제공) SK텔레콤(SKT)은 지난 21일 서울에서 처음 열린 ‘엔비디아 네모트론 디벨로퍼 데이즈’ 테크니컬 세션을 통해 엔비디아와의 AI 모델 개발 협력 성과를 공개했다고 22일 밝혔다. SKT는 독자 AI 모델인 ‘A.X K1(에이닷엑스 케이원)’의 후속 모델인 ‘A.X K2’ 개발 계획을 언급하며, 국내 소버린 AI 생태계 구축을 위한 협업 방안을 제시했다. 양사는 지난 2021년 GPU 기반 슈퍼컴퓨터 '타이탄' 구축 단계부터 데이터와 인프라, 학습 환경 전반에 걸쳐 교류를 지속해 왔다. 특히 SKT는 지난해 정부 프로젝트 수행 과정에서 매개변수 5190억 개 규모의 초거대 모델 학습을 위해 엔비디아 네모트론 데이터셋을 채택한 바 있다. 이 과정에서 양사는 대규모 모델 분산 학습 프레임워크와 데이터 정제 설루션을 활용해 초거대 AI 학습의 안정성을 높이는 데 주력했다. 현재 양사 기술 부서는 정기적인 소통을 통해 학습 인프라의 최적화 방안을 논의하고 있다. 전문가 혼합(MoE) 등 신규 구조에 대한 개발 정보를 공유하며 대규모 학습을 위한 기반을 마련 중이다. SKT는 후속 모델인 A.X K2 학습에도 엔비디아 설루션을 활용할 예정이며, 향후 멀티모달 및 비전언어모델(VLM) 등 차세대 기술 영역에서도 공동 연구를 이어갈 방침이다.

Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.

공유

관련 저널 읽기

전체 보기 →