SKT-엔비디아, AI 플랫폼 협력 강화…모델 개발 속도전 - 데일리포스트
[AI] SKT-엔비디아
|
|
🔬 연구
#ai 인프라
#gpu 효율화
#sk텔레콤
#소버린 ai
#옴디아
#gpt-4
#review
#도입 가이드라인
#미국 국토안보부
#민감정보 보호
#생성형 ai
#시민권리
요약
미국 국토안보부(DHS)는 세 가지 시범 프로그램을 바탕으로 공공기관의 생성형 AI 도입을 위한 상세 가이드라인을 발표했습니다. 이 프로그램들은 펜타닐 네트워크 탐지, 재난 관리청(FEMA)의 보조금 신청 지원, 이민 서비스의 심사관 면접 훈련 등에 AI를 활용하여 실질적인 효과를 입증했습니다. 보고서는 전문가가 포함된 거버넌스 기구 설립과 상업용, 오픈소스 등 다양한 AI 플랫폼의 특성 비교를 권고하며, AI 활용 시 필수적인 직원 교육과 인간의 최종 검토를 통해 환각 현상을 경계해야 한다고 강조했습니다.
왜 중요한가
개발자 관점
검토중입니다
연구자 관점
검토중입니다
비즈니스 관점
검토중입니다
본문
©데일리포스트=SK텔레콤 을지로 본사에서AI모델 개발자들이 엔비디아 담당자들과 원격 회의를 진행하는 모습 |데일리포스트=송협 대표기자| “SK텔레콤과 엔비디아는 선제적으로 새로운 기술을 적용하고 상호 피드백을 통해 서로 발전해온 관계인 만큼 협력 관계를 통해 국내AI생태계 발전에 함께 기여하겠습니다” (김태윤 SK텔레콤 파운데이션 모델 담당) SK텔레콤이 엔비디아와의 협력 성과를 공개하고 후속 AI 모델 개발 계획을 밝힌 가운데 양사는 데이터와 인프라, 학습 기술 전반에서 협력을 이어갈 전망이다. SK텔레콤은 지난 21일 ‘엔비디아 네모트론 디벨로퍼 데이즈 서울 2026’에서 NVIDIA와의 AI 모델 개발 협력 성과를 공개했다. SK텔레콤은 독자 AI 파운데이션 모델 프로젝트의 후속 모델인 ‘A.X K2’ 개발 계획도 추가로 공개했다. 이는 기존 ‘A.X K1’에 이은 모델이며 국내 AI 생태계 구축을 목표로 한다. 양사는 지난 2021년 A100 GPU 기반 슈퍼컴퓨터 ‘타이탄’ 구축 단계부터 협력을 시작한데 이어 데이터 구축과 인프라 운영, 모델 학습 과정 전반에서 협력을 이어왔다. SK텔레콤은 지난해 ‘A.X K1’ 학습 과정에서 엔비디아 ‘Nemotron’ 데이터셋을 활용했다. 모델은 5190억 개 매개변수 규모로 구축됐다. 학습에는 분산 학습 프레임워크 ‘Megatron-LM’과 데이터 정제 도구 ‘NeMo Curator’가 적용됐다. 협력을 통해 모델 성능 개선과 개발 환경 안정화를 동시에 추진했다. 관련 조직은 정기적으로 기술 검토를 진행하며 학습 인프라 운영과 최적화 방안을 공유하고 있다. 여기에 전문가 혼합(MoE) 구조 적용 경험과 대규모 모델 학습 방식에 대한 정보를 교환해 개발 기반을 확장했다. 한편 SK텔레콤은 현재 개발 중인 ‘A.X K2’에도 엔비디아 기술을 적용할 계획으로 향후 멀티모달과 비전언어모델 등 차세대 AI 기술 분야에서도 공동 연구를 이어간다는 방침이다.