"5000억개 매개변수 줄여 실전에"…SKT가 독파모 'A.X K1' 경량화에 나선 까닭은 - v.daum.net

"5000억개 매개변수 줄여 실전에"…SKT가 독파모 'A.X K1' 경량화에 나선 까닭은 전체 맥락을 이해하기 위해서는 본문 보기를 권장합니다. SK텔레콤이 독자 파운데이션 모델(독파모) 사업 1단계 결과물인 'A.X K1'의 경량화 버전을 기업에 제공하며 상용화 검증에 나섰다. SK텔레콤 관계자는 "너무 큰 모델은 기업들이 실제로 돌리기 어렵다. 써볼 수 있는 수준의 모델을 제공해 사용성과 개선 의견을 받는 것을 목적으로 한다"며 "모두의 AI가 중요해진 만큼 오픈소스 기반으로 제공해 기업들과 상호작용하며 생태계를 만들어가는 과정"이라고 말했다. [아이뉴스24 서효빈 기자] SK텔레콤이 독자 파운데이션 모델(독파모) 사업 1단계 결과물인 'A.X K1'의 경량화 버전을 기업에 제공하며 상용화 검증에 나섰다. 5000억개 매개변수 초거대 모델을 실제 산업 환경에서 구동 가능한 수준으로 낮추려는 시도다. 24일 업계에 따르면 SK텔레콤은 최근 A.X K1 기반 경량화 모델을 일부 기업에 제공해 실전 테스트를 진행하고 있다. 5000억개 매개변수를 사용하는 기존 초거대 모델보다 경량화한 이 모델은 연산량을 줄이고 하드웨어 및 인프라를 단순화할 수 있다. 이렇게 최적화된 모델을 기업이 사용해보고 SK텔레콤은 그 결과를 토대로 기업 환경에 적합한 모델을 지속적으로 개발해간다는 계획이다. SK텔레콤의 이같은 행보는 2차 평가를 앞두고 독파모 경쟁에서 활용성을 높여 경쟁력을 확보하려는 시도다. 초기 평가 단계에서 모델 자체 성능을 검증하는 데 초점이 맞춰졌다면, 평가 단계에서는 기업 적용과 피드백 확보 등 실제 활용성이 더욱 중요해질 전망이다. 이에 SK텔레콤은 경량화·양자화 모델을 통해 기업 피드백을 확보하고 실제 활용성을 높인다는 계획이다. SK텔레콤 관계자는 "너무 큰 모델은 기업들이 실제로 돌리기 어렵다. 써볼 수 있는 수준의 모델을 제공해 사용성과 개선 의견을 받는 것을 목적으로 한다"며 "모두의 AI가 중요해진 만큼 오픈소스 기반으로 제공해 기업들과 상호작용하며 생태계를 만들어가는 과정"이라고 말했다. 한편 SK텔레콤이 참여하고 있는 독파모 프로젝트는 2027년까지 세계 최고 수준의 거대언어모델(LLM)과 멀티모달(텍스트, 그림, 동영상 등을 처리) 모델을 확보하자는 취지로 정부가 추진하고 있는 '국가대표 AI' 경연 대회다. 올해 초 SK텔레콤, 업스테이지, LG AI연구원 등이 1차 평가를 통과한 데 이어 모티프테크가 추가 정예팀으로 선정돼 4파전으로 치러지고 있다. 정부는 오는 8월 2단계 평가를 실시할 계획이다. /서효빈 기자([email protected])Copyright © 아이뉴스24. 무단전재 및 재배포 금지. - 삼바 가처분 일부 인용에 삼성전자 '초비상'…반도체 생산차질 우려 - "전쟁·휴전마다 돈 쓸어 담았다"⋯트럼프 발표 전 수상한 '유가 거래' - 안성재 식당 '모수', 와인 바꿔치기 논란 공식 사과⋯누리꾼 반응은 여전히 '싸늘' - 광명서 탈출한 사슴, 서울까지 왔나?⋯구로구 천왕산 인근서 목격 신고 - "늑대가 사거리 돌아다녀"⋯AI로 가짜 늑구 사진 생성해 유포한 40대 체포 - "신생펀드인데 미쳤네"…美 '삼전닉스 ETF'에 전세계 개미들 몰렸다 - "산책하다 사라져"⋯집 나갔다 붙잡힌 '日 늑구', 처음 아니었다 - 포천 중학교서 30대 여교사가 물감 뿌리며 난동⋯현행범 체포 - "CU 사태 남일 아냐"⋯다단계 유통 구조 '시험대' - '이수지 영상' 왜 난리났나 했더니 다큐였다…"독감 걸려도 출근한다"