LG-KETI, '엑사원' 기반 'AI 안전신문고' 개발…연 1000만 건 이상 처리 - 뉴스웍스

[AI] 엑사원 4.5 | | 🤖 AI 모델
#lg ai연구원 #머신러닝/연구 #멀티모달 ai #문서 추론 #엑사원 4.5 #ai 모델 #ai 접근 제어 #claude #claude desktop #국방부 #기밀 유출 #보안
원문 출처: [AI] 엑사원 4.5 · Genesis Park에서 요약 및 분석

요약

민감하거나 기밀 사항을 다루는 국방부 계약업체 직원에게 클로드 데스크톱 사용 시 AI가 특정 활동에 접근하는 것을 막는 것이 현실적으로 불가능한 경우가 많습니다. 결과적으로 보안상 허용될 수 없는 수준의 위험 노출이 발생하여 해당 기술의 활용에 심각한 문제가 제기되고 있습니다.

본문

[뉴스웍스=채윤정 기자] LG AI연구원이 한국전자기술연구원(KETI)과 함께 LG의 AI 모델 '엑사원'을 기반으로 행정안전부의 'AI 안전신문고' 1단계 연구 개발을 완료하고, 연내 시범 서비스 준비를 본격화한다고 30일 밝혔다. 행정안전부는 정부 국정과제 '국민 안전 보장을 위한 재난 안전 관리 체계 확립'의 핵심 사업인 'AI 안전신문고'의 두뇌로 우리나라 AI 기술 개발을 선도하고 있는 LG AI연구원의 '엑사원'을 낙점했다. AI 안전신문고는 하루 3만 9000여 건 이상으로 매년 폭증하고 있는 안전 신고를 AI가 분석해 신고 접수부터 선별과 분류, 담당 부서 이관, 답변 회신까지 전 과정을 지능화·자동화하는 차세대 안전 신고 처리 시스템이다. 현재 안전신문고에는 키워드 기반 자동 분류 체계가 일부 적용되어 있으나, 신고 내용에 오타 또는 불명확한 문구가 포함되어 있을 때 정확도가 떨어져 신고에 포함된 사진·영상을 실무자가 일일이 열어 직접 확인한 후 소관 기관으로 분류·이송하고 있다. LG AI연구원의 시각 정보를 이해하고 추론이 가능한 비전언어모델 '엑사원 4.5'는 사진과 영상을 포함한 안전 신고 내용을 정확하게 선별하고 분류하는 두뇌 역할을 맡는다. KETI는 '엑사원 4.5'가 생성한 더 정확한 안전 신고 문구를 바탕으로 세분된 중요 유형의 신고를 선별함으로써 중요 신고 유형에 대한 이송 기간을 단축하고 행정 부담을 줄인다는 계획이다. 두 기관은 안전 신고 데이터가 축적되면, 시기·지역·유형·빈도별 데이터 기반 패턴 분석이 가능해지고, 이를 통해 새로운 유형의 안전 위험에 선제적으로 대응할 수 있는 정책 수립 과정에 활용할 수 있을 것으로 전망했다. 신희동 KETI 원장은 "LG와의 협업을 통해 공공서비스의 행정 부담과 운영 비용을 절감하고, 시민 안전 강화에 기여할 것으로 기대하고 있다"며 "안전 민원을 신속, 정확하게 처리해 국민이 체감할 수 있는 AI 전환 모범 사례를 만들겠다"고 밝혔다. 임우형 LG AI연구원 공동연구원장은 "전문가 AI를 통해 실질적인 가치를 창출하는 것이 LG가 추구하는 방향"이라며 "엑사원을 활용해 국민의 안전과 직결되는 안전 행정의 속도와 품질을 개선함으로써 삶의 질 향상에 기여하겠다"라고 강조했다. 한편 LG AI연구원은 공공영역 사업을 수행하는 LG CNS와 '엑사원' 기반 AX 사업을 선도하고 있다. LG CNS는 외교부, 경찰청, 경기도교육청 등과 협력해 AI를 현장 업무에 적용하는 대규모 공공 AX 사업에 엑사원을 활용하고 있다. 공공영역에서의 AI 도입은 민감 정보를 다루는 특성상, 법적·윤리적 안전장치를 선제적으로 마련해야 하며, 기술적 안정성과 신뢰성을 바탕으로 누구나 기술을 소외 없이 이용할 수 있는 보편적 접근성을 확보해야 한다. 이에 앞서 LG와 엔비디아가 LG의 독자 인공지능(AI) 모델인 '엑사원' 생태계 확장을 위한 기술 동맹을 강화하기로 했다. 임우형 LG AI연구원 공동 원장과 이진식 엑사원랩장 등은 '네모트론' 개발자 대회를 위해 한국을 찾은 응용연구 총괄 브라이언 카탄자로 부사장과 정소영 엔비디아 코리아 대표 등 엔비디아 경영진과 만나 차세대 AI 모델 개발 협력 및 AI 생태계 공동 구축을 위한 전략을 논의했다.

Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.

공유

관련 저널 읽기

전체 보기 →