LG-KETI, 엑사원으로 ‘연 1000만건’ 안전 신고 처리한다 - 더트래커
[AI] lg ai연구원
|
|
🤖 AI 모델
#뉴스
#ai 모델
#ai 접근 제어
#claude
#claude desktop
#국방부
#기밀 유출
#보안
원문 출처: [AI] lg ai연구원 · Genesis Park에서 요약 및 분석
요약
민감하거나 기밀 사항을 다루는 국방부 계약업체 직원에게 클로드 데스크톱 사용 시 AI가 특정 활동에 접근하는 것을 막는 것이 현실적으로 불가능한 경우가 많습니다. 결과적으로 보안상 허용될 수 없는 수준의 위험 노출이 발생하여 해당 기술의 활용에 심각한 문제가 제기되고 있습니다.
본문
더트래커 = 강혜림 기자 LG AI연구원이 AI 모델 ‘엑사원’을 기반으로 행정안전부의 ‘AI 안전신문고’의 연내 시범 서비스 준비를 본격화하고 있다. LG AI연구원은 한국전자기술연구원(KETI)과 함께 엑사원(EXAONE)을 기반으로 ‘AI 안전신문고’ 1단계 연구 개발을 완료했다고 30일 밝혔다. 행정안전부는 정부 국정과제 ‘국민 안전 보장을 위한 재난 안전 관리 체계 확립’의 핵심 사업인 AI 안전신문고의 두뇌로 LG AI연구원의 엑사원을 낙점했다. AI 안전신문고는 하루 3만9000여건 이상으로 매년 폭증하고 있는 안전 신고를 AI가 분석해 신고 접수부터 선별과 분류, 담당 부서 이관, 답변 회신까지 전 과정을 지능화·자동화하는 차세대 안전 신고 처리 시스템이다. LG AI연구원의 비전언어모델 ‘엑사원 4.5’는 사진과 영상을 포함한 안전 신고 내용을 정확하게 선별하고 분류하는 두뇌 역할을 맡는다. KETI는 엑사원 4.5가 생성한 더 정확한 안전 신고 문구를 바탕으로 세분된 중요 유형의 신고를 선별함으로써 중요 신고 유형에 대한 이송 기간을 단축하고 행정 부담을 줄인다는 계획이다. 두 기관은 안전 신고 데이터가 축적되면 시기·지역·유형·빈도별 데이터 기반 패턴 분석이 가능해지고, 이를 통해 새로운 유형의 안전 위험에 선제적으로 대응할 수 있는 정책 수립 과정에 활용할 수 있을 것으로 기대하고 있다. 임우형 LG AI연구원 공동연구원장은 “엑사원을 활용해 국민의 안전과 직결되는 안전 행정의 속도와 품질을 개선함으로써 삶의 질 향상에 기여하겠다”고 강조했다. 한편 구광모 ㈜LG 대표는 올해 초 LG AI대학원 개원식에서 “기술은 그 자체가 목적이 아닌 ‘사람들의 미소’를 설계하는 따뜻한 도구여야 하며, 이는 결국 ‘사람’을 향해야 한다”며 사람 중심 AI의 중요성을 강조한 바 있다. 0 0
Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.
공유