LG-KETI, 엑사원으로 ‘AI 안전신문고’ 구축…연 1천만 건 신고 처리 - 산경투데이
[AI] AI safety
|
|
🤖 AI 모델
#lg ai연구원
#머신러닝/연구
#멀티모달 ai
#문서 추론
#엑사원 4.5
#ai 모델
#ai 접근 제어
#claude
#claude desktop
#국방부
#기밀 유출
#보안
원문 출처: [AI] AI safety · Genesis Park에서 요약 및 분석
요약
민감하거나 기밀 사항을 다루는 국방부 계약업체 직원에게 클로드 데스크톱 사용 시 AI가 특정 활동에 접근하는 것을 막는 것이 현실적으로 불가능한 경우가 많습니다. 결과적으로 보안상 허용될 수 없는 수준의 위험 노출이 발생하여 해당 기술의 활용에 심각한 문제가 제기되고 있습니다.
본문
사진·영상 신고 자동 분석해 분류·이송 속도 개선…행안부 시범 서비스 준비 [산경투데이 = 이준영 기자] LG AI연구원이 한국전자기술연구원(KETI)과 함께 행정안전부의 ‘AI 안전신문고’ 1단계 연구개발을 완료하고 연내 시범 서비스 준비에 나섰다. LG의 인공지능(AI) 모델 ‘엑사원(EXAONE)’을 기반으로 안전 신고 처리 전 과정을 지능화해 행정 효율과 국민 안전 대응 속도를 높이겠다는 구상이다. 행정안전부는 정부 국정과제인 ‘국민 안전 보장을 위한 재난 안전 관리 체계 확립’의 핵심 사업으로 AI 안전신문고를 추진하고 있다. 안전신문고에는 하루 3만9천여 건 이상의 신고가 접수되는 가운데, 매년 신고 건수가 늘면서 담당 기관의 분류·이송 업무 부담도 커지고 있다. AI 안전신문고는 신고 접수 이후 선별, 분류, 담당 부서 이관, 답변 회신까지 전 과정을 AI가 지원하는 차세대 안전 신고 처리 시스템이다. 현재 안전신문고에는 일부 키워드 기반 자동 분류 체계가 적용돼 있지만, 신고 내용에 오타가 있거나 문구가 불명확할 경우 분류 정확도가 떨어지는 한계가 있었다. 사진이나 영상이 포함된 신고는 실무자가 직접 내용을 확인한 뒤 소관 기관으로 분류·이송해야 했다. LG AI연구원의 비전언어모델(Vision-Language Model) ‘엑사원 4.5’는 이러한 문제를 해결하는 핵심 역할을 맡는다. 엑사원 4.5는 이미지와 영상 등 시각 정보를 이해하고 추론할 수 있어, 사진과 영상이 포함된 안전 신고 내용을 분석해 신고 문구를 자동으로 생성하고 유형을 분류한다. 예컨대 신고자가 막힌 빗물받이 사진을 안전신문고에 올리면 엑사원이 사진을 분석해 신고 내용을 작성한다. 이후 시스템은 신고 유형과 중요도를 판단해 장마철 빗물받이 막힘처럼 신속 처리가 필요한 신고를 소관 기관 분류 부서를 거치지 않고 조치 부서로 바로 이송할 수 있다. 이를 통해 처리 기간을 줄이고 행정 부담도 낮출 수 있다는 설명이다. KETI는 엑사원 4.5가 생성한 정교한 신고 문구를 바탕으로 중요 신고 유형을 세분화해 선별하고, 이를 통해 주요 안전 신고의 이송 기간을 단축할 계획이다. 두 기관은 향후 안전 신고 데이터가 축적되면 시기·지역·유형·빈도별 패턴 분석이 가능해져 새로운 안전 위험을 선제적으로 파악하는 정책 수립에도 활용할 수 있을 것으로 보고 있다. 신희동 KETI 원장은 “LG와의 협업을 통해 공공서비스의 행정 부담과 운영 비용을 절감하고 시민 안전 강화에 기여할 것으로 기대한다”며 “안전 민원을 신속하고 정확하게 처리해 국민이 체감할 수 있는 AI 전환 모범 사례를 만들겠다”고 밝혔다. 임우형 LG AI연구원 공동연구원장은 “전문가 AI를 통해 실질적인 가치를 창출하는 것이 LG가 추구하는 방향”이라며 “엑사원을 활용해 국민 안전과 직결되는 안전 행정의 속도와 품질을 개선하고 삶의 질 향상에 기여하겠다”고 말했다. LG는 공공영역 AI 전환(AX) 사업에서도 엑사원 활용을 확대하고 있다. LG AI연구원은 공공 사업을 수행하는 LG CNS와 함께 외교부, 경찰청, 경기도교육청 등 주요 기관의 AI 기반 업무 혁신 사업에 참여하고 있다. 외교부와는 문서 초안 작성, 분류, 요약, 외교 업무 정보 관리를 지원하는 ‘지능형 AI 외교안보 데이터 플랫폼’을 구축하고 있다. 경찰청과는 수사 과정에서 필요한 규정, 판례, 매뉴얼을 빠르게 찾아주는 ‘AI 수사 지원 서비스’를 추진해 수사관의 자료 조회와 정리 시간을 줄이는 데 초점을 맞췄다. 경기도교육청과는 AI와 데이터 기반 ‘경기교육 디지털 플랫폼’ 구축을 통해 교육 행정과 현장 지원 체계 고도화를 지원한다. 지식재산처와 한국특허정보원도 엑사원을 활용해 특허 검색과 선행기술 조사 등 특허 전문가 업무를 지원하는 ‘특허 전문가 AI’ 실증 사업을 진행했다. 공공영역의 AI 도입은 민감 정보를 다루는 만큼 기술 안정성과 신뢰성이 핵심 과제로 꼽힌다. LG AI연구원은 AI 윤리 전담 조직을 중심으로 기획, 데이터 수집·학습, 모델 배포, 서비스 운영, 현장 활용 전 단계에 걸쳐 ‘책임 있는 AI’ 관리 체계를 구축하고 있다. LG는 ‘사람 중심 AI’ 철학을 바탕으로 국민 생활과 밀접한 공공서비스 분야에서 AI 활용 사례를 지속 확대한다는 방침이다.
Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.
공유