金총리 “생성형 AI가 민주주의 위협… 선거 관련 AI 가짜 뉴스 엄중 처벌” - v.daum.net

金총리 “생성형 AI가 민주주의 위협… 선거 관련 AI 가짜 뉴스 엄중 처벌” 정부가 14일 6·3 지방선거를 앞두고 생성형 AI 기술로 만든 딥페이크 영상을 선거에 이용하는 행위를 엄중히 처벌하겠다고 밝혔다. 김민석 국무총리는 이날 오후 정부서울청사에서 공명선거 관계 장관 회의를 주재하고 오후 4시 대국민 담화를 통해 이같이 밝혔다. 김 총리는 “생성형 AI 기술의 급격한 발전이 선거 환경을 근본적으로 바꿔 놓고 있다”며 생성형 AI로 만든 딥페이크 영상이 “민주주의에 대한 새로운 위협”이라고 했다. 김 총리는 “존재하지 않는 장면이 사실처럼 재현되고, 하지 않은 발언이 실제 음성처럼 만들어져 유포되면서 선거의 공정성을 심각하게 위협하고 있다”며 “근거 없는 허위 정보는 우리 사회 전반에 깊은 갈등과 불신을 심고, 이를 바로잡는 과정에서 막대한 행정력과 사회적 비용을 초래한다”고 했다. 이어서 “이는 특정 후보에 대한 공격을 넘어 선거 제도 자체에 대한 국민의 신뢰를 허무는 행위이며, 민주주의의 근간을 흔드는 심각한 위협”이라고 했다. 김 총리는 “선거법에 따라 AI를 이용한 딥페이크 선거 영상은 선거 90일 전부터 엄격히 금지된다”고 했다. 딥페이크 영상을 선거에 이용하는 것은 2023년 말 선거법 개정으로 금지됐다. 김 총리는 그러면서 “정부는 이 문제를 결코 좌시하지 않겠다. 이번 선거 기간 동안 AI를 악용한 가짜 뉴스에 대해서는 일벌백계 차원에서 법이 허용하는 최대한으로 엄중히 처벌하겠다”고 했다. 대국민 담화에 동석한 윤호중 행정안전부 장관은 “이번에는 과거 선거보다도 허위 사실 유포 등 선거법 위반 사안이 50% 정도 늘고 있다”며 “지방선거만 (광역자치단체장, 광역의회, 광역의회 비례대표, 기초자치단체장, 기초의회, 기초의회 비례대표, 교육감 선거 등) 7개 선거이고, 국회의원 보궐선거까지 8개 선거가 동시에 치러지다 보니 선거가 일찍부터 과열되고 있다”고 했다. 정성호 법무부 장관은 “여야 정당이 다 경선 절차를 밟고 있는데, 과거보다 당원 경선이 치열해지고 있고, AI 딥페이크 영상으로 입건된 사례도 여러 건 있다. 지난 지방선거보다 흑색 선전도 50% 정도 늘었다”고 했다. ◇김민석 국무총리 대국민 담화 전문 존경하는 국민 여러분, 국무총리 김민석입니다. 오는 6월 3일 제9회 전국동시지방선거가 실시됩니다. 다가오는 지방선거는 우리 지역의 미래를 결정하고 대한민국 민주주의 토대를 더욱 굳건히 하는 매우 중요한 선거입니다. 우리 삶과 가장 가까운 곳에서 교육, 안전, 복지를 책임질 사람을 지역 주민 스스로 선택하는 날입니다. 그 선택이 어떤 왜곡도 없이 온전히 결과에 반영되도록 하는 것, 그것이 정부의 가장 중요한 책무입니다. 정부는 국민들께서 소중한 권리를 행사할 수 있도록 투·개표의 전 과정을 엄정하게 관리함으로써 온전히 신뢰할 수 있는 공정하고 투명한 선거를 만들겠습니다. 국민 여러분, 우리는 오늘 민주주의에 대한 새로운 위협 앞에 서 있습니다. 생성형 AI 기술의 급격한 발전은 선거 환경을 근본적으로 바꾸어 놓고 있습니다. 존재하지 않는 장면이 사실처럼 재현되고, 하지 않은 발언이 실제 음성처럼 만들어져 유포되면서 선거의 공정성을 심각하게 위협하고 있습니다. 여기에 더해 1인 미디어와 사회 관계망 서비스, 온라인 플랫폼을 통한 확산의 가속화는 문제를 더욱 복잡하고 심각하게 만들고 있습니다. 근거 없는 허위 정보는 우리 사회 전반에 깊은 갈등과 불신을 심고, 이를 바로잡는 과정에서 막대한 행정력과 사회적 비용을 초래합니다. 이는 특정 후보에 대한 공격을 넘어 선거 제도 자체에 대한 국민의 신뢰를 허무는 행위이며, 민주주의의 근간을 흔드는 심각한 위협입니다. 정부는 이 문제를 결코 좌시하지 않겠습니다. 공직선거법에 따라 AI를 이용한 딥페이크 선거 영상은 선거 90일 전부터 엄격히 금지됩니다. 정부는 이번 선거 기간 동안 AI를 악용한 가짜 뉴스에 대해서는 일벌백계 차원에서 법이 허용하는 최대한으로 엄중히 처벌하겠습니다. 가짜 뉴스 유포뿐만 아니라 금품 수수, 선거 폭력, 공무원의 선거 개입 등 5대 선거 범죄에도 무관용 원칙으로 엄격하고 단호하게 처리하겠습니다. 선거 범죄는 6개월의 단기 공소시효가 적용되는 만큼, 신속하고 빈틈없이 처리하여 적발된 범죄에 대해서는 반드시 그에 상응하는 책임을 부과할 것입니다. 각 정당과 후보자 여러분께도 당부드립니다. 선거는 경쟁이지만 그 경쟁은 정정당당해야 합니다. 허위 정보와 흑색선전에 기대는 선거운동은 유권자에 대한 기만이자 민주주의 자체를 훼손하는 행위임을 명심해 주시기 바랍니다. 존경하는 국민 여러분, 깨끗한 선거는 정부의 노력만으로 완성되지 않습니다. 출처가 불분명하거나 내용이 의심되는 정보를 접하실 때에는 그것이 사실인지 한 번 더 확인해 주시기 바랍니다. 그리고 반드시 소중한 한 표를 행사해 주십시오. 여러분의 한 표가 지역의 삶을 바꾸고 대한민국의 내일을 만듭니다. 공정하고 깨끗한 선거, 국민이 믿을 수 있는 선거를 국민 여러분께 약속드리겠습니다. 감사합니다. Copyright © 조선일보. 무단전재 및 재배포 금지. - IMF의 경고 “전쟁 해 넘기면 세계 성장률 2%”... 1980년 이후 네 번째 저성장 - 3쿼터에 30점 넣으며 대역전극...소노, SK에 2연승하며 프로농구 4강 플레이오프까지 1승 남겨 - 정부, 이란에 50만달러 규모 인도적 지원 결정 - ‘대마 혐의’ 시나위 김바다 “불찰 깊이 반성” - 2군 전전하던 손아섭, 두산 유니폼 갈아입고 홈런 ‘쾅’ - 성과급 7억원의 나비효과... ‘하·의·치·약’으로 뒤집다 - 대법 “허위 사실 유포 안민석, 최서원에 2000만원 배상하라” - ‘금융·특수 수사 전문' 한기식 전 차장 변호사 개업 - 5명 숨진 서산영덕고속도로 사고… 도로공사 관리자 2명 송치 - 민주당 초대 전남광주통합시장 후보로 민형배 선출