기업이 보안을 지킨다는 이름으로 연구자를 위협할 때, 사기꾼은 AI로 가짜 얼굴을 만든다

지난주 뉴스를 읽으며 가장 불편했던 순간은 마이크로소프트가 '나이트메어 이클립스'라는 익명의 보안 연구원에게 형사 고발을 예고했다는 기사였다. 불편함의 원인은 단순하지 않다. 기업이 제로데이 취약점을 방치하는 것도 문제지만, 익스플로잇 코드를 공개한 연구자를 상대로 소송 카드를 꺼내드는 것이 과연 "적절한 절차"를 지키는 것인지에 대해 확신이 서지 않았기 때문이다.

동시에 같은 주에 AI로 만들어진 가짜 흑인 여성 인플루언서가 눈물을 흘리며 쓰레기 제품을 팔고 있다는 소식도 전해졌다. 기술의 "개방성"이 사기꾼에게 무기가 되는 장면이다. 한쪽에서는 기업이 정보 통제를 강화하고, 다른 한쪽에서는 AI 도구의 접근성이 사기 산업을 키우고 있다. 이 두 흐름 사이에 놓인 질문은 하나다. 기술의 투명성과 통제, 그 경계를 우리는 어디에 그어야 하는가.

마이크로소프트의 선택: 보안인가 검열인가

마이크로소프트는 '나이트메어 이클립스'가 자사 제품의 제로데이 취약점에 대한 익스플로잇 코드를 깃허브와 깃랩에 공개한 데 대해 "적절한 공개 절차를 따르지 않았다"는 이유로 형사 고발을 시사했다. 회사는 해당 인물의 계정을 차단했고, 보안 연구원 커뮤니티에서는 이것이 사실상 취약점 신고자를 위협하는 행위라는 비판이 나왔다.

형식적으로 보면 마이크로소프트의 주장에 일리가 있다. 제로데이 취약점은 패치가 나오기 전까지 수많은 시스템을 위험에 빠뜨릴 수 있고, 익스플로잇 코드의 무분별한 공개는 악용 가능성을 높인다. 책임 있는 공개(responsible disclosure) 절차가 존재하는 이유다.

하지만 이 사례에서 마이크로소프트의 대응 방식은 그 "절차"가 기업의 일방적 판단에 의존하고 있음을 보여준다. 계정 차단과 법적 위협은 분쟁 해결이 아니라 억압의 언어에 가깝다. 연구자가 공개 시점을 조율할 수 있는 채널이 충분히 있었는지, 기업이 먼저 응답했는지는 확인하기 어렵다. 다만 한 가지 분명한 것은 있다: 취약점을 발견한 사람을 범죄자로 만드는 구조에서는, 다음번에 아무도 취약점을 보고하지 않을 수도 있다.

AI 사기의 민낯: 도구의 민주화가 만든 그림자

같은 시기 틱톡과 인스타그램에서는 실재하지 않는 흑인 여성 AI 인플루언서가 등장했다. 이들은 울먹이며 "직접 만든" 제품을 소개하는 영상을 올렸지만, 실제로는 대량 생산된 저가 제품을 파는 드롭shipping 사기였다. 기술 자체는 놀랍도록 발전했고, 그 결과물은 충격적일 만큼 저렴하다. AI 영상 생성 비용이 수천 원대로 떨어진 시대에, 사기의 진입장벽도 함께 무너진 셈이다.

이 문제의 핵심은 기술 자체가 아니라 유통 구조에 있다. AI 인플루언서를 만드는 데 사용된 도구는 합법적으로 제공되고 있으며, 플랫폼은 이 콘텐츠를 크게 제재하지 않고 있다. 마이크로소프트가 보안 연구자의 계정을 하루 만에 차단한 것과 비교하면, 사기꾼의 계정은 몇 주째 살아남아 있다. 기업이 "통제"할 수 있는 대상과 "통제"하지 않는 대상 사이의 차이가 선명하게 드러나는 지점이다.

'구글 제로'를 선택한 창업자: 유행을 거스르는 도박의 결과

이 두 사건과 묘한 대조를 이루는 사례가 있다. 전 메타 엔지니어 크레이그 캠벨은 2022년 사업 매각 후 벤처 캐피탈로부터 AI 스타트업 설립 제안을 받았다. 그는 이 제안을 거절하고 "구글 제로" 위협이 있는, 옛날 방식의 웹사이트 제작 사업을 시작했다. AI 열풍 한가운데서 투자자들의 반대를 무릅쓴 결정이었다.

캠벨의 선택은 표면적으로는 시대착오적으로 보인다. 하지만 그의 성과는 다른 질문을 던진다. 모든 기업이 AI를 도입해야 한다는 압박 속에서, 기술의 본래 가치를 유지하려는 시도가 오히려 성공할 수 있는 구조가 존재하는가. 그는 AI가 필요하지 않은 영역을 정직하게 선택했고, 그 선택이 시장에서 검증되었다.

한국딥러닝의 기고문은 이 문제를 제조업 관점에서 더 구체화한다. 문서를 AI가 읽는 순간 보안은 생산 경쟁력의 문제가 된다는 것이다. 성능만으로 AI를 평가하던 시대는 끝났고, 이제는 "이 문서를 AI가 읽어도 되는가"라는 질문이 먼저 와야 한다는 주장이다.

하나의 패턴: 통제의 방향을 둘러싼 갈등

이 네 가지 사례를 관통하는 하나의 패턴이 있다. 마이크로소프트는 보안 연구원의 정보 공개를 통제하려 하고, 사기꾼은 플랫폼의 약한 통제를 이용하며, 캠벨은 AI 산업의 흐름 자체를 거부하고, 한국딥러닝은 기업 내부 데이터의 외부 유출을 막아야 한다고 말한다. 모두 "무엇을 누가 통제할 것인가"라는 질문의 변형이다.

문제는 이 질문에 대한 답이 일관되지 않다는 것이다. 기업은 연구자의 공개 행위를 통제하면서도 사기꾼의 활동은 방치하고, 투자자는 AI 도입을 강요하면서도 보안 위험은 외면한다. 캠벨이 구식 웹 사업을 선택한 것이 "성공적"으로 평가받는 상황 자체가, 현재 기술 산업의 우선순위가 얼마나 뒤틀려 있는지를 보여주는 증거이기도 하다.

반론: 통제가 항상 나쁜 것은 아니다

여기서 한 가지 인정해야 할 점이 있다. 마이크로소프트의 대응이 과도하더라도, 제로데이 익스플로잇의 즉각적 공개가 항상 정당한 것은 아니다. 패치가 나오기도 전에 코드가 퍼지면 실제 피해자가 발생한다. 보안 연구 커뮤니티 내부에서도 "책임 있는 공개"의 기준을 두고 오랜 논쟁이 이어져 왔다.

AI 사기 역시 마찬가지다. 도구 자체를 규제하기 시작하면 합법적 사용까지 위축될 수 있다. 생성형 AI가 예술, 교육, 접근성 분야에서 만들어내는 가치는 분명하며, 사기꾼의 행위를 이유로 기술 자체를 제한하는 것은 또 다른 형태의 과잉 통제다.

캠벨의 사례도 모든 사업자에게 적용 가능한 전략은 아니다. AI를 도입하지 않겠다는 결정은 그의 시장과 고객 특성에서 가능한 선택이었을 뿐, 모든 산업에서 유효하지 않다.

그럼에도 불구하고, 현재 기업들이 보여주는 통제의 방향이 "위험으로부터의 보호"가 아니라 "자사 이익의 방어"에 더 가깝다는 판단을 거두기 어렵다. 마이크로소프트의 법적 위협이 연구자를 보호하는 데 있었는지, 아니면 공개적으로 불편한 사실을 숨기는 데 있었는지를 생각하면 답은 명확해진다.

결론: 기술의 투명성을 지키는 주체는 누구인가

한 주 동안의 뉴스를 관통하는 질문은 단순하다. 기술 생태계에서 정보의 흐름을 결정하는 권한은 누구에게 있는가. 기업은 자신에게 불리한 정보는 통제하려 하고, 자신에게 유리한 도구는 풀어놓는다. 연구자는 전자에, 사기꾼은 후자에 위치한다. 이 구조에서 진짜 손해를 보는 것은 기업도 연구자도 아닌, 기술의 결과물을 신뢰해야 하는 사용자다.

캠벨이 구식 웹으로 돌아간 것은 기술을 거부한 것이 아니라, 기술 산업의 우선순위가 왜곡되어 있다는 것을 행동으로 보여준 것이다. 마이크로소프트가 연구자를 위협하는 행위와 AI 사기꾼이 가짜 얼굴을 만드는 행위는 겉보기에 전혀 다르지만, 둘 다 기술의 투명성과 책임 소재가 흐릿해진 시대의 징후다.

다음번에 또 다른 제로데이가 발견되고, 또 다른 AI 사기가 드러날 때, 기업이 내놓을 해석이 궁금하다.

기업이 보안을 지킨다는 이름으로 연구자를 위협할 때, 사기꾼은 AI로 가짜 얼굴을 만든다