“AI가 업무를, 직원은 감독을” 메타의 MCI 실험이 던진 거버넌스 과제

메타가 직원의 마우스 움직임, 클릭, 키 입력, 화면 활동을 추적해 업무용 AI 에이전트를 학습시키려는 계획을 세운 것으로 전해졌다. 이데이터는 AI 에이전트가 소프트웨어를 탐색하고 실제 업무를 수행하는 능력을 개선하는 데 사용될 예정이지만, 동시에 거버넌스와 직원 신뢰에 대한 새로운 논란을 불러일으키고 있다. 보도에 따르면 메타는 MCI(Model Capability Initiative)라는 내부 도구를 통해 직원 추적과 에이전트 학습을 진행할 계획이다. 이 도구는 업무 관련 앱과 웹사이트에서 실행되며, 주기적으로 화면 스냅샷을 캡처한다. 메타는 내부 메모에서 MCI로 수집된 데이터가 드롭다운 메뉴 탐색이나 키보드 단축키 사용처럼, AI가 아직 인간의 컴퓨터 사용 방식을 완전히 모방하지 못하는 영역을 개선하는 데 활용될 것이라고 직원들에게 설명했다. 또한 이 데이터는 인사 평가에는 사용되지 않으며, AI 학습 목적에 한정된다고 덧붙였다. 기업이 점점 더 많은 업무를 AI로 대체하려는 상황에서 이번 조치는 직원 감시와 데이터 거버넌스에 대한 논쟁을 더욱 가열시킬 것으로 보인다. 별도의 메모에서 메타 CTO 앤드루 보스워스는 이런 내부 데이터 수집 확대가 ‘AI for Work’ 전략의 일환이라고 밝혔다. 이 전략은 현재 ‘에이전트 트랜스포메이션 액셀러레이터(Agent Transformation Accelerator)’로 이름이 바뀌었다. 보스워스는 메타의 목표가 “AI 에이전트가 업무를 주로 수행하고, 직원은 이를 지시하고 검토하며 개선을 돕는 미래”를 구축하는 것이라고 설명했다. 이런 움직임은 AI 업계 전반이 사용자 대신 소프트웨어를 조작할 수 있는 에이전트 개발로 나아가는 흐름과 맞물려 있다. 앤트로픽은 이미 컴퓨터 사용 기능을 시연했으며, 오픈AI는 지난해 ‘오퍼레이터(Operator)’ 에이전트를 공개한 바 있다. 파리크 컨설팅의 CEO인 파리크 제인은 “메타의 이번 시도는 개별 작업 자동화를 넘어, 실제 직원 행동을 학습해 전체 업무 흐름을 재현하려는 전환을 의미한다”라고 말했다. 그는 “기업 시스템이 점점 ‘데이터 배출 파이프라인(data exhaust pipeline)’처럼 작동하며, 업무가 실제로 어떻게 수행되는지를 수집해 AI 에이전트가 이를 실행하도록 만들 것”이라고 덧붙였다. 그레이하운드 리서치의 수석 애널리스트 산칫 비르 고기아 역시 이 변화를 중요한 전환점으로 평가했다. “이제 기업은 자동화를 위해 워크플로를 문서화하는 것이 아니라, 시스템 내부에서 업무가 실제로 어떻게 이뤄지는지를 그대로 수집하고 있다. 시스템은 더 이상 과거 데이터만으로 학습하지 않는다. 사람들이 시스템을 보완하고 조정해 결과를 만들어내는 방식을 학습한다는 의미”라고 설명했다. 거버넌스와 규제 준수 문제 기업 IT 리더 입장에서 이런 종류의 모니터링은 새로운 형태의 행동 데이터(behavioral data) 리스크를 만들어낸다. 단순한 업무 데이터가 아니라, 직원이 시스템 내에서 업무를 수행하는 ‘방식’ 자체가 기록되기 때문이다. 제인은 “특히 유럽에서는 GDPR 및 노동법 하에서 키 입력과 화면 활동을 수집하는 것이 제한되거나 명시적 동의를 요구할 수 있어, 개인정보 및 규제 리스크가 상당하다”라고 지적했다. 또한 “AI 학습 데이터셋에 인증 정보, 지적 재산, 민감한 업무 프로세스가 포함될 수 있어, 보안 측면에서도 매우 높은 공격 가치를 지닌 표적이 될 수 있다”라고 덧붙였다. 고기아는 이런 리스크를 개별적으로 볼 수 없다고 강조했다. “이 위험들은 서로 겹치고, 상호작용하며, 증폭된다.” 또한 AI 학습 목적으로 수집된 데이터가 시간이 지나면서 생산성 모니터링이나 인사 의사결정 등 다른 목적으로 재활용될 가능성도 있다고 경고했다. 제인은 또 다른 문제로, 기업이 AI 시스템이 특정 직원으로부터 무엇을 학습했는지 추적하기 어려워질 수 있다는 점을 들었다. 아울러 직원이 모니터링 사실을 인지할 경우, 데이터의 질 자체가 달라질 수 있다는 점도 지적됐다. 고기아는 “사람들은 관찰받고 있다는 사실을 알 때 평소와 같은 방식으로 행동하지 않는다”라고 말했다. 장기적으로는 AI 시스템이 ‘자연스러운 업무 방식’이 아니라, ‘관찰을 의식한 행동’을 학습하게 되는 결과를 초래할 수 있다[email protected]