메타, 청소년 AI 대화 모니터링 강화… 학부모용 ‘인사이트’ 기능 출시 - 인공지능신문

7일간의 대화 주제 요약 제공… AI 웰빙 전문가 위원회 신설해 안전 가이드라인 강화 메타(Meta)가 청소년 사용자들이 생성형 인공지능(AI)과 나누는 대화의 안전성을 확보하고 학부모의 관리 권한을 강화하기 위한 새로운 보호 조치를 전격 도입했다. 이번 조치는 청소년들이 AI 기술을 올바르고 안전하게 활용할 수 있도록 돕는 ‘디지털 가이드’ 역할을 학부모에게 부여하는 데 초점을 맞췄다. 23일(현지시간), 메타는 자사 보도자료를 통해 학부모가 자녀의 AI 활용 현황을 파악할 수 있는 ‘인사이트(Insights)’ 탭을 출시하고, 청소년 AI 경험의 적절성을 검토할 ‘AI 웰빙 전문가 위원회(AI Wellbeing Expert Council)’를 신설했다고 밝혔다. 대화 주제 요약해 부모에게 전달... 무엇을 묻는지 한눈에 이제 페이스북(Facebook), 메신저(Messenger), 인스타그램(Instagram)에서 ‘청소년 계정(Teen Accounts)’을 감독하는 학부모는 자녀가 지난 7일 동안 메타 AI(Meta AI)와 어떤 주제로 대화했는지 확인할 수 있다. 새롭게 도입된 인사이트 탭은 자녀의 대화 내용을 그대로 노출하는 대신 학교, 엔터테인먼트, 라이프스타일, 건강 및 웰빙 등 카테고리별로 요약하여 제공한다. 예를 들어 ‘건강 및 웰빙’ 항목을 클릭하면 피트니스, 신체 건강, 정신 건강 등 세부 카테고리가 표시되는 방식이다. 이를 통해 학부모는 자녀의 사생활을 과도하게 침해하지 않으면서도, 자녀가 최근 관심을 두는 분야나 고민거리를 파악하여 자연스러운 대화를 유도할 수 있다. 영화 관람 등급 기준 적용 및 민감 이슈 선제적 차단 메타는 자사의 AI 서비스에 ‘13세 이상(13+) 영화 관람 등급’ 기준을 적용하고 있다고 강조했다. 이는 메타 AI가 청소년에게 부적절하거나 연령에 맞지 않는 답변을 제공하지 않도록 설계되었음을 의미한다. 특히 자살이나 자해 등 극도로 민감한 사안에 대해서는 더욱 강력한 보호 장치가 작동한다. 메타 AI는 이러한 질문에 답변하는 대신 전문 상담 자원을 안내하며, 학부모에게는 자녀가 위험한 주제에 접근을 시도했다는 사실을 즉시 알리는 ‘능동적 알림(Proactive Alerts)’ 기능을 조만간 정식 도입할 예정이다. 전문가와 함께 만드는 ‘안전한 AI 생태계’ 메타는 AI 기술의 급격한 발전에 대응하기 위해 미시간 대학교(University of Michigan), 텍사스 대학교(University of Texas), 서던 캘리포니아 대학교(University of Southern California) 등의 소속 전문가들로 구성된 ‘AI 웰빙 전문가 위원회’를 발족했다. 이 위원회는 메타의 정책 및 제품 개발 팀과 정기적으로 협력하여 청소년을 위한 AI 경험이 책임감 있고 윤리적으로 설계되었는지 지속적으로 모니터링한다. 또한 사이버불링 연구 센터(Cyberbullying Research Center)와 협력하여 학부모가 자녀와 AI에 대해 비판 없이 열린 대화를 시작할 수 있도록 돕는 ‘대화 가이드(Conversation Starters)’도 제공하기 시작했다. 메타 관계자는 “AI는 부모 세대에게도 생소한 기술인 만큼 학부모들이 자녀와 소통하는 데 자신감을 가질 수 있도록 돕는 것이 우리의 역할”이라며, “미국에서 감독 기능을 사용하는 청소년 수가 전년 대비 두 배 이상 증가한 만큼, 더욱 고도화된 보호 툴을 전 세계로 확장해 나갈 것”이라고 밝혔다. 이번 인사이트 기능은 현재 미국, 영국, 호주, 캐나다, 브라질에 우선 적용되었으며, 향후 몇 주 내 전 세계적으로 확대 적용될 예정이다.