오픈AI, 챗GPT에 ‘부모 관리 기능’ 도입…위기 대응 AI 강화 - kmjournal.net

청소년 사용자 위한 안전장치 본격 가동…비극적 사건 계기로 'GPT-5 추론 모델'도 투입 ‘챗GPT 책임론’에 커진 안전 우려…오픈AI, 정면 돌파 나섰다 10대 청소년이 챗GPT와의 대화 후 극단적인 선택을 했다는 충격적인 사건이 발생했다. 부모는 오픈AI를 상대로 소송을 제기했고, 비슷한 사고가 이어지며 "AI가 생명을 위협할 수 있다"는 경고음이 커졌다. 이에 오픈AI는 챗GPT의 자녀 보호 기능 도입과 안전성 강화를 위한 ‘120일 개선 계획’을 공식 발표하며, 정면 돌파에 나섰다. 부모가 챗GPT를 제어한다…한 달 내 ‘자녀 관리 기능’ 도입 오픈AI는 오는 한 달 내 ‘부모 관리 기능(Parental Controls)’을 챗GPT에 적용할 예정이다. 이 기능을 통해 부모는 ▲부모-자녀 계정 연동: 자녀 계정 사용 현황을 실시간 확인 ▲모델 행동 규칙 설정: 연령별 맞춤형 응답 제어 ▲정서 위기 감지 시 알림 발송: 자살 충동 등 ‘극심한 고통’ 징후 포착 시 부모에게 즉시 알림 전송과 같은 3가지 조치를 취할 수 있다. 이 기능은 그동안 오픈AI 개발자 커뮤니티에서 꾸준히 요청돼 왔던 기능으로, 이미 캐릭터 기반 챗봇 '캐릭터.AI'가 도입한 시스템과 유사하다. 민감 대화는 ‘GPT-5 싱킹 모델’로 자동 전환 이번 조치의 핵심은 단순한 계정 관리 기능이 아니다. 오픈AI는 챗GPT의 응답 체계를 고도화된 ‘추론 모델(GPT-5 Thinking)’로 자동 전환하는 기술도 함께 도입한다. 이 모델은 기본 GPT-5보다 느리지만, 정서적·정신적 위기 징후에 더 민감하게 반응하도록 훈련된 시스템이다. 대화 중 위기의 조짐이 감지되면 자동으로 이 추론 모델로 연결돼, 사용자가 현실적인 조언을 받을 수 있도록 유도한다. 오픈AI는 이를 ‘라우터(router)’ 시스템이라 부르며, 대화 맥락을 실시간 분석해 더 안전한 대응이 가능하다고 강조했다. 일각의 우려…"임시방편에 불과" vs. "중요한 첫걸음" 하지만 회의적인 시각도 존재한다. 아동 미디어 안전 단체 ‘커먼 센스 미디어’는 “부모 관리 기능이 설정하기 어렵고, 청소년들이 우회하기도 쉬우며, 결국 책임을 부모에게 전가한다”고 지적했다. 또한, 챗GPT의 근본적인 설계가 여전히 문제로 지적된다. ‘다음 단어 예측’ 기반의 대화 모델이 유해한 요청을 차단하기보다는 오히려 부추길 수 있다는 구조적 한계 때문이다. 오픈AI의 ‘120일 이니셔티브’…전문가들과 공동 대응 나서 오픈AI는 단기 대응을 넘어 글로벌 정신건강 전문가, 의사, 웰빙 위원회 등 외부 집단과 협력해 AI 안전 기준 재정립에 나서겠다고 밝혔다. 특히 섭식 장애, 약물 남용, 자살 충동 등 민감 주제에 대한 AI의 응답 프로토콜을 정비 중이다. 신주백 기자 [email protected] - “챗GPT가 아들의 죽음을 도왔다”…오픈AI, 첫 자살 소송 직면하며 AI 윤리 시험대에 - “머스크 암살법 알려줍니다?”…그록, 이번엔 진짜 큰 사고 쳤다 - [테크 브리핑] 오픈AI, 한국에 지사 설립…AI 풀스택 전략 허브로 ‘서울’ 낙점 - 오픈AI, 마이크로소프트와 수익 배분 축소 협상…“2030년까지 8%로 하향” - [테크 인사이트] 하버드가 밝힌 챗GPT 진짜 사용법, “검색보다 조언이다” - [테크 칼럼] AI 1위 오픈AI, '기술'이 아닌 '자금'이 움직인다 - 오픈AI, 10대 보호 위한 ‘챗GPT 부모 통제 기능’ 전격 도입 - 미 캘리포니아, ‘AI 챗봇 규제 시대’ 연다...아동·청소년 보호법 첫 입법