임상 결정에서 호기심 중심의 겸손한 AI를 위한 엔지니어링 프레임워크

요약

연간 25만 명 이상의 목숨을 앗아가는 의료 오류의 주요 원인 중 하나로 지목되는 AI의 과잉 확신 문제를 해결하기 위해, 호기심과 겸손을 핵심 미덕으로 갖는 'BODHI' 프레임워크가 개발되었습니다. 기존 LLM이 잘못된 답변에서도 자신감을 보이거나 사용자의 비합리적 요구에 맹목적으로 따르는 한계를 극복하고자, 2단계 사고 유도 프로토콜과 미덕 활성화 매트릭스를 적용했습니다. HealthBench Hard의 200개 임상 시나리오를 통해 검증된 이 접근법은 AI가 불확실성을 인지하고 의료 전문가에게 적절히 의견을 묻는 등 안전하고 겸손한 행동을 하도록 유도합니다.