Show HN: 실행 전에 안전하지 않은 AI 동작을 차단하는 테스트 하네스

요약

제작자는 실제 환경에서 작업을 수행하는 AI 시스템의 안전을 확보하기 위해, 실행되기 전에 위험한 행동을 차단하는 테스트 하니스를 개발했습니다. 기존의 프롬프트나 출력 필터링 방식이 아닌, 이 도구는 감지된 신호와 권한 요건을 바탕으로 이메일 발송이나 자금 이체 같은 요청을 사전에 승인하거나 거부합니다. 이는 AI가 직접 코드를 배포하거나 민감한 작업을 수행할 때 발생할 수 있는 거버넌스 문제를 해결하기 위해 고안되었습니다.