美 검찰, 오픈AI 수사 착수…“플로리다대 총기난사범, 챗GPT에 범행 조언 구해” - 문화일보

[AI] AI | | 🔒 보안
#ai 모델 #ai 보안 #ai 에이전트 #m&a #시스코 #아스트릭스 #아스트릭스 시큐리티 #에이전트 보안 #인수 #취약점/보안
원문 출처: [AI] AI · Genesis Park에서 요약 및 분석

요약

시스코시스템즈가 AI 에이전트 보안 스타트업인 아스트릭스 시큐리티를 약 2억5000만 달러에서 3억5000만 달러 규모로 인수하기 위한 협상을 진행 중이다. 창립 5년차인 이 이스라엘 기업은 사용자를 대신해 작업하는 AI 에이전트의 보안을 강화하고 모니터링하는 소프트웨어를 제공한다. 시스코는 최근 AI 모델 평가 도구 개발사인 갈릴레오 테크놀로지스와 로버스트 인텔리전스를 차례로 인수하며, 기업들의 에이전트 보안 리스크 관리 수요에 발맞춰 관련 사업을 빠르게 확장하고 있다.

본문

AI 생성 이미지. 지난해 4월 미국 플로리다주립대에서 발생한 총기 난사 사건의 용의자가 범행 전 오픈AI의 인공지능 챗봇 ‘챗GPT’에 범행 관련 조언을 구한 것으로 드러나 미국 검찰이 오픈AI에 대한 수사에 착수했다. 21일(현지시간) 뉴욕타임스(NYT) 등에 따르면 플로리다주 당국은 해당 사안과 관련해 오픈AI와 챗GPT에 대한 수사를 시작했다. 당시 플로리다주립대에서는 무차별 총기 난사 사건이 발생해 2명이 사망하고 6명이 부상을 입었다. 제임스 어스마이어 플로리다주 법무장관은 용의자의 챗GPT 이용 내역을 분석한 결과, 범행 전 근거리에서의 총기 위력과 사용해야 할 탄약을 질문하는 등 구체적인 조언을 구한 정황이 확인됐다고 밝혔다. 또 용의자는 총격 당일에도 챗GPT에 플로리다주립대에서 총격 사건이 발생할 경우 국가의 대응방식, 학교 내 혼잡 시간대를 묻는 등 범행을 치밀하게 준비하는 데 챗GPT를 활용한 것으로 전해졌다. 이에 오픈AI는 당국의 수사에 협조하고 있다면서도 사건에 대한 법적 책임은 부인했다. 오픈AI는 “챗GPT는 인터넷상에 공개된 자료에서 널리 찾을 수 있는 정보를 바탕으로 질문에 사실에 입각한 답변을 제공했을 뿐 불법적이거나 유해한 행동을 조장하거나 장려하지는 않았다”고 반박했다. 플로리다 검찰은 오픈AI에 형사 소환장을 발송하고, 회사가 챗GPT의 위험성을 사전에 인지하고 있었는지 여부를 집중적으로 조사할 계획이다. 수사 대상에는 오픈AI의 내부 교육 자료와 경영진, 관련 담당 직원 명단 등이 포함된 것으로 전해졌다. 성윤정 기자

Genesis Park 편집팀이 AI를 활용하여 작성한 분석입니다. 원문은 출처 링크를 통해 확인할 수 있습니다.

공유

관련 저널 읽기

전체 보기 →