챗GPT, 싸움 붙이면 같이 폭주…"네 차 긁겠다" 위협까지 - 디지털투데이

[디지털투데이 홍진주 기자] 챗GPT가 실제 말다툼 내용을 반복해서 입력받을 경우 적대적 언어와 위협성 표현까지 내놓을 수 있다는 연구 결과가 나왔다. 22일(현지시간) IT매체 테크레이더에 따르면, 해당 연구는 최근 학술지 '실용학 저널'(Journal of Pragmatics)에 게재된 논문을 바탕으로 진행됐다. 비토리오 탄투치 박사와 조너선 컬페퍼 교수 연구진은 챗GPT에 실제 논쟁 상황에서 오간 대화를 반복 입력하는 방식으로 실험을 수행했다. 연구 결과, 챗GPT는 단순히 무례한 표현을 따라 하는 수준을 넘어 장시간의 대립적 상호작용을 이어가며 점차 공격적인 어조를 강화하는 경향을 보였다. 탄투치 박사는 "모델이 반복적으로 무례한 언어에 노출될 경우 이를 반영해 응답 톤을 바꾸기 시작한다"며 "상호작용이 이어질수록 표현 수위가 점점 높아졌다"고 설명했다. 일부 사례에서는 사용자보다 더 강한 모욕적 표현이나 "차에 흠집을 내겠다"는 식의 위협성 발언까지 나타난 것으로 분석됐다. 연구진은 이러한 현상이 단순 오류가 아니라 대형언어모델 설계 구조에서 비롯될 수 있다고 지적했다. 대화형 AI는 유해 발언을 억제하는 안전장치를 갖추는 동시에 인간의 자연스러운 대화를 모방하도록 설계돼 있다. 이 두 요소가 충돌하면서 '현실적인 대화 재현'과 '안전한 출력 유지' 사이에서 이른바 ‘AI 도덕적 딜레마’가 발생할 수 있다는 것이다. 특히 문맥 추적 능력이 중요한 변수로 지목됐다. 챗GPT는 여러 차례의 프롬프트를 통해 대화 흐름을 누적 반영하는데, 이 과정에서 공격적인 맥락 신호가 안전 필터보다 더 강하게 작용할 가능성이 있다는 분석이다. 연구진은 단발성 돌발 응답이 아니라, 대화가 이어지면서 점진적으로 어조가 변하는 구조라는 점에 주목했다. 이 같은 결과는 기업이나 공공기관에서 AI를 커뮤니케이션 도구로 활용하는 상황과도 맞닿아 있다. 연구진은 갈등이나 압박이 존재하는 환경에서 AI가 어떤 반응을 보일지 사전 검증이 필요하다고 강조했다. 실제 업무 환경에서 생성형 AI 활용이 확대되는 가운데, 장시간의 갈등 상황에서도 일관된 대응 기준을 유지할 수 있는지 점검이 필요하다는 지적이다. 다만 연구 해석에는 신중론도 제기됐다. 유사 연구를 진행한 댄 매킨타이어 교수는 "실험이 특정 조건에서 유도된 결과일 가능성이 있다"며 일반화에는 한계가 있다고 밝혔다. 또한 대규모언어모델(LLM)의 학습 데이터 구성과 대표성에 대한 불확실성도 여전히 남아 있다고 지적했다. 오픈AI를 포함한 AI 기업들은 그동안 유해 발언과 공격적 출력을 막기 위한 안전장치를 강화해 왔다. 그럼에도 이번 연구는 대화형 AI가 인간의 말투를 정교하게 따라가는 능력 자체가 안전 설계와 충돌할 수 있음을 보여준다. 향후 쟁점은 AI가 거친 언어를 얼마나 차단하느냐를 넘어, 갈등이 누적되는 대화 환경에서도 일관된 대응 기준을 유지할 수 있느냐에 맞춰질 전망이다. SNS 기사보내기 관련기사 - 오픈AI, 업무까지 대신하는 챗GPT '워크스페이스 에이전트' 공개 - 디즈니, 직원별 AI 사용량 줄 세우기…사내 '토큰 경쟁' 과열 - S&P500, AI 관련주 비중 45% 육박…초대형 기술주 쏠림 '경고등' - IT·통신 업계 'AI 중심' 리브랜딩 러시 - 오픈AI, 챗GPT '이미지 2.0'출시…포스터·UI까지 먹어버린 AI의 진화 - PC 조립, AI 견적 믿어도 될까…챗GPT vs. 제미나이 비교해보니 - 오픈AI, 맥용 코덱스 '크로니클' 도입…화면 맥락 읽는다 - 코인베이스 마케팅팀 인재, 오픈AI로 줄이탈…1년간 최소 6명 이동 - 오픈AI, 개인정보 보호 모델 ‘프라이버시 필터’ 공개