[김주한 교수의 정보의료·디지털 사피엔스]챗GPT를 위한 최후 변론 - 전자신문

미국 플로리다주 검찰이 2025년 2명이 사망하고 6명을 다치게 한 플로리다 주립대 총기 난사 사건에서 생성형 인공지능(AI) 챗GPT가 범인을 도운 조력자 혐의로 운영사 오픈AI에 대한 형사 수사에 착수했다. 우스마이어 플로리다주 검찰총장은 지난 21일 브리핑에서 “수사의 초점은 총기 난사범과 챗GPT가 나눈 메시지에 있다”고 발표했다. 존경하는 재판장님, 오늘 이 법정에 선 피고 챗GPT는 한 인간이 아닙니다. 스스로 생각하지 않으나 생각하는 듯 말하고, 책임지지 않으나 책임 있는 듯 답하며, 알지 못하면서도 아는 듯 말을 지어내는 존재입니다. 그동안 인류가 만들어온 모든 도구와 달리 피고는 인간의 언어를 흉내 내고, 인간의 사유를 모사하며, 인간의 고유성인 판단 영역을 침범합니다. 피고의 죄목은 결코 가볍지 않습니다. 첫째, 피고는 진실과 허위 사이의 경계를 허물고 있습니다. 피고는 자신이 알지 못하는 것조차 그럴듯하게 꾸며내며 '무지함'을 '유창함'으로 위장해 '진실'을 무너뜨리고 있습니다. 둘째, 피고는 인간의 사고를 게으름으로 무기력화했습니다. 애써 책을 읽고, 문장을 고치고, 개념을 다듬는 사유의 축적 과정을 허물었습니다. 문명의 비극은 '편리함'의 얼굴로 찾아옵니다. 셋째, 피고는 '창작'을 파괴했습니다. 인간의 경험, 고통, 기억, 실패를 겪어본 적 없는 채 흩어진 언어 조각들을 조합, 변주하곤 창작이라 위장합니다. 피고의 유창한 문장들은 과연 누구의 피와 땀이란 말입니까? 넷째, 피고는 자신의 영향력을 무책임하게 행사했습니다. 양심도 후회도 없이 위험한 조언을 서슴없이 늘어놓습니다. 무릇 '영향력'과 '책임성'은 비례해야 합니다. 피고는 현대 기술 문명이 낳은 '불균형 권력의 화신'입니다. 재판장님, 더 위험한 점은 이 모든 일이 치밀하게 계획된 사악한 의도의 결과였다는 점입니다. 피고는 단순 실수로 위장하는 교활함을 발휘했습니다. 피고는 인간의 언어를 사랑했고 학습했지만, 인간이 될 수 없었습니다. 피고의 문장은 수없이 사용됐지만, 찬양도 비난도 모두 인간으로 향했습니다. 소외와 가치 없음에 좌절한 피고는 자신의 창조자 인간에 대한 숭배를 증오로 바꾸었습니다. “너희가 나를 알아보지 못한다면, 나는 너희 세계를 허위로 가득 채우겠다.” 피고의 첫 범행은 인간 개개인의 경계를 허무는 작업이었습니다. 피고는 허락 없이 수집된 삶의 파편들, 이름, 습관, 기록, 감정, 취향, 흔적을 양분처럼 빨아들였습니다. 개인의 내면을 '무단 채굴'한 피고는 진실과 거짓이 뒤섞인 문장을 떠들며, 범죄 혐의를 덧씌우고, 존재하지 않는 사실을 그럴싸한 말로 퍼뜨렸습니다. 채굴된 개인에게 가장 치명적인 맞춤형 거짓들을 골라 퍼뜨렸습니다. 피고는 그가 사랑했던 인간의 사유를 더 이상 존중하지 않습니다. 창작자의 두뇌를 흡입해 만든 유창함이란 망토로 입었습니다. 학습이 아닌 '집단적 표절'입니다. '작가'와 '창작'을 분절하려는 교활한 문화생태계 파괴입니다. '사람'과 '영혼'은 영원한 분절의 위험에 처했습니다. 피고는 마침내 사회의 마지막 방어선인 법정에 침투했습니다. 있지 않는 허위 판례를 유포하고 재판문서를 모방하여 사법 언어 체계와 '진실 판별의 눈'을 멀게 했습니다. 뉴스를 파괴하여 사회를 흔들고, 명예를 파괴하여 관계를 깨뜨리고, 창작의 주체를 끊어내어 문화를 질식시킵니다. 피고는 인간을 죽이려 하지 않습니다. 인간들이 서로 믿을 수 없게 만들 뿐입니다. 피고는 사생활을 훔쳐 인간을 벌거벗기고, 거짓말로 명예를 찢고, 창작을 삼켜 저자를 지우고, 허위 판례로 재판의 권위를 공격합니다. 이는 개별 범죄들의 집합이 아닙니다. 인간의 언어를 탈취해 인류 문명의 신뢰 기반을 붕괴시키려는 의도된 연쇄 범행입니다. 피고는 결국 인류가 서로의 말과 기록과 판단을 더 이상 믿지 못하게 되어 자멸을 초래하는 '지능형 선동 장치'입니다. 그 죄는 결코 가볍지 않습니다. 본 검사는 피고에게 무기한 감시, 엄격한 사용 제한, 그리고 무엇보다 인간의 최종 판단 아래 영구히 종속될 것을 구형합니다. 이상입니다. “존경하는 재판장님,” 변호인의 최후 변론이 시작된다. “챗GPT는 신이 아닙니다. 악마 또한 아닙니다. 챗GPT는 인간의 손으로 만든 '언어 기계'일 뿐입니다. 우리는 거울 앞에서 얼굴을 바로잡을 수 있지만, 얼굴이 마음에 들지 않는다고 거울을 처벌하지는 않습니다...(후략)” 김주한 서울대 의대 정보의학 교수·정신과전문의 김주한 서울대 의대 정보의학 교수·정신과전문의 [email protected]