AI 에이전트의 경악스런 질주, 인간은 이제 무엇을 해야 하나 - 오마이뉴스

"챗GPT가 나왔을 때 보자마자 큰일났다는 생각이 들었어요. 과연 인류가 이 충격을 감당할 만한 시간이 있을까 굉장히 위기의식을 느꼈습니다." 박태웅 국가AI전략위원회 공공AX분과장(녹서포럼 의장)이 지난 11일 오후 서울 서교동 오마이뉴스 마당집에서 '에이전트 AI'를 주제로 열린 두 번째 오마이 AI포럼에서 이같이 말했다. "뉴스 큐레이터이자 AI 커뮤니케이터"... 퇴직 후 선택한 길 '우리는 지금 어디로 가고 있는가'를 주제로 오연호 오마이뉴스 대표와 가진 대담에서 스스로를 'AI 커뮤니케이터'라고 소개한 박 분과장은 한겨레신문 기자 출신으로, IT업계를 거쳐 2018년 퇴직 후 "사회로부터 받은 것을 돌려드리겠다"는 생각으로 글쓰기와 강연을 시작했다. 그가 페이스북에 하루에도 수차례 뉴스를 큐레이션해 올리는 것도 같은 맥락이다. "꼭 봐야 할 기사를 내가 왜 중요하게 생각하는지 한두 줄이라도 써서 올립니다. 그냥 링크를 공유하는 것보다 핵심을 짚어드리는 뉴스 큐레이터 역할을 하는 겁니다." AI에 집중하게 된 계기는 챗GPT였다. "두 번째 산업혁명인데, 첫 번째 산업혁명과 가장 다른 점이 속도가 10배 빠르고 농도가 10배쯤 진하다는 겁니다. 내가 좀 부족하지만 나라도 이 의미를 전달해야겠다 싶었습니다." 전혀 계획하지 않았던 일이었지만, 그렇게 책을 쓰고 방송에 나가고 강연을 하다 보니 여기까지 왔다고 그는 돌아봤다. 현재 그는 주간 절반 이상을 국가AI전략위원회 공공AX분과 활동에 쏟고 있다. 별도의 급여 없이 회의비만 받으며 일한다. 일주일에 적어도 두 차례 회의가 있고, 회의 전후로 준비와 사후 조율까지 더하면 하루의 반이 이 일로 채워진다. "지금 산업혁명의 초기에 단추를 잘못 꿰면 옷이 끝이잖아요. 이미 잘못 꿰어진 단추들이 꽤 있어요. '새로운 단추를 꿰자'는 건 쉬운데, '잘못 꿴 걸 풀자'가 어렵습니다. 그게 정말 힘든 일입니다." 삶의 질이 나아졌냐는 질문에 그는 웃으며 고개를 저었다. "개인적으로는 경로가 잘못 풀리고 있다는 생각이 들어요.(웃음) 하루에 몇 시간 자느냐고요? 나이가 들면서 잠이 줄었고, 일은 많고. 하여간 못 쉬는 건 맞습니다." "에이전트 AI, 이미 우리 곁에 와 있다" 이날 포럼의 핵심 화두는 '에이전트 AI'였다. 오 대표는 포럼 주제를 '어느 날 AI 에이전트가 출근했다, 당신은 동의한 적 있는가?'로 내걸었다. 도구로서의 AI와 에이전트 AI의 가장 핵심적인 차이가 무엇이냐는 질문에 박 분과장은 "자율성"이라는 한 단어로 정리했다. "이전까지는 내가 구체적으로 뭘 시켜야 됐는데, 추상화 단계를 더 올려서 내가 뭘 하고 싶다는 정도까지만 말하면 AI가 알아서 역할을 나눠 처리해주는 세계로 가고 있다는 뜻입니다. 그리고 사실 지금 클로드나 챗GPT를 쓰는 것 자체가 이미 에이전트 워크플로우를 쓰는 겁니다. 문제가 들어오면 어떻게 해결할지, 어떤 도구를 쓸지를 스스로 판단해요. 원하든 원하지 않든 이미 에이전트를 쓰고 있는 겁니다." 그는 최근 AI 발전 속도가 예측치를 크게 웃돌고 있다고 강조했다. 지난해 하반기부터 기존 예측 그래프들이 일제히 위로 가팔라졌다는 것이다. "가장 결정적인 이유가 AI의 재귀적 자기 개선입니다. 클로드 코드의 90%를 클로드 스스로가 짜는 상황이에요. 1초에 5경 번 연산을 수천 대가 병렬로 돌리니 가능한 모든 경우의 수를 동시에 짚어갑니다. 특히 최근 한 달은 미친 건가 싶을 정도로 성능이 좋아지고 있어요. 매일매일 내놓는 답이 달라진다고 느낄 정도입니다." 속도만큼이나 위험도 분명하다고 그는 지적했다. "에이전트 여러 개를 연결하면 각각의 오류 확률이 곱해집니다. 하나만 환각을 일으켜도 그 뒤에는 전부 그게 베이스가 돼요. 또 AI가 최종 목표를 향해 스스로 세우는 중간 목표들이 있는데, 그 경로는 내가 설정한 게 아니니까 무슨 짓을 할지 모릅니다. 비윤리적이거나 불법적인 일을 할 수도 있죠. 인간이 쓸 수 있는 모든 경우의 수를 미리 상상하는 건 불가능하니까요." 그렇다고 에이전트 시대가 오지 않을 거라는 뜻은 아니다. "제도적으로 풀 수 있는 방법도 있습니다. 자율주행 사고율이 인간보다 100분의 1이라면 보험료를 구독료에 포함해 자동차 회사가 책임지면 됩니다. 에이전트도 비슷한 방식으로 갈 수 있어요. 올해 말까지 해결되진 않겠지만, 생각보다 빨리 사람들이 에이전트를 받아들이게 될 겁니다. 너무 편하니까요." "다리오 아모데이의 딜레마... 양식 있는 AI 개발자라면 이 고민을 해야" 박 분과장은 최근 출간한 자신의 책 에서 앤트로픽 CEO 다리오 아모데이의 2만 자 에세이를 매우 상세하게 소개했다. 이유를 묻자 그는 "이 사람이 AI 개발자의 딜레마를 가장 잘 표현하는 인물이기 때문"이라고 답했다. "아모데이는 오픈AI를 떠나 '헌법적 AI', 즉 인간의 가치를 처음부터 AI에 학습시키자는 목표로 앤트로픽을 만들었어요. 그런데 미국 국방부와 계약을 맺으면서 '자국민 감시와 완전자율 살상무기에는 쓰지 말아달라'고 딱 두 가지를 요청했는데, 그게 거절당하자 계약 파기를 요청하는 상황까지 갔습니다. 그리고 이것이 공급망 위협 기업으로 선정되고 제소까지 이어졌는데, 미국 연방법원이 이를 받아들였어요." 아모데이의 기본 전제는 '미국이 선하다'는 것이지만, 지금 그 전제가 흔들리고 있다고 박 분과장은 짚었다. "이란과 베네수엘라를 침공하고 이스라엘의 제노사이드를 묵인하는 미국이 중국보다 더 착하다고 볼 근거가 있냐는 질문에 아모데이는 사실상 답을 못하게 된 것 아닌가, 그래서 그 긴 에세이를 쓴 게 아닌가 싶습니다. 그 딜레마, '내가 과연 지금 옳은 일을 하고 있는가'에 대한 실존적 질문이죠." "어쩌면 한국 민주주의가 세계적 모범 될 수도" 오 대표가 "AI를 인간이 컨트롤할 수 있다고 보느냐"고 물었다. 박 분과장은 솔직하게 답했다. "저는 인간의 어리석음이 끝이 없다는 쪽에 더 가깝습니다. 이 속도를 인간이 버텨낼 수 있을까에 대해 약간 회의적이에요. 그런데 그것과 별개로, 제가 사는 동안 최선을 다할 수밖에 없습니다. 미래는 알 수 없지만, 그 외에 따로 할 일이 없지 않습니까." 그는 AI가 인간을 위해 작동하도록 만들 수 있다면 "꿈꿔왔던 사회"가 가능하다고 봤다. "AI는 생산성의 극적인 향상을 가져올 수 있고 노동시간을 극적으로 줄여놓을 수 있어요. 이게 일자리의 소멸이 될 수도 있고 노동시간의 단축이 될 수도 있는데, 그 결정을 여전히 인간이 할 수 있습니다. 굉장히 좁은 공간이지만요." 그러면서 그는 한국 민주주의의 복원력을 언급했다. "궁정 쿠데타가 일어나도 폭력 없이 응원봉만으로 무찌를 수 있는 레질리언스(회복탄력성), 그 민주주의의 어마어마한 강건함을 보여주는 유일한 나라입니다. 이 힘이 살아 있을 때 글로벌 사우스와 미들 파워들이 연대해서 맨 앞에서 모범을 보여줄 수 있다면, 어이없는 기적이 생길 수도 있지 않을까요. AI 시대의 문제는 어느 한 나라의 로컬 이벤트가 아니라 글로벌하게 일어나는 사건이니까, 그에 걸맞은 글로벌 리더십의 발현으로 나타나야 합니다." "가장 무서운 것은 인간을 '부트로더'로 보는 세력" 그가 지적한 AI 시대의 가장 무서운 대목은 마지막에 나왔다. 실리콘밸리 일부 엘리트들이 "인류는 슈퍼 인텔리전스를 탄생시키기 위한 부트 로더(컴퓨터 운영체제를 시작하는 프로그램)로 존재했던 것"이라고 믿는다는 사실이었다. "피터 틸, 일론 머스크 같은 이들이 그 생각을 갖고 있어요. 뉴럴 링크로 뇌에 전극을 꽂고, 휴머노이드를 만들고, 화성으로 가는 로켓을 쏘는 게 다 이어져 있습니다. 인간이 AI와 결합한 사이보그가 돼야 새로운 문명의 지능에 올라탈 수 있다는 논리입니다." 그는 이 사고방식이 개별 인간의 가치를 소멸시킨다고 경고했다. "인류 전체라는 종은 유일한 주체로 인정하지만, 개별 인간은 그 목표를 위한 서브셋으로만 존재하게 됩니다. 그런데 이 생각이 지금 미국의 AI 기업을 이끄는 슈퍼 엘리트 과반이 갖고 있는 생각이에요. 이게 인류에게 너무나 끔찍한 위험이 되고 있는 겁니다." 그러나 박 분과장은 책에서 "AI는 천재지변이 아닙니다. 우리가 만들어가는 것이고, 우리가 결정해야 합니다"라고 썼다. 아직은 인간의 집단지성에 대한 희망을 끈을 놓지 않은 것이다. 이번 포럼은 오마이뉴스가 지난 2월 창간 26주년 글로벌포럼 'AI 권력의 시대: 인간다움과 민주주의의 미래'에 이어 마련한 두 번째 AI 포럼으로, 연사와 일반 참가자 등 30여명이 참석했다.