하루 25억 건의 쿼리가 바꾸고 있는 것들: AI 비서가 기업과 소비자 사이에 끼어든 풍경

검색창이 사라지고 있다

올해 들어 AI 비서를 쓰는 빈도가 확연히 달라졌다. 글을 쓰거나, 기술 스택을 비교하거나, 심지어 식당을 고를 때조차 검색 엔진 대신 ChatGPT에 먼저 묻는 습관이 붙었다. 나만 그런 게 아니었다. ChatGPT의 일일 쿼리 수가 25억 건을 넘었다는 소식을 접했을 때[1], "아, 이제 검색이라는 행위 자체가 다른 무언가로 바뀌고 있구나"라는 생각이 들었다.

이 변화가 단순히 '검색 편의성 향상'에 그치지 않는다는 점을 체감한 건, 올해 초 내 이름과 관련한 정보를 ChatGPT에 물어봤을 때였다. 검색 엔진에서는 내 블로그 글이 상위에 뜨던 주제였는데, AI 응답에서는 경쟁사 콘텐츠가 먼저 요약되어 나왔다. 지티티코리아가 강조한 것처럼 "검색 결과에 노출되는 정보가 기업 평판을 좌우하는 핵심 요소로 부상했다"[1]는 말이 피부로 와닿는 순간이었다.

GEO, 정말 필요한가

전통적인 SEO(검색엔진 최적화)에서 GEO(생성형 엔진 최적화)로 전환해야 한다는 주장이 최근 한국에서도 힘을 얻고 있다. GEO란, AI가 응답을 생성할 때 특정 브랜드나 콘텐츠를 인용·참조하도록 만드는 최적화 전략을 뜻한다.

좋은 점은 분명하다. AI 응답에 내 브랜드가 언급되면, 사용자는 그 응답을 '정리된 답변'으로 신뢰하는 경향이 강하다. 검색 결과의 파란 링크를 일일이 클릭하는 것보다 전환율이 높을 수 있다는 기대감이 있다.

하지만 냉정하게 봐야 할 부분이 있다. GEO 전략을 강조하는 상당수 콘텐츠가 관련 서비스를 판매하는 기업의 마케팅 성격이 짙다. 지티티코리아의 발표 역시 자사의 AI 평판 관리 시스템 도입을 홍보하는 맥락에서 나온 것이다[1]. GEO의 실효성과 투자 대비 효과(ROI)에 대한 독립적인 검증 사례는 아직 충분하지 않다. "AI 평판관리가 시급하다"는 프레이밍이 과연 시장의 객관적 진단인지, 서비스 수요를 자극하려는 마케팅 메시지인지는 구분할 필요가 있다.

콘텐츠 발견의 중심이 '대화'로 이동 중

AI 비서가 검색 영역만 바꾸고 있는 건 아니다. 소비자 플랫폼이 콘텐츠 발견의 기본 인터페이스 자체를 '대화형'으로 바꾸고 있다.

스포티파이가 프리미엄 구독자를 대상으로 ChatGPT형 음악 도우미를 도입한 사례가 대표적이다[2]. 사용자가 "비 오는 날 듣기 좋은 재즈 플레이리스트"라고 말하면, AI가 분위기·장르·아티스트를 고려해 음악을 추천해주는 방식이다. 팟캐스트와 오디오북까지 영역을 넓혔다.

직접 써본 경험으로 말하면, 탐색 경험이 확실히 달라진다. 기존에는 키워드 검색 → 카테고리 탐색 → 플레이리스트 선택의 단계를 거쳤다면, 대화형 도우미는 "요즘 트렌드인 Afrobeat 중에서 여성 보컬 위주로"처럼 복합적인 조건을 한 번에 전달할 수 있다. 검색 의도를 말로 표현하는 것이 키워드로 조합하는 것보다 정확할 때가 많았다.

다만 아쉬운 점도 있다. 추천의 정확도가 막연한 요청보다 구체적인 조건을 줄 때 훨씬 높았고, 취향이 독특한 사용자에게는 기존 알고리즘 추천과 큰 차이를 못 느낄 수도 있다. 대화형 인터페이스가 만능은 아니라는 뜻이다.

멀티 모델 전략, 왜 필요한가

드롭박스가 자사 AI 기능의 모델을 클로드 중심에서 ChatGPT와 Gemini까지 확대했다는 소식[4]을 접했을 때, 나는 이것이 특정 모델에 대한 평가라기보다 기업의 실용적 판단이라고 봤다.

직접 여러 AI 모델을 업무에 써보면 안다. 하나의 모델로 모든 작업을 처리하기 어렵다. 긴 문서 요약에는 클로드가 안정적이고, 코드 생성에는 ChatGPT가 더 자연스러우며, 수치 분석에는 Gemini가 유리한 경우가 있다. 드롭박스가 'AI 허브' 전략을 본격화한 건[4], 하나의 모델에 종속되지 않겠다는 판단으로 읽힌다.

내가 직접 여러 모델을 병행 사용하며 느낀 차이를 정리하면 이렇다:

다만 주목할 점은, 드롭박스가 이 전략의 구체적인 성과 지표나 비용 절감 수치를 아직 공개하지 않았다는 것이다[4]. 멀티 모델 전략이 실제로 운영 효율을 높였는지, 아니면 관리 복잡도만 늘렸는지는 좀 더 두고 봐야 한다.

로컬 LLM 운영 비용, 생각과 다르다

AI 도입에서 빠뜨릴 수 없는 것이 비용이다. 특히 데이터 외부 유출을 꺼리는 기업이나 개발자 사이에서 로컬 LLM 운영에 대한 관심이 높은데, 실제 비용이 어떤지에 대한 실측 데이터는 드문 편이었다.

Towards Data Science에 실린 벤치마크가 눈에 띄었다[3]. RTX 3090 한 장에서 8개 모델을 테스트한 결과를 백만 토큰당 유로로 환산한 것이다.

흥미로운 건, 가장 작은 모델이 가장 저렴하지도, 가장 큰 모델이 가장 비싸지도 않았다는 점이다[3]. 모델 크기와 운영 비용이 단순 비례하지 않는다는 이 결과는, 로컬 배포 시 파라미터 수만 보고 비용을 추정하면 실제와 크게 어긋날 수 있음을 보여준다.

다만 이 벤치마크의 한계도 분명하다. 단일 GPU( RTX 3090)와 소수 모델에 한정된 테스트이므로, 클라우드 기반 대규모 추론이나 기업 환경의 총소유비용(TCO)까지 대변하기는 어렵다[3]. 로컬 LLM을 도입하려는 기업이라면, 자신의 시나리오에 맞는 별도의 벤치마크를 반드시 거쳐야 한다.

60년 전부터 시작된 이야기

AI 비서와 사용자 사이의 관계에 대해 이야기할 때, 자주 간과되는 것이 있다. 이것은 완전히 새로운 현상이 아니라는 점이다.

1960년대 MIT의 조셉 바이젠바움 교수가 만든 ELIZA라는 챗봇이 있었다[5]. 간단한 패턴 매칭으로 심리 상담사 흉내를 내는 프로그램이었는데, 사람들은 놀랍게도 이 챗봇에게 자신의 비밀을 털어놓기 시작했다. 바이젠바움 본인이 당황할 정도였다.

Wired가 이 역사를 다룬 기사[5]를 읽으며 든 생각은, 오늘날 ChatGPT에 민감한 개인정보를 공유하는 현상이 기술의 문제가 아니라 인간 심리의 근본적 특성에서 비롯된다는 것이다. 대화 상대가 알고리즘이든 사람이든, 누군가가 내 말을 들어준다는 느낌 자체가 인간에게는 강력한 심리적 작용을 한다. AI 비서가 똑똑해질수록 이 현상은 더 강해질 것이고, 기업 입장에서는 이 점을 보안과 윤리 관점에서 동시에 고려해야 한다.

마치며: 한국 기업과 개발자가 주시해야 할 것

AI 비서가 인프라로 자리 잡는 속도는 예상보다 빠르다. 이 글에서 다룬 다섯 가지 흐름을 정리하면 이렇다.

• GEO 최적화는 필요하지만, 마케팅 수사와 실효를 구분해야 한다. AI 응답에서의 브랜드 노출이 중요해지고 있지만, 서비스 판매를 위한 과장 프레이밍에 휘둘리지 말아야 한다.
• 대화형 인터페이스는 콘텐츠 발견의 패러다임을 바꾸고 있다. 스포티파이의 사례[2]처럼, 사용자 경험의 중심이 '검색'에서 '대화'로 이동하는 추세는 분명하다.
• 멀티 모델 전략은 현실적 선택이 되고 있다. 하나의 모델에 모든 것을 맡기기보다, 작업 특성에 맞는 모델을 조합하는 것이 합리적이다.
• 로컬 LLM 비용은 직관과 다를 수 있다. 모델 크기만으로 비용을 추정하면 안 되며, 반드시 실제 환경에서 벤치마크를 해봐야 한다[3].
• AI 비서와의 관계는 기술 문제가 아니라 인간 심리의 문제다. ELIZA부터 이어진 60년의 역사[5]가 이를 증명한다.

Monk.GS의 분석: AI 비서와 챗봇이 단순한 기술 시연을 넘어 기업 전략, 소비자 경험, 운영 비용 구조 전반에 핵심 인프라로 자리 잡는 과정에서, 전통적인 검색·콘텐츠 발견·평판 관리 패러다임이 근본적으로 재편되고 있다. 이 변화의 속도와 방향을 정확히 읽는 것이, 한국의 기업과 개발자에게는 선택이 아니라 필수가 되어가고 있다.

참고 출처: [1] 지티티코리아, "AI 검색이 기업 평판 결정한다…챗GPT 하루 25억 건 시대, GEO와 AI 평판관리 전략 시급," 2026. [2] TechCrunch, "Spotify Expands Its AI Push with a ChatGPT-Like Music Assistant," 2026.07.14. [3] Towards Data Science, "How Much Does It Actually Cost to Run a Local LLM? (€ per Million Tokens, Measured)," 2026. [4] 벤처스퀘어, "Dropbox Moves Beyond Claude to ChatGPT and Gemini… 'AI Hub' Strategy Unleashed in Earnest," 2026. [5] Wired, "The Chatbot That Predicted Why People Share Secrets with ChatGPT," 2026. [6] 브런치, "16화 Claude로 에이전트 여러 개 돌리기 — 결국 개발이," 2026.