— Vertical AI 시대, 모든 배가 뜨지는 않는 이유 (insights.euclid.vc) 8 P by GN+ 2일전 | ★ favorite | 댓글과 토론 LLM 기반 AI와 에이전트 워크플로우의 부상으로 SaaS의 경제적 논리 가 근본적으로 해체되고 있으며, 인텔리전스 비용의 급격한 하락이 엔터프라이즈 기술 시장의 가치 흐름을 재편 중 AI 서비스의 비용 우위만으로는 지속 가능한 해자를 구축할 수 없으며, LLM 인프라에 의존하는 스타트업은 택시 디스패처 문제 에 직면 — 빌린 마진 위에 서 있는 구조 Jevons Paradox에 따라 AI 지출 총량은 폭발적으로 증가하지만, 그 가치가 기존 시장 참여자 모두에게 돌아가지 않으며 가치 사슬의 대규모 재편 이 동반 Vertical AI에서 승리하는 기업은 외부 서비스 제공자가 아닌, 고객 운영에 깊이 내재화된 시스템 을 구축하는 기업 — 데이터 중력, 네트워크 효과, 플랫폼 락인이 핵심 저가 전략을 의도적 웨지로 활용해 시장 포지셔닝을 확보한 뒤, 복합적 인텔리전스 플랫폼 으로 전환하는 것이 유일하게 지속 가능한 전략 구조적 전환: SaaS에서 AI 에이전트 시대로 엔터프라이즈 기술 시장이 온프레미스에서 클라우드로의 전환에 버금가는 구조적 변환 을 겪고 있음 약 20년간 SaaS 모델은 반복 수익, 시트 기반 라이선싱, 사용자 참여를 가치 대리 지표로 삼아 수조 달러의 시가총액을 창출 LLM 기반 AI와 에이전트 워크플로우의 부상이 이 SaaS의 경제적 논리를 해체 중 핵심 동인은 인텔리전스 비용의 급격한 하락 — 동일 수준의 인텔리전스 기준으로 비용이 빠르게 감소 중 단, 추론 복잡도의 증가로 토큰 지출 총량은 계속 증가 중(토큰 단가는 하락해도) OpenAI, Google, Anthropic 등 자금력 있는 랩 간 치열한 경쟁과 하드웨어·소프트웨어 효율성 향상으로 이 추세는 둔화되지 않을 전망 AI 서비스의 디플레이션 압력 에이전트가 전통적 수동 서비스를 대체할 때, 해당 지출을 그대로 포착하는 것이 아니라 서비스의 상품화(commoditization) 가 발생 몇 년 전 10만 달러를 지불했을 서비스가 결국 그 일부 금액에 불과하게 될 구조 저렴한 AI로 인해 Vertical AI 제품에 지속적 디플레이션 압력 존재 문서에서 데이터 추출, 인바운드 전화 응대, 규정 준수 보고서 초안 작성 같은 기능은 현재 인프라와 노하우가 희소하고 채택률이 낮아 훌륭한 웨지가 될 수 있지만, 곧 테이블 스테이크 가 될 것 각 카테고리에 자금력 있고 성장 중인 여러 스타트업이 존재하여 초과 마진은 경쟁으로 사라질 구조 그때까지 해자를 구축하지 못한 스타트업은 도태 AI 서비스 vs.
본문
- LLM 기반 AI와 에이전트 워크플로우의 부상으로 SaaS의 경제적 논리가 근본적으로 해체되고 있으며, 인텔리전스 비용의 급격한 하락이 엔터프라이즈 기술 시장의 가치 흐름을 재편 중 - AI 서비스의 비용 우위만으로는 지속 가능한 해자를 구축할 수 없으며, LLM 인프라에 의존하는 스타트업은 택시 디스패처 문제에 직면 — 빌린 마진 위에 서 있는 구조 - Jevons Paradox에 따라 AI 지출 총량은 폭발적으로 증가하지만, 그 가치가 기존 시장 참여자 모두에게 돌아가지 않으며 가치 사슬의 대규모 재편이 동반 - Vertical AI에서 승리하는 기업은 외부 서비스 제공자가 아닌, 고객 운영에 깊이 내재화된 시스템을 구축하는 기업 — 데이터 중력, 네트워크 효과, 플랫폼 락인이 핵심 - 저가 전략을 의도적 웨지로 활용해 시장 포지셔닝을 확보한 뒤, 복합적 인텔리전스 플랫폼으로 전환하는 것이 유일하게 지속 가능한 전략 구조적 전환: SaaS에서 AI 에이전트 시대로 - 엔터프라이즈 기술 시장이 온프레미스에서 클라우드로의 전환에 버금가는 구조적 변환을 겪고 있음 - 약 20년간 SaaS 모델은 반복 수익, 시트 기반 라이선싱, 사용자 참여를 가치 대리 지표로 삼아 수조 달러의 시가총액을 창출 - LLM 기반 AI와 에이전트 워크플로우의 부상이 이 SaaS의 경제적 논리를 해체 중 - 핵심 동인은 인텔리전스 비용의 급격한 하락 — 동일 수준의 인텔리전스 기준으로 비용이 빠르게 감소 중 - 단, 추론 복잡도의 증가로 토큰 지출 총량은 계속 증가 중(토큰 단가는 하락해도) - OpenAI, Google, Anthropic 등 자금력 있는 랩 간 치열한 경쟁과 하드웨어·소프트웨어 효율성 향상으로 이 추세는 둔화되지 않을 전망 AI 서비스의 디플레이션 압력 - 에이전트가 전통적 수동 서비스를 대체할 때, 해당 지출을 그대로 포착하는 것이 아니라 서비스의 상품화(commoditization) 가 발생 - 몇 년 전 10만 달러를 지불했을 서비스가 결국 그 일부 금액에 불과하게 될 구조 - 저렴한 AI로 인해 Vertical AI 제품에 지속적 디플레이션 압력 존재 - 문서에서 데이터 추출, 인바운드 전화 응대, 규정 준수 보고서 초안 작성 같은 기능은 현재 인프라와 노하우가 희소하고 채택률이 낮아 훌륭한 웨지가 될 수 있지만, 곧 테이블 스테이크가 될 것 - 각 카테고리에 자금력 있고 성장 중인 여러 스타트업이 존재하여 초과 마진은 경쟁으로 사라질 구조 - 그때까지 해자를 구축하지 못한 스타트업은 도태 AI 서비스 vs. 소프트웨어: 서비스 전달의 패러다임 - 인텔리전스 한계 비용이 0에 수렴하면 기업 기술의 핵심 가치 제안이 노동 보조 도구에서 노동 대체 결과물 전달로 전환 - Vertical AI는 Vertical SaaS 단독보다 더 많은 엔드투엔드 워크플로우를 처리할 수 있어 고객 가치와 지불 의향이 크게 증가, 훨씬 큰 예산에 접근 가능 - 그러나 서비스 전달 — 내부 플랫폼이 아닌 외부 벤더와 유사한 고객 관계 — 이 AI 소프트웨어의 지배적 패러다임이라는 현재 주류 관점에는 동의하지 않는 입장 확대되는 TAM이 모든 스타트업을 띄우지는 않음 - 인텔리전스 비용 급락으로 AI 서비스 TAM이 크게 확장되지만, 이 기회 확대가 가치 사슬의 동일 지점에 반드시 귀속되지 않음 - 스프레드시트와 회계 산업 사례: Microsoft Excel 도입(1987) 이후 부기원·회계사무원 수는 약 200만에서 150만으로 감소했으나, 회계사·감사인은 약 130만에서 150만으로, 경영 분석가·재무 관리자는 약 60만에서 150만으로 증가(Morgan Stanley 리서치 인용) - 스프레드시트는 단순히 부기를 자동화한 것이 아니라, 가치를 기술 곡선 상위로 이동 — 반복 노동에서 고차 분석으로 전환 - Uber와 라이드헤일링 사례: 가치 사슬 내 재배치를 넘어 중간 계층 전체의 제거까지 발생 - 글로벌 택시 시장은 2019년 약 690억 달러에서 2024년 약 2,710억 달러로 성장, Uber 이전 전통 택시 시장은 300~500억 달러 규모 - "차를 불러 어딘가로 가는" 총 지출이 15년간 약 5~8배 성장, 건당 가격은 약 절반으로 하락(VC 보조금 이후 시대에 10~20% 반등) - 역사적으로 수익은 소유자(운영자 겸 소유자, NYC 메달리온 소유자 등), 브로커(택시 에이전시, 디스패처, 차고), 고용 기사에게 귀속 - 이 이해관계자 대부분이 파괴되고 에이전시 수익은 Uber와 Lyft가 흡수 - NYC 메달리온 가격은 2013년 약 100만 달러 정점에서 현재 10만 달러 미만으로 폭락(정부 개입으로 일부 회복 조짐) Jevons Paradox와 엔터프라이즈 AI - 동일한 Jevons 역설이 현재 엔터프라이즈 AI에서 진행 중 - 모델 품질·컨텍스트·추론 복잡도를 고정할 때, 인텔리전스 단위 비용이 급락 중 - GPT-3.5 수준 추론 비용이 2022년 11월~2024년 10월 사이 280배 이상 하락 - 2023년에는 중견 기업의 모든 수신 이메일을 LLM으로 읽고 분류하는 것이 비용 부담이었으나, 현재 백만 토큰당 약 $0.40으로 무시할 수준 - AI 코딩 도구로 현재 코드의 41%가 AI 생성 또는 AI 보조 — 진입 장벽을 더욱 낮춤 - 총 AI 지출은 폭발적 증가: 엔터프라이즈 AI 매출이 2023년 17억 달러에서 2025년 370억 달러로 2년간 22배 증가 - 글로벌 AI 지출은 2026년 2.5조 달러 초과 전망(IDC) - Gartner는 AI가 전체 IT 지출의 1/3을 차지하는 시점 예측을 2년 앞당김 - 핵심 질문은 파이가 커지느냐가 아니라, 누가 먹을 수 있느냐 택시 디스패처 문제 - AI Services("Service-as-Software")가 승리 비즈니스 모델이라는 대중적 논지 존재 - Foundation Capital은 이를 4.6조 달러 기회로 프레이밍: IT 예산은 GDP의 1~2%이나, 노동·전통 서비스는 15% 이상 차지 - AI가 회계사, 법률 보조원, 컴플라이언스 분석가의 업무를 수행하면, 해당 직원의 완전 비용(fully-loaded cost) 대비 가격 책정 가능하다는 논리 - 그러나 단순히 아날로그 제품을 제공하는 것만으로는 이러한 예산을 장기적으로 포착할 수 없음 - 서비스는 본질적으로 상품화 가능 - AI 대안을 유통하며 성장하는 스타트업 대부분은 이 경제적 차익을 가능하게 하는 IP(LLM)를 소유하지 않음 — 랩이 소유 - 기본적 워크플로우 오케스트레이션, RAG, 도메인 특화 파인튜닝은 지속 가능한 해자가 아님 - 택시 디스패처 문제의 AI 적용: Uber 이전 택시 디스패치 에이전시는 라이드 매칭으로 마진 포착 — 공급(지역 기사 밀도)과 수요(지역 인지도) 집적에서 일정 방어력 보유 - 공급·수요를 더 효율적으로 매칭하고, 차량 소유를 외부화하여 공급을 대폭 확장하며, 이용자에게 저렴한 비용을 제공하는 플랫폼이 등장하자 디스패처의 경쟁력은 소멸 - 디스패처가 패한 이유는 Uber의 수수료율 때문이 아님 - Uber는 기사 수익의 평균 약 30% 를 가져가며, 이는 전통 택시 에이전시·메달리온 임대인·디스패처가 총체적으로 추출하던 30~50%와 크게 다르지 않음 - Uber의 해자는 덜 추출한 것이 아니라, 디스패치·결제·매칭·평판 등 모든 중개 기능을 네트워크를 소유하는 단일 플랫폼으로 통합한 것 - AI Service 기업의 주요 가치가 "LLM으로 이 서비스를 더 싸게 전달합니다"라면, 이는 자기 것이 아닌 마진 위에 앉아 있는 디스패처 - 이 비용 곡선은 모델 랩, 하이퍼스케일러, 칩 제조사, 에너지 생산자가 통제 - 모델이 더 저렴해지거나, 경쟁자가 동일 모델 API에 연결하여 가격을 밑돌면, 비용 우위는 0에 수렴 - 현재 전 세계 약 3만 5천 개의 AI 래퍼 앱 존재, 이전 기술 시대보다 훨씬 높은 경쟁 강도 - 저렴하게 서비스를 전달할 수 있는 능력과 그 마진을 유지할 수 있는 능력은 별개 — 인텔리전스 비용 붕괴로 생기는 소비자 잉여를 누가 지속적으로 포착하느냐가 현 시점의 핵심 질문 내재화(Embeddedness)와 방어력 - 비용 곡선을 넘어서는 방어력을 구축하는 기업이 잉여를 포착·유지 - 엔터프라이즈 기술에서 방어력의 역사적 원천: 도메인 전문성, 속도·실행력, 파트너십·통합 관계, 데이터 중력, 브랜드·신뢰, 플랫폼 락인 - 초기 단계: 빠르게 약화되는 도메인 전문성과 속도·실행력이 주요 이점 - 파트너십·통합 관계는 지속 가능하나 규모에서 관련성 감소 - 성장 단계의 가장 핵심적 해자는 사용량·데이터 루프 - 규모에서의 방어 가능한 Vertical AI 비즈니스는 최소한 데이터 중력, 브랜드·신뢰, 플랫폼 락인 중 하나 이상의 해자 필요 - Vertical AI 비즈니스 평가의 가장 중요한 축은 "서비스 vs. 소프트웨어"가 아니라 "내부(internal) vs. 외부(external)" - "내부": 고객이 매일 로그인하는 전통적 SaaS UI를 반드시 의미하지 않음 — 가치가 직접적 키보드 사용량과 상관된다는 오래된 업계 합의는 더 이상 유효하지 않음 - 핵심 질문: AI 기업이 고객 운영에 구조적으로 제거하기 어려운 방식으로 내재화되어 있는가? - 고객이 생성한 독점 데이터를 보유하는가? 거래 상대방·공급업체·생태계에 고객을 연결하여 재구성이 고통스러운가? 인접 워크플로우에 통합되어 제거 시 연쇄 중단이 발생하는가? - "외부": 전통적 서비스 벤더와 유사 — 고객이 필요할 때 호출하지만, 더 나은 거래가 있으면 다음 주에 다른 곳으로 전환 가능 - 외부 솔루션은 실질적 가치를 전달하고 비용 격차가 크고 채택이 초기일 때 빠르게 성장하지만, 빌린 마진 위에 서 있어 다른 AI Services 스타트업, 자금력 있는 SaaS 인컴번트, 심지어 구매자 자체와 동일한 경쟁 역학에 노출 4분면 프레임워크: Vertical AI 평가 매트릭스 - 두 축으로 Vertical AI 랜드스케이프 매핑: 내부 vs. 외부(제품의 고객 운영 내재화 깊이)와 웨지 vs. 플랫폼(제품 범위와 깊이) - Durable(우상단): 내부 AI 플랫폼 — 복합적 해자로의 명확한 경로를 가진 System of