클라우드에 묶인 인공지능, 이제 풀려날 때

개인적으로 오프라인 상태에 머무는 시간이 상당히 많다. 선택이 아니라 환경 때문인 경우가 많다. 그래서 최근 구글이 출시한 것과 같은 오프라인 동작 도구를 선호한다. 디지털 노마드로서 지속적으로 이동하는 생활을 하다 보면 연결성 문제가 빈번하다. 현재 이탈리아 토스카나의 한 농가에 머무르고 있는데, 최근 이틀 동안 연결 상태가 매우 불안정해 업무 수행이 어려웠다. 할 수 있는 일은 와인을 마시며 언덕 풍경을 바라보는 정도였다. 부활절과 그 다음날 지역 휴일 동안 많은 사람이 동시에 인터넷을 사용하면서 연결이 거의 불가능한 수준까지 떨어졌다. 이런 상황은 의외로 자주 발생한다. 도시와 멀리 떨어진 지역의 오래된 주택을 선호하는 경향이 있고, 주로 유럽이나 라틴아메리카에 머무르기 때문에 연결 환경이 불안정하거나 아예 없는 경우도 있다. 이동 중 차량이나 오래된 석조 건물 내부, 비행기, 외딴 지역 도로에서도 연결이 끊기는 일이 발생한다. 이동이 잦지 않은 사용자에게도 오프라인은 선택이 될 수 있다. 공용 공간인 카페나 공항에서는 연결을 끊는 것이 보안 측면에서 더 안전하다. 신뢰하기 어려운 클라우드 중심 기업 서비스를 사용할 때도 마찬가지다. 배터리 절약이 절실한 상황도 있고, 오프라인 상태라는 사실 자체가 심리적으로 안정감을 줄 때도 있다. 원래 도구란 오프라인에서도 더 잘 작동해야 한다. 현재 사용 중인 아이폰은 10년 전 기준으로 슈퍼컴퓨터 수준의 성능을 갖추고 있다. 최신 스마트폰은 현재 클라우드에서 수행되는 상당한 작업을 자체적으로 처리할 수 있는 성능을 확보했다. 챗GPT, 퍼플렉시티, 클로드, 제미나이 같은 챗봇은 클라우드 컴퓨팅이 필수적이다. 범용 AI 모델은 수천억 개의 매개변수와 막대한 메모리, 전력을 필요로 하기 때문이다. 이런 작업을 모바일 기기에 강제로 탑재하면 범용 AI의 지능과 기능은 구조적으로 제한된다. 반면. 전사나 기록 변환 같은 개별 작업은 대규모 데이터센터가 필요하지 않다. 가장 큰 문제는 필자가 자주 사용하는 두 가지 도구인 마이마인드(MyMind)와 렉스(Lex)다. 마이마인드는 작년 기사에서 소개한 바 있다. 모든 것을 기록하고 저장하며 기억을 보조하는 도구로, 정보를 빠르게 다시 찾아볼 수 있게 해준다. AI를 활용해 자동으로 태그를 생성하고 저장과 검색 과정의 부담을 줄인다. 문제는 연결이 끊기면 마이마인드를 사용할 수 없다는 점이다. 오프라인 기능이 전혀 없다. 인터넷 연결이 없는 상태에서 정보를 저장하거나 검색하는 것이 불가능하다. 마이마인드에 의존할수록 오프라인 상태에서 기억이 단절되는 경험이 커진다. 가장 큰 불만 요소다. 렉스 역시 여러 차례 소개한 도구다. 렉스는 단순히 글을 대신 작성하는 것이 아니라 글의 구조를 점검하고 개선 방향을 제시하는 AI 기반 워드프로세서다. 렉스 역시 오프라인에서 동작하지 않는다. 반면, 구글 문서와 애플 페이지는 오프라인에서도 사용할 수 있고, 이후 연결이 복구되면 클라우드와 동기화된다. 렉스의 오프라인 미지원은 구독을 해지하고 페이지로 돌아갈지 고민하게 만드는 주요 요인이다. 마이마인드와 렉스 모두 AI를 활용한다. 가까운 시일 내 범용 챗봇에서 벗어나 특정 작업에 특화된 소형 AI 기반 도구가 엣지 또는 스마트폰에서 동작하는 방향으로 전환이 진행될 것으로 본다. 이런 흐름을 보여주는 대표 사례가 구글의 새로운 도구 AI 엣지 엘로퀀트(AI Edge Eloquent)다. 손안의 기기와 대화하다 구글은 이번주 무료 iOS 전용·영어 전용 오프라인 받아쓰기 앱을 출시했다. 받아쓰기 기능 자체는 단순해 보일 수 있지만, 여러 기능이 결합되면서 활용도가 높아졌다. 우선 제미나이 계열 음성 인식 모델을 기반으로 하는 AI가 스마트폰에서 직접 실행된다. 단순히 발화를 기록하는 수준이 아니라 사용자가 의도한 내용을 반영해 불필요한 추임새나 반복 표현을 제거하고 핵심 문장만 남긴다. 클라우드 처리를 활성화하면 정확도는 더 높아진다. 문장 부호도 자동으로 추가된다. 음성 입력이 끝나면 정리된 텍스트가 자동으로 클립보드에 저장된다. 이후 워드프로세서, 소셜미디어, 이메일 등 다른 앱으로 전환해 바로 붙여넣기 할 수 있다. 앱은 네 가지 기본 스타일 옵션을 통해 텍스트를 재작성한다. 핵심 요약 : 발화를 목록 형태로 정리 공식 문체 : 전문적인 톤으로 변환 간결 요약 : 메시지를 축약 확장 : 내용을 상세하게 확장 대다수 글쓰기에서는 이런 자동 스타일 변환보다는 개인의 문체를 유지하는 것이 바람직하다. 음성 입력 이후 정지 버튼과 일시정지 버튼을 선택할 수 있다. 긴 글을 작성할 경우 일시정지를 활용해 생각을 정리하거나 자료를 확인한 뒤 이어서 입력할 수 있어 전체 내용이 하나의 텍스트로 정리된다. 가장 주목할 기능은 사용자 정의 단어 학습이다. 수정 기록, 수동 단어 추가뿐 아니라 지메일 대화 기록을 기반으로 학습할 수 있다. 지메일 연동은 사용자의 동의를 요구하며, 명시적으로 로그인해야 한다. 해당 기능은 전문 용어뿐 아니라 인명, 브랜드명, 약어, 외국어, 지명 등을 반영한다. 또한 앱은 사용 통계를 제공한다. 총 단어 수, 분당 단어 수, 평균 입력 속도, 누적 입력 단어 수, 자동 보정 횟수 등이 포함된다. 인공지능 엣지 엘로퀀트는 월 15달러 수준의 경쟁 서비스와 연간 85달러 요금의 다른 유료 도구를 사실상 대체할 수 있는 기능을 지녔다. 실리콘밸리에서는 대기업이 경쟁 제품의 핵심 기능을 흡수해 시장을 무력화하는 현상을 ‘셜록킹(Sherlocking)’이라고 부른다. 결론적으로 AI 엣지 엘로퀀트는 음성 입력 기반 작업을 수행하는 사용자에게 실용적인 도구다. 오프라인 AI의 점진적 확산 최근 AI를 엣지에서 오프라인으로 실행하려는 흐름을 따르는 도구가 늘고 있다. 이번 주 공개된 또 다른 사례는 워싱턴주 벨뷰 기반 신생업체 에지러너 AI(Edgerunner AI)의 워클로(WarClaw)다. 회사는 해당 도구를 ‘디지털 부관’으로 정의한다. 에지러너 AI는 전직 군인이 현역 군인을 위해 워클로를 개발했다고 설명한다. 보안 취약성 논란이 있었던 오픈클로 위에 별도의 보안 운영 계층을 추가하는 방식으로 설계됐다. 워클로는 DDIL 환경, 즉 통신 차단, 연결 단절, 간헐적 연결, 저대역폭 상황에서도 동작한다. 또한, 연결이 없는 모바일 기기에서 실행되며 군사 데이터를 기반으로 학습됐다. 임무 계획, 일정 관리, 정보 분석을 자동화한다. 또한 워드, 파워포인트, 엑셀, 슬랙, 웹브라우저, 이메일과 같은 업무 도구를 직접 제어할 수 있다. 에지러너 AI는 이미 미군 3개 부문에 워클로 공급 계약을 체결했다. 군사용 도구이지만 기업 환경에서도 활용 가능성이 있다. 예를 들어 데이터 보안이 취약한 국가나 공항과 같은 환경에서 오프라인 보조 도구로 유용하다. 현재 연결이 필요한 대다수 AI 작업이 스마트폰에서 오프라인으로 실행되는 앱 형태로 전환되기를 기대한다. 편의성뿐 아니라 구글과 애플에도 기회가 될 수 있다. 성능이 향상되는 스마트폰과 AI 도구를 결합하면 사용자에게 하드웨어 업그레이드 동기를 제공할 수 있기 때문이다[email protected]