온디바이스로 요청 절반 처리·추론비 최대 90% 절감… 자체·외부 모델 조합 확대[디지털데일리 구아현기자] 카카오가 신설법인 ‘카카오AI’ 출범을 계기로 인공지능(AI) 전략을 한 단계 끌어올린다.
자체 모델과 외부 AI를 조합해온 기존 오케스트레이션 전략에 온디바이스 AI와 지능형 모델 라우팅을 더하고, 인프라부터 모델·플랫폼·서비스까지 아우르는 ‘풀스택 AI’를 본격화한다.
AI 업계에서는 서비스 품질을 고도화하면서 추론비용을 얼마나 낮추느냐가 경쟁력을 가를 것으로 보고 있다.
21일 카카오에 따르면 회사는 인적분할을 통해 신설법인 ‘카카오AI’와 존속법인 ‘카카오X’로 나뉜다. 카카오AI는 카카오톡을 중심으로 AI·광고·커머스 등 플랫폼 사업을 맡고, 카카오X는 테크핀·콘텐츠·모빌리티 계열사와 투자 사업을 담당한다.
카카오AI 대표에는 정신아 현 카카오 대표가, 카카오X 대표에는 김도영 카카오인베스트먼트 대표가 내정됐다. 분할 완료 목표 시점은 2027년 1월1일이다.
정신아 카카오AI 대표 내정자는 이날 진행된 온라인 기자간담회에서 “카카오AI의 가장 큰 경쟁력은 5000만 이용자에게 안정적이고 비용 효율적인 AI 서비스를 제공할 수 있도록 설계한 풀스택 AI 역량”이라며 “인프라부터 모델·플랫폼·서비스까지 AI 전 레이어를 최적화하겠다”고 밝혔다.
◆ 카카오AI 출범 계기로 ‘풀스택 AI’ 전략 본격화카카오는 그동안 자체 AI 모델 ‘카나나’를 개발하는 한편 ‘카나나 인 카카오톡’, ‘카나나 검색’, 오픈AI와 협력한 ‘챗GPT 포 카카오’, ‘카카오툴즈’, ‘플레이MCP’ 등을 잇달아 선보였다.
자체 모델만 고집하지 않고 글로벌 AI 모델과 외부 서비스를 이용자 요청에 맞춰 조합하는 오케스트레이션 전략도 추진해왔다.
카카오툴즈를 통해 카카오맵·선물하기뿐 아니라 올리브영·무신사·현대백화점·마이리얼트립·사람인 등 외부 서비스를 연결했다. 개발자가 다양한 AI 도구를 붙일 수 있는 플레이MCP에는 지난 5월 기준 200여개 외부 MCP 서버가 등록됐다.
이용자 기반도 확보하고 있다. 지난 2분기 기준 챗GPT 포 카카오 누적 가입자는 약 1300만명이다. 카카오는 연말까지 카카오톡 내 AI 서비스 월간활성이용자(MAU) 1000만명을 확보한다는 목표다.
카카오AI 출범 이후에는 기존 오케스트레이션 전략을 기술과 비용, 수익모델까지 아우르는 풀스택 AI로 구체화한다. 컴퓨팅 인프라부터 자체 파운데이션 모델, AI 플랫폼, 카카오톡·광고·커머스 서비스까지 전 단계를 하나의 구조로 최적화하는 방식이다.
정 대표는 카카오톡에 축적된 5000만 이용자의 관계와 일상 맥락을 핵심 자산으로 꼽았다. 그는 대화에서 이용자의 맥락을 파악한 뒤 카카오톡 안의 다양한 서비스로 연결해 실제 실행까지 한 흐름으로 완결할 수 있다는 점이 카카오톡의 강력한 ‘해자’라고 강조했다.
자체 모델도 계속 고도화한다. 카카오AI는 자체 멀티모달 파운데이션 모델과 경량화 기술을 기반으로 온디바이스부터 서버까지 에이전트 서비스에 최적화된 모델을 개발하고 있다.
자체 토크나이저와 경량화 기술로 메모리·배터리 소모를 낮추고 서버 모델은 대형 모델의 지식을 ‘지식 증류’해 경량화한다.
카카오는 글로벌 대형 모델의 약 10분의 1 크기로도 대등한 수준의 맥락 이해 성능을 구현했다고 설명했다.
정 대표는 “실제 서비스에 적용될 때 가장 효율적으로 이용자에게 새로운 가치를 줄 수 있는 모델을 개발하고 개선하는 데 집중하겠다”고 밝혔다. 모델 규모를 키우는 경쟁보다 실제 서비스에서 비용과 성능을 동시에 잡겠다는 전략이다.
◆요청 절반 온디바이스 처리… 추론비 최대 90%↓풀스택 AI 전략의 핵심은 ‘저비용·고효율 추론’이다. 카카오AI는 ‘온디바이스 우선’ 구조를 적용해 이용자 요청의 절반가량을 자체 경량 모델 ‘카나나 나노’로 기기 안에서 처리할 계획이다.
메시지 검색·전송이나 일정, 대화 요약 등 비교적 가벼운 요청은 스마트폰에서 처리하고 복잡한 요청만 서버 AI 모델과 전문 에이전트로 넘긴다.
정 대표는 “현재 개발 중인 AI 컨덕터는 이용자 요청의 복잡도와 난이도를 빠르게 판단해 최적의 AI 모델을 선택하고 연결하는 오케스트레이션 기술”이라고 설명했다. 자체 서버 모델뿐 아니라 외부 AI 모델과 전문 에이전트까지 상황에 따라 조합하는 지능형 모델 라우팅 방식이다.
카카오는 온디바이스 우선 처리와 모델 라우팅을 결합해 성능을 유지하면서 서버 추론비용을 최대 90% 줄일 수 있을 것으로 보고 있다. 정 대표는 5000만 이용자가 AI를 일상적으로 사용하더라도 이용자 증가에 따라 추론비용이 선형적으로 늘지 않는 서비스 구조를 만들겠다고 밝혔다.
카카오톡은 장기적으로 ‘1인 1에이전트’ 플랫폼으로 전환한다. 범용 AI 어시스턴트를 중심으로 각 영역의 전문 에이전트를 연결하고, 궁극적으로는 이용자의 관계와 대화 맥락을 이해해 필요한 선택과 실행을 먼저 제안하는 개인화 AI로 발전시킨다.
정 대표는 이를 이용자를 가장 잘 이해하는 ‘AI 디지털 트윈’으로 설명했다. 그는 “향후 카카오톡에서 전 국민 모두가 자신만의 에이전트를 보유하게 될 것”이라며 사람과 사람을 잇는 메신저에서 사람과 AI 에이전트, 에이전트 간 연결 플랫폼으로 확장하겠다는 구상을 제시했다.
AI가 질문에 답하는 데 그치지 않고 탐색·추천에서 주문·예약·결제까지 수행하는 ‘에이전틱 AI’가 최종 형태다. 카카오톡의 이용자 기반과 광고·커머스 등 기존 사업 인프라를 AI로 연결해 실제 수익으로 전환하겠다는 전략이다.
◆ AI DAU 2000만·AI 매출 1조… 광고·커머스로 수익화수익모델은 에이전틱 광고와 에이전틱 커머스, 기업·소비자간거래(B2C) AI 구독이 세 축이다. 에이전틱 광고에서는 AI가 이용자 의도를 파악해 상품과 서비스를 제안하고 구매까지 연결한다. 검색광고 사업도 확대해 2030년 시장 점유율 5% 이상을 확보한다는 목표다.
에이전틱 커머스에서는 에이전트 간 연결 방식인 A2A(Agent-to-Agent)를 활용해 외부 버티컬 서비스 연동을 확대한다. AI가 탐색과 추천을 넘어 구매까지 연결하고 거래 수수료를 확보하는 구조다. 이미 일부 매출이 발생하는 B2C AI 구독도 신규 상품을 늘려 반복 매출원으로 키운다.
정 대표는 “AI는 자체 수익모델을 갖춘 새로운 성장축으로 육성해 나갈 계획”이라고 밝혔다. 카카오AI는 2030년 매일 AI를 사용하는 이용자를 2000만명 이상으로 늘리고 카카오톡 체류시간도 현재보다 50% 이상 확대한다. 2028년에는 신규 AI 매출원이 전체 매출의 두 자릿수 비중을 차지하고, 2030년 AI 매출은 1조원을 넘어설 것으로 내다봤다.
카카오AI 전체의 2030년 매출 목표는 6조원 이상이다. 연평균 약 20%의 매출 성장을 이어가 상각전영업이익(EBITDA) 2조원 이상, 영업이익률 30% 이상, 자기자본이익률(ROE) 25% 이상을 달성한다는 계획이다.
정 대표는 AI DAU 2000만명 목표가 현재 이용 패턴을 감안하면 가능하다고 봤다. 카나나 인 카카오톡의 MAU 대비 DAU 비율인 ‘스티키니스’가 60~70% 수준이고 카카오톡에서 매일 능동적으로 대화하는 이용자가 약 3000만명이라는 점을 근거로 들었다. AI 이용자의 카카오톡 체류시간 역시 비이용자보다 현재 50% 이상 높다고 설명했다.
자체 AI 모델 개발도 이어간다. 정 대표는 카카오AI 출범 이후 카나나를 비롯한 자체 모델 개발과 AI 인프라 투자를 독자적으로 계속할 것인지 묻는 질문에 “우리 서비스를 위해 필요한 AI 모델의 개발을 지속해 나갈 예정”이라고 답했다.
그는 해외의 거대한 단일 모델과 단순 성능 경쟁을 하기보다 카카오 서비스의 비용을 낮추고 이용자의 맥락 데이터를 이해할 수 있는 모델이 필요하다고 강조했다. 이어 “우리의 데이터 활용과 우리의 서비스에 맞는 모델을 만들어 나간다는 관점에서 모델은 독자적으로 계속해 나갈 예정”이라고 말했다.
외부 AI 사업자와의 협력은 넓힌다. 정 대표는 “AI 에이전트 생태계 구축을 위해 외부 사업자와의 제휴는 앞으로 더 늘려나갈 예정”이라고 밝혔다.
기존 사업자가 모델컨텍스트프로토콜(MCP)이나 A2A 파트너로 참여하도록 생태계를 확대하고, 다양한 모델과 서비스를 연결한다는 방침이다. AI 투자도 대규모 ‘빅딜’보다 내부 인재 강화와 필요한 외부 핵심 인재 확보에 무게를 둔다.
◆ AI 업계 “품질 고도화하며 비용 낮추는 게 관건”AI 업계에서는 카카오의 풀스택 AI 전략이 실제 경쟁력으로 이어지려면 이용자 증가에도 비용 부담을 억제할 수 있는 확장성과, 모델 품질을 유지하면서 추론비용을 낮추는 운영 역량을 입증해야 한다고 본다.
신정규 래블업 대표는 “데이터센터 요금이 계속 오르는 상황에서 AI 추론을 분산하려는 움직임은 계속될 것”이라며 “스마트폰 성능 향상과 운영체제(OS)의 AI 지원 확대로 소규모 AI 모델을 기기에 탑재하는 기술적 난이도도 과거보다 크게 낮아졌다”고 설명했다. 온디바이스 AI 전략에 대해서는 “카카오만의 독자 전략이라기보다 글로벌 플랫폼 사업자 전반에서 나타나는 흐름”이라고 평가했다.
AI 업계 관계자는 “실제 서비스에서는 모델 성능 저하를 최소화하면서 모델 라우팅을 통해 비용을 얼마나 절감할 수 있느냐가 관건”이라며 “이 같은 운영 역량은 서비스를 실제로 운영하는 과정에서 축적될 것”이라고 전망했다.
자체 모델과 외부 프런티어 모델 간 역할 분담도 관전 포인트다. 또 다른 AI 업계 관계자는 “카카오가 이미 오픈AI와 협력하고 있는 만큼 상대적으로 난이도가 낮은 요청은 카나나 나노 등 자체 경량모델로 처리하고, 높은 추론 성능이 필요한 작업에는 오픈AI 등 외부 프런티어 모델을 활용하는 식의 역할 분담이 가능할 것”으로 내다봤다.
추가 AI 파트너에도 관심이 쏠린다. 카카오가 자체 모델은 독자적으로 개발하면서도 외부 사업자와의 제휴를 늘리고 모델 선택지를 다양화하겠다고 밝힌 만큼 향후 어떤 글로벌 AI 기업이 모델 풀에 추가될지도 주목된다.
이 관계자는 “외부 사업자가 MCP·A2A를 통해 카카오톡 에이전트 생태계에 얼마나 들어오는지도 풀스택 AI 전략의 확장성을 좌우할 전망”이라고 덧붙였다.