자본시장 · 리포트

AI 에이전트는 OpenRouter에서 인간보다 토큰을 5배 더 많이 소비하고 있으며, 2026년 2월 이후 사용량이 14배 증가했습니다.

에이전트 토큰 소비의 기하급수적 증가는 지도 학습을 넘어 급속으로 가속화되는 컴퓨팅 수요 궤적을 시사한다.

업계 전문지Slicast · 2026년 10월 3일 13:10 UTC · 글로벌 · 출처: Tom's Hardware

중요도 72

Futurum Group의 CEO Daniel Newman은 최근 AI 도입의 중대한 마일스톤을 강조했습니다: "현재 AI는 인간이 사용하는 것보다 AI 에이전트에 의해 5배 더 많이 사용되고 있습니다. 이 수치는 10배로 가속화된 후 점점 더 높아질 것입니다." 이 관찰은 2026년 8월 기준으로 에이전트가 7.3조 개의 토큰을 소비하고 인간이 1.4조 개의 토큰을 소비하는 것을 보여주는 Andreessen Horowitz의 OpenRouter 데이터 차트에서 비롯되었으며, 이는 에이전트 사용량이 플랫폼에서 인간 사용량을 처음 초과한 지 약 6개월 후입니다.

그러나 에이전트 토큰의 우위는 중요한 세부사항을 가립니다. a16z의 OpenRouter 데이터 분석에 따르면 에이전트 토큰의 85% 이상이 캐시된 프롬프트에서 나옵니다. 이는 에이전트가 완전히 새로운 쿼리를 처리하기보다는 주로 이미 처리한 정보를 다시 읽고 있다는 의미입니다.

OpenRouter는 선도적인 AI 모델 게이트웨이 및 라우팅 플랫폼으로, 도구 호출 율, 턴 수, 갭 타이밍을 포함한 요소를 기반으로 하는 가중치 점수 시스템을 사용하여 각 API 키를 세 가지 카테고리(에이전트, 혼합, 인간) 중 하나로 분류합니다. 2026년 2월 이후 데이터에 따르면 에이전트는 14배 더 많은 토큰을 사용하고 있는 반면 인간 사용량은 2.8배 증가했습니다. 에이전트와 인간의 특성을 모두 나타내는 행동의 혼합을 나타낼 가능성이 있는 혼합 카테고리는 같은 기간 4.7배 확대되었습니다. 해당 혼합 트래픽이 궁극적으로 어떻게 분해되는지에 따라 에이전트의 토큰 우위는 다소 달라질 수 있습니다. 이 데이터는 지출이 아닌 토큰 볼륨을 측정하고 단일 플랫폼에서 나온다는 점을 언급할 가치가 있지만, 이 추세는 4월과 7월에 하락을 보입니다.

성장 패턴은 OpenRouter를 넘어 확장됩니다. McKinsey의 2026 State of AI 조사에 따르면 대규모 조직의 응답자의 40%가 AI 에이전트 확장을 보고했으며, 이는 1년 전의 27%에서 증가했습니다. 마찬가지로 Nvidia H200을 임대하여 DeepSeek을 테스트한 콜센터 컨설팅 회사는 Claude Code에서 자체 에이전트의 9월 사용량에서 "모든 입력의 96%가 이전 대화를 다시 읽는 것"이었다고 관찰했습니다.

캐시된 프롬프트에 대한 의존성은 새로운 인프라 문제를 만듭니다. 캐시된 토큰이 신선한 프롬프트를 처리하는 것보다 상당히 비용이 적게 들지만, 여전히 메모리에 보관되어야 합니다. a16z는 모델이 KV 캐시에 컨텍스트를 저장하면서 고대역폭 메모리(HBM)에 대한 수요가 증가하고 있으며 "KV 캐시가 GPU HBM 용량을 초과하고 있다"고 지적합니다. 메모리 제약은 이미 심각합니다. Micron은 RAM 및 스토리지 부족이 2027년과 2028년에 악화될 것으로 예상하며, 고객이 더 높은 가격을 지불하는 반면 메모리 제조업체는 AI 데이터 센터에 HBM 할당을 우선시합니다. Newman의 예측이 맞아떨어지고 비율이 5배에서 10배, 20배 이상으로 올라가면 PC 구매자는 희귀 메모리 자원을 위해 에이전트와 점점 더 경쟁하게 될 것입니다.

원문 보기