Meta, Amazon, Walmart 및 기타 주요 기업이 비용 압박 속에서 AI 서비스 사용 공개 제한.

인공지능(AI) 도구를 사내에 적극적으로 도입해 온 기업들이 비용 압박이 계속되는 가운데 사용 제한을 강화하고 있다.

최근 파이낸셜타임스(FT) 보도에 따르면 아마존, 월마트, 시스코, 우버, 메타는 낭비적인 소비를 줄이고 더 비용 효율적인 모델로의 전환을 유도하며 AI 지출을 통제하기 위해 사용 제한 조치를 시행 중이다.

보고서는 이러한 조치가 엔터프라이즈 AI 채택의 새로운 국면을 의미한다고 지적했다. 챗봇을 넘어선 복잡한 작업을 자율적으로 수행할 수 있는 AI 에이전트 활용이 시작되면서 필요한 컴퓨팅 자원이 크게 증가했기 때문이다. 보고서는 이제 기업들이 AI 에이전트에 부여된 작업이 그 투자 비용을 정당화할 수 있는지 여부를 저울질해야 하는 상황에 처했다고 밝혔다.

안스로픽과 오픈AI가 서비스의 일부를 정액제에서 처리된 데이터 단위당 과금하는 토큰 기반 가격 모델로 전환함에 따라 비용 부담은 더욱 가중될 전망이다. 공격적인 시나리오에서는 각 직원에게 10개, 100개, 심지어 최대 1,000개의 에이전트를 배치할 수도 있으며, 이러한 에이전트가 지속적으로 작동한다면 컴퓨팅 자원 소모는 필연적으로 급증하게 된다.

소프트웨어 회사 워크어토(Workato)는 지난 여름 약 1,300명의 직원이 AI 에이전트 사용을 시작한 후 이용량이 급증했다. 안스로픽이 토큰 기반 가격 모델로 전환한 5월 이후 해당 기업의 AI 지출은 크게 증가했다.

딜로이트의 글로벌 생성형 AI 리더인 코스티 페리콕(Kosti Perikoc)은 "컴퓨팅 비용이 이제 최고재무책임자(CFO)와 이사회 차원에서 주목받기 시작했다"며 "소비자와 기업들은 AI가 저렴하거나 무료라고 인식하도록 conditioning되어 왔지만, 현실은 전혀 그렇지 않다"고 말했다.

오픈AI CEO 샘 알트만(Sam Altman)은 "올해 고객들에게 비용은 '엄청난 문제'가 되었다"며 "이 문제는 작년까지는 근본적으로 존재하지 않았다"고 밝혔다.

골드만삭스의 애널리스트들은 지난달 AI 에이전트 사용으로 인해 2030년까지 토큰 소비량이 24배 증가할 것이며, 컴퓨팅 수요 급증으로 인해 향후 12~18개월 동안 칩 부족 현상이 더욱 악화될 것이라고 예측했다.