법률 AI 벤더들은 클라우드 컴퓨팅 비용을 절감하고 제3자 플랫폼 API에 대한 의존도를 최소화하기 위해 자체 추론 모델을 개발 중입니다.

법률 AI 벤더들은 OpenAI나 Anthropic과 같은 대형 외부 플랫폼에 대한 의존도를 줄이기 위해 자체 인공지능 모델을 개발하는 추세다. 하비(Harvey)와 톰슨 로이터스(Thomson Reuters)를 비롯한 기업들은 수직 통합 AI 스택으로 나아가고 있으며, 이는 모델 추론 관련 비용을 절감할 것으로 예상된다. 하비는 최근 법률 업무용으로 특별히 구축된 맞춤형 모델 ‘테넷(Tenet)’을 발표했으며, 톰슨 로이터스는 7월 말 자체 모델인 ‘톰슨(Thomson)’ 출시 계획을 밝혔다. 두 가지 모두 다운로드 및 커스터마이징이 가능한 오픈소스 파운데이션 기술을 기반으로 한다는 점에서 주목할 만하다. 이는 지난 2년 동안 많은 법률 AI 제품이 작업 내용에 따라 OpenAI, Anthropic, Google 사이를 전환하는 ‘모델 라우터’로 주로 기능했던 과거와 뚜렷이 대비된다.

이러한 움직임은 명확한 운영 현실을 반영한다: 법률 AI 벤더들은 모든 쿼리에 대해 최첨단 모델 사용료를 지불하는 것을 중단하고 스택의 더 많은 부분을 자체적으로 소유하려 한다. 기업 법무 운영 리더들에게 이 변화는谁的 모델이 ‘최고’인지에 대한 브랜딩 행사라기보다는 계약 및 거버넌스의 변경을 의미한다. 벤더가 자체 모델을 운영하면 가격 책정 메커니즘, 보안 소유권, 데이터 이동성 등 변수들이 이에 따라 달라진다.

벤더에게 가장 직접적인 이점은 비용 통제다. 블룸버그 로(Bloomberg Law)가 인용한 업계 고문들은 제3자 제공업체에 추론 비용을 지불하는 대신 자체 모델로 쿼리를 더 많이 처리함으로써 벤더의 수익성이 개선될 것으로 전망한다. 이는 구매자에게 중요한데, 벤더의 마진 압박은 나중에 사용량 제한, 기능 잠금, 또는 갱신 시 가격 재조정 형태로 나타나는 경향이 있기 때문이다.

그러나 이러한 운영상의 트레이드오프는 책임의 이전을 수반한다. ZwillGen AI 부서의 디렉터인 브렌다 레옹(Brenda Leong)은 회사가 자체 모델을 운영할 경우, 이전에 최첨단 연구실로 전가되었던 보안 및 기타 의무도 함께 떠안게 된다고 지적했다. 유지보수 및 업데이트가 사라지는 것이 아니라 재배치되는 것이다. 결과적으로 법률 AI 조달은 스택에 대한 결정으로 변모하고 있다: 누가 추론 비용을 부담하며, 누가 모델을 패치하고, 민감한 업무에서 안전하게 사용할 수 있음을 입증하는가.

실무적으로 법무팀은 ‘맞춤형 모델’이라는 표현을 벤더의 모델 라이프사이클을 면밀히 검토하라는 신호로 해석해야 한다. 레드 팀링 빈도, 환각 및 인용 행동에 대한 평가 세트, 그리고 워크플로우를 방해하지 않고 얼마나 빠르게 수정 사항을 롤아웃할 수 있는지가 핵심이다. 이는 데모 질문이 아닌 조달 차원의 질문이다.

하비와 톰슨 로이터스와 같은 기업들이 외부 최첨단 연구실에 대한 의존도를 최소화하려는 반면, OpenAI는 법률 구매자와의 긴밀한 정렬을 목표로 하는 상반된 전략을 추진 중이다. 비즈니스 인사이더(Business Insider)에 따르면, OpenAI는 6월 아이언클래드(Ironclad)를 주요 계약 수명주기 관리 업체로 성장시킨 것으로 알려진 제슨 보엠비그(Jason Boehmig)를 영입했다. 이 임명은 OpenAI가 단순 API 판매를 넘어 법률 특화 유통 및 제품 역량을 개발하려는 의도를 시사한다. 해당 매체는 또한 OpenAI가 법률 제품 개발과 관련된 역할 채용을 진행 중이지만 구체적인 빌드 내용은 밝히지 않았다고 보도했다. 별도로 블룸버그 로는 OpenAI가 윌키 패어 & 갤러거(Willkie Farr & Gallagher)와 협력하여 ChatGPT Enterprise를 모든 변호사에게 배포하고 OpenAI 모델을 회사의 내부 도구와 더 깊게 통합하고 있다고 전했다. 회사 전체 rollout은 파일럿과는 운영상 차이가 있는데, 이는 규모에 맞게 신원 확인, 로깅, 사건 세분화, 허용 가능한 사용 기준에 대한 결정을 내야 하기 때문이다.

역사적으로 벤더가 모델 간 전환 능력을 갖춘 것은 회복탄력성으로 간주되었다. 이제 그것은 움직이는 표적이 될 수도 있다. 법률 테크 기업들은 OpenAI, Anthropic, Google 간에 워크로드를 라우팅해 왔으나, 자체 모델 개발의 새로운 트렌드는 이러한 제품을 구동하는 기본 아키텍처가 대부분의 법무팀이 전통적으로 관리해 온 것보다 더 자주, 그리고 더 조용히 변경될 수 있음을 시사한다. 이 현실은 조달 언어에 직접적으로 영향을 미친다. 만약 계약이 특정 하위 프로세서(예: 특정 최첨단 연구실)를 가정하고 있고, 벤더가 자체 모델로 전환한다면 UI가 동일하더라도 위험 프로필은 변경된다. 예산 편성 역시 영향을 받는데, 벤더 호스팅 모델은 토큰 소비가 매우 예측 가능한 계약 검토, 발견 절차 관련 분석, 대용량 문서 요약 등에서 고사용량 사용자의 비용 곡선을 변경시킬 수 있기 때문이다.

업계 고문들은 평균적인 변호사들이 모델 품질이 변화하지 않는 한 변화를 눈치채지 못할 것이라고 지적한다. 이는 운영자들에게 유용한 경고다: 사용자 만족도 점수는 평평하게 유지될 수 있지만, underlying 비용, 보안 태세, 감사 가능성은 실질적으로 변화할 수 있다. 만약 모델 교체 후 데모가 동일해 보인다면, 이때 거버넌스가 가장 강력해야 한다. 왜냐하면 워크플로는 그대로인데 위험만 이동할 수 있기 때문이다.