DeepSeek가 AI 모델 구동 비용을 낮추도록 설계된 도구 DeepInfer를 오픈소스로 공개하면서 OpenAI와 Anthropic에 대한 압박이 커지고 있다.

딥시크(DeepSeek)는 자사의 AI 모델을 대규모로 구동하는 데 사용해 온 내부 AI 추론 프레임워크 DeepInfer를 오픈소스로 공개했습니다. 이를 통해 개발자들도 해당 기술에 접근할 수 있게 되었습니다. 이번 조치는 컴퓨팅 비용과 에너지 소비를 줄이는 것을 목표로 합니다.

화요일에 발표된 이 프레임워크는 DeepSeek V4.1 Flash를 구동하며, 처리 속도와 효율성을 높이도록 설계된 최적화된 컴퓨팅 커널, 분산 추론, 추측 디코딩(speculative decoding), 스케줄링 도구를 포함하고 있습니다.

추론(inference)은 학습된 AI 모델을 실행하여 응답을 생성하는 과정을 의미합니다. 추론에 필요한 컴퓨팅 자원은 대규모 AI 서비스를 운영하는 기업들에게 상당한 비용 부담이 됩니다.

딥시크는 이번 공개가 개발자들이 성능을 개선하고 AI 모델 배포 비용을 낮추는 데 도움이 될 것이라고 밝혔습니다. 또한 주요 AI 기업들이 흔히 독점적으로 유지하는 실서비스 운영 기법에 대한 통찰도 제공합니다.

이 프레임워크는 현재 Nvidia SM100 GPU와 Huawei Ascend 950 프로세서를 지원합니다. 회사는 향후 DeepSeek 모델에 대한 지원과 추가 최적화를 계획하고 있다고 밝혔습니다.

**개발자들이 로컬 배포로 전환하면서 오픈소스 AI의 입지 확대**

이번 발표는 OpenAI와 Anthropic 같은 기업의 독점 서비스에 대한 대안을 찾는 개발자와 기업들 사이에서 공개적으로 이용 가능한 AI 모델의 인기가 높아지고 있는 가운데 나왔습니다.

딥시크, 알리바바의 Qwen, 메타가 공개한 모델들은 고급 AI 기능에 대한 접근성을 넓히는 데 기여했으며, 개발자들이 상업용 클라우드 API에만 의존하지 않고도 맞춤형 시스템을 배포할 수 있게 해 주었습니다.

Ollama, LM Studio, llama.cpp와 같은 도구들은 사용자가 호환 AI 모델을 개인용 컴퓨터와 로컬 서버에서 직접 실행하기 쉽게 만들었습니다. 이는 외부 제공업체에 대한 의존도를 낮추고 데이터와 운영 비용에 대한 더 큰 통제권을 제공합니다.

Hugging Face의 2026년 공개 모델 분석에 따르면, 대부분의 개발자가 사용할 수 있는 하드웨어에서 구동될 수 있기 때문에 소형 모델이 여전히 다운로드 활동을 주도하고 있습니다.

딥시크의 이번 최신 공개는 모델 공개를 넘어, 생산 인프라의 일부를 공개적으로 접근 가능하게 만들며 그 흐름을 확장합니다. 회사는 또한 토큰 인코딩 및 디코딩 구성 요소인 deepseek-recipe도 오픈소스로 공개했습니다. 이 구성 요소는 독립적인 배포 환경에서 공식 API의 처리 방식을 재현하도록 설계되었습니다.

DeepInfer는 Apache 2.0 라이선스로 제공됩니다. 다만 현재 공개본에는 캐시 관리와 부하 분산 인프라를 포함하여 완전한 실서비스 추론 서비스를 운영하는 데 필요한 모든 구성 요소가 포함되어 있지는 않습니다.

이 프레임워크는 일반 소비자용 하드웨어보다는 대규모 배포를 대상으로 하지만, 이번 공개로 개발자들은 고급 AI 시스템 운영에 필요한 자원을 줄이는 데 도움이 될 수 있는 최적화 기법에 접근할 수 있게 되었습니다.

이번 움직임은 오픈 모델과 자체 호스팅 배포가 독점 AI 서비스의 점점 더 실현 가능한 대안이 되면서, AI 인프라 비용을 둘러싼 경쟁이 심화되고 있음을 보여줍니다.