电信运营商基于开源模型构建AI战略
电信运营商越来越多地基于开源模型构建其AI战略——而原因远不止成本因素。
开源模型使电信运营商能够在其最关键的工作负载中信任、控制和定制AI——从自主网络到客户服务。
NVIDIA最新的《电信领域AI状态报告》反映了这一转变,其中89%的受访者报告开源模型和软件对其公司的AI战略很重要。
对于运营商而言,开源模型的战略价值是五方面的:
它们以更低的成本扩大了获得前沿级智能的途径,使运营商能够将闭源模型用于产生最大价值的工作负载。独立基准测试(如Artificial Analysis Intelligence Index v4.3.2)显示,领先的开源模型在要求苛刻的推理、编码、科学和代理工作负载中的竞争力越来越强。
它们支持电信特定的定制化,通过开放的权重和训练方案,运营商可以使用网络、客户和行业数据为自己的运营进行微调。
它们通过给予电信运营商对模型工件和行为更大的可见性和控制权实现可信赖的AI,以便模型可以根据法规和业务政策进行评估、适配和治理。
它们实现灵活、安全的部署:团队可以调整和优化开源模型的规模,使其在公有云、私有基础设施和边缘环境中运行。
它们为电信运营商通过托管和微调开源模型为企业和政府客户提供本地适配AI服务的机会。
针对电信运营的开源基础
NVIDIA Nemotron开源模型系列提供针对代理工作流优化的前沿级推理性能,以及用于语音应用的语音功能,具有开放的权重、训练数据和方案。
SoftBank Corp.展示了运营商如何使用开源模型作为基础来开发和不断推进其电信特定的AI能力。
SoftBank Corp.董事会高级研究员兼SB Telecom America高级副总裁Rajeev Koodli表示:"开源模型使SoftBank Corp.能够在全球基础模型快速进展的基础上,同时应用我们多年积累的网络知识和运营专业知识。我们广泛使用开源基础设施,包括NVIDIA Nemotron模型和其他模型,在开发SoftBank大型电信模型时,为网络运营、设计和整体管理等电信特定用例不断完善。"
此外,NVIDIA正在与合作伙伴合作,帮助将开源模型转变为电信AI的实用构建块。
NVIDIA宣布推出30亿参数的Nemotron 3大型电信模型(LTM),由AdaptKey在开源电信数据集上微调,以在电信特定任务中实现准确性提升。这为运营商提供了一个开放的基线,可以理解电信行业术语,并能有效推理完成电信运营工作流,如网络配置和客户事件分类。
为帮助运营商使用自己的运营数据定制Nemotron 3 LTM和其他开源模型,NVIDIA发布了完整的方案,详细说明了端到端微调流程,用于使用NVIDIA NeMo开源库将开源模型适配到运营商特定的网络、客户和程序。
将开源模型扩展到生产工作流
开源模型是关键的构建块,但将自主电信运营安全地投入生产需要不仅仅是模型。
对于AT&T而言,模型选择的价值在于使这种灵活性与其业务优先级保持一致的方式可操作化。
AT&T首席数据和AI官员Andy Markus表示:"在AT&T,我们相信AI的未来不是关于选择一个单一的模型;而是关于将每个工作负载智能匹配到性能、成本和控制的正确组合。开源模型对这一方法至关重要,通过与NVIDIA合作,我们可以将模型选择战略投入生产,具有我们业务所需的规模、可靠性和治理。"
运营商需要通过匿名敏感记录和生成隐私保护的合成数据集来为模型微调准备和保护其数据的流程。他们还需要一个能将开源模型转变为受管、自主代理工作流的平台。
NVIDIA提供了这一端到端平台,由NVIDIA AI Enterprise软件和NVIDIA Agent Toolkit驱动,涵盖数据流程、开源模型、代理编排、安全运行时和模拟。
结合在这一平台的每一层构建的强大合作伙伴生态系统,电信运营商拥有明确的路径将开源模型的优势转化为生产就绪的AI工作流。
创建本地AI创新平台
随着电信运营商构建与国家AI战略一致的AI基础设施,开源模型为他们提供了基础,可以提供针对本地语言、行业、法规和数据治理要求定制的AI服务。
各国运营商可以针对本地语言和行业特定需求微调开源模型,以及在其受信任的平台上托管开源模型,供客户直接使用或使用其自己的数据和应用程序进行构建。
对于印度尼西亚最大的电信运营商之一Indosat Ooredoo Hutchison而言,这意味着通过其Sahabat-AI开源模型系列构建反映该国自身语言和文化的AI。