Yotta利用Nvidia NIM平台创建端到端的定制化AI应用服务。
Yotta数据服务公司是AI主权云基础设施领域的领导者,于10月24日在孟买NVIDIA AI峰会上推出了其Shakti Cloud平台下的六项革命性AI平台服务。Shakti Cloud将成为首个提供NVIDIA NIM微服务的印度平台,提供对Llama和Mistral等领先AI模型的访问权限,帮助医疗、制造、电信、金融服务和零售等行业的客户创建定制化生成式AI代理和副驾驶。这些模型将通过基于令牌的系统和GPU秒数模型提供,使AI在各行各业都更易获取。此次推出标志着在让AI在各种规模的组织中更易获取、更灵活和更强大方面迈出的重大一步。
这些AI平台服务旨在通过提供具有竞争力价格的先进功能,加快企业、研究人员和创新者的AI采用。Shakti Cloud提供从AI Lab即服务到无服务器AI推理等多种服务,能够即时且成本有效地获取推动大规模AI创新所需的必要工具和计算能力。AI Lab即服务将通过提供功能强大的基于云的NVIDIA GPU工作站,推进全国各地学校、大学和初创企业的AI教育。其他服务包括AI工作区即服务、NVIDIA GPU即服务、Kubernetes集群和客户AI模型的无服务器计算,这些服务致力于帮助初创企业和企业快速且经济高效地构建和部署模型。
Shakti Cloud具有先进的编排层和自助服务门户,集成了NVIDIA AI企业软件平台以及各种开源软件和库。这为客户提供了完整的MLops环境,使他们能够使用多个模型训练框架、执行数据整理、标注和生成任务,并利用数百个预训练模型来创建自己的微调模型。凭借对NVIDIA GPU的访问权限,印度AI创新者现在拥有Shakti Cloud这个世界级的解决方案,可以在国内实现他们的AI目标。
"我们处于AI创新的前沿,"Yotta联合创始人、首席执行官兼总经理Sunil Gupta表示。"我们的NVIDIA加速AI解决方案不仅是为了支持开发,而是要以前所未有的规模增强它,让AI对企业、政府和学术机构都更容易获取。"他进一步补充说,"AI的未来是关于速度、灵活性和可扩展性。凭借Yotta基于NVIDIA技术构建的AI解决方案,我们消除了障碍,使组织能够突破AI可能性的界限。"Yotta联合创始人兼主席Darshan Hiranandani表示,"Shakti Cloud通过为企业提供即时且经济高效的关键工具和计算能力,推动印度的AI驱动未来,这些工具和计算能力是大规模AI创新所必需的。"
根据NVIDIA企业和云事业部副总裁Raj Mipuri的说法,"印度的AI工业革命需要强大的基础设施和可获取的工具来赋能跨行业的创新者。NVIDIA尖端技术与Yotta的Shakti Cloud平台的结合提供了一个全面的生态系统,该生态系统民主化了AI开发,使企业、研究人员和初创企业能够快速创建和部署先进的AI解决方案,推动整个国家的创新和经济增长。"这六项服务包括面向教育机构的AI Lab即服务、面向预配置GPU环境的AI工作区即服务、以无服务器和API端点配置形式提供的推理即服务,以及旨在满足不同企业和初创企业需求的GPU即服务功能。