NVIDIA强调本月本地AI生态重大扩展，展示全新开源模型及开发者工具
整个八月，英伟达（NVIDIA）正在庆祝推动本地人工智能发展的开源生态系统，重点展示新兴模型、应用程序、工具、加速计算库和教育资源。这一特别版“本地AI”博客系列将每周更新这些进展的动态。用户可以关注X平台、Instagram、TikTok和Facebook上的NVIDIA RTX Spark账号，订阅NVIDIA本地AI通讯简报，并在LinkedIn和X平台上关注NVIDIA Workstation。
Perplexity推出了Portable Computer，这是一款专为NVIDIA DGX Spark设计的本地代理应用，可在不消耗令牌限额的情况下实现私密工作流。该应用面向生产力工作者，集成了Google Drive、Gmail、Slack和GitHub，并允许用户在处理复杂任务时切换至云端模型，而在日常使用中采用本地模型。该应用利用经过专门后训练的Qwen 3.8 27B模型，并提供针对NVIDIA硬件优化的一键式本地推理设置。支持GeForce RTX和RTX PRO显卡、Windows系统以及DGX Station的功能正在开发中，同时即将推出微调版的Nemotron 3.5 Lightning变体，以实现超快响应。
英伟达强调了在RTX GPU上对拥有270亿参数的开源模型Qwen3.8-27B的零日支持，包括RTX PRO和GeForce RTX 5090。该模型体积适配单张GPU，作为Qwen3.8-Max的本地伴侣，使开发者能够将敏感代码和项目上下文保留在本地。多令牌预测优化技术在单张GeForce RTX 5090上实现了每秒131个令牌的生成速度。该模型兼容llama.cpp、Ollama、Unsloth和LM Studio Bionic，并将获得针对DGX Spark和DGX Station的额外优化，包括即将推出的NVFP4支持。此外，该模型还支持在NVIDIA Jetson设备上进行边缘部署。
其他几个开源权重模型也宣布可用于本地部署。Cosmos 3 Edge是一个拥有40亿参数的开放世界模型，适用于机器人和视觉AI，可在DGX Spark和Jetson上运行。MiniMax-H3是一个拥有330亿参数的模型，能够从混合媒体输入生成视频和同步立体声音频，通过ComfyUI访问，并提供经GPU优化的检查点。Poolside AI推出了Laguna S 2.1，这是一个拥有1180亿参数的代理编码模型，能够处理长时间运行的任务，其NVFP4检查点允许在单台DGX Spark上运行。DeepSeek更新了DeepSeek-V4-Flash，这是一个拥有2840亿参数的MoE模型，包含130亿活跃参数和100万令牌的上下文窗口，可通过社区提供的GGUF版本在DGX Station上运行。Thinking Machines Lab发布了Inkling-Small，这是一个拥有2760亿参数的多模态模型，每个令牌激活120亿参数，基于GB300 NVL72训练，可部署在单台DGX Station或两台DGX Spark系统上，Hugging Face上已提供NVFP4 Blackwell检查点。
新的软件和工具继续简化本地AI工作流。最近发布的Unsloth Desktop是一款完全开源的应用程序，结合了本地推理、图像和视频扩散、微调、代理集成、网络研究和代码执行功能，成为首款能够在本地进行训练和运行AI模型的桌面应用。阿里巴巴发布了Wan-Animate-2，这是一个拥有140亿参数的模型，能够将驱动视频中的动作和面部表情转移到静态图像上，与Apple M3 Ultra相比，在NVIDIA RTX PRO 6000 Blackwell上生成速度提高了26倍，在NVIDIA RTX 5090上提高了22倍，并在ComfyUI中获得了零日支持。
LTX-2.5代表了最新的开放世界视频生成模型的最先进技术水平，提供了更高的质量、提示遵循能力和角色一致性。它支持多镜头连续剪辑序列，升级了扩散解码器以减少伪影，具备生成编辑功能，并由Gemma4 E2B和定制的Gemma4 12B文本编码器驱动的提示增强器提供支持。该模型针对NVIDIA RTX GPU、DGX Spark和DGX Station进行了优化，在使用NVFP4、FastVideo和现成的ComfyUI工作流的NVIDIA RTX 6000 PRO上，性能提升了20%，内存节省了40%。最后，Meta发布了Muse Glimmer，这是一个拥有300亿参数的密集开源权重模型，拥有超过12万个令牌的上下文窗口，专为编码和本地代理AI而设计。该模型针对GeForce RTX PC、DGX Spark、DGX Station和NVIDIA Jetson进行了优化，每秒可提供超过200个令牌。