AI个人学习
和实操指南
豆包Marscode1

NVIDIA 发布 AI-Q 蓝图,连接 AI Agent 塑造未来工作模式

人工智能(AI) Agent 正逐渐成为企业运营中的新型数字化劳动力,它们能够自动化处理复杂任务,显著提升工作效率。然而,单个 Agent 的能力有限,真正的潜力在于它们的协同工作。当不同的 AI Agent 能够协作时,它们可以联手解决更复杂的问题,从而产生更大的业务影响。为了帮助企业更快地利用这种协作潜力,NVIDIA 近日发布了 AI-Q,一个全新的 NVIDIA 蓝图(Blueprint),旨在帮助开发能够利用推理能力解锁企业数据知识的智能体系统(Agentic Systems)。

NVIDIA 发布 AI-Q 蓝图,连接 AI Agent 塑造未来工作模式-1


目前,许多企业面临的挑战是 AI Agent 各自为战,形成“智能体孤岛”。这限制了它们处理跨领域、多步骤复杂任务的能力。AI-Q 蓝图的推出,正是为了打破这些壁垒,为构建能够协同工作的数字劳动力提供一个清晰的参考架构。

NVIDIA AI-Q 与 AgentIQ 工具包:构建更智能的协作 Agent 系统

AI-Q 并非单一软件,而是一个整合了 NVIDIA 加速计算、合作伙伴存储平台以及相关软件工具的参考实现。它明确了如何集成这些组件,特别是引入了新的 NVIDIA Llama Nemotron 推理模型,这些模型擅长进行复杂的分析和多步推理。通过 AI-Q,企业可以构建出能够处理高复杂度任务、具备高准确性和高速度的数字员工队伍。

NVIDIA 发布 AI-Q 蓝图,连接 AI Agent 塑造未来工作模式-2

该蓝图的核心优势在于整合了快速的多模态数据提取和世界级的检索能力,这得益于 NVIDIA NeMo Retriever、NVIDIA NIM 微服务和 AI Agent 本身的协同。例如,在一个 AI 研究助手的应用场景中,基于 AI-Q 构建的 Agent 在生成报告时,生成 token 的速度据称可提升 5 倍,处理 PB 级数据的速度提升 15 倍,同时保持较高的语义准确性。这显示了该架构在处理大规模信息和加速知识提炼方面的潜力。

支撑 AI-Q 蓝图的关键软件组件是新发布的 NVIDIA AgentIQ 工具包。AgentIQ 是一个开源软件库,已在 GitHub 上提供,其核心目标是实现不同 Agent、工具和数据之间的无缝、异构连接。它使开发者能够连接、分析(Profiling)和优化由企业数据驱动的 AI Agent 团队,构建出端到端的多 Agent 系统。开发者可以将其部分或整体集成到现有的多 Agent 系统中,集成过程设计为完全可选加入。

AgentIQ 工具包的另一个重要特性是增强了系统的透明度。它提供完整的系统可追溯性和性能分析功能,使组织能够监控 Agent 团队的表现,识别效率瓶颈,并细致地了解业务智能是如何生成的。这些分析数据可以结合 NVIDIA NIM 和 NVIDIA Dynamo 开源库,进一步优化智能体系统的性能。AgentIQ 的开源性质也意味着更广泛的开发者社区可以参与贡献,加速其发展和应用落地,降低企业采纳和定制的门槛。

赋能新型企业 AI Agent 劳动力

随着 AI Agent 逐渐承担起“数字员工”的角色,IT 团队需要支持它们的“入职”和“培训”。AI-Q 蓝图和 AgentIQ 工具包正是为此提供了支持,它们不仅促进了 Agent 之间的协作,还能跨不同的智能体框架优化性能。

采用这些工具的企业将能更容易地连接跨解决方案的 AI Agent 团队,例如连接 Salesforce 的 AgentforceAtlassian Rovo(集成在 Confluence 和 Jira 中)以及 ServiceNow AI 平台等。这种连接有助于打破信息孤岛,简化跨应用的工作流,并将某些任务的响应时间从数天缩短至数小时。

为了方便开发者,AgentIQ 还集成了多种流行的框架和工具,如 CrewAILangGraphLlama StackMicrosoft Azure AI Agent Service 和 Letta。这意味着开发者可以在他们熟悉的环境中工作。例如,Azure AI Agent Service 与 AgentIQ 的集成,使得使用 Semantic Kernel 构建和编排多 Agent 框架更加高效,而 Semantic Kernel 在 AgentIQ 中得到了完全支持。

应用场景已经开始显现。金融服务领域的领导者 Visa 正在使用 AI Agent 来加强网络安全,大规模自动化分析钓鱼邮件。利用 AI-Q 的性能分析特性,Visa 可以优化 Agent 的性能和成本,最大化 AI 在高效威胁响应中的作用。此外,AI-Q 与 NVIDIA Metropolis VSS(视频搜索与摘要)蓝图的集成,正在催生多模态 Agent,将视觉感知能力与语音、翻译和数据分析相结合,以提供更强的环境理解和交互能力。

开始使用 AI-Q 和 AgentIQ

AI-Q 蓝图中使用的关键 NVIDIA 技术包括 Llama Nemotron 系列推理模型(如 llama-3.3-nemotron-49b-instruct)、嵌入和重排模型(如 llama-3.2-nv-embedqa-1b-v2),以及 NeMo Retriever 相关的多模态解析模型。第三方软件如 Tavily(用于网络搜索)、LangChain(用于 Agent 构建)和 Milvus 向量数据库(可通过 NVIDIA cuVS 加速)也在架构中扮演重要角色。

开发者现在可以通过 GitHub 获取 AgentIQ 工具包的开源库 (http://github.com/NVIDIA/AgentIQ)。NVIDIA 还举办了相关的 Hackathon 活动,帮助开发者实践和提升构建智能体系统的技能。

构建基于 AI-Q 的智能体系统需要强大的 AI 数据平台支持。NVIDIA 的存储合作伙伴正在提供定制化的平台,这些平台能够持续处理数据,让 AI Agent 快速访问所需知识,以便对复杂查询进行推理和响应。

NVIDIA AI-Q 蓝图和 AgentIQ 工具包的发布,标志着企业 AI 应用从单一智能体向协作智能体网络的演进。虽然构建和管理复杂的 Agent 团队仍面临挑战,例如确保协同的可靠性、安全性和可控性,但这一方向无疑为企业自动化和智能化开辟了新的想象空间。

未经允许不得转载:首席AI分享圈 » NVIDIA 发布 AI-Q 蓝图,连接 AI Agent 塑造未来工作模式
zh_CN简体中文