与NVIDIA深度参与GTC，向量数据库大厂Zilliz与全球顶尖开发者共迎AI变革时刻

科技 TOM 2024-03-26 11:39

近日，备受关注的 NVIDIA GTC 已拉开序幕。来自世界各地的顶尖 AI 开发者齐聚美国加州圣何塞会议中心，共同探索行业未来，全球领先的向量数据库公司 Zilliz 也不例外。作为去年被 NVIDIA CEO 黄仁勋提及的向量数据库厂商，Zilliz 今年主要以主题演讲的形式参与其中。Zilliz 创始人兼 CEO 星爵、Zilliz 合伙人及研发 VP 栾小凡、Zilliz AI 和机器学习负责人 Frank Liu 均将在 GTC 不同的环节进行分享。不止如此，Zilliz 还先后两次与 NVIDIA 合作，尤其是即将发布的 Milvus 2.4，充分诠释了如何用 GPU 为向量数据库加速，更好地为 AI 时代的开发者服务。

黄仁勋今年 Keynote 的主题是“见证 AI 的变革时刻”，在演讲中再次介绍了向量数据库在 LLM、生物制药、自动驾驶和机器人等领域的广泛应用场景。而 Zilliz 作为向量数据库的领军者，也将在此次 AI 盛会中再次向世人展示向量数据库在去年一年的打磨中已经取得的成果，并做好准备来迎接 AI 的变革时刻。

Zilliz 深度参与 AI 盛会，享受与全球开发者的思想碰撞

在今年的 GTC 大会上，Zilliz 将通过线上主题演讲与现场分享结合的方式与全球的开发者进行深入交流。

3 月 18 日

分享人：Zilliz 合伙人及研发 VP 栾小凡

会议号：SE62800

分享主题：创业企业在生成式 AI 方向的实践与分享

在 3 月 18 日（北京时间）举行的 GTC 创业企业特别会议特辑中，有三场针对中国创业企业的特别演讲，栾小凡在其中一场主题为“创业企业在生成式 AI 方向的实践与分享“。栾小凡详细介绍了 GPU 加持的向量数据库 Milvus 如何赋能大规模 RAG 模型应用。

3 月 20 日

分享人：Zilliz 创始人兼 CEO 星爵

会议号：S62599

分享主题：Perform High-Efficiency Search, Improve Data Freshness, and Increase Recall With GPU-Accelerated Vector Search and RAG Workflows

（执行高效搜索，提高数据实时性，并通过 GPU 加速的向量搜索和 RAG 工作流程提高召回率）

在即将到来的 3 月 20 日（北京时间），Zilliz 创始人兼 CEO 星爵将在 GTC 大会上进行分享。本次分享主要帮助开发者了解 RAPIDS RAFT 库的集成，如何显著提升 Milvus 在构建索引和执行搜索查询方面的性能。届时将讨论集成的核心架构，并提供实际应用中的性能测试结果。

3 月 21 日

分享人：Zilliz AI 和机器学习负责人 Frank Liu

分享主题：A GPU-Accelerated Vector Database（一个使用 GPU 加速的向量数据库）

3 月 21 日（北京时间），Frank Liu 将在 GTC 进行线下分享。Frank 首先会分享为什么在 Milvus 中新增支持 GPU，然后通过 demo 展示使用 NVIDIA GPU 查询和索引的速度大幅提升。

与 NVIDIA 两度合作，为 AI 变革做足准备

2023 年以来，Zilliz 旗下的开源向量数据库 Milvus 先后两次与 NVIDIA 进行深度合作，以实际行动支持 AI 时代开发者对向量数据库的性能需求。

首先是 Milvus 2.3 正式支持 NVIDIA GPU。作为为数不多的支持 GPU 的向量数据库产品，Milvus 2.3 在吞吐量和低延迟方面都带来了显著的变化，尤其是与此前的 CPU 版本相比，不仅吞吐量提高了 10 倍，还能将延迟控制在极低的水准。

同时，Milvus 2.3 还带来了如 Query 架构升级、更强的负载均衡调度能力、新的消息队列、Arm 版本镜像、可观测性、运维工具升级 MMap 等能力。其中，与传统的内存索引相比，MMap 可以实现超过 10 倍的内存节省，对 RAG 应用尤其有益。

本周，Milvus 将升级至 2.4 版本，全面支持 NVIDIA 最新的 RAFT 算法库，包括暴搜 bruteforce、图索引 CAGRA 以及 IVF 以适用于不同应用场景。在 GPU 的加持下，不仅索引的构建时间大幅缩短，向量检索尤其是批量搜索场景下，QPS 有数十至上百倍的提升。

此外，Milvus 2.4 还基于场景引入了其他新功能，例如：支持多向量列和混合排序搜索，能更好的支持多模态场景；稀疏向量的支持可以帮助扩充向量搜索的范围，其在关键词理解和可解释性方面都颇具前景。而针对典型 RAG 场景，引入分类聚合的 Group By 支持，帮助 chunk 之上的文档级别召回；同时支持 Inverted Index 和模糊匹配，提升了关键词的检索能力。

升级基于 Milvus 的全托管向量数据库云服务产品 Zilliz Cloud，并持续建设 AI 生态

最新升级的 Zilliz Cloud 可以大幅提升向量搜索性能（性能较 Milvus 最高提升 10 倍以上），实现企业级数据安全和无缝数据集成。新版本发布后，用户无需自定义代码，便可快速顺畅地完成非结构化数据处理和索引。尤其是对于 Cardinal 搜索引擎的支持，使得用户对于处理大型数据集及快速响应的高要求有了保障，在提升体验的同时，也可以提升 AI 应用的竞争力。

而 Zilliz Cloud Pipelines 的上线，也可以有效提升开发者的工作效率，它可以将文档、文本片段和图像等非结构化数据转换成可搜索的向量并存储在 Collection 中，帮助开发者简化工程开发，助力其实现多种场景的 RAG 应用，将复杂生产系统的搭建和维护简化成 API 调用。

此外，2023 年以来，Zilliz Cloud 实现了 AWS、Azure、GCP、阿里云全球 4 大云 11 个节点的全覆盖，成为全球首个提供海内外多云服务的向量数据库企业。

步履不停，与 AI 企业一同探索更多变革时刻

Zilliz 从未停止过对 AI 生态的建设，也期待与其伙伴一起探索更多 AI 的变革时刻。

近期，Zilliz 面向 AI 初创企业推出了“Zilliz AI 初创计划”，预计提供总计 1000 万元的 Zilliz Cloud 抵扣金，帮助 AI 开发者构建高效的非结构化数据管理系统，助力打造高质量 AI 服务与运用，加速产业落地。