企业级大模型私有部署调研发布，AI Infra应用迎新篇章

2025年4月28日，一项针对企业级大模型私有化部署及智算云应用现状的权威调研结果正式发布，为行业提供了宝贵的数据支持和洞察。该调研由云计算标准与应用工业和信息化部重点实验室发起，全国信标委云计算和分布式平台分委会云建设与应用标准工作组具体执行，并得到了AI Infra代表厂商云轴科技ZStack等业内领先企业的支持与推动。调研结果的公布，标志着我国在企业级AI应用领域迈出了重要一步。

调研结果显示，自DeepSeek开源大模型引发市场热切关注以来，企业私有化部署意愿显著增强，从原来的33.25%跃升至88.75%。这一变化背后，数据隐私保护与成本降低成为驱动企业加速AI布局的两大核心因素。然而，在部署过程中，企业也面临着诸多挑战，其中算力资源调度与多种模型管理成为主要难题。

调研指出，企业在私有化部署大模型时，普遍面临技术能力不足、投入成本较高以及管理平台缺失三大核心问题。具体而言，企业需要解决算力管理、模型管理和运营管理三方面的落地问题。算力管理需实现异构硬件调度和资源利用率提升；模型管理则需覆盖企业对多种模型的部署、评测、迭代、协同等全生命周期管理；而运营管理则侧重于帮助企业低代码落地AI应用，并满足AI运营需求。

在此背景下，AI Infra平台作为聚焦企业级AI应用的私有化部署场景（Private AI）的关键工具，其重要性日益凸显。

据悉，AI Infra平台是指聚焦企业级AI应用的私有化部署场景（Private AI），是支撑人工智能应用开发、部署、运行和管理的一系列基础工具和软件平台。AI Infra平台具备三大能力，可分为算力管理层、模型管理层、应用管理层：其中，算力管理层主要提供计算、存储、网络、安全等基础资源和服务；模型管理层提供模型开发和应用所需的各种基础工具和组件，主要包括数据治理、模型部署、训练、推理、精调、集成管理等；应用管理层主要提供资源管理、运营管理、运维管理等运营能力。

在商业应用方面，AI Infra平台也有诸多实践。在媒体领域，东方明珠生成式人工智能媒体融合创新平台便是典型案例。东方明珠新媒体股份有限公司是上海广播电视台、上海文化广播影视集团有限公司（SMG）旗下统一的产业平台和资本平台。公司拥有国内全渠道视频集成与分发平台及独具特色的文化内容、文旅消 费等资源，形成以融合媒体、智慧广电 5G 为主的智慧广电业务， 以及以零售、文旅、文化地产为主的文化消费业务，致力于打造国内一流的数智文化传媒服务集团。AI Infra平台-AIOS智塔为东方明珠快速部署与高效运行AI应用而设计，提供轻量化、易上手的云上 AI 解决方案，专注于资源调度、多云环境 管理与智能服务的整合，涵盖智能算力服务、智能模型训练、推理加速，以及智能服务编排。东方明珠生成式人工智能媒体融合创新平台，进一步推动内容生产流程再造、机制创新和技术更新，有效完成降本增效，提升业务产出效能，引领企业向高质量发展迈进，同时也为媒体行业提供了宝贵经验和实践示范，有助于推动行业的人工智能应用的普及推广和数字经济高质量发展。

工作组在整理《调研结果》期间，同步组织召开了行业用户研讨会，针对大模型私有化部署的需求展开了探讨。天府绛溪实验室先进计算前沿研究中心副主任吴怀谷表示：天府绛溪实验室先进计算前沿研究中心是天府绛溪实验室人工智能方向的研究中心，主要研究领域为泛在智能计算体系，研究方向包括边缘算力、算力链、智能算力应用等。天府绛溪实验室先进计算前沿研究中心充分发挥自身优势，与AI Infra平台厂商合作打造新一代多模态泛在智能基础平台。该泛在智能基础平台包含算力层、协同层、模型层。其中，算力层重点聚焦边端算力领域的产品开发；协同层主要是指算力协同平台，包括数据中心与数据中心之间的算力协同、数据中心与边端算力之间的协同，以及边端不同智能算力之间的协同；模型层主要是构建多模态大模型、大小模型混合的智能体，以及面向具体业务场景的智能体应用。

此次调研结果的发布，不仅为企业提供了宝贵的决策依据，也为行业标准的制定和技术的进一步发展指明了方向。随着AI Infra平台的不断完善和推广，企业将能够更加高效、安全地实现大模型的私有化部署，推动AI技术在各行各业的广泛应用。而云轴科技ZStack等企业的积极贡献，无疑将加速这一进程。未来，随着技术的不断进步和市场的持续拓展，以及在各方共同努力下，企业级AI应用将迎来更加美好的明天。