易特艾弗网络科技

快讯

国泰君安:重视企业本地部署大模型的投资机会 看好本地国产推理算力需求爆发

时间:2025-02-12 14:45 浏览:

  国泰君安发布研报称,本地部署可能是最适合大型企业和特殊行业企业的AI调用方式。随着未来应用场景的增加,模型调用次数也将显著增加,将有效拉动企业本地推理算力需求,看好本地国产推理算力的爆发,以及如向量数据库等新型基础软件的扩圈,看好企业IT基础设施AI化升级的机会。

  国泰君安主要观点如下:

  本地部署大模型符合国情和监管要求

  本次DeepSeek-R1最大的亮点在于开源,大幅降低企业本地部署一流大模型的成本。企业本地部署DeepSeek,符合国内企业的IT开支习惯,以及数据敏感行业如金融、能源、政务、医疗等对于安全和隐私的要求。本地部署或将成为大型企业、特殊行业公司的首选AI调用方式。

  本地算力需求被低估,看好国产推理算力需求在企业端爆发

  近期许多个人用户通过下载蒸馏后的1.5B-70B参数量的模型实现了模型在PC上的本地部署,造成了“DeepSeek推理对算力需求不大”的假象。企业级部署往往要满足多用户并发场景,对于推理算力的需求将显著大于个人部署场景。随着未来应用场景的增加,模型调用次数也将显著增加,将有效拉动企业本地推理算力需求。未来市场的关注点或将从互联网大厂AI资本开支转向各个企业的AI资本开支,叠加信创的大背景下,看好国产推理算力需求在企业端的爆发。

  向量数据库成为不可或缺的工具

  企业本地部署大模型后,可将私有数据整合成知识库,用RAG来提升模型的垂直领域专业能力,其中向量数据库则是实现该过程中向量检索必不可少的基础设施。预计未来向量数据库不再是大模型厂商专属的工具,而是会泛化到各个部署本地模型的企业中,看好企业IT基础设施AI化升级的机会。