DPU宝典——开启加速计算和AI时代的武林秘籍

智能化的浪潮正在加速到来，几乎每一家企业都在思考如何利用AI技术占得先机，尤其是在以各类GPT为代表的生成式AI百花齐放之际，千行百业的业务场景都在迎来数字化的跃迁。“这是人工智能的‘iPhone时刻’！”NVIDIA创始人兼首席执行官黄仁勋说。随着越来越多的业务应用迁移上云，数据规模和工作负载的复杂性与日俱增，企业希望大幅降低IT运维成本，这就使得数据中心基础设施需要发生改变，其网络基础设施要变得更加智能、高效和安全。此时，DPU应运而生。 

在黄仁勋看来，DPU将与CPU、GPU成为未来计算的三大支柱，数据中心将成为新的计算单元。通过把数据中心基础设施操作从CPU卸载到DPU上，可以将CPU和GPU的计算资源集中到应用程序和业务负载上，DPU则可以帮助客户构建一个软件定义、硬件加速的数据中心，实现以数据为中心的体系结构创新。为了帮助开发者快速上手，学习如何在DPU上灵活编程，NVIDIA发布了首部DPU和DOCA编程入门书籍，为使用NVIDIA BlueField系列DPU和NVIDIA DOCA开发环境的开发者提供了实用指南。

对于NVIDIA而言，CUDA可以说是其GPU大获成功的坚实基础，如今，这一成功范式有望在DOCA和DPU上重现。“在虚拟化、网络、存储和数据处理、交换、协同加速的场景越来越多，未来，DOCA和BlueField DPU将会无处不在。”NVIDIA全球副总裁，中国企业营销负责人刘念宁表示，“DPU的应用场景非常多元化，我们要做的就是让开发者更容易上手、让开发过程更简单。我们想让开发者知道，NVIDIA不止有CUDA，还有DOCA。”

NVIDIA DOCA是加速 NVIDIA BlueField DPU应用程序开发的软件框架，就如同NVIDIA CUDA之于NVIDIA GPU。DOCA提供了一系列的工具、服务、API和开发库，支持面向网络数据包处理的硬件卸载和加速、面向存储的开发套件及SNAP服务、面向安全加速的工具及开发库，以及面向虚拟化的设备模拟等。

作为NVIDIA第一部在DPU领域的书籍，这本书由十余位NVIDIA资深系统架构师历经数月编写完成，定位为NVIDIA BlueField系列DPU和NVIDIA DOCA开发环境的入门学习参考，内容涵盖DPU的简介、技术优势及未来技术发展路径，包括NVIDIA BlueField系列DPU在结构通用化、功能多样化、应用广泛化和场景丰富化方面的前景展望，NVIDIA DOCA软件开发环境配置，以及基于NVIDIA BlueField系列DPU利用NVIDIA DOCA软件开发环境的程序开发实践案例。

“DPU对数据中心系统运算的计算性能和整体效率是有帮助的。”NVIDIA中国区工程和解决方案高级总监赖俊杰谈到，独立去看GPU和CPU的利用率是不完整的，例如大模型的训练任务，一部分要做模型和数据的迭代，把训练数据注入模型，再调整模型参数，另一部分是由于模型较大、数据较多，分布式的计算要在不同地方同时进行，这些操作需要大量的数据传输，“这就是DPU主要发挥作用的地方，让数据传输更有效、更快速，让每一项任务在执行时不会有短板，尽可能提升GPU的利用率，让DPU物尽其用。”

通过这本书的学习，开发者和网络工程师可以拓展知识边界，数据中心的管理和运维人员可以使用DPU处理基础设施的通讯、流量、虚拟化和安全问题，研究人员可以提升大模型或AI的研发效率。从读者的角度来看，具备基础计算机和通信知识的群体均可使用，即使没有没有搭载DPU的服务器配置，也可以通过虚拟的X86环境进行模拟。从2021年起，NVIDIA就开始与伙伴合作采购相关的服务器和DPU构建小规模的集群，DOCA的注册开发者可以申请免费使用这些DPU集群，进行验证和开发，这也是中国开发者的专有福利。

时至今日，全球DOCA开发者近一半来自中国，在DPU中国黑客松竞赛等活动中源源不断地涌现着基于DPU的创意应用，参与者既有初创企业，也有成熟企业、云服务商，以及生态伙伴的工程师，在校师生等等，NVIDIA会为其提供丰富的开发文档、免费的DLI课程，以及相关博客、白皮书的翻译，还有开发环境实操。目前，NVIDIA DOCA应用代码开源活动正在火热进行中，吸引了数百名开发者参与其中。“在CUDA问世的时候，没有人能想像它未来会变成什么样，而到今天其已经完完全全颠覆了开发者的世界，尽管现在DOCA和DPU仍在发展阶段，但是我们希望会有天才开发者们赋予它们更多的能力，让DOCA和DPU可以进一步改变世界。”NVIDIA网络市场总监孟庆说。

本文属于原创文章，如若转载，请注明来源：DPU宝典——开启加速计算和AI时代的武林秘籍https://server.zol.com.cn/838/8381569.html