传统CPU厂商AMD,通过收购ATI获得图形处理器方面的更多技术，玩了一把CPU和GPU融合、博采众长的绝艺。而同为竞争对手的NVidia，也同样推出了基于自身技术的通用并行计算架构平台CUDA，以及基于该架构的GPGPU通用计算图形处理器。
CUDA是Compute Unified Device Architecture的简称，它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎。它有助于传统GPU获得更高的解决复杂计算问题的能力。也是类似AMD推出的CPU+GPU融合的通用并行计算解决方案。
基于CUDA的Tesla GPU
从CUDA体系结构的组成来说，包含了三个部分：开发库、运行期环境和驱动（如下图所示：两种API）。开发库是基于CUDA技术所提供的应用开发库。运行期环境提供了应用开发接口和运行期组件，包括基本数据类型的定义和各类计算、类型转换、内存管理、设备访问和执行调度等函数。驱动部分基本上可以理解为是CUDA-enable的GPU的设备抽象层，提供硬件设备的抽象访问接口。
软件层面CUDA架构图
硬件层面CUDA架构图
CUDA是用于GPU计算的开发环境，它是一个全新的软硬件架构，可以将GPU视为一个并行数据计算的设备，对所进行的计算进行分配和管理。在CUDA的架构中，这些计算不再像过去所谓的GPGPU架构那样必须将计算映射到图形API（OpenGL和Direct 3D）中。
CUDA提供两种API（Runtime API和Driver API）
众所周知，GPU在处理密集型数据和并行数据计算方面优势比较明显。因此，CUDA也比较适合大规模并行计算应用领域，比如光影处理、金融分析、医疗成像、油气勘探、地理信息、基因分析和科学计算等等。
CUDA架构特点
在高性能计算领域，基于NVIDIA图形处理器（GPU）上的并行计算体系架构，CUDA技术能够给服务器和工作站带来更强性能的同时，也能够与基于CPU的服务器集群进行异构，并降低应用软件开发门槛。
