6月2日晚，英伟达CEO黄仁勋在台北ComputeX2024大会上展示了英伟达在加速计算和生成式AI领域的最新产品，梳理了未来计算、应用包括AI机器人技术的发展与应用，从AI硬件、软件、生态、下游应用等全方位梳理英伟达在AI领域的产品与发展路径。

　　英伟达从加速运算、及GPU两方面改变科技产业发展。

　　加速运算，解决性能扩展大幅放缓与数据处理量飞速上升的矛盾。如果处理的需求，数据量继续呈指数级增长，但CPU性能不能持续快速扩展，那将经历计算膨胀。近二十年来，英伟达一直在研究加速计算，可以增强CPU，加速专门处理器可以做得更好的工作。黄仁勋预测，每个处理密集型应用程序都将被加速，每个数据中心肯定在不久的将来都会加速，现在加速计算非常有意义。

　　GPU是新的架构，适合用于并行运算场景。专用处理器可以将耗时很长的任务加速到极快的速度。因为CPU和GPU可以同时工作，它们都是自主的，独立的，可以将原本需要100个时间单位的任务加速到1个时间单位，速度的提升是难以置信的，效果非常显著，速度提升了100倍，但功耗只增加了大约三倍，成本只增加了约50%。

　　举例：专用处理器可以将需要处理很长时间的事情，加速到很快，并且成本相对较低。例如这里本身100T的事情，原本需要100个小时去处理，但是发明了CPU+GPU的架构，可以并行独立处理，现在只需要1个小时，但是它所需的电力成本只增加了3倍，而成本可能只增加了50%。

　　门槛：软件层面是GPU的最大门槛。从CPU切换到GPU，需要重写底层软件等，使其能够被加速并行计算。为了使加速计算能得到广泛应用，英伟达创新了一系列不同领域的库。虽然加速计算技术能够带来芯片显著的性能提升和成本节约，但也需要软件相匹配，以适应加速器并行运行，这不仅需要重新设计和编码，而且要求深入理解并行计算原理。为此，经过英伟20年里的研究，推出了一系列库。

　　加速计算的软件门槛：英伟达致力于让世界变得更容易，举例来看：

　　加速计算领域—cuDNN深度学习库：它专门针对神经网络加速进行了优化，使得深度学习模型的训练和推理过程能消耗更少的资源但以更高的速度完成。此外，英伟达还为人工智能物理模拟提供了专门的库，支持流体动力学等需要遵循物理定律的应用，进一步提高了模拟的效率和准确性；

　　5G无线电技术加速领域—Aerial库：它利用CUDA技术加速5G无线电技术，使得电信网络能够像软件定义互联网网络一样，通过软件定义和加速实现更高的性能。这不仅提升了整个电信行业的计算能力，也为云计算平台的发展提供了新的可能性；

　　芯片制造领域—Coolitho计算光刻平台：它通过加速计算技术，显著提高了掩模制作的效率，帮助台积电等公司节省了大量能源和成本。

　　这些特定领域的库是英伟达生态系统中的关键组成部分。如果没有这些库，全球的深度学习科学家可能无法充分利用CUDA的潜力，因为CUDA与TensorFlow、PyTorch等深度学习框架中使用的算法之间存在显著差异。这些库使得加速计算得以广泛应用，帮助英伟达在市场中保持开放和领先。