中国：公有云和互联网创新实践

　　CPU也能玩转AI-为AI提速，给安全加码

　　解决方案

　　阿里云引入第五代至强®可扩展处理器，实现ECSg8i算力再升级，为大模型AI推理加速添新解，更易得、更易用、可扩展性强，满足从小模型到超大模型的各类需求。

　　使用处理器内置的AI加速引擎--英特尔®AMX和英特尔®AVX-512，提升并行计算和浮点运算能力；

　　受益于第五代至强®可扩展处理器显著提升的内存带宽和三级缓存共享容量，化解AI大模型吞吐性能挑战；

　　利用第五代至强®可扩展处理器内置的英特尔®SGX和英特尔®TDX安全引擎，实现端到端的数据全流程保护。

　　让更加可及、经济的AI算力资源，在千行百业扬“千帆”

　　解决方案

　　千帆大模型平台利用百度智能云平台中丰富的英特尔®至强®可扩展处理器资源，加速LLM模型推理，满足LLM模型实际部署需求。

　　基于至强®可扩展处理器不断提升的算力和内存带宽，有效支持LLM实现端到端加速；

　　采用第四代/第五代至强®可扩展处理器内置的AI加速引擎–英特尔®AMX,最大限度地利用计算资源，显著增加AI应用程序的每时钟指令数(IPC)；

　　利用大模型推理软件解决方案xFasterTransformer(xFT),进一步加速LLM推理。

点击复制链接查看完整PDF研报

英特尔