计算机行业:大模型时代的异构计算平台

股票资讯 阅读:68 2025-01-24 19:14:21 评论:0

  算子对单位数据上进行的计算次数,定义为计算密度

  按计算密度根据roofline模型可以分为计算密集型和访存密集型

  GEMM通常为计算密集型算子,Elementwise通常是访存密集型算子

  期望的目标是所有算子都是计算密集型,可以充分利用算力

  计算密集型+访存密集型算子,访存密集型算子之间可以进行融合


百度网讯 孙鹏
声明

本站内容源自互联网,如有内容侵犯了您的权益,请联系删除相关内容。 本站不提供任何金融服务,站内链接均来自开放网络,本站力求但不保证数据的完全准确,由此引起的一切法律责任均与本站无关,请自行识别判断,谨慎投资。