• 题目:Intel nGraph An Intermediate Representation, Compiler, and Executor for Deep Learning
  • 时间:2018
  • 会议:The Conference on Systems and Machine Learning (SysML)
  • 研究机构:英特尔

1 abstract & introduction

有很多的神经网络架构,有很多的硬件平台p,复杂度是O(fp),需要用与架构无关的中间表示层IR来降低复杂度
在这里插入图片描述
这是英特尔搞的中间层,现在支持的是英特尔CPU,英特尔Nervana Neural Network Processor(NNP),英伟达的GPU,

2 related work

这里列举了一些已有的编译器和IR

  • XLA:谷歌的,面向TensorFlow
  • TVM:陈天奇带头的,中间层是NNVM
  • DLVM:伊利诺伊大学香槟分校,
  • ONNX:英特尔的,要跟nGraph互通

3 intermediate representation & framework bridges

无环有向图、每个结点处理张量、nGraph在tensor element layout和axis之间没有固定的关系

  • Apache MXNet:模型的操作存储成NNVM图,只要把NNVM转换成nGraph
  • TensorFlow:用HLO中间表示,把他转换成nGraph即可
  • neon:将nGraph API绑定到Python
Logo

CSDN联合极客时间,共同打造面向开发者的精品内容学习社区,助力成长!

更多推荐