跳到主要内容

Apache TVM 中文站

Apache TVM 是一个端到端的深度学习编译框架,适用于 CPU、GPU 和各种机器学习加速芯片。

查看文档

TVM 的全称为 Tensor Virtual Machine ,意为「张量虚拟机」。利用 TVM,工程师可以在任意硬件后端高效地优化和运行计算。本站由 MLC.AI 志愿者组织进行更新,由超神经 Hyper.AI 进行维护及托管。

  • About Apache TVM

    Apache TVM 是一个正在 Apache 软件基金会(ASF)孵化的开源项目。我们致力于维护一个由机器学习、编译器和系统架构方面的专家及从业者组成的多样化社区,建立一个可访问、可扩展及自动化的开源框架,为任意硬件平台优化当前和新兴的机器学习模型。TVM 提供以下主要功能:

    • 将深度学习模型编译成最小可部署的模块。
    • 在更多的后端自动生成和优化模型的基础设施,进一步提高性能。

主要功能及特点

最佳性能

通过编译和最小化运行时(Runtime),在现有硬件上优化机器学习工作负载,进而发挥最佳性能。

支持任意硬件

可在 CPU、GPU、浏览器、微控制器、FPGA 等硬件运行

同时可自动在多种后端生成和优化张量算子

灵活可用

TVM 的灵活设计支持对区块稀疏度、量化(1、2、4、8 位整数,posit)、随机森林/经典 ML、内存规划、MISRA-C 兼容性、Python 原型设计。

简单易用

在 Keras、MXNet、PyTorch、Tensorflow、CoreML、DarkNet 等的深度学习模型上编译。用 Python 借助 TVM 进行编译,次日即可用 C++、Rust 或 Java 建立生产堆栈。