程式介紹,產生背景,發展歷程,主要功能,
程式介紹
Tengine是一個專門針對嵌入式設備開發的神經網路推理引擎,隸屬於開放智慧型機器(上海)有限公司，功能是成為AIoT套用級作業系統。支持Arm CPU, GPU, AIPU以及第三方神經網路加速器異構計算。
Tengine於2017年12月31日在OAID(OPEN AID)社區開源。2018年11月9日Tengine作為Arm中國AI解決方案周易平台軟體前端在“2018年烏鎮世界網際網路大會”發布。
產生背景
為了解決邊緣AI套用開發難題，賦能AIoT產業，Arm聯合產業合作夥伴發起成立OPEN AI LAB。由OPEN AI LAB開發的Tengine（Tensor Engine），解決了邊緣側AI套用開發的難題。
發展歷程
OPEN AI LAB在2017年先後推出Caffe-HRT,TensorFlow-HRT,MXNet-HRT，將當時雲端主流的AI框架移植到Arm平台上，滿足了AI套用落地邊緣側的部分需求。然而在移植過程中發現這些框架並不能很好適用於邊緣側AI套用。
通過收集整理嵌入式開發者需求，重新定義嵌入式端AI框架的功能，包括只做推理，異構計算，兼容各訓練框架模型格式等，最終推出了轉為AIoT套用打造的AI推理框架Tengine。
主要功能
支持Arm CPU, GPU, AIPU以及第三方神經網路加速器異構計算（nnie,rk3399pro）
支持直接讀取Caffe/TF/TF-Lite/MXNet/ONNX模型
支持Linux/Android/RTOS/Baremetal執行環境
支持調用HCL高性能計算庫,與ACL,OpenBLAS等開源計算庫
支持FP32/FP16/INT8等多精度計算
開放支持第三方DSP,NPU,FPGA
模型二進制加密
