开发
API

原生神经网络方案简介

原生神经网络方案允许开发者直接调用客户端神经网络加速能力进行运算。在该方案出现以前,如果想在小程序中使用神经网络能力,需要使用 TensorFlowJs 加载并运行神经网络。这样不仅会带来很大的包增量(需要引入 TensorFlowJs 相关的源文件),性能上也受制于 JavaScript 的低效率,很难做到流畅运行。

原生神经网络方案不再将神经网络运行在 JavaScript 上,而是将神经网络直接部署在客户端的 ByteNN 后端上。因此,原生神经网络不再受制于 JavaScript 单线程运行,可以多线程同时运行;也可以将神经网络部署在 CPU、GPU、NPU、DSP 等不同后端上,获得最佳的运行效率。根据测试,在使用 MobileNet 进行推理时,对于相同的输入,原生神经网络仅需 TensorFlowJS 耗时的 30% 即可完成推理,效率有着极大的提升。

原生神经网络方案目前正在测试中,有兴趣合作的开发者可以使用飞书扫描下列二维码进行沟通:

点击纠错
评价此篇文档