ONNX 运行时网络
ONNX Runtime Web是用于在浏览器和Node.js上运行ONNX模型的Javascript库.
ONNX Runtime Web采用了WebAssembly和WebGL技术,为CPU和GPU提供优化的ONNX模型推论运行时间.
为什么ONNX模型
这个 开放神经网络交换 (ONNX)是代表机器学习模型的开放标准. ONNX的最大优势在于它允许不同开源AI框架之间的互操作性,这本身为AI框架的采用提供了更大的灵活性.
为什么 ONNX 运行时网络
有了ONNX Runtime Web,网络开发人员可以在浏览器上直接给模型打分,并带来各种好处,包括减少服务器与客户端的交流和保护用户隐私,以及提供安装免费和跨平台的浏览器ML体验.
ONNX Runtime Web可以在CPU和GPU同时运行. 在CPU方面, 网络大会 用于以接近本地速度执行该模型。 ONNX Runtime Web通过使用 Emscripten 来符合本地的 ONNX Runtim CPU 引擎进入WebAssembly后端,因此它支持大多数本地的 ONNX Runtime 报价,包括 完整的 ONNX 运营商覆盖,多线程, ONNX 运行时间定量 以及 ONNX 运行时移动. 对于与GPU的性能加速,ONNX Runtime Web杠杆,WebGL是访问GPU能力的通俗标准. 我们正在不断改进业务覆盖面,优化WebGL后端的表现.
见 兼容性 财务报告和审定财务报表 支持的运算符 用于当前支持的 ONNX 运行时Web 平台和操作员列表.
使用量
参见 ONNX 运行时 JavaScript 示例 样本和辅导.
文档
开发
发展信息请参看下列链接:
兼容性
| 操作/浏览器 | 颜色 | 边缘 | 萨法里 | 电子 | 节点.js |
|---|---|---|---|---|---|
| 视窗 10 | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | - 说吧 | (原始内容存档于2018-03-21) (英语). ham, webgl | 原声 |
| 马科斯 | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | 原声 |
| 乌邦图 LTS 18.04 | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | - 说吧 | (原始内容存档于2018-03-21) (英语). ham, webgl | 原声 |
| iOS系统 | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | - 说吧 | - 说吧 |
| 机器人 | (原始内容存档于2018-03-21) (英语). ham, webgl | (原始内容存档于2018-03-21) (英语). ham, webgl | - 说吧 | - 说吧 | - 说吧 |
运算符
WebAssembly 后端
ONNX 运行时 Web 目前支持所有操作员 ai.onx (英语) 财务报告和审定财务报表 ai.onnx.ml (英语)。 。 。 .
WebGL 后端
ONNX 运行时Web 目前支持在 ai.onx (英语) 操作员设置 。 见 网络gl-操作器.md 对于完整,详细的列表,其中ONNX操作员由WebGL后端支持.
WebGPU 后端
WebGPU后端仍然是一个实验性功能. 见 网络操作者. md 对于其中的ONNX运算符由WebGPU后端支持的详细列表.
许可证
许可证信息可以找到 这里。 。 。 .