@ai-ecoverse/gpu-ask.js (英语)
浏览器里有问题 支持有条理的问询工具的选择——在设备上,没有寄到任何地方.
~570k-参数符号标记器(gpu-time lineage)标记了问题和选项;一个决定性的编译器构建了一个您 UI 能够渲染的询问工具有效载荷. 排放量为ONNX;特性、通用报告格式并编译为类型脚本。 两个成员合唱团是关于 10 个 MB 还有npm包裹内的船.
现场演示 • 妇女 重量 • 妇女 npm install @ai-ecoverse/gpu-ask.js onnxruntime-web
import * as ort from "onnxruntime-web/wasm";
import { bundledModelUrl, loadAsk, parse } from "@ai-ecoverse/gpu-ask.js";
// Configure ORT wasmPaths for your bundler (see demo/ort-wasm.ts).
const ask = await loadAsk(bundledModelUrl(), { ort });
// or from Hugging Face:
// const ask = await loadAsk("https://huggingface.co/ai-ecoverse/gpu-ask.js/resolve/main/v13", { ort });
const { questions } = await parse(ask, agentMessage);
// questions[0].kind → "either_or" | "yes_no" | "multi_choice" | "open"
// questions[0].options → ["merge it now", "wait for CI"]
// questions[0].propose → true
装载机核查每个ONNX成员的SHA-256对阵 manifest.json。 。 。 .
司马
| 外地 | 类型 | 含义 |
|---|---|---|
kind | yes_no | either_or | multi_choice | open | UI应该怎么问 |
propose | boolean | 助理提议采取行动 |
prompt | string | 问题跨度文本 |
options | string[] | 标记选择 |
default | number | null | 建议选项索引 |
multiSelect | boolean | 允许多个选项 |
span | [start, end] | 清除文本中的字符范围 |
数字
在4,930个手贴公共代理转盘(v13 食谱,编译器类型)上集合出:
| 型号 | 参数 | 虚假 q | 仁爱 | 选项( o) |
|---|---|---|---|---|
| v13 组合(已发运) | 571k×2 (中文(简体) ) | 2.7% | 85.4%* | 67.5%* |
| Ettin -150米教师 | 150海里 | 2.4% | 87.8% (中文(简体) ) | 74.5% (中文(简体) ) |
* CV 受限类型重新排序。 浏览器路径使用编译器类型(Python-只重排在ONNX中).
如何运作
Sparse hashed 特性为双向异端扫描标记器提供种子 。 线性链式通用报告格式选择符号角色(O, (中文(简体) ), Q_*, (中文(简体) ), OPT_*, (中文(简体) ), REC) (中文(简体) ). 决定性编译可恢复缺失的或两边,分出内线列表,并作出善良的决定. 只有排放网络是ONNX(通过onnxruntime-web的WASM);其他一切都是TypeScript.
许可证
阿帕奇2.0. 部分内容 AI 生态诗。 。 。 .