# @feltdb/webllm 中文文档

规范地址：https://npmcn.com/package/%40feltdb/webllm/

版本：0\.21\.0
npm 元数据更新时间：2026-11-03T20:38:52.743Z
中文译文更新时间：2026-11-14T14:09:14.454Z
软件包许可：MIT

本文由上游 README 翻译，可能存在偏差，请结合原文核对 API、命令与配置。版权与许可归原作者所有。

原始 npm 页面：https://www.npmjs.com/package/%40feltdb/webllm
原文对照：https://npmcn.com/package/%40feltdb/webllm/?lang=original
项目主页：https://github.com/rkendel1/feltdb#readme
源码仓库：https://github.com/rkendel1/feltdb

## 关键信息（来自 npm 元数据）

- 包体积（解压后）：27.6 kB，8 个文件
- 模块格式：ES Module
- TypeScript 类型：包内自带
- 运行依赖：2 个
- 首次发布：2026-08-18T14:57:11.167Z
- 最新版本发布：2026-11-03T20:38:52.582Z
- 近 30 天下载量：3185（2026-10-15 至 2026-11-13，npm 官方下载统计）
- 已发布版本数：83（近 12 个月 83 个）

## 中文简介

FeltDB 应用程序的私人内浏览器 LLM 推论

## 安装

```sh
npm install @feltdb/webllm
```

也可以使用：`pnpm add @feltdb/webllm`、`yarn add @feltdb/webllm`、`bun add @feltdb/webllm`

## README

# @feltdb/webllm (英语)

> 工作室提出并预览. CLI适用于寄存器. FeltDB 验证并存储该提议为应用程序状态. 人类认可。 没有别的东西写源.

此套件执行本地推论并返回 hash 绑定的建议 。 它已经 没有仓库文件系统权限 .

过 `model` 以选择另一个与 WebLLM 兼容的本地模式。 主办方和其他 OpenAI 兼容模型配置为 `feltdb ai model set`; " 国家行动倡议 " 在浏览器中保留他们的证书。 所有供应商共同拥有核心 FlowSpec 向导,合同定地,验证,以及受限的修补通行证.

在浏览器中完全运行一个小语言模型, 并将其用作 FeltDB AI 供养. 提示和推断停留在用户的设备上;没有前沿模型 需要账户或主机推断 API.

## 安装

```bash
npm install @feltdb/webllm
```

该软件包需要带有WebGPU的浏览器. 首先,WebLLM下载 所选型号的文物并缓存到浏览器中.

## 本地生成

```ts
import { WebLLMProvider } from '@feltdb/webllm';

const llm = new WebLLMProvider({
  onProgress: ({ progress, text }) => {
    console.log(`${Math.round(progress * 100)}%`, text);
  },
});

const answer = await llm.generate([
  { role: 'system', content: 'Return concise JSON.' },
  { role: 'user', content: 'Design a FeltDB task tracker.' },
], {
  responseFormat: { type: 'json_object' },
});
```

## 输入语义决定

`WebLLMDecisionRuntime` 是一个只用于授权上下文的浏览器评估器。 这个 支持二进制、选择、分数和孤立 `DecisionBatch` 请求使用 温度 `1` 直接标签日志; 它没有数据库或持久性 权力.

```ts
const runtime = new WebLLMDecisionRuntime({ modelRevision: 'pinned-model-sha' });
const result = await runtime.decide({
  kind: 'choice',
  question: 'Which tier?',
  options: ['free', 'pro'],
  context: authorizedContext,
});
```

初始化很懒:第一次呼叫时的模型负载 `generate()` 或者说 `stream()`调用 `initialize()` 提前显示加载进度 .

## 选择一个模型

默认是 `SmolLM2-360M-Instruct-q4f32_1-MLC`一个刻意的小型模型 大约需要580 MB的 VRAM。 模型选择可配置 :

```ts
import { RECOMMENDED_MODELS, WebLLMProvider } from '@feltdb/webllm';

const llm = new WebLLMProvider({
  model: RECOMMENDED_MODELS.balanced,
});
```

-   `smallest`: 默认360M模式
-   `balanced`: SmolLM2 1.7B,用于在有能力的装置上进行更强大的生产
-   `lowMemoryWithShaderF16`: 用于辅助设备的更小的360M量化 网络GPU `shader-f16` 特性

从WebLLM预建的目录中传出任何模型ID,或呼叫 `getAvailableModels()` 检查已安装的目录.

## FeltDB 应用程序生成

### 了解合同的流程建议书

`generateFlow()` 在无秘密的决定性合同中为提案提供依据 由Core,CLI,和Studio共享快照. 它保留了通用的 `generate()` 财务报告和审定财务报表 `stream()` 行为和从不写文件或发布文件 应用.

```ts
const llm = new WebLLMProvider({ contract: snapshot });
const proposal = await llm.generateFlow(
  'Add invitations for organization owners.',
  { currentFlow },
);
```

提案载有基本合同和散列。 CLI拒绝停滞 提议、解析和简洁地验证提议的DSL、亮点 授权更改,在同步前需要人类批准 `feltdb.flow` 和生成的集成源。 该快照包含 计划和应用程序定义,而不是应用程序记录、证书、, 连接,或环境配置.

WebGPU仅需要本地推论. 减少 可选 WebLLM 依赖性保留完整的非AI FeltDB 体验.

`WebLLMProvider` 执行 FeltDB 的信息生成提供者合同 :

```ts
import { ApplicationFactory } from '@feltdb/ai';
import { WebLLMProvider } from '@feltdb/webllm';

const factory = new ApplicationFactory({
  provider: new WebLLMProvider(),
});

const application = await factory.generateApplication(
  'A collaborative, offline-first field inspection app',
);
```

`@feltdb/ai` 目前是一个实验性仓库工作空间。 这个包 可通过其 `generate()` 财务报告和审定财务报表 `stream()` APIs (英语).

## 工人和生命周期

推断在捆绑的 Web Worker 默认情况下运行, 所以执行不阻断 联合调查组. 设定 `useWorker: false` 主线执行,或通过 应用程序拥有 `worker` 用于自定义托管或CSP行为.

打电话 `interrupt()` 停止生产 `shutdown()` 卸下模型和 终止包工.

## 隐私和部署

模型在当地执行. 主机和分析代码仍然可以传输数据, 和模型文件在被缓存之前必须获取, 所以审查您的应用程序 网络和内容安全政策。 此软件包没有发送提示到 FeltDB或推论提供者.

麻省理工学院有执照.

## 常见问题

### @feltdb/webllm 是什么？

FeltDB 应用程序的私人内浏览器 LLM 推论

### 如何安装 @feltdb/webllm？

在项目目录运行 npm install @feltdb/webllm，或使用 pnpm add / yarn add / bun add。

### @feltdb/webllm 支持 TypeScript 吗？

支持。包内自带 TypeScript 类型声明（package\.json 声明了 types 入口），安装后即可获得类型提示，无需再安装 @types 包。

### @feltdb/webllm 支持 ESM 还是 CommonJS？

以 ES Module 形式发布，推荐使用 import 引入。在 CommonJS 项目中，Node\.js 20\.19\+ / 22\.12\+ 可以直接 require\(\) 不含顶层 await 的 ES Module，更早的版本需要改用动态 import\(\)。

### @feltdb/webllm 可以商用吗？

@feltdb/webllm 使用 MIT 许可。宽松许可：允许商业使用、修改和再分发，通常只需在分发时保留原版权与许可声明。以上为概括，不构成法律意见，请以许可原文为准。

### @feltdb/webllm 的下载量有多少？

根据 npm 官方下载统计，@feltdb/webllm 在 2026/10/15 – 2026/11/13 这 30 天内被下载 3,185 次，日均约 106 次。下载量会把 CI 构建、镜像同步和作为其他包依赖的安装一并计入，适合横向比较热度，不能直接等同于使用人数。

### @feltdb/webllm 还在维护吗？

最新版本 0\.21\.0 发布于 2026/11/04（10 天前）；至今共发布 83 个版本，其中过去 12 个月发布了 83 个；首次发布于 2026/08/18。发布频率只是参考信号：功能稳定的工具可能很少需要更新，建议结合源码仓库的 issue 和提交记录判断。