# @bendyline/gezel-inference 中文文档

规范地址：https://npmcn.com/package/%40bendyline/gezel-inference/

版本：1\.0\.8
npm 元数据更新时间：2026-11-05T04:04:05.079Z
中文译文更新时间：2026-11-08T06:02:10.340Z
软件包许可：MIT

本文由上游 README 翻译，可能存在偏差，请结合原文核对 API、命令与配置。版权与许可归原作者所有。

原始 npm 页面：https://www.npmjs.com/package/%40bendyline/gezel-inference
原文对照：https://npmcn.com/package/%40bendyline/gezel-inference/?lang=original
项目主页：https://github.com/bendyline/gezel
源码仓库：https://github.com/bendyline/gezel

## 关键信息（来自 npm 元数据）

- 包体积（解压后）：22.1 MB，1287 个文件
- 模块格式：ESM + CJS
- TypeScript 类型：包内自带
- Node.js 要求：\>=24\.0\.0
- 运行依赖：10 个
- peer 依赖：@huggingface/transformers ^4\.3\.1
- 首次发布：2026-10-14T00:14:17.498Z
- 最新版本发布：2026-11-05T04:04:04.729Z
- 近 30 天下载量：1885（2026-10-08 至 2026-11-06，npm 官方下载统计）
- 已发布版本数：11（近 12 个月 11 个）

## 中文简介

Gezel的上-device推断运行时间:本土引擎,本地模型管理,嵌入,知识搜索,以及OpenAI相容的路径.

## 安装

```sh
npm install @bendyline/gezel-inference
```

也可以使用：`pnpm add @bendyline/gezel-inference`、`yarn add @bendyline/gezel-inference`、`bun add @bendyline/gezel-inference`

## README

# @bendyline/gezel-推论

由 Device 共享的推断运行时间 [格泽尔](https://github.com/bendyline/gezel) 和嵌入它的应用程序。 它自己运行本地的AI模型 计算机,并通过OpenAI兼容的路由回答:

-   **本地发动机** - 开始、缩小和停止lama.cpp、MLX和 其他的安装引擎, 与录入控制 所以模型适合内存.
-   **模式管理** - 列出、下载、核实和准备当地 聊天模式.
-   **嵌入和知识** —— 安装文本嵌入器 (单位:千美元)`model: "gezel:embeddings"`搜索已安装的知识目录, 每个人的工人.
-   **OpenAI 兼容路线** —— 说 `/v1/chat`, (中文(简体) ), `/v1/responses`, (中文(简体) ), `/v1/embeddings`, (中文(简体) ), `/v1/models`, (中文(简体) ), `/v1/models/ensure`, (中文(简体) ), `/v1/knowledge`,以及 引擎路线.

它没有产品状态: 没有胶囊,项目,聊天,工具,云供应商, 或UI. (英语). 这些是Gezel的全套服务, `@bendyline/gezel-service`, (中文(简体) ), 它使用同样的运行时间.

## 安装

```bash
npm install @bendyline/gezel-app-sdk @bendyline/gezel-inference
```

节点24或更新. 文本嵌入和可选相关性模型 还需要 `@huggingface/transformers` 端点 :

```bash
npm install @huggingface/transformers@^4.3.1
```

## 通过应用程序 SDK 使用

大多数应用程序不应直接导入此软件包 。 放在旁边 [`@bendyline/gezel-app-sdk`](https://www.npmjs.com/package/@bendyline/gezel-app-sdk) 并且向SDK询问一个只推论的主机. SDK装入内部运行时间 您的流程, 因此没有第二个进程来监管, 没有单独的节点 可执行文件发运, 没有回回网络连接 :

```ts
import { connectOrHost } from '@bendyline/gezel-app-sdk/host';

const gezel = await connectOrHost({
  appId: 'acme.editor',
  appName: 'Acme Editor',
  scopes: ['openai'],
  host: { mode: 'in-process', inferenceOnly: true },
});

const { chatModel } = await gezel.ensureModel({ model: 'qwen3.5-0.8b-q4' });

const reply = await gezel.openai.chat({
  model: chatModel, // 'mlx:qwen3.5-0.8b-q4' on Apple Silicon, 'llama-cpp:…' elsewhere
  messages: [{ role: 'user', content: 'Suggest a title for these notes: …' }],
});
console.log(reply.choices[0].message.content);

await gezel.close();
```

运行时间从不自行下载模型 : 重量只有在 您的应用程序要求它们, 例如: `ensureModel`见 [应用程序 SDK 读取器](https://www.npmjs.com/package/@bendyline/gezel-app-sdk) 页:1 同意,托管选项, 运输引擎和模型与您的应用程序,以及 知识目录.

## 入境点

| 导入 | 它提供的东西 |
| --- | --- |
| `@bendyline/gezel-inference` | `startService()`,进程内托管应用程序 SDK 调用,以及 `verifyNativeBinaries()` |
| `@bendyline/gezel-inference/native-release` | 被钉住的原生引擎发布及其存档文摘,作为数据. 导入它开始什么也没有 |
| `@bendyline/gezel-inference/packaging` | 搭建时间辅助器,为Electron App推出被钉住的本地引擎 |
| `@bendyline/gezel-inference/speech` | Kokoro 文本对语音的前端及其发音- 词典检索 |

软件包还包括生成的聊天模型和知识目录元数据 从被钉起 [`@bendyline/gilde`](https://www.npmjs.com/package/@bendyline/gilde) 目录. 读音词典的执照在 `dist/kokoro-lexicon/LICENSE`。 。 。 .

## 稳定

以上入站点为出站点下的公共API. `@bendyline/gezel-inference/internal/*` 不是,这是Gezel服务的方式 到达运行时间,总是安装在完全相同的版本,它可以 任何发行的更改。 不要导入它.

## 文档

-   [仓库和完整文件](https://github.com/bendyline/gezel)
-   [嵌入指南](https://github.com/bendyline/gezel/blob/main/docs/embedding-sdk.md)

麻省理工学院

## 常见问题

### @bendyline/gezel-inference 是什么？

Gezel的上-device推断运行时间:本土引擎,本地模型管理,嵌入,知识搜索,以及OpenAI相容的路径\.

### 如何安装 @bendyline/gezel-inference？

在项目目录运行 npm install @bendyline/gezel-inference，或使用 pnpm add / yarn add / bun add。

### @bendyline/gezel-inference 支持 TypeScript 吗？

支持。包内自带 TypeScript 类型声明（package\.json 声明了 types 入口），安装后即可获得类型提示，无需再安装 @types 包。

### @bendyline/gezel-inference 支持 ESM 还是 CommonJS？

同时提供 ES Module 与 CommonJS 入口，import 和 require\(\) 都可以使用，打包工具会自动选择合适的版本。

### @bendyline/gezel-inference 需要什么版本的 Node\.js？

package\.json 的 engines 字段要求 Node\.js \>=24\.0\.0。版本不符时 npm 默认只给出警告，开启 engine-strict 后会拒绝安装。

### @bendyline/gezel-inference 可以商用吗？

@bendyline/gezel-inference 使用 MIT 许可。宽松许可：允许商业使用、修改和再分发，通常只需在分发时保留原版权与许可声明。以上为概括，不构成法律意见，请以许可原文为准。

### @bendyline/gezel-inference 的下载量有多少？

根据 npm 官方下载统计，@bendyline/gezel-inference 在 2026/10/08 – 2026/11/06 这 30 天内被下载 1,885 次，日均约 63 次。下载量会把 CI 构建、镜像同步和作为其他包依赖的安装一并计入，适合横向比较热度，不能直接等同于使用人数。

### @bendyline/gezel-inference 还在维护吗？

最新版本 1\.0\.8 发布于 2026/11/05（3 天前）；至今共发布 11 个版本，其中过去 12 个月发布了 11 个；首次发布于 2026/10/14。发布频率只是参考信号：功能稳定的工具可能很少需要更新，建议结合源码仓库的 issue 和提交记录判断。