# @atjsh/llmlingua-2 中文文档

规范地址：https://npmcn.com/package/%40atjsh/llmlingua-2/

版本：3\.0\.0
npm 元数据更新时间：2026-08-16T10:36:19.025Z
中文译文更新时间：2026-11-07T02:10:04.086Z
软件包许可：MIT

本文由上游 README 翻译，可能存在偏差，请结合原文核对 API、命令与配置。版权与许可归原作者所有。

原始 npm 页面：https://www.npmjs.com/package/%40atjsh/llmlingua-2
原文对照：https://npmcn.com/package/%40atjsh/llmlingua-2/?lang=original
项目主页：https://github.com/atjsh/llmlingua-2-js#readme
源码仓库：https://github.com/atjsh/llmlingua-2-js

## 关键信息（来自 npm 元数据）

- 包体积（解压后）：98.1 kB，23 个文件
- 模块格式：ES Module
- TypeScript 类型：包内自带
- 运行依赖：1 个
- peer 依赖：@huggingface/transformers ^4\.2\.0，js-tiktoken \*
- 首次发布：2025-05-16T20:28:54.890Z
- 最新版本发布：2026-08-16T10:36:18.611Z
- 近 30 天下载量：318873（2026-10-07 至 2026-11-05，npm 官方下载统计）
- 已发布版本数：30（近 12 个月 3 个）

## 中文简介

JavaScript/ TypeScript 执行 LLMLingua-2

## 安装

```sh
npm install @atjsh/llmlingua-2
```

也可以使用：`pnpm add @atjsh/llmlingua-2`、`yarn add @atjsh/llmlingua-2`、`bun add @atjsh/llmlingua-2`

## README

# JavaScript/ TypeScript 执行 LLMLingua-2 (实验)

[![NPM Version](https://img.shields.io/npm/v/%40atjsh%2Fllmlingua-2)](https://www.npmjs.com/package/@atjsh/llmlingua-2) [![License](https://img.shields.io/badge/license-MIT-blue.svg)](https://npmcn.com/package/%40atjsh/llmlingua-2/LICENSE)

**利姆林瓜-2号**,最初由 Python 开发并实施 [微软](https://github.com/microsoft/LLMLingua),是一种小而强大的即时压缩方法.

-   **高效**:用BERT大小的模型压缩上下文提示.
-   **准确**:实现高精度,然后采用其他方法,同时需要较少的计算资源.

**尔姆林瓜-2-js**,端口为 [时长](https://github.com/atjsh),是LLMLingua-2的纯JavaScript/TypeScript执行,设计在网页浏览器和Node.js环境中运行.

-   **业绩**:在浏览器中可以做到一切. 如果您的环境支持WebGPU,您可以使用. 默认情况下不需要服务器侧处理.
-   **正确性**: 原始逻辑会尽可能准确地被移植到 TypeScript.

# 尝试在线演示( 不要求安装)

[您可以在 GitHub Pages 上尝试](https://atjsh.github.io/llmlingua-2-js) 没有任何安装.

演示的源代码可见于 `examples` 目录。 您可以使用以下命令在本地运行 :

```sh
cd examples/react-vite-webgpu
yarn install
```

[更多学习:Demo源代码](https://npmcn.com/examples/react-vite-webgpu/README.md)

# 开始

执行工作取决于下列图书馆:

-   [**@ huggingface/ 翻译器**](https://github.com/huggingface/transformers.js)
-   [**js- tiktoken (英语)**](https://www.npmjs.com/package/js-tiktoken)

特别是 `@huggingface/transformers` 库利用各种计算优化实现高性能. 请咨询运行环境是否支持这些图书馆的最低要求.

## 安装

您可以通过下载库从 [无](https://www.npmjs.com/package/@atjsh/llmlingua-2) 并导入到您的 JavaScript/ TypeScript 工程.

首先,安装依赖性 :

```sh
npm install @huggingface/transformers js-tiktoken
```

然后,安装库:

```sh
npm install @atjsh/llmlingua-2
```

## 运行时后端选择

传递明确 `transformerJSConfig` 到工厂。 这些便携 配置在所支持的运行时间中有利于可预测的输出 :

```ts
const nodeTransformerJSConfig = {
  device: "cpu",
  dtype: "fp32",
} as const;

const browserTransformerJSConfig = {
  device: "wasm",
  dtype: "fp32",
} as const;
```

硬件加速是选入的,应在每个目标平台测试:

| 运行时间 | `device` | `dtype` |
| --- | --- | --- |
| 带有 DirectML 的 Windows 节点.js | `"dml"` | `"fp32"` |
| 带有 NVIDIA CUDA 的 Linux 节点.js | `"cuda"` | `"fp32"` |
| 兼容浏览器或 macOS 节点.js | `"webgpu"` | `"fp32"` |

库将配置传递给变形器.js而不检测 后端或用倒背重试. 用于 XLM- RoBERTa 型号, 并存储在其中 外部数据文件, 也可以通过 :

```ts
modelSpecificOptions: {
  use_external_data_format: { "model.onnx": 1 },
}
```

## 模式选择

你可以根据自己的需要在模型中选择.

| 型号 | 大小 | 专业 | 计数 | 公共模式 |
| --- | --- | --- | --- | --- |
| **小贝特** | [57.1甲基溴](https://huggingface.co/atjsh/llmlingua-2-js-tinybert-meetingbank/blob/main/onnx/model.onnx) | 非常小的,我们..,  
快点 | 准确度较低  
大于更大的模型 | [阿尔克萨斯州](https://huggingface.co/atjsh/llmlingua-2-js-tinybert-meetingbank) |
| **移动电话** | [99.2 甲基溴](https://huggingface.co/atjsh/llmlingua-2-js-mobilebert-meetingbank/blob/main/onnx/model.onnx) | 小点,  
优化用于移动 | 中度精确度,  
深度权衡 | [电话/电话/电话-移动电话-会议银行](https://huggingface.co/atjsh/llmlingua-2-js-mobilebert-meetingbank) |
| **贝特** | [710 甲基溴](https://huggingface.co/Arcoldd/llmlingua4j-bert-base-onnx/blob/main/model.onnx) | 快点,  
较小 | 准确度较低  
超过 XLM- Roberta | [阿尔科尔德/阿尔姆林瓜4j-bert-base-onnx](https://huggingface.co/Arcoldd/llmlingua4j-bert-base-onnx) |
| **XLM-罗贝尔塔** | [2240 甲基溴](https://huggingface.co/atjsh/llmlingua-2-js-xlm-roberta-large-meetingbank/blob/main/onnx/model.onnx_data) | 高准确度 | 慢点,  
体积稍大 | [atjsh/llmlingua-2-js-xlm-roberta-大型会议银行](https://huggingface.co/atjsh/llmlingua-2-js-xlm-roberta-large-meetingbank) |

[学习更多](https://llmlingua.com/llmlingua2.html#:~:text=our%20classification%20model.-,Performance,-We%20evaluate%20LLMLingua) 关于每个模型的性能(实际性能可能不同).

模型文件将默认自动下载.

## [API 参考](https://llmlingua-2-js-typedoc.vercel.app/modules/LLMLingua2.html)

关于如何使用图书馆的更详细情况,请参见: [API 参考文件](https://llmlingua-2-js-typedoc.vercel.app/modules/LLMLingua2.html)。 。 。 .

# 测试

> 目前没有单位测试.

下列目录中部分提供了E2E测试:

-   `src/e2e`
-   `examples/**`

# 许可证

见 [自由主义](https://npmcn.com/package/%40atjsh/llmlingua-2/LICENSE) 详细情况.

# 贷项

该软件包括下列许可证下的其他软件:

-   LLMLINGUA( 美国)[https://github.com/microsoft/LLMLingua (英语)](https://github.com/microsoft/LLMLingua)),版权 (c)微软公司. (原始逻辑与实施根据麻省理工学院许可证获得许可. 关于许可证,见: [https://github.com/microsoft/LLMLingua/blob/main/LICENSE](https://github.com/microsoft/LLMLingua/blob/main/LICENSE) (中文(简体) )

## 常见问题

### @atjsh/llmlingua-2 是什么？

JavaScript/ TypeScript 执行 LLMLingua-2

### 如何安装 @atjsh/llmlingua-2？

在项目目录运行 npm install @atjsh/llmlingua-2，或使用 pnpm add / yarn add / bun add。它还需要宿主项目提供 peer 依赖：@huggingface/transformers（^4\.2\.0）、js-tiktoken（\*）。npm 7 及以上与 pnpm 8 及以上默认会自动安装必需的 peer 依赖，Yarn 需要手动安装。

### @atjsh/llmlingua-2 支持 TypeScript 吗？

支持。包内自带 TypeScript 类型声明（package\.json 声明了 types 入口），安装后即可获得类型提示，无需再安装 @types 包。

### @atjsh/llmlingua-2 支持 ESM 还是 CommonJS？

以 ES Module 形式发布，推荐使用 import 引入。在 CommonJS 项目中，Node\.js 20\.19\+ / 22\.12\+ 可以直接 require\(\) 不含顶层 await 的 ES Module，更早的版本需要改用动态 import\(\)。

### @atjsh/llmlingua-2 可以商用吗？

@atjsh/llmlingua-2 使用 MIT 许可。宽松许可：允许商业使用、修改和再分发，通常只需在分发时保留原版权与许可声明。以上为概括，不构成法律意见，请以许可原文为准。

### @atjsh/llmlingua-2 的下载量有多少？

根据 npm 官方下载统计，@atjsh/llmlingua-2 在 2026/10/07 – 2026/11/05 这 30 天内被下载 318,873 次，日均约 10,629 次。下载量会把 CI 构建、镜像同步和作为其他包依赖的安装一并计入，适合横向比较热度，不能直接等同于使用人数。

### @atjsh/llmlingua-2 还在维护吗？

最新版本 3\.0\.0 发布于 2026/08/16（2 个月前）；至今共发布 30 个版本，其中过去 12 个月发布了 3 个；首次发布于 2025/05/17。发布频率只是参考信号：功能稳定的工具可能很少需要更新，建议结合源码仓库的 issue 和提交记录判断。