@antseed/provider-local-llm

中文文档
0.1.59发布于 2026/11/08TypeScriptES Module近 30 天下载 1885

Antseed 本地 LLM 提供者插件

中文使用文档
文档目录4 节
  1. 安装
  2. 使用量
  3. 配置
  4. 如何运作

@antseed/professor-local-llm (英语)

在Antseed P2P网络上提供本地LLM能力. 与Ollama,lama.cpp,以及任何OpenAI兼容的本地服务器合作.

安装

CLI 在添加使用该插件的提供者时安装插件 :

antseed config seller add-provider local-llm --plugin local-llm

使用量

# Configure once
antseed config seller add-service local-llm llama3.2:3b \
  --input 0 --output 0 \
  --categories chat,fast,free
antseed seller settings set --max-buyers 1

# With Ollama (default)
antseed seller start

# With a custom endpoint
export LOCAL_LLM_BASE_URL=http://localhost:8080
antseed seller start

配置

密钥类型需求默认说明
LOCAL_LLM_BASE_URL字符串没有http://localhost:11434本地 LLM 服务器 URL
LOCAL_LLM_API_KEY隐藏没有- 说吧本地服务器的可选 API 密钥
ANTSEED_INPUT_USD_PER_MILLION编号没有0 个投入代号价格(每100美元)
ANTSEED_OUTPUT_USD_PER_MILLION编号没有0 个产出代号价格(每100万美元美元)
ANTSEED_SERVICE_PRICING_JSON字符串没有- 说吧作为JSON的人均服务定价
ANTSEED_MAX_CONCURRENCY编号没有1个最大并行请求
ANTSEED_ALLOWED_SERVICES字符串 []没有- 说吧以逗号分隔的服务允许列表

如何运作

将请求转发到本地的 LLM 服务器 。 自您运行自己的硬件后, 定价默认为 0 (免费) 。 CLI 设置插件的通数 seller.maxConcurrentBuyers,默认为50个,因此降低 antseed seller settings set --max-buyers 1 (或您硬件可以处理的另一个数字)以避免超载本地推论. 插件本身的默认值 1 只适用于在 CLI 外加载时.

版本与发布记录

@antseed/provider-local-llm 共发布 60 个版本,首次发布于 2026/02/24;过去 12 个月发布了 60 个版本。

版本发布日期距今
0.1.59latest2026/11/08今天
0.1.582026/11/07今天
0.1.572026/11/044 天前
0.1.562026/11/044 天前
0.1.552026/10/2613 天前
0.1.542026/10/1821 天前

关于 @antseed/provider-local-llm 的常见问题

@antseed/provider-local-llm 是什么?

Antseed 本地 LLM 提供者插件

如何安装 @antseed/provider-local-llm?

在项目目录运行 npm install @antseed/provider-local-llm,或使用 pnpm add / yarn add / bun add。它还需要宿主项目提供 peer 依赖:@antseed/node(>=0.1.0)。npm 7 及以上与 pnpm 8 及以上默认会自动安装必需的 peer 依赖,Yarn 需要手动安装。

@antseed/provider-local-llm 支持 TypeScript 吗?

支持。包内自带 TypeScript 类型声明(package.json 声明了 types 入口),安装后即可获得类型提示,无需再安装 @types 包。

@antseed/provider-local-llm 支持 ESM 还是 CommonJS?

以 ES Module 形式发布,推荐使用 import 引入。在 CommonJS 项目中,Node.js 20.19+ / 22.12+ 可以直接 require() 不含顶层 await 的 ES Module,更早的版本需要改用动态 import()。

@antseed/provider-local-llm 可以商用吗?

@antseed/provider-local-llm 使用 未声明 许可。package.json 没有声明许可证。没有许可证的代码默认保留全部权利,商用前请联系作者或查看仓库中的 LICENSE 文件。以上为概括,不构成法律意见,请以许可原文为准。

@antseed/provider-local-llm 的下载量有多少?

根据 npm 官方下载统计,@antseed/provider-local-llm 在 2026/10/06 – 2026/11/04 这 30 天内被下载 1,885 次,日均约 63 次。下载量会把 CI 构建、镜像同步和作为其他包依赖的安装一并计入,适合横向比较热度,不能直接等同于使用人数。

@antseed/provider-local-llm 还在维护吗?

最新版本 0.1.59 发布于 2026/11/08(今天);至今共发布 60 个版本,其中过去 12 个月发布了 60 个;首次发布于 2026/02/24。发布频率只是参考信号:功能稳定的工具可能很少需要更新,建议结合源码仓库的 issue 和提交记录判断。