@aryacode/dsh-local-llm

中文文档
0.20.4发布于 2026/11/07TypeScriptES Module近 30 天下载 6713

Arya Infer控制中心设有内置基准实验室.

中文使用文档
文档目录9 节
  1. 调和兼容性
  2. 设置
  3. Arya 本地预设
  4. 基准实验室
  5. 浏览器访问
  6. 又一个电脑
  7. 验证
  8. 聊天输出限制
  9. 从两包释放更新

阿里亚Infer控制中心

用于AryaInfer引擎的可选的AryaCode插件. 边栏条目是 阿里亚引出编辑 概览 视图开始、停止并重新启动引擎,并嵌入其网络UI,用于硬件健康、推论监测和模型管理 基准 视图运行内置基准实验室. 打开网络用户界面 在单独的标签中打开引擎接口。 面板的顶端条开关介于 概览, (中文(简体) ), 连接, (中文(简体) ), 设置 财务报告和审定财务报表 基准关于概览, 隐藏细节 崩溃引擎摘要和引擎页面上方的分页符可以被拖动(或用箭头键被拖动)以给该页更多的空间;布局被记住.

调和兼容性

在AryaCode 上验证 6.2.2-α.2 (建设) 0.2.2-alpha.2.AryaCode.0.1.0继续 2026-10-28 (英语) [email protected] 从 npm 安装到干净的软件包d 配置文件, 插件已装入 live 没有导入出错,其行将生成 插件 — 开关安装 。 有一次尝试安装了 临时沥青球的同版本未装入(重复客户端工厂); 软件包没有.

软件包声明否 dsh.engines.dsh 范围,所以市场不能表示 要求:卡片在 当检查失败时, 显示是可读的, 而“ Host required unknown ” .

设置

留着 dsh-local-llm 用于现有安装和更新的软件包标识。 引擎控制器包含在本包中;不需要单独的控制器或代理预设. 其路线使用 /api/aryastrata,因此,一个较老的独立控制器可以在更新过程中共存,而无需重复的路由注册. 配置 strata 选项 llamacpp 控制器的插件行 pythonPath, (中文(简体) ), serverDirectory, (中文(简体) ), configPath, (中文(简体) ), baseUrl 财务报告和审定财务报表 port 用于安装的Arya Infer引擎。 同样的六个字段可以在面板中编辑: 设置 − 这引擎住的地方 显示生效的价值观,说明这四条路径中有哪些存在,以及 保存更改 把它们写回此行( 所以移动的取出不需要手编辑的配置 ) 。 这台机器使用 C:/Users/KNPhu/AryaCode/KonnectSuite/AryaInfer 还有8080号口 选中的启动配置是 strata-qwen36s-ud-q4_k_xl.json; 重新启动时使用由Arya Infer保存的更改.

停止并重新启动需要由控制器拥有或采纳的进程. 采用与服务器入口点匹配并配置了配置路径;一个进程永远不会仅仅因为占据了引擎端口而停止. strata.exe, (中文(简体) ), strata-poly.exe 和阿里亚因费尔引擎 aryainfer.exe 已确认。 当在与Strata相同的端口上配置了lama.cpp控制器时,一个Strata开始跳过那个控制器:听众是Strata服务器,而不是第二个引擎. 正在改变的模型架构由Arya Infer处理,本页面中没有只使用Quen的模型列表.

该页面提供斯特拉塔引擎和基准实验室. Ollama,llama.cpp和FreeToken没有页面控制;它们现有的后端API仍然可用来保存被保存的模型提供者集成. 更改此页面不会安装,删除或移动引擎,模型文件或聊天.

Arya 本地预设

包裹登记了第四个代理预设, 阿里亚当地,当一个会话被创建并固定在它的生命中时,就像运出预设一样。 它为本地模型所建,上下文窗口为:适合本地模型(约6.7K字符,约1.7K令牌)的Arya Claude风格的工作规则,工作空间指令封顶为16KB,以及已运出的全部DSH工具行集(shell, read/write/edit, search,背景活,调度,技能,目标,计划模式,收紧,任务,待办,询问,网络,现在,以及有条件的Host插件-管理/市场行). 只有紧凑的核能保持它的图谋渴望:编码工具, read_image,而三个浏览器工具需要打开一页并查看. 所有其他工具,包括继承的MCP和插件工具,通过下面的披露桥被推迟. 规则包括一个直观-艺术循环:规划分级,写出完整的页面,用住家浏览器包打开,快照,读出图像,修正出错,然后呈现出. 它脱离了时间背景, 所以请求前缀仍然可以缓存 。 收缩起于路由窗口的80%有4K头室和16%保留,超过4KB的工具结果被推倒到2K头+512尾;这个预设保留了自己的收缩政策而不是库存政策.

工作规则改编自 阿里亚·克洛德,而不是Arya 标准:标准是 Codex/GPT-5 即时(apply_patch, Codex 身份),它与这个预设的工具名称及其披露桥相抗衡. 文物部分是早先的terse persona的固定部分,它生成了很少的第一稿,而从未渲染过.

渐进工具的披露是建立在其中的. 预设行会挂载此软件包自己的工具执行器( S)preset-disclosure这让一个驻地核心渴望 并隐藏了所有其他可见工具的图谋 核心点是 read, (中文(简体) ), read_image, (中文(简体) ), write, (中文(简体) ), edit, (中文(简体) ), bash编号 :pwsh, (中文(简体) ), glob, (中文(简体) ), grep, (中文(简体) ), exit_plan_mode,三个 Windows 浏览器工具 mcp__wincu__windows_computer_use_list_windows, (中文(简体) ), ..._set_value,以及 ..._snapshot,加上三个桥梁工具: tool_search (hybrid BM25搜索能力组和呼叫卡), tool_describe (一个工具的呼叫卡和计划),以及 tool_call (通过共享管道运行一个名字被推迟的工具,所以批准,守卫,和会话活动仍然参考了真正的工具). 该快件不带平面的快件,而是带有紧凑的能力组指数——每个MCP服务器或被整齐的组一行,以500个令牌为界. 在用户转换决定力的第一步 工具监视器 向一个简短的上下文信息中插入最可能用于该任务的工具;它只是附加的,被任务/短列表摘要所复制,并且永远不会更改提供者的工具列表。 搜索结果为有需要的参数和一个风险标记的呼叫卡,一个工具结果被封顶为6000个字符,因此一个大型的MCP答案无法淹没本地上下文. 继承主机工具默认被推迟( :inheritedTools: defer因此,MCP服务器无论在预设挂载之前还是之后连接都是可以发现的; excludeInheritedTools 隐藏名称或 prefix* 家庭,以及 inheritedTools: hide 恢复旧被子面具. 无需安装插件; 这是此包中的代码, 并使用主机的执行器接合 .

这种执行之所以存在,是因为东道主 system-prompt/assemble 瀑布无法在 DSH 架构上重写本地工具计划( 工具被收集到之前), 这也是第三方的原因 dsh-tool-search 原生道是这里的禁行道. 执行者接合是支持的接合.

装入 llamacpp 下划行 localPreset数字 :

localPreset:
  inheritedTools: defer
  allowInheritedTools: ['mcp__memory__*', 'generate_image']
  excludeInheritedTools: []
  budgetChars: 40000
  skills: true
  web: true
  goal: true
  toolSearch:
    enabled: true
    thresholdPct: 5
    listingMaxTokens: 4000
    contextWindow: 100000
    minDeferredTools: 4
    searchLimit: 10
    shelfMaxTokens: 500
    scoutMaxTokens: 260
    resultTokens: 700
    detail: cards
    scout: true
    riskAware: true
    usageBoost: true
  compaction: { thresholdRatio: 0.8, headroomTokens: 4096, retainRatio: 0.16, maxTokens: 4096 }
  pruner: { thresholdChars: 4096, headChars: 2048, tailChars: 512 }

inheritedTools: defer (默认)使主机注册的工具可见并推迟其计划; allowInheritedTools 说出少数应该保持渴望 excludeInheritedTools 否认姓名或 prefix* 家庭事务. inheritedTools: hide 是遗留行为: 除非在 allowInheritedTools。 。 。 . skills, (中文(简体) ), web 财务报告和审定财务报表 goal 默认为 true 因为预设会挂载已运出的全部工具集; 设置其中任何一组 false 将可选行修剪为非常小的窗口. budgetChars 是政策记录综合工具计划超预算警告的点. shelfMaxTokens, (中文(简体) ), scoutMaxTokens 财务报告和审定财务报表 resultTokens 捆绑三个模型化工具表面; thresholdPct编号 :listingMaxTokens 仅作为预算的回落. toolSearch.contextWindow 是故意的 100K 层,所以一个静态配置不能用 262K 窗口生长. minDeferredTools 阻止桥梁在只有少数可延期的工具的构成中出现. searchLimit 默认为10,因此"浏览"或"投降"等宽泛的任务可以让整个相关家族回归,而不是默默地被砍取5分;模型仍然可以要求更少. 预设不选择模型:照常在作曲中选择本地模型.

于2026-11-03年用被打包的app和0.19.0在预置上架满已发运的行集前用这台机器测量:同名配置标准预置发送了81个工具和70,062个schema字符. 在0.20.4之前,阿里亚地方会议的第一次请求只载有9个急切的计策(Eread, (中文(简体) ), write, (中文(简体) ), edit, (中文(简体) ), pwsh, (中文(简体) ), glob, (中文(简体) ), grep,外加三通桥),8,236个JSON字符,外加7,072个字符被推迟的列表,总计约3.8K个工具定义符号——低于100K窗口的5K键预算. 0.19.3人a在上方增加了约1.5K个令牌,因此完整的首个请求即时间接费用大约为5.3K个令牌为100K. 0.20.4 核心增加: read_image 和3个浏览器工具,因此新的测量应该显示13个急切的计数;平面表已经被被极限能力指数(500个令牌)所取代,可选的探测器(260个)和搜索/描述结果(每个700个)所取代,所以旧的显示数字不再描述当前构造,整个工具定义预算应该在下一期重新测量. 检索由一个定型230工具固定器覆盖,有77个有标签的查询:确切名称Recall@1 1.00,Recall@5 0.985和MRR 0.896,无匹配查询回无. 更古老的度量法的后续 tool_search 用于工作,然后 tool_call 页:1 job_list时,返回 {"ok":true,"value":[]} 通过真正的工具管道。 工具结果由pruner在下个请求前进行修剪,单桥结果被封顶为6000个字符. 在两个连接指令中,继承主机工具被推迟; excludeInheritedTools 当预设挂载时被评价,所以以后注册的名称仍然可以发现(搜索)而不是被遮掩.

Concession的精确触发取决于路由输出保留: floor(min(W × 0.8, W − O − 4096)). 100K型机车,为输出收缩保留了大约64K而不是80K的32K;将该型机的输出极限降低到16K,精确的80K触发器. 保留率为16% W − O。在股票路径中,没有模型可调取的收缩工具;人物60%的规则停止了上下文的增长,而主机的自动收缩是保证。 当bili活动时, 人物会带一个十亿的文字部分: 呼叫 acp_status 近60%,在15-20K+可压缩符号或大写后压缩,并使用 search_context编号 :decompress 对于折叠的细节.

10亿块的文字在活动时拥有收缩,而Arya Local则站倒. 双胞胎 internal/config 覆盖可禁用按软件包名称排列的股票压缩行,但预设定义通过 agentPresets.register() 永不解析为加载器配置, 这样覆盖无法到达此预设 。 因此,插件在构建定义时决定: 当 bili 时 biliBasicCompactionPolicy 设有大门服务及其 __BILI_DSH_COMPACTION_VERDICT__ 全局读取 active, (中文(简体) ), compaction-basic 财务报告和审定财务报表 command-compact 挂载已禁用和 tool-result-pruner 加上所有其它的列都挂着 只有经确认的收购计数;预期的bili(一个配置文件捆绑或覆盖命名) billion-context,或 BILLION_CONTEXT_PROXY编号 :BILLION_CONTEXT_ATTACH)在门口接受最多2分多0.5分的民意调查,任何超时或闲置的判决都会让股票引擎保持一个警告. BILLION_CONTEXT_PLUGIN=0 财务报告和审定财务报表 BILI_NATIVE_DSH=0 禁用 bili 和任何 BILI_PROVIDER_REWRITES 值将删除其本土所有权;所有三个返回都立即启用引擎。 注册被推迟到一个谨慎的承诺 所以插件 apply() 保持同步 处理的纤维没有记录 同一收购将bili的4个上下文工具添加到急切的线上,并将十亿字形收缩部分附加到人物a上,因此模型不会等待不再挂起的股票80%触发器.

基准实验室

这个 基准 视图运行着内置基准实验室(site 3.0),与模型AryaInfer发布. 在阿里亚因佛加一并出现在这里. 聊天模型发现,基准和模型与一对计算机的共享没有变化.

5个分页: 董事会 以加权总分和奖牌、套间栏和套间专用雷达排列模型. 现场直播 在运行执行时显示一个完成环、每个模型进度、ETA和GPU火花; 取消它停止. 结果 是一个 model × 套件矩阵; 点击任意单元格取取抽屉中包含检查列表, 度量, 模型的答案, 生成代码下载和网站截图 . 比较 堆放最多3个被保存在基线上 并配有三角洲和雷达. 站点 制作每张生成的网站卡,都有桌面/移动抓取,互动播放和一至五星的视觉收视率.

电池 : 速度 (xx30) 吞吐量探测器; 准备情况 (xx15) 工具和视觉探测器; A. 背景情况 (xx15) 256K以下的长需要试验; 原因 (XX15) 12个确定性的短答任务(数学、逻辑、JSON提取、格式化合同)在0温下检查; 构建 (XX20) DOM合同评分的8个网站任务,设计计量和截图; 工业 (XX×20)十二个工程任务——JavaScript 有真实的工人断言,OpenNode PLCopen XML,Rockwell L5X生成和读取,阶梯诊断,标记交叉参考,HMI屏幕规格,安全判断和以太网/以太协议QQA. PLC、HMI和网络答案是离线定型装置,而不是经供应商验证的内容;PLC产出需要工程审查.

准备措施 活工具目录:每个与本地模式的聊天回合记录主机随同发送的工具定义,准备套件会与最新的抓取相悖,因此总是测量运行工具集的真实目录. 一个 arya-request-header.json 引擎目录中的快照仍然被接受为倒计时. 在运行准备套件前启动一个本地聊天; 将使用哪个目录的基准面板报告 .

总的来说,是当前套房的加权平均值,当运行跳过电池时,该套房将重新正常化; 速度被比对跑道上最快的模型而得分,因此排名在硬件上仍然具有可比性. 选择一个预设( N)快速检查, (中文(简体) ), 标准, (中文(简体) ), 全副武装)或调用套接字,上下文,速度,思维,重复,视觉和任务单用手. 年长的2.0运行保持可读性和可比性.

斯克林从不要求模型来判断模型:每一次检查都是固定的脚本跑出与被捕获的答案对接,所以分数可以跨跑和机器再生.

浏览器访问

网络用户界面直接从配置的引擎 URL 装入 。 电话或另一台计算机无法访问主机 127.0.0.1;页面对此进行解释,而不是嵌入错误的计算机. 在远程使用之前配置一个可达到的、经认证的AryaInfer地址。 HTTPS AryaCode 页面无法嵌入 HTTP 引擎; 使用单独的-tab链接或 HTTPS 引擎地址 。 引擎自身的认证仍然有效,其URL中从未添加过证书.

配对的计算机比赤裸的地址更能胜任:它自己的Host询问配对地址该引擎的端口是否在那里回答,并且只有在它回答时才会提供接口. 在尾网上发布引擎端口就够了——这台机器使用 tailscale serve 用于端口 8080 – 然后面板会嵌入引擎 UI ,而不是要求用户步行到另一个计算机. 当端口不回答时,面板会这样说,而不是显示一个被破坏的框架.

又一个电脑

将这个插件安装在两台计算机上;固定对接地址和每个引擎模型都需要0.7.4或更新(模型共享需要0.7.2,仅控制0.7.1)。 控制设置有短配对代码,与电话连接方式相同:

  1. 在引擎电脑上打开 Arya Infer – Connection – 让另一台计算机控制这个引擎 选择 创建配对代码。 。 。 .
  2. 在另一台电脑上打开 Arya Infer – 连接 – 配对一台计算机...。从机尾网的机器列表中选择引擎计算机,或输入其Tailscale地址,然后键入八特征代码——它显示在地址旁边的第二台计算机可以到达它。 只有字母和数字;破折号被忽略.
  3. 公平与控制 一次将代码换成私人的标志 开始控制引擎 代码在创建后5分钟失效.

代码要约的地址由此插件服务于 a 固定端口( 45900) 绑入引擎计算机的尾网地址,它只转发一对计算机使用的路线: /api/aryastrata/* 财务报告和审定财务报表 /api/local-llm/*地址上的所有东西都是404 端口很重要,因为AryaCode每次发布时都会重新选择自己的网页端口——一个保存在端口上的地址停止了下一次重启的工作,这看起来像是网络故障. 随着固定的端口,对接得以继续。 设定 strata.pairPort 使用不同的端口,或 0 以关闭中继器(该提议随后再次命名该页面自己的端口)。 设定 strata.pairHost 当尾网地址不是绑定的。 Windows在第一次收听时可能会询问是否允许应用程序接受连接——允许用于尾网,而不是用于公共网络.

配对电脑出现在下面 连接 – 已安装电脑 在引擎计算机上,它可以在其中被放出;不给钱立即吊销它的令牌. 配对不需要用手贴上的秘密,屏幕上也不显示任何符号. 使用此计算机 将页面放回它自己运行的引擎.

一个有 strata.controlToken 联 合 国 llamacpp 列仍然接受这个符号,这是旧的安装使用:

- id: llamacpp
  config:
    strata:
      controlToken: a long random value

编辑后重新启动AryaCode——行在启动时被读取,一页重装不会重新装入主机代码. 没有符号和配对计算机的计算机总是只回答自己,这是安全默认;页面上说,而不是让一个连接作为401失败. 下 控制另一台计算机 — 用控制符代替,可以直接输入同一地址和令牌.

启动,停止,重启,引擎快照和日志再由引擎计算机解答,并取出它正在控制的计算机的页名. 同一代码也分享了引擎的模型:每个已安装的模型都提供,而配对的计算机将它们全部列入AryaCode的模型取取器(提供器)中 远程本地 LLM)带有真实上下文窗口. 一个代码,一个令牌,控制和模型一起;撤销配对的计算机两个都结束.

一个引擎一次服务一个模型,但可以切换: 选择一个引擎没有加载的模型要求它切换(POST /api/models/load)在请求发出之前,所以在模型之间进行聊天而不访问控制中心. 引擎完成它先运行的请求,并在需要比开关窗口更长的时间时以理由拒绝. 模拟引擎报告为无法使用被忽略而不是提供,然后失败.

这些模型也列在引擎电脑上 当地示范图书馆,因此主机可以与其引擎聊天,而无需单独提供行.

引擎自己的网络界面仍然在引擎计算机上收听,所以当其端口无法被接通时,它会在那里被打开而不是被嵌入.

Hop是服务器到服务器:页面停留在自己机器的出处上,而信使从未到达浏览器. 选择一个计算机与该计算机配对是本地的,赎回一个代码需要代码本身;没有其他东西可以改变计算机控制哪一页。 平面 http 仅接受回回转和tailscale地址,其中运输已加密;任何其他地址必须是 https状态和控制路线要求没有在引擎计算机上的每个呼叫者发出信号,而从未命名的引擎计算机的源头被直接拒绝.

验证

npm run typecheck
npm run build
npm test
node tests/aryastrata-ui.mjs

浏览器测试涵盖生命周期控制,桌面/移动布局,嵌入式网络UI和保留当前UI的错误. 要锻炼真正的本地引擎,设定 ARYA_STRATA_LIVE=1 在测试之前 这将明确停止、 启动并重新启动配置的引擎; 仅在没有启动推断请求时运行 。 现场测试装入了已建成的控制中心包件本身.

遗留后端引用 描述保留的相容性 API,而不是当前页面.

聊天输出限制

打开 Arya Infer – 设置 – 聊天输出,选择此插件公布的模型之一(引擎的模型、GGUF配置图和Ollama),调整 每个答复的产出令牌,并节省。 限制保存在插件自身设置旁,成为该模型对新请求的默认. 数字包括思考,工具参数和最终答案. 修改适用于随后的请求。 编辑器支持从1,024个令牌到所配置上下文窗口以下的值;输入和输出仍然共享上下文. 保存保存其他模式设置 。 桌面应用程序可以通过其dsh-app源头和本地主机浏览器嵌入回路引擎.

从两包释放更新

只安装或更新 dsh-local-llm 0.7.1或两台计算机上较新的遥控装置。 旧的 dsh-strata 软件包可能未安装;其来源和以前的档案保留在旧设施。 如果您定制了控制行, 请将这些配置值移动到 strata 控制中心对象 llamacpp 在删除前先行走。 退休人员 dsh-strata-agent 预设与引擎控制无关,不包含。 模型文件,聊天历史和已保存的模型提供器设置被保存.

版本与发布记录

@aryacode/dsh-local-llm 共发布 42 个版本,首次发布于 2026/10/24;过去 12 个月发布了 42 个版本。

版本发布日期距今
0.20.4latest2026/11/07今天
0.20.32026/11/07今天
0.20.22026/11/071 天前
0.20.12026/11/061 天前
0.20.02026/11/061 天前
0.19.62026/11/052 天前

关于 @aryacode/dsh-local-llm 的常见问题

@aryacode/dsh-local-llm 是什么?

Arya Infer控制中心设有内置基准实验室.

如何安装 @aryacode/dsh-local-llm?

在项目目录运行 npm install @aryacode/dsh-local-llm,或使用 pnpm add / yarn add / bun add。它还需要宿主项目提供 peer 依赖:@deepseek-ai/dsh-llm-pi-ai(^0.2.0-rc.2)。npm 7 及以上与 pnpm 8 及以上默认会自动安装必需的 peer 依赖,Yarn 需要手动安装。

@aryacode/dsh-local-llm 支持 TypeScript 吗?

支持。包内自带 TypeScript 类型声明(package.json 声明了 types 入口),安装后即可获得类型提示,无需再安装 @types 包。

@aryacode/dsh-local-llm 支持 ESM 还是 CommonJS?

以 ES Module 形式发布,推荐使用 import 引入。在 CommonJS 项目中,Node.js 20.19+ / 22.12+ 可以直接 require() 不含顶层 await 的 ES Module,更早的版本需要改用动态 import()。

@aryacode/dsh-local-llm 可以商用吗?

@aryacode/dsh-local-llm 使用 未声明 许可。package.json 没有声明许可证。没有许可证的代码默认保留全部权利,商用前请联系作者或查看仓库中的 LICENSE 文件。以上为概括,不构成法律意见,请以许可原文为准。

@aryacode/dsh-local-llm 的下载量有多少?

根据 npm 官方下载统计,@aryacode/dsh-local-llm 在 2026/10/07 – 2026/11/05 这 30 天内被下载 6,713 次,日均约 224 次。下载量会把 CI 构建、镜像同步和作为其他包依赖的安装一并计入,适合横向比较热度,不能直接等同于使用人数。

@aryacode/dsh-local-llm 还在维护吗?

最新版本 0.20.4 发布于 2026/11/07(今天);至今共发布 42 个版本,其中过去 12 个月发布了 42 个;首次发布于 2026/10/24。发布频率只是参考信号:功能稳定的工具可能很少需要更新,建议结合源码仓库的 issue 和提交记录判断。