pi- 型号路由器
停止手动更换模型.
保存一个配置 Pi。 。 。 .
pi-model-router 可随着任务的变化选择不同的模型和推理努力,包括在工具-启动请求之间.
可选建议使用任何在Pi中注册的文本能力分类器. 路由器使用Pi的打出分级器API,并且需要对准确的型号进行明确的逐一批准.
为什么用它?
- 手动变化较少. 一个剖面可以结合快速,低成本的路线和更强大的模型.
- 控制成本和质量. 你选择模型,努力水平,倒置顺序和基线。 任何时间都可以固定路线.
- 运行模式 .
cost, (中文(简体) ),balanced或者说quality选择首选的模型/效果对,每个配置文件、项目或会话。 OpenAI默认使用Luna,Terra和Sol;自定义路由保持了决定性的变换. 选择模式。 。 。 . - 内建活动路线. 识别的 OpenAI 和 Claude 配置文件会获得代码、调试、探索、计划、审查、操作和文件的默认值。 推出一个细胞或选择退出. 默认和调制。 。 。 .
- 适应性工具循环. 定期背景审查在不拖延产生的情况下评估目前的工作。 符合资格的建议可以改变要求之间的层次、活动和努力,并有明确的切换成本控制.
- 显相决定. 一个紧凑的信号小组显示实际活动、模型和努力。 被搁置的提案保持不变。 打开
/router用于原生栏/跳伞、观察用法和会话控制.
目的是有选择地使用昂贵的模型,而不是不惜任何代价最便宜的答案. 节省取决于您的配置、 任务组合、 输出大小和缓存再使用 . 顾问会增加耐性。 它们的费用与发电费用分开.
可选路线咨询
使用 Jev, Clef/Clef Flash/Clef Omni, OpenAI决定,或本地的 Ollama 或 lama.cpp 分类器在 Pi 中注册. 它读取了最近的背景 并从你的资料中建议一个模式和努力. 选定的生成模型产生答案,而不是顾问.
flowchart LR
Task["Your task"] --> Router["Pi model router"]
Advisor["Configured Pi classifier"] -.-> Router
Router --> Light["Micro / low"]
Router --> Strong["Medium / high"]
Light --> Answer["Answer and tool calls"]
Strong --> Answer
classDef policy fill:#dbeafe,stroke:#2563eb,color:#0f172a
classDef advisor fill:#fef3c7,stroke:#b45309,color:#451a03
classDef generation fill:#dcfce7,stroke:#15803d,color:#14532d
class Router policy
class Advisor advisor
class Light,Strong generation
配置 Pi 的分类证书并批准其精确度 provider/model 每个简介的参考文献。 所选文本可以包含私人数据. 路由器只发送文本 。 没有顾问,它使用兼容的本地路线.
支持的模式、证书和配置
这个 参考配置 选择被钉住的 Jev 1.14,但将建议禁用,直到您选择加入. 缺少目录条目需要 Pi 提供者扩展 可选目录示例 需要Pi 1. 3+. 路由器使用一个被选中的分类器,而不是投票或分类器故障.
在 Pi 中检查路径
运行 /router 5个标签 : 现在 路线 分类符 使用符 设置。 。 。 .
打开任何标签 /router routes, (中文(简体) ), /router classifier, (中文(简体) ), /router usage 或者说 /router settings。 。 。 .
/router status 返回短文本.
双线条在新会话中开通. /router widget 切换到安静的页脚状态 .
╭──────────────────────────────────────────────────────╮
│ Router / auto │
│ ›Now | Routes | Classifier | Usage | Settings │
│ ▂▄ GLM 5.3 Flash · low ⏵ pinned │
│ zai/glm-5.3-flash · effort low │
│ Pinned route │
│ Mode: balanced (default) · bypassed by pin · /router │
│ mode │
│ │
│ Switch history · retained active branch │
│ History collection is on · last 50 observations │
│ Observed: ▂▄▆ MiMo V2.6 Flash · high · baseline │
│ Model switch: ▂▄▆ MiMo V2.6 Flash · high → ▂▄ GLM │
│ 5.3 Flash · low · pinned │
│ Why this route? | Done │
╰──────────────────────────────────────────────────────╯
栏杆 ▂ ▂▄ ▂▄▆ ▂▄▆█ 命名等级, micro 改为 high在每一个表面。 用两个便宜的测试模型从皮1.5中捕获.
检查员控制 • 妇女 分类设置
皮的转弯
这种示意图条显示完成后选择的等级较低. 这不是路由承诺或长期基准.
▂▄ GPT 6 Luna · low = fits
auto · balanced (default) · classifier 807 ms
模型回答和调用工具. 定期背景审查采用有限度的当前进展;在下次请求时可适用新的建议。 成本敏感性和短视率可以维持一个昂贵的开关,而强大的能力建议可以超过估计数。 优惠、同意和产生保障仍然适用. 适应性路由和切换政策 读取状态并掌握控制
最近的记录涵盖25届会议的1,967个答复。 他们显示路线使用,没有保证节省. 见图表、费用计算和限额
升级至0.18.0
已确认的 OpenAI 活动默认值现在以中价/高价使用 Terra .
质量默认更倾向于一个更强大的模型,而不是更多的努力.
物理模型和支出在再装入时可以改变,即使是对现有剖面.
通用用户声明和明确活动覆盖不重写.
升级前设置 profiles.<name>.activityPreset: "off" 保留遗产
三级行为。 重新启动 Pi 或运行 /reload 更新后; 检查路由.
见 默认所有者、 退出和模式表格。 。 。 .
升级至0.16.0
更新后重新启动 Pi 。 没有配置 mode 路线如前.
项目 .pi/model-router.json 文件现在只能设置路由, activityRouting, (中文(简体) ),
显示和 mode (安检). off编号 :minimal 努力争取 low 上方则禁用
一级。 现在,重复的工具故障在每个模式中都升级了一层.
更新细节 +
升级至0.15.1
如果您安装了可选的分类器-目录扩展名, 请替换其副本 ,在重新启动 Pi 之前使用更新的示例。 此修正启动失败 Pi 1.3.0的捆绑装载机. 仅更新路由器软件包并不更新 单独的扩展; 跟着 目录更新步骤。 。 。 .
从0.14
更新后重新启动 Pi 。 不需要从0.14移出路线政策或配置.
路线和分类器控制器现在有自己的标签. 分类器启用和配置文件批准仍在用户配置中.
历史收藏仍可选入: /router log on 收集新的决定。 巡视员明确了伐木状态.
现有的指针、努力设置、符合资格的路线保障和4项要求的审查没有改变.
从0.1.2.0之前的版本
更新后, 重新启动 Pi。 替换 /router-ui 与 /router,以及
/router <profile> 与 /router profile <name>。分类器建议现在使用任何 Pi 注册的分类器。 以通用顾问模式取代供应商的具体配置,并逐一核准.
分类移徙 ∗
旧的 Jev/Clef/聊天分类器设置无法启用当前顾问 。 遵循上面的移入步骤, 即使旧文件仍然在不加警告的情况下加载 .
安装
需要皮条 1.1.0 或稍后的1.x系列 和节点js 22.19.0+ (单位:千美元)。 。 。 . 自动SDK/主机门对接Pi 1.1.0. 这个 0.15 本地TUI检查 使用 Pi 1.3. 0 的缩写。 可选分类器-目录例需要Pi 1.3+.
pi install npm:@alexeiled/pi-model-router
那就开始新的皮课. 使用可用的模型创建配置文件
如果使用上游包,请先去掉. 两个软件包都登记 router 供养.
独立分叉 叶刘的花花公子,拥有原麻省理工学院的执照和归属.