@acarmisc/后台-plugin-litellm (英语)
前端为 后台LiteLLM 治理插件 ——让开发人员管理 他们的LiteLLM虚拟密钥,并遵循他们的AI用法和后台的预算.
修建于 新建前端系统
(单位:千美元)@backstage/frontend-plugin-api) (中文(简体) ). 它需要后端,
@acarmisc/backstage-plugin-litellm-backend, (中文(简体) ),
它与LiteLLM交谈,执行所有规则.
完整的文档——领养指南,配置,权限,安全模式 和结构——始于 项目README。 。 。 .
安装
yarn --cwd packages/app add @acarmisc/backstage-plugin-litellm
如果您的应用程序从它的依赖性中发现了特性( Q) :app.packages: all, (中文(简体) ),
自动取出插件。 否则,登记:
// packages/app/src/App.tsx
import { createApp } from '@backstage/frontend-defaults';
import litellmPlugin from '@acarmisc/backstage-plugin-litellm';
const app = createApp({
features: [litellmPlugin],
});
这增加了 /litellm 页 次 liteLlmApiRef 每个人使用的 API
以下构成部分.
这个 /litellm 页 次
标签 : 概览 (使用KPI和图表), 密钥 (你的虚拟密钥:编辑,
块/ 解块、 重置开支、 删除), 团队 (团队使用和团队)
管理人员的管理, 模型 (代理模式目录)和 审计
日志 成员名单 litellm.audit.group 页:1. ?tab=<name> 打开标签并
?generate=1 打开“生成新密钥”对话框.
主页组件
| 构成部分 | 显示什么 |
|---|---|
LiteLLMHomeWidget | 支出和代币 Today 编号 : 7d 编号 : 30d 有每日闪光灯 |
LiteLLMBudgetWidget | 预算层次(关键) 个人 团队 ) |
LiteLLMBudgetGauges | 收缩预算卡:每关一环和一月通图 |
GenerateKeyButton | 共享的" Generate 新密钥" 按钮 (onClick,或 to="/litellm?generate=1"(中文(简体) ) |
import {
LiteLLMHomeWidget,
LiteLLMBudgetGauges,
} from '@acarmisc/backstage-plugin-litellm';
<LiteLLMHomeWidget defaultPeriod="7d" />
<LiteLLMBudgetGauges />
每一组件的道具记录在 文档/前端。 。 。 .
在没有后端的情况下试试,快跑 npm start 在这个包中:它服务于
模拟数据的插件 http://localhost:3000/litellm (见
捐款额) (中文(简体) ).
其他出口
litellmPlugin(也是默认导出)LiteLLMPage,以及它所使用的组件:DashboardHeader, (中文(简体) ),KeysTable, (中文(简体) ),UsageStats, (中文(简体) ),TeamUsage, (中文(简体) ),KeyFormDialog, (中文(简体) ),ManageTeamDialog。 。 。 . 偏爱LiteLLMPage; 自己编组棋子意味着连接它们的数据 并按页面的方式召回.LiteLlmApi, (中文(简体) ),liteLlmApiRef,共享 API 类型,以及litellmTeam*Permission定义.
许可证
阿帕奇 - 2.0