破碎管式设备
你的LLM是编造出来的.
你的聊天员刚刚告诉别人了 三十个 假期时间。 手册说二十. 这个库捕捉到:它对照它给出的源头检查一个答案的每一个句子,数字,"不"和包括条件,没有额外的模型呼叫. 如果你需要的话,它也会为你修建管道.
npm install @devilsdev/rag-pipeline-utils
节点.js 22+. 普通JS,无害环境管理和类型Script类型出框.
3.9中新设
- 下降的条件被抓住. 一个答案,不包含一个条件 它的源设置, 像"经管理者批准", 现在失败检查.
- 长的答案要快得多. 不到半秒,就会收到1000份判决答复.
- 来自PDF和网页的更清洁文本. 相取相取前正入正觉.
/edge无nodejs_compat(3.9.1) (中文(简体) ). Cloudflare工人的缓冲管线和成本估算不再抛出"process.emitwarning不是一个函数";警告到console.warn。 。 。 .
从3.8.1升级还是提前升级? 升级到3.8.2或以后的安保措施;建议3.9.0。 如果您在 Qdrant 、 Pinecone 、 Weaviate 或 pgvector 中存储具有顶级访问限制的文档, 请重新输入 : 3.8.2 联合国。 。 。 .
抓住化妆品
从任何地方带来一个答案:这个图书馆,LangChain, Mastra, AI SDK或LlamaIndex. 用它得到的来源传过来:
import { checkAnswer } from "@devilsdev/rag-pipeline-utils";
const check = await checkAnswer({
answer:
"Full-time employees receive thirty days of paid vacation per year. " +
"Remote work is allowed two days per week.",
sources: [
{
pageContent:
"Full-time employees receive twenty days of paid vacation per year.",
},
{
pageContent:
"Remote work is allowed two days per week with manager approval.",
},
],
});
console.log(check.grounded); // false
console.log(check.groundedness); // 0
console.log(check.unsupported); // ["Full-time employees receive thirty days of paid vacation per year.", "Remote work is allowed two days per week."]
两个句子被抓住:第一个句子写错了号码,第二个句子删除了它的源头要求的"经管理者批准",这就使得它声称的比手册所说的要多. 运行于本地,没有API密钥 和没有发送任何地方。 担心句子吗? 添加 judge 你的LLM被问到 单凭措辞就失败的句子 而别无他法. 在StackBlitz上试试看 带着你自己的答案.
一条十几条线路的管道
这一个也不需要 API 密钥: 内置的 TF- IDF 嵌入器和内存存储器 。 在OpenAI,Anthropic,Ollama或任何AI SDK模型中进行交换,当你准备好了.
import {
createRagPipeline,
LocalEmbedder,
MemoryRetriever,
} from "@devilsdev/rag-pipeline-utils";
const docs = [
{ id: "vacation", content: "Full-time employees get twenty vacation days." },
{ id: "remote", content: "Remote work is allowed two days per week." },
];
const embedder = new LocalEmbedder();
embedder.train(docs.map((doc) => doc.content));
const retriever = new MemoryRetriever();
await retriever.store(
docs.map((doc) => ({ ...doc, vector: embedder.embed(doc.content) })),
);
const pipeline = createRagPipeline({ embedder, retriever });
const result = await pipeline.run({ query: "How many vacation days?" });
console.log(result.results[0].id); // "vacation"
从工作应用开始? npm create rag-pipeline@latest 脚手架为Next.js配有AI SDK,Mastra,或Cloudflare工人.
为什么人们会来找它
- {\fn华文楷体\fs16\1cHE0E0E0}你可以看到地面. 判决引用和依据得分,实际核对数字、单位、日期和否定.
verifyCitations()重复检查引用的 Claude 和 OpenAI 手. - 后退辜负了建设.
rag-pipeline eval得分在CI的一组测试,当答案变得更糟时会红. 破旧行动 将结果张贴在您的拉动请求上. - 弹得不错. 为任何Vercel AI SDK型号的中间软件打地基,马斯特拉分数和护栏,捷士和维特选手.
- 有收据的护栏. 快速注射检测和 PII 校正 发表准确性和召回性,加ACL过滤器,在任何东西到达模型之前.
- 准备生产. 混合搜索,再排行,符号预算,超时和取消,重试,缓存,以及带有分数的OpenTeleometry(或Langfuse)痕迹.
- 包括连接器. OpenAI, Anthropic, Cohere, Ollama, pgvector, Qdrant, Pinecone 和 韦维特. 任何与一个
embed()或者说generate()方法也是可行的. - 一个真正的CLI.
init, (中文(简体) ),ingest, (中文(简体) ),query, (中文(简体) ),eval财务报告和审定财务报表serve在本地指数下,如果喜欢的话. - 奔跑在边缘. A 类
/edge为Cloudflare工人,Vercel Edge和德诺建造. - 和克劳德谈谈.
@devilsdev/rag-mcp-server让克洛德搜索您的文件文件夹, 并检查自己的答案 .
随便拿吧
主包有诸相. 如果安装大小问题, 较小的就在那里 :
| 软件包 | 你得到的东西 | 已安装 |
|---|---|---|
@devilsdev/rag-pipeline-utils | 所有的一切,包括CLI | 大约34 MB |
@devilsdev/rag-core | 管道、检索、缓存和费用追踪 | 约 6 MB |
@devilsdev/rag-connectors | 模型和向量存储连接器 | 大约 10 MB |
@devilsdev/rag-eval | 评价和答复检查 | 约 6 MB |
@devilsdev/rag-guardrails | 注射检测、ACL过滤和PII校正 | 约 6 MB |
@devilsdev/rag-mcp-server | 搜索和检查 Claude (MCP) 的文件文件夹 | 大约34 MB |
create-rag-pipeline | npm create rag-pipeline: 下个.js, Mastra 或工人 | 低于 1 MB |