为 Genkit 开发本地矢量存储器
这是对一个能用于本地开发和测试的矢量商店的简单实施.
用编码代理? 先安装基因组JS技能.
npx skills add genkit-ai/skills --skill developing-genkit-js它教你的代理人 现任Genkit JS APIs 和普通的gitchas. 其他语言的来源、人工安装和技能: 技能/技能。 。 。 .
此插件并非用于生产 .
安装插件
npm i --save @genkit-ai/dev-local-vectorstore
使用插件
import { Document, genkit } from 'genkit';
import { googleAI } from '@genkit-ai/google-genai';
import {
devLocalVectorstore,
devLocalIndexerRef,
devLocalRetrieverRef,
} from '@genkit-ai/dev-local-vectorstore';
const ai = genkit({
plugins: [
googleAI(),
devLocalVectorstore([
{
indexName: 'BobFacts',
embedder: googleAI.embedder('gemini-embedding-001'),
},
]),
],
model: googleAI.model('gemini-flash-latest'),
});
// Reference to a local vector database storing Genkit documentation
const indexer = devLocalIndexerRef('BobFacts');
const retriever = devLocalRetrieverRef('BobFacts');
async function main() {
// Add documents to the index. Only do it once.
await ai.index({
indexer: indexer,
documents: [
Document.fromText('Bob lives on the moon.'),
Document.fromText('Bob is 42 years old.'),
Document.fromText('Bob likes bananas.'),
Document.fromText('Bob has 11 cats.'),
],
});
const question = 'How old is Bob?';
// Consistent API to retrieve most relevant documents based on semantic similarity to query
const docs = await ai.retrieve({
retriever: retriever,
query: question,
});
const result = await ai.generate({
prompt: `Use the provided context from the Genkit documentation to answer this query: ${question}`,
docs, // Pass retrieved documents to the model
});
console.log(result.text);
}
main();
此套件的来源主要为 精灵 复发. 请提交问题 和拉请求反对的回波.
使用信息和参考详情见 genkit 正式文件。 。 。 .
许可证: Apache 2.0