Genkit 的 Vertex AI 插件
这个软件包提供 Vertex AI 集成 精灵包括Model Garden,Rerankers,评价,和矢量搜索.
用编码代理? 先安装基因组JS技能.
npx skills add genkit-ai/skills --skill developing-genkit-js它教你的代理人 现任Genkit JS APIs 和普通的gitchas. 其他语言的来源、人工安装和技能: 技能/技能。 。 。 .
* 折旧通知: 主要内容
vertexAI插件导出( Gemini, Imingn, 和嵌入器模型) 是 已贬值请迁移到@genkit-ai/google-genai数字 :// Before (deprecated) import { vertexAI } from '@genkit-ai/vertexai'; // After import { vertexAI } from '@genkit-ai/google-genai';
安装
npm i --save @genkit-ai/vertexai
子包装
该套件提供以下子包进口:
| 导入 | 说明 |
|---|---|
@genkit-ai/vertexai/modelgarden | 第三方模型(克洛德,米斯特拉尔,Llama)通过Vertex AI模型花园 |
@genkit-ai/vertexai/rerankers | Vertex AI Rerankers API (英语) |
@genkit-ai/vertexai/evaluation | Vertex AI评价指标(BLEU、ROUGE、SAFETY等) |
@genkit-ai/vertexai/vectorsearch | 使用 BigQuery 和 Firestore 后端的 Vertex AI 矢量搜索 |
样板花园
访问第三方模型(Anthropic Claude, Mistral, Llama) 由Vertex AI Model Garden主持:
import { genkit } from 'genkit';
import { vertexModelGarden } from '@genkit-ai/vertexai/modelgarden';
const ai = genkit({
plugins: [
vertexModelGarden({ projectId: 'my-project', location: 'us-central1' }),
],
});
const { text } = await ai.generate({
model: vertexModelGarden.model('claude-sonnet-4'),
prompt: 'Write a haiku about cloud computing',
});
console.log(text);
调整
使用Vertex AI的重新排序API来根据相关性重排文件:
import { genkit } from 'genkit';
import { vertexRerankers } from '@genkit-ai/vertexai/rerankers';
const ai = genkit({
plugins: [
vertexRerankers({ projectId: 'my-project', location: 'us-central1' }),
],
});
评价
使用Vertex AI的内置度量衡评价AI输出质量:
import { vertexAIEvaluation } from '@genkit-ai/vertexai/evaluation';
import { VertexAIEvaluationMetricType } from '@genkit-ai/vertexai/evaluation';
const ai = genkit({
plugins: [
vertexAIEvaluation({
projectId: 'my-project',
location: 'us-central1',
metrics: [
VertexAIEvaluationMetricType.BLEU,
VertexAIEvaluationMetricType.ROUGE,
VertexAIEvaluationMetricType.SAFETY,
VertexAIEvaluationMetricType.GROUNDEDNESS,
],
}),
],
});
矢量搜索
使用 Vertex AI 矢量搜索以获取加载生成(RAG),并配有 BigQuery 或 Firestore 文件存储器 :
import { vertexAIVectorSearch } from '@genkit-ai/vertexai/vectorsearch';
const ai = genkit({
plugins: [
vertexAIVectorSearch({
projectId: 'my-project',
location: 'us-central1',
vectorSearchOptions: [
{
publicDomainName: 'my-public-endpoint.vdb.vertexai.goog',
indexEndpointId: 'my-index-endpoint-id',
indexId: 'my-index-id',
deployedIndexId: 'my-deployed-index-id',
documentRetriever: myDocRetriever,
documentIndexer: myDocIndexer,
embedder: myEmbedder,
},
],
}),
],
});
更多信息
此套件的来源主要为 精灵 复发. 请提交问题 和拉请求反对的回波.
使用信息和参考详情见 genkit 正式文件。 。 。 .
许可证: Apache 2.0