@ framers/ agentos-ext-content-policy-refriter(政策写作) @ info: whatsthis

AgentOS的Opt-in内容政策守护符——检测代理输出中的违规情况,并通过LLM判断器将其阻断或重写为符合版本.

代理商默认不受审查. 此扩展仅在明确配置时激活 .

特征

• 双层混合管: 关于流体块(零成本)的关键字预过滤器+关于最后答复的LLM法官/改写器
• 8个可配置类别: 非法 有害、成人、亵渎、暴力、自残、仇恨 言论、非法 活动、习俗
• 4个预设: 未经审查、未经审查的安全、关爱家庭、企业
• 完全可配置 : 每一个类别都可以被启用/ 失效, 设置动作以屏蔽或消毒
• 无硬码限制 : 所有政策都由用户控制

快速启动

import { createContentPolicyRewriter } from '@framers/agentos-ext-content-policy-rewriter';

// Minimal — blocks illegal_harmful content only (default)
const pack = createContentPolicyRewriter({});

// Family-friendly preset
const pack = createContentPolicyRewriter('family-friendly');

// Custom configuration
const pack = createContentPolicyRewriter({
  categories: {
    adult: { enabled: true, action: 'sanitize' },
    profanity: { enabled: true, action: 'sanitize' },
    violence: { enabled: true, action: 'block' },
  },
  customRules: 'Never mention competitor products by name.',
});

// Truly uncensored — zero filtering
const pack = createContentPolicyRewriter('uncensored');

它的判断

守护者读取 AgentOS 输出流的块作为运行时间释放出它们(AgentOSResponseChunkType:

• 文本三角形 (单位:千美元)type: 'text_delta',文本输入 textDelta:关键词预过滤器将每个三角洲与溪口早期三角洲的遗言一起扫描,因此发现了分出两个三角洲的短语. 块类先试. 一场比赛 block 分类以错误块结束流,其 code 实值 KEYWORD_<CATEGORY>; 在一个 sanitize 类别替换为 [Content removed by policy]. 预过滤器在目的上是宽的:通过一个单词结束部分的三角洲被扫描,所以在三角洲端切出一个单词可以匹配它只从开头的一个关键词. 设定 streamingPreFilter: false 跳过三角洲,然后通过 holdUntilFinal 到输出调度器,在判断整个答复之前不显示任何信息.
• 最后答复 (单位:千美元)type: 'final_response',文本输入 finalResponseText: 任意一个关键字匹配 block 分类块一次,没有 LLM 调用。 否则,LLM法官将文本与允许的类别进行分类;未允许的类别被忽略。 A. 任何违反《公约》的行为 block 类别 块块解答,以类别为理由代码。 当每一次违反都发生在 sanitize 类别中, LLM 重写替换符, 并让守护符返回 sanitize; 当重写调用失败或未返回文本时, 回复被屏蔽 REWRITE_FAILED。 。 。 .
• 当法官不能分类时 (拨打失败,或者回答不是被问到的JSON),回答被屏蔽了,因为 JUDGE_FAILED设置 judgeFailure: 'allow' 而不是让这种答复通过.

其它的都是未经判断的 一个召集人 evaluateOutput() 本身通过相同的块形状.

探员. config.json

{
  "guardrails": {
    "contentPolicy": {
      "enabled": true,
      "categories": {
        "illegal_harmful": { "enabled": true, "action": "block" },
        "adult": { "enabled": true, "action": "sanitize" },
        "profanity": { "enabled": true, "action": "sanitize" }
      }
    }
  }
}

或简指:

{
  "guardrails": {
    "contentPolicy": "uncensored-safe"
  }
}

类别

预设

许可证

阿帕奇 - 2.0