category
在 safe、spam、abuse 中选择内容类别。
STATE 设计
文本、规则和上下文
只提供完成判断所需的上下文，避免提交密码、密钥、无授权个人数据或与问题无关的长文本。
OUTPUT 设计
内容类别与风险等级
每个问题都使用完整 instructions，ID 仅用于关联响应，不能承担问题语义。
可复现输入
示例 State
{
"content": "限时推广！点击外部链接领取奖励。",
"repeated_posts": 8,
"account_age_days": 2
}问题设计
每个输出都有独立语义
risk
用低、中、高、严重四个等级表达审核风险。
needs_review
判断是否应交给人工审核员复核。
执行边界
概率交给策略层，而不是直接执行
自动隐藏、封禁等高影响动作不能只依据最高概率；还要组合平台规则、历史记录和申诉机制。
- 保存候选概率、模型版本和问题配置，便于复核。
- 输入缺失或候选概率接近时，补充信息或转人工。
- 模板可用于本地 Mock；登录后也可主动真实运行，但任何结果都不代表业务准确率已经达标。