共享 State，隔离问题
Qwen3.5 版本先计算 State，再让每个问题在独立的因果序列中复用缓存，避免同一次请求里的问题互相泄漏信息。
TypeDecide 首页
模型介绍 · 开源模型家族
Kev 模型介绍
Kev 是基于 Qwen3.5、LoRA 与指针头的开源决策模型家族，提供 0.8B、4B、9B 权重和 TypeSafe System One 兼容 API。本页说明其推理机制、自托管条件、训练与校准能力，以及语言、上下文、选项顺序和生产部署限制。
返回模型目录
优先评估System One 兼容可训练概率校准
Kev 是什么？
Kev 是一组面向受限决策的开放模型。调用方提交一个 State，以及 Noul、Choice、Score 类型的问题；模型不生成解释性长文本，而是为每个问题返回答案、概率分布和置信度。当前 Qwen3.5 系列提供 0.8B、4B 与 9B 三种规模，项目建议一般场景先评估 4B。
每个检查点由 rank-16 LoRA 适配器和小型指针头组成。由于 Qwen3.5 同时包含注意力层与递归 DeltaNet 层，Kev 会把每个问题放在独立行中执行，并复用已经计算的 State 缓存；这样一个问题不会读取同一请求中的其他问题。指针头只给调用方声明的候选项评分，再通过 softmax 得到概率。
项目同时发布训练代码、冻结评测套件、模型卡、本地 HTTP 服务和 Web Playground。服务实现 TypeSafe 的 `/v1/systemone` 请求形状，可让现有 Python SDK 指向本地地址；但项目公布的准确率和校准结果来自自己的数据划分与运行设置，尚未经过 TypeDecide 的统一环境复测。
- 开发者
- Jared Palmer
- 技术路线
- Qwen3.5 + LoRA + Pointer Head
- 模型规模
- 0.8B / 4B / 9B
- 许可证
- Apache-2.0（数据集另审）
- 语言范围
- 官方训练与评测以英语任务为主；其他语言需单独验证
- 输入长度
- 训练 State 最多 384 tokens；服务允许 State 与单个问题合计 8,192 tokens
- 运行环境
- Python 3.12+ · PyTorch · CUDA / ROCm / Apple Silicon
- 资料核验
- 2026-09-23
推理路径
一次结构化决策如何形成
指针头评分候选
指针头比较候选结束位置与决策位置的隐藏状态，只在合法候选内归一化概率，不执行自由文本解码。
随检查点加载校准
发布检查点保存基于开发集拟合的温度参数，默认返回校准后的概率；团队仍需用自己的领域数据重测阈值。
采用判断
适合做什么，以及先检查什么
适合评估
- 希望在本地部署 TypeSafe System One 兼容接口，并保留模型与数据控制权的团队
- 拥有领域标签、需要从已发布检查点继续微调 Choice、Noul 或 Score 问题的项目
- 需要检查概率校准、选项顺序敏感性和问题隔离，而不只比较单次答案的研究或评测
已知限制
- 官方训练与公开评测主要围绕英语任务；中文、混合语言和领域术语需要独立数据测试，必要时继续微调。
- 训练覆盖的 State 最多 384 tokens、State 与单个问题合计最多 1,024 tokens；服务端虽允许更长输入，但长上下文能力没有得到同等训练覆盖。
- 项目明确说明改变 Choice 选项顺序仍可能改变答案，问题隔离不能消除候选之间的顺序影响。
- 内置服务默认绑定本机且没有身份验证，并且一次只处理一个请求；公开部署前必须增加鉴权、限流、并发和审计层。
- Qwen3.5 版本在 Apple Silicon 上缺少 DeltaNet 快速内核，项目实测明显慢于上一代 Qwen3 权重；选型时需要按实际硬件复测延迟。
来源与边界
公开资料，不是 TypeDecide 统一实测
本页根据项目模型卡、仓库说明和其中公开的训练或评测设置整理。不同项目的硬件、数据集、版本、温度与样本量不同，公开数字不能直接组成排行榜；生产采用前仍需复核许可证并在目标数据上重测。
继续了解