候选 logits
问题和候选被写入提示模板，模型读取每个答案槽位的隐藏状态，只对合法候选标签计算概率。
TypeDecide 首页
模型介绍 · 通用基线
Decider-2B 模型介绍
Decider-2B 基于 Qwen3.5-2B-Base，在答案槽位读取候选 token logits，一次前向返回 Choice、Score 与 Noul 概率。本页说明其动态选项、批处理、Schema 缓存和 Jev 风格接口，以及 GPU 部署、精度折衷与语言覆盖限制。
返回模型目录
优先评估动态选项批处理可自托管
Decider-2B 是什么？
Decider-2B 是基于 Qwen3.5-2B-Base 的开放决策模型。它在每个 Answer 槽位读取候选标签对应的 logits，再对合法候选做 softmax，因此不会生成选项之外的文本。
模型卡描述的 v8 支持字符串、对象或数组 State、2 到 255 个动态选项、批量请求，以及与 Jev System One 请求形状相近的 Choice、Score、Noul 输出。
它的主要价值是把较通用的 Qwen 底座包装成受限决策服务：调用方继续掌握问题结构和候选集合，模型只负责分配概率。32k 输入上限和 255 个候选是接口容量，不代表长上下文、大候选集或所有领域都能保持同等准确率。
- 开发者
- Mapika
- 技术路线
- Qwen3.5-2B + Token Logits
- 模型规模
- 约 1.9B
- 许可证
- Apache-2.0
- 语言范围
- 模型卡以英语任务为主
- 输入长度
- State 与问题合计最高 32k tokens
- 运行环境
- PyTorch · Transformers 5 · GPU 优先
- 资料核验
- 2026-09-19
推理路径
一次结构化决策如何形成
问题独立评分
默认情况下每个问题使用独立行评分，避免同一次调用中的其他问题改变答案；也可选择更快的紧凑布局。
可缓存 Schema
固定问题集合可以预计算问题前缀，再批量传入不同 State；模型卡同时提示这种布局会牺牲部分准确率。
采用判断
适合做什么，以及先检查什么
适合评估
- 需要 Jev 风格请求结构但希望自托管的原型和兼容性实验
- 候选项随请求变化、需要完整概率分布或低置信度转人工的任务
- 同一问题 Schema 需要处理大量 State 的批量决策服务
已知限制
- 高效运行依赖 PyTorch、Transformers 5 和适配 Qwen3.5 线性注意力的 GPU 环境。
- Schema 缓存布局在固定标签、逐样本选项、大候选集和长 State 上都有不同程度的精度代价。
- 公开评测由项目作者在其数据划分和温度设置下完成，不能直接与其他模型卡的数字横向排名。
- 模型卡的训练与评测以英语数据为主，中文或其他语言应先做独立覆盖测试。
来源与边界
公开资料，不是 TypeDecide 统一实测
本页根据项目模型卡、仓库说明和其中公开的训练或评测设置整理。不同项目的硬件、数据集、版本、温度与样本量不同，公开数字不能直接组成排行榜；生产采用前仍需复核许可证并在目标数据上重测。
继续了解