BuiltOnJev
恒星sun on X: 如果分类结果最终要喂给业务系统,生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。
x.com

恒星sun on X: 如果分类结果最终要喂给业务系统,生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。

@vintcessun@vintcessun@vintcessunlisted 49m agoreviewed by Jev

如果分类结果最终要喂给业务系统,生成一段 JSON 往往不是最省事的路径。Simple Jev 把开放模型变成结构化决策接口。 https://github.com/featherless-ai/simple-jev 它复用共享上下文的 KV cache,只读取各问题候选标签的下一 token logits,再由服务端组装 choice、score 和真值判断。省掉逐 token 解码与 JSON 解析,多问题场景更有价值;common 目录还把提示契约和评分逻辑抽成可复用层。适合路由、审核、打分,但准确率与校准仍需按任务验证。 ❤️ 2 likes on X

Author
@vintcessun
Use case
Context & Memory
Added
2026-09-25

All figures come from the author. Check the source before you quote them.

Bid history

No bids yet — the first one takes this project straight to the spotlight.