想在本地跑 Jev 决策流,GitHub Next 开源的 LocalJev 是个很实用的轻量桥接服务。它基于 Bun 与 TypeScript 开发,默认对接 oMLX 运行的 DiffusionGemma-26B,完整实现了 POST /v1/systemone 协议。由于常见本地推理引擎无法直接抓取底层 logits,它采用更通用的思路:将上下文状态与设问转为提示词,由模型输出概率数据,经校验、自动纠错重试与归一化后计算出置信度和预期得分,并无缝兼容 TypeSafe SDK。项目还内置了涵盖新闻分类、布尔问答与情感分析的多模型评测套件,方便对比不同权重的实测延迟和质量。项目地址:github.com /githubnext/localjev
