嵌入软件的决策模型
Jev 是 TypeSafe AI 推出的 AI 模型,用于在软件中作出结构化判断。你提供信息和一组定义清楚的问题,应用便能获得可用于选择下一步操作的答案。TypeSafe 将这一模型系列称为 System One。官方介绍
设想一个收到了数百条客户消息的收件箱。在回复之前,需要先判断几个问题:应由哪个团队负责、事情有多紧急,以及是否需要人工审核。Jev 就是为辅助这类工作而设计的。
具体采取什么行动,仍由你的应用决定。模型建议把工单交给工程团队,并不意味着它已经创建了工单、联系了客户,或批准了退款。
查看技术细节
三种提问方式
| 基础类型 | 适用需求 | 问题示例 |
|---|---|---|
| Choice | 从你定义的选项中选出一个答案 | 这条消息应该进入哪个处理队列? |
| Score | 按有序的等级描述评分 | 这篇文章与我们的主题有多相关? |
| Noul | 判断某个陈述为真的概率 | 客户是否明确要求回电? |
一次请求可以针对同一份输入提出多个问题。Jev 会独立评估各个问题,再由你的代码组合答案。问题类型
这种区分很重要:“这件事有多紧急?”需要明确的等级标准;“这里是否提到了截止时间?”则是范围更小的是非问题。选对问题,本身就是应用设计的一部分。
Jev 能做什么,你需要提供什么
Jev 目前处理文本,也包括以 JSON 对象或数组表示的文本。它不直接接受图片、音频或视频,也不生成邮件、文章、解释或代码。System One 文档
你需要提供相关上下文、备选项、评分标准,以及处理结果的规则。例如,在文档工作流中,可以先提取文本,让 Jev 判断相关性,再用其他工具对选中的文档作摘要。
你可以先看实际使用场景,也可以阅读 Jev 与大语言模型的比较,确定工作流的各个环节适合交给哪种工具。
查看技术细节
概率为什么重要
TypeSafe 将其训练方法称为面向校准决策的强化学习,英文为 Reinforcement Learning for Calibrated Decisions,简称 RLCD。目标是让模型报告的概率与大量预测中的实际发生频率相符。例如,在一个校准良好的系统中,一组可比的预测如果都给出 70% 的概率,那么相应事件应在约 70% 的情况下发生。这是统计层面的性质,并非对某一次答案的承诺。TypeSafe 的 AI 基础介绍
这给开发者提供了一种实用的设计思路:对明确的情况采取行动,为模糊的情况补充上下文,把困难的情况交给人处理。但具体阈值仍需要根据你的实际任务来评估。
接下来可以看什么
- 开发者: 从一项语义检查开始,把执行和权限控制留在代码中。
- 客服团队: 分别判断处理队列、紧急程度,以及是否需要人工介入。
- 搜索与 RAG 团队: 先找到相关证据,再让另一个模型撰写答案。
- 安全团队: 探索辅助审核的信号,同时保留现有控制措施和分析人员的判断。
使用场景指南围绕这些角色展开,并完整介绍一个官方文档搜索示例。限制指南则说明接口、证据和运行假设各自的边界。
常见问题
Jev 是聊天机器人吗?
不是。它的输出被限定在你定义的决策范围内。它可以帮助聊天应用选择处理路径或评估回复,而实际措辞由另一个模型或模板提供。
输出有固定结构,就意味着答案正确吗?
不是。响应可能完全符合预期类型,却仍然选错类别。格式保证和决策准确性是两个不同的属性。比较指南会进一步解释这一区别。
我现在就能试用吗?
可以从本站 Playground 开始,载入示例或编写自己的问题。实时检查取决于网站当前可用状态和使用限额。需要自己的 API 集成或官方 Playground 时,请阅读入门指南 并访问 TypeSafe 官网;官方账户和产品访问资格与本站体验分开管理。
费用是多少?
定价指南与计算器提供公开的输入 token 单价、实用估算方式,以及估算未包含的成本。
本站的语言选择器代表 Jev 支持的语言吗?
不是。本站的 12 种阅读语言只是这份指南的翻译版本,并非模型能力清单、准确率声明,也不能证明同一个问题在各语言中的表现同样好。请针对自己工作流中的语言和术语进行评估。
这是 Jev 的官方网站吗?
不是。What is Jev 是独立的教育性指南,与 TypeSafe AI 没有关联。我们提供一手来源链接,并按证据类型标注示例。详情见我们的编辑方法。
来源与延伸阅读
本指南依据官方文档和所链接的社区报告编写。社区观察均注明原作者。
我们如何核查来源