跳转到主要内容

Jev：跳过文本生成以实现更快、更便宜决策的AI

TypeSafe AI 的 Jev：当 AI 选择不说话时

如果一个 AI 模型可以通过什么都不说而变得更聪明呢？这就是 Jev 背后的赌注，一个来自 TypeSafe AI 的新 Transformer 模型。与我们习惯的健谈的大型语言模型（LLM）不同，Jev 不生成文本。它输出概率——为软件自动化设计的纯粹、校准的数字。

背后的智囊是谁？Diogo Almeida，一位前 OpenAI 研究员，曾参与 RLHF（使 ChatGPT 变得礼貌的技术）。两年前，他离开 OpenAI 创立了 TypeSafe AI， driven by a hunch: optimizing models for human language is a square peg in a round hole for computer automation.

Image

为什么跳过文字？

传统的 LLM 擅长写文章，但它们会产生幻觉，并在每个 token 上烧钱。Jev 避开了这两个问题。它的输出 token 是免费的——你只需为输入付费，按每十亿 token 计费。这与通常的按词付费模式相比是一个根本性的转变。

但它有效吗？早期开发者测试说是的。Vercel 将 OpenAI 模型换成了 Jev 来分类命令安全性。结果：快 5 到 18 倍，且准确性更高。在 Bryo AI 的另一项测试中，Jev 的准确性略低于 Gemini，但成本低 10 到 20 倍。对于许多自动化任务来说，这种权衡是显而易见的。

更大的图景

Almeida 的赌注是，并非每个 AI 问题都需要诗人。有时你只需要一个可靠的决策者。通过专注于概率输出，Jev 避免了文本生成的臃肿，并提供了自动化管道渴望的东西：速度、低成本和没有创造性偏离。

这会不会意味着后端自动化中 LLM 的终结？不完全是——但它尖锐地提醒我们，一刀切并不适合所有情况。随着 AI 的成熟，像 Jev 这样的专业工具可能会成为幕后沉默的工作马，而 LLM 则处理对话。

关键点

  • Jev 是一个 Transformer 模型，为自动化输出概率而非文本。
  • 由 Diogo Almeida 创立，前 OpenAI 研究员，TypeSafe AI 旨在削减成本和幻觉。
  • 输出 token 免费；输入按每十亿 token 计费。
  • Vercel 在替换 OpenAI 模型后看到了 5-18 倍加速和更好的准确性。
  • Bryo AI 发现 Jev 比 Gemini 便宜 10-20 倍，准确性略低。
  • Jev 针对决策制定，而非对话——一个用于软件自动化的专业工具。