Jev AI Model Critique: Marketing Hype Obscures Simple Architecture Tweaks

The author opens with skepticism toward the viral Jev model, which is marketed with buzzwords: "former OpenAI researcher," "AGI," "secret new method," "hundreds of times cost/speed improvement," "Pareto frontier," "revolution," "solves hallucination," and "System One model." Feeding Jev's own promotional copy into the model yields a 99% probability of heavy marketing with 99% confidence.

To illustrate the core trick, the author constructs a toy "model" that adds two numbers instantly with zero hallucination and free access — but only accepts rigidly formatted inputs (two numbers in fixed positions) and performs a single narrow operation. It supports batch parallel inference for multiple pairs. This mirrors Jev's approach: extract tasks LLMs handle poorly (calculation, multi-label judgment), replace the generative head with a specialized module, and claim breakthrough speed and reliability.

Using a concrete ticket-classification example (three yes/no questions about a customer ticket), the author shows how a standard LLM answers serially, token by token. A simple optimization splits the three questions into three parallel prompts, yielding a 3× speedup and eliminating redundant prefix tokens. Jev automates this splitting and parallelization internally.

Under the hood, per community implementations (Qwen-2.5-1B-RLCD, a pure web demo, and laya's year-old open-source project), Jev keeps the Transformer backbone unchanged but removes the final vocabulary-projection head. Instead, each enum-class token gets a dedicated scorer — a small neural network — trained jointly with the base model on judgment tasks via RLCD (Reinforcement Learning from Classification Data), replacing RLHF which optimizes for human language preference rather than judgment accuracy.

The model outputs structured scores, not text; engineering glue assembles them into valid JSON. The "no hallucination" claim only covers output structure: the JSON schema and enum values are guaranteed by construction, not by factual correctness. The author stresses that factual hallucination remains unsolved; at best, targeted training lifts judgment accuracy.

Engineering trade-off: complexity moves to the caller, who must supply prompts in Jev's strict format (three predefined types converging to fixed enum tokens). Integration then requires post-processing the rigid output.

Despite the hype, the author acknowledges real utility: many production LLM calls are merely "high-powered if-else" classifiers. Jev offers a cheaper, faster, purpose-built alternative for that narrow slice. However, labeling it an AGI breakthrough or a Transformer revolution is misleading — it is a solid engineering optimization, not a new paradigm.

Code example

来源丨
经授权转自
闪客公众号
作者丨
飞天闪客
真是无语了，最近有个新模型 Jev 火了，骗了，啊不是，吸引了很多人的关注。什么前 OpenAI 研究员、AGI、秘密构建的全新方法、成本速度提升几百倍、推动帕累托前沿、革命、解决了幻觉、System One 模型，作者还说什么这是未来。
这么多词放在一起，那就不难想象一堆傻屌营销号和 AI 总结之后是什么场面了。甚至有个博主还做了个 Jev 和 DeepSeek 生成页面的速度对比，那简直就是在侮辱大家的智商了。
我把原贴一字不差地复制给这个革命性的 Jev，用它这个自称没有幻觉的决策模型判断一下自己这文案的营销属性有多强，它给出了 99% 的概率是重度营销，而且还有 99% 的置信度。
这可不是我说的哦？不过为了解释清楚它怎么个营销法，可能会稍稍绕点弯子，我先来个简化版本让你直观感受下问题出在哪。
我今天也发布了一个模型，速度要比普通的大模型快一万倍，而且完全没有幻觉，而且这个模型可以永久免费让大家用！怎么样，激不激动！
额，但是啊，我这个模型只能做两个数的加法运算，你的输入必须符合这样的结构，把第一个数放在这，第二个数放在这。但是呢，我这个模型底层结构上做了并行优化，你可以批量给好几对数字，然后我的模型会并行的瞬间的给你返回所有运算后的结果，不像传统大模型一样要一个字一个字输出。
怎么样？你觉得我这个模型是不是很颠覆？如果我这样说的话，你肯定就一眼看出来我是个傻子了，但这件事儿的本质和 Jev 模型的解决思路是一样的。其实就是把大语言模型的一些不擅长的领域给单独拎出来做了，比如大模型不擅长做计算，那就可以把计算的逻辑交给计算器，那当然会比大模型又快又准还便宜了。但还有一类问题也是大模型不擅长的，就是做判断，尤其是一次性做多组判断。
比如说我们输入给大模型的问题是这样的。有一个客户提来的工单，然后我们希望大模型判断这 3 个问题，并且要求它按照指定格式回答。
这对大模型来说显然没什么难度，但是这个就像让大模型做计算器一样，并不是它真正擅长的领域。你相当于把一个擅长自由发挥的生成式模型，强行用成了一个分类模型，而且还限制了它输出的格式。这就产生了一个优化空间。
但这类问题就不能像计算器一样，单独弄一个程序来处理了，那具体该怎么优化呢？第一个问题就是，大模型回答这些问题是串行的。也就是说它需要一个字一个字往出蹦，假如这个问题列表很长的话，就需要很长时间了。那有一种非常非常简单的优化方式，就是手动的把包含在一次对话里的 3 个问题，拆成 3 次对话。然后这 3 个对话并行送给大模型，这速度不就一下提升 3 倍了吗？
而且这样还省去了为了对应问题而输出的多余的前缀，速度还会更快一些。同时你还可以再手动拼成一个完整的回答交给用户。那对用户来说，体感上和直接问大模型一个问题一样，但实际的底层机制已经被你偷偷换掉了。这就是 Jev 所谓的速度快、并行输出以及没有幻觉的解决思路。
当然，实际底层的模型架构实现肯定不是这么儿戏的，Jev 这个模型并没有公布实现细节，但网上已经有非常多的民间实现版本，包括改造千问模型的 Qwen-2.5-1B-RLCD，还有这个纯网页实现的版本，还有一个爆料 Jev 就是抄它一年前做的成果并且把实现细节都开源出来了的 laya。
如果参考 laya 的实现原理，其实就是整个 Transformer 架构的底座完全不变。
然后把最后一层的这个映射为词表的分类头给拿掉。换成专门在这些枚举类型的输入 token 上面，分别经过一个打分器，也就是个小神经网路。这些打分器是专门跟着下面的大模型底座一起，在这种判断类型的任务上做训练的。
在 Jev 中被他们成为一种全新的强化学习训练算法 RLCD，以代替传统的基于人类语言偏好而不是判断准确性的 RLHF。
所以这个模型底层输出的确实不是文本，但后面你可以通过工程把这些文本拼成一个漂亮的 JSON 返回给最终用户，让他看起来好像吐出了一大堆文本一样。
所以官网上所描述的什么并行采样器，以及展示的和传统大模型输出速度这种酷炫对比，本质上底层就是这么个玩意，这个实现的原理给别人解释通了，那你后面的什么各种这个速度快那个速度快，那就并不是一个什么惊讶的事了。
我自己手动拆分问题，然后并行的调大模型，也能达到同样的效果，它只不过相当于帮你拆分了问题，并且在内部做并行处理的时候，有进一步的优化手段。同时又专门为了这个固定枚举范围的判断型问题把 Transformer 的分类头给砍掉，换成了专门训练的打分器。所以实际上，智力来源依然来自于传统的大模型。
至于官网说的，它解决了幻觉的问题。这就纯纯是硬蹭热点，忽悠老百姓了。它实际上解决的仅仅是输出结构的幻觉问题，也就是它输出的一定是一个符合规范的 JSON 结构，并且里面的枚举值不会超过你给出的范围。这不废话吗？因为这部分根本就不是大模型生成的，而是程序写死的拼接好的。而真正所谓的幻觉问题，更重要的是回答的对不对，而不是格式标不标准。这个它是并没有解决的，充其量只能说通过专项训练，把这块的能力提升了而已。所以更准确的说法是，它并没有解决幻觉问题，只是把输出结构完全符合规范的概率提升到了 100%。而且这个 100% 不是概率意义上的高，是真正从工程层面杜绝了。
当然，这样做是有代价的。在计算机工程领域，你就永远记住一句话，复杂度不会消失，只会转移。Jev 这个模型就是既希望保留大模型的泛化能力，又希望把功能窄化到一个特定的领域，最好就是像计算器似的直接写个代码就代替了。但做不到这个层度，所以就选了这么个折中态。那多出来的一部分复杂度就要由人来承担了，也就是你输入给这个大模型的提示词必须按照它要求的格式来输入。
看它官网的示例，可以有三种类型，但底层都可以收敛到固定几个枚举 Token 打分的逻辑上。然后这个模型的输出也是相对固化的。如果你想把它接入到其他地方，或者仅仅是做一个总结汇报，那就需要你自己去处理这部分输出了。这就是复杂度的转移。
那这个模型是否有用呢？非常有用，这是工程实现上的一个很好的优化。其实现在的很多地方用大模型属于就是高射炮打蚊子了，可能仅仅用它们来做一个简单的判断，相当于程序代码里的一个高级 if else。那以后这一部分就可以用这个又便宜又有针对性的模型代替。
但是你要硬想它官网上说的什么，解决了幻觉，又通往 AGI，又革命，还非常鸡贼的弄了一些速度、价格的对比，让大家以为是革命了 Transformer 的架构似的，还说这东西是未来.
那就有点搞笑了。