Jev模型热度激增，开源版本也随之受追捧
最近，开发者圈内出现了一个备受关注的新模型——Jev。该模型迅速在社交媒体上引发了热议，浏览量超过3700万，相关讨论在Hacker News上频繁出现。Jev模型的设计较为独特，放弃了传统生成型大语言模型的生成功能，专注于做出判断，并返回选项及其概率，而不是随意生成内容。它的效率极高，处理速度是传统模型的193.6倍，成本则更为低廉，输出token保持永久免费，输入每百万token仅需0.042美元。
这款模型的推出者是OpenAI的前研究员Diogo Almeida，他参与了多个核心项目的研发，最终成立了新公司TypeSafe AI。Jev作为其首个产品，旨在实现高效的决策支持，借鉴了心理学家丹尼尔·卡尼曼提出的快慢系统理论，Jev专注于快速直觉式决策。
Jev提供三项基本功能：Choice（选择）、Score（评分）和Noul（概率判断）。可以将其视为带有概率的“语义逻辑门”，能够接收非结构化的输入和特定类型的问题，并快速输出判断结果。在性能上，Jev的响应时间低至70～500毫秒，与其他顶尖模型相比，其速度快20～200倍，费用低40～400倍。 千亿球友会
为确保模型判定的准确性，Jev引入了一种新的训练方法——强化学习用于校准决策（RLCD），该方法专注于优化判断和其概率值，使得模型输出的置信度与实际发生率相匹配。虽然Jev声称“零幻觉”，但实际上在选项匹配方面仍存在一定隐患，可能会误选其他选项，但不会虚构答案。
在开发者的应用中，Jev为高频判断任务提供了显著的效率提升。例如，Vercel的工程师在自动模式的安全分类上，Jev的表现比现有的GPT模型快了5到18倍，同时提高了准确性。而在商业邮件分类的测试中，虽然Gemini的准确率略高，但其费用是Jev的10到20倍，使得Jev在自动化工作流中更具性价比。
此外，Jev也被用作对大语言模型的不当行为进行审查的工具，通过构建定制验证器，可以有效防止模型出现越界行为。这种应用还可以扩展到模型路由，通过Jev判断请求的复杂度，将简单任务交给快模型处理，而复杂任务则交由更昂贵的推理模型。 千亿球友会
总之，Jev凭借其独特的设计和高效的功能，正在吸引越来越多的开发者关注和使用。