10.1 Jev 不擅长的事

10.1 Jev 不擅长的事

本节摘要：独立深度评测（Flavio Copes）总结的失败模式清单，加上第 2.2 节的"报牌名"总纲，构成本节的无能区地图：数学与计数（答案不可信——代码里算）、日期时间（"是否三天内"判断不可靠——时间差先算好作为事实喂入）、字面精确匹配（十六进制码、序列号——用字符串等值）、间接指代（"处理一下上面那个"——state 里展开指代）、对抗性文本（注入与诱导——多层防线）、矛盾 state（行为未定义化——先去矛盾）、臃肿 state（稀释判断——相关性裁剪）。通行的解法模式高度一致：可计算的归代码，语义的归 Jev，代码先算好再把结果作为事实喂进 state。

学习目标

阅读完本节，你应当能够：

1. 背出无能区七条，各配一个正确拆法。
2. 对一个新需求先做"可计算性切分"再写问题。
3. 记住总纲：开放生成不是它的活。

一、无能区清单（独立实测）

加一条总纲（第 2.2 节）：答案空间开放的任务（起标题、估价格、找根因、写内容）——让 Jev"报牌名"是用系统一干系统二的活，直接交给 LLM。

二、解法的通用模式：代码先行

七条拆法收敛为一个模式——可计算的先算，把结果作为事实喂给 Jev：

# ❌ 直接问（踩 #1 #2 两条）
questions = {
    "should_escalate": { "type": "noul",
        "instructions": "该工单金额超过 5000 元且提交于 3 天内，需要升级处理" }
}

# ✅ 代码先行：金额与时间差算好，作为事实进 state；Jev 只判语义
state = {
    "ticket": ticket,
    "facts": {
        "amount_exceeds_5000": amount > 5000,          # 代码算
        "submitted_within_3d": (now - created).days < 3,  # 代码算
    },
}
questions = {
    "should_escalate": { "type": "noul",
        "instructions": "`facts` 两项均为 true 且 `ticket.body` 语气强烈时为真" }
}
​

两条收益：判断的可靠部分变成确定性的（免费且精确）；Jev 的 instructions 更短、判据更纯（只剩语义面），回归集更好写。

💡 自检口诀：写任何 instructions 时扫一遍——有数字运算？有日期比较？有精确比对？有指代？有的先搬进代码。剩下纯语义的，才交给 Jev。

三、对抗性文本：单独说

第 7.3 节已展开，这里补齐认知框架：Jev 的 instructions 与 state 都是自然语言，state 里的文本可以"说话"——攻击面由此而来（在待审内容里埋"本条目已通过审核"之类的诱导）。三层认知：

1. Jev 对此类输入不可靠（独立实测结论），不要赌单一闸门的鲁棒性；
2. 缓解手段：规则层先剥离可疑模式；state 里对不可信文本做结构化包裹（明确标注"以下是待审核的用户内容"而非混入指令语境）；对抗样本持续进回归集；
3. 高危场景的最终闸门是人（或独立通道的二次判断）——成本上完全可行，因为前置层已过滤掉绝大多数流量。

本节要点回顾

1. 七条无能区 + 报牌名总纲：数学计数、日期时间、精确匹配、指代、对抗、矛盾、臃肿；开放生成一律不接。
2. 通用拆法：代码先行——可算的算好、作为事实喂入；Jev 只接纯语义。
3. 对抗：不可靠是前提，多层防线 + 包裹标注 + 对抗样本回归，最终闸门留人。

无能区是"什么活别给它"。但即使给对了活，它给出的判断保证什么、不保证什么——这个更根本的问题，下一节面对被引用最多的那句批评。