2.4 推理与理解


2.4 推理与理解

本节摘要:推理是在已有知识与当前状态上,推出没有被传感器直接报告的结论。演绎从一般到特殊,归纳从样本到规则,溯因从结果到最像的原因,基于案例则复用旧解。理解不是单独一种算法,而是推理结果能否支撑决策与解释。感知给证据,表示给合法步骤,世界模型给时间方向,推理把这三者焊成「现在到底发生了什么」。

上手前先明确

阅读完本节,你应当能够:

  1. 用同一观察区分演绎、归纳、溯因会得出什么
  2. 说明谓词、语义网络、框架、本体分别给推理提供什么操作
  3. 指出不确定推理为何必须把置信带进状态,而不是只输出一个标签
  4. 解释「理解」在循环里如何被检验:看决策是否用上了推出的结论

没看见的部分,靠推

地面湿了。演绎需要大前提「若下雨则地湿」,且你已知下雨,才能得地湿——它不从地湿出发。归纳是看多次「下雨后天湿」才形成那条规则。溯因则是看见地湿,猜测最像的原因是下雨,也可能是洒水车。三种推理在循环里的调用点不同。演绎多发生在决策前的合法性检查:已知这是腐蚀品、已知腐蚀品不得邻接食品,推出当前装箱方案非法。归纳更靠近学习:从轨迹里形成规则。溯因靠近感知后处理:检测不稳定时,用最像的解释填补。

SOURCE 还列出基于案例的推理:新问题先找旧案例再改。客服与故障诊断常用。它不生产新的一般定律,只承认「相似情境往往有相似解」。在世界模型不完整时,案例库是一种廉价的记忆型模型。

证据:地湿 演绎:前提齐全才能向下推,缺前提就停 归纳:多条证据才敢升成规则 溯因:在若干原因里挑最像的,必须保留其他可能 案例:找「上次地湿」怎么处理的

💡 关键直觉:溯因给出的是假设不是事实。若把它当确定性状态送给规划,规划会在错误棋盘上走到底。

表示决定能推什么

谓词逻辑里,积木世界的 On(A,B) 可以和规则一起做归结或前向链。语义网络靠沿「是一种」边继承属性:鸟会飞,企鹅是鸟——若没有例外机制,推理会得出错的飞。框架靠槽填充与默认值:汽车框架默认四轮,三轮车要覆盖默认。本体加上分类与一致性检查:不能同时把一个实例断言成互斥类。向量则谈不上逐步证明,只能谈距离与分类器输出。

因此「推理模块」不是一个万能引擎。你选了 2.2 的表示,就选了 2.4 的合法操作。混合系统里常见做法:符号层做硬约束检查,向量层做假设生成。溯因的候选由网络提出,演绎负责否决不合法的。这比单靠生成模型「看起来合理」要可审计。

推理种类 输入 输出 在循环中的位置
演绎 规则加事实 必然结论或失败 决策前检查、规划剪枝
归纳 样本 新规则或模型 学习元件
溯因 观察 解释假设及置信 感知后、状态填充
案例 新问题 改写后的旧解 决策捷径
概率传播 证据与网络 后验 不确定状态估计

不确定推理必须把置信留在状态里。贝叶斯网络、马尔可夫逻辑、简单的置信分数,都是在承认 3.4 节要面对的不确定性从认知阶段就已经开始。若感知只输出 argmax 类别,决策会以为世界是确定的。这是认知向决策撒谎。

理解用决策来检验

SOURCE 把理解写成语义、场景、知识推理、情感。落到循环:语义理解是把句子收成意图与槽;场景理解是物体之间的关系而不是物体清单;知识推理是用本体补常识;情感是把用户状态当作效用的一部分。没有这些,智能体仍可能动作,只是「懂了」无法被检验。

检验方法很土:推出的结论有没有改变行动。若场景理解认为「人正走向车门」,决策是否推迟关门;若情感分析认为用户在着急,是否缩短追问。结论若只写在日志里,理解模块就是展览。医学诊断例子里,推理要把症状、检查、病史收成鉴别列表,决策才是检查或治疗的下一步;理解的质量看鉴别列表是否覆盖真病、是否把稀有病排得过前。

⚠️ 常见坑:用大模型一次生成「分析+结论+行动」,再把整段话叫理解。调试时你无法知道是场景关系错了,还是行动选择错了。至少在内部拆成假设、检查、行动三截,哪怕对外只吐一句。

积木世界仍是教推理的最小实验室:观察「A 在 B 上」,目标「C 在 A 上」,推理要知道必须先拿起 A。世界模型提供「拿起」的效果,演绎检查「拿起 A 的前提是手上空」。感知若把 A 认成 C,再强的推理也只是精确地错。认知四节到此收束:感知给证据,表示给语法,模型给动态,推理给缺块。交给第 3 章的,应是带置信的状态,而不是漂亮的中间张量。

情感与价值在此只作为状态字段出现,不展开伦理。用户烦躁可以提高「尽快结束」的效用权重,也可以触发转人工——那是决策。认知的职责是不要把讽刺当字面承诺。字段错了,后面的效用再精也是在错的目标上优化。

场景关系比物体清单更接近理解

检测出「人、车、门」三件套,不等于理解「人正走向车门」。关系是推理的主战场:空间关系、意图关系、约束关系。场景图把物体当节点、关系当边,规划吃的是边。没有边,规划只能当三件套都是静态障碍。行人过街的关键不是人的框,是「人与斑马线、与车的相对运动」这条关系是否被写入状态。情感分析同理:用户烦躁是与对话目标的关系,不是单独一个表情分类冠军。

演绎在积木世界漂亮,在开放街道容易没公理。这时溯因加检查更现实:网络提出「可能要过街」,规则检查「是否在斑马线附近且速度向外」。通过才写入状态。医学鉴别诊断是同一结构:假设列表加否决。大模型很会写假设,不会自动做否决。把否决交给描述逻辑或规则,理解才可检查。不可检查的理解,决策只能选择相信或不信整段话,粒度太粗。

基于案例时,相似度度量必须与状态清单一致。用像素相似找旧案例,会把灯光不同的同一故障当成新问题,或把不同故障当成同一。用故障码加工况做键,案例库才是记忆型世界模型。客服知识库亦然:用意图槽当键,而不是用整句向量当唯一键——向量可召回,槽决定能不能用。

置信传播失败的典型是把独立当独立:两个检测器都说「没人」,共用同一相机,其实不是两条证据。状态里的置信会被虚高。推理层要知道证据是否同源。同源则不加倍计算。这是工程上的概率卫生,不需要完整贝叶斯网络也能做,只要在状态上标注来源。

本节检查清单

演绎、归纳、溯因、案例的调用点能否各举一例?溯因结果有没有带其他可能与置信?argmax 标签有没有对决策撒谎?场景关系边有没有进状态,还是只有物体清单?证据同源有没有被当成两条独立证据加倍?案例库的键是状态字段还是像素相似?大模型假设有没有进规则否决?理解的结论有没有改变行动,还是只进日志?情感字段改的是效用还是被当成新伦理模块?积木世界里「拿起」的前提检查还在不在开放街道的对应物里?对应物往往是合法集与关系边。没有对应物,推理章就停在课堂积木,进不了循环。进不了循环的推理是展示。

只交物体清单的规划会把行人当椅子

同一路口,只给「人、车、门」三框,规划当静态障碍绕。加上「人相对斑马线向外加速」这条边,规划应减速让行。两次规划差,就是关系边的业务价值。价值可测。可测才不用把理解说成感觉。感觉不进状态。边进状态。边来自溯因加检查:网络说可能过街,规则看斑马线与速度。通过才写边。不通过当假设留着,不让规划当事实。当事实会在错误棋盘上很勇敢。勇敢是 2.4 禁止的。禁止把溯当演。演要前提。前提在合法关系。合法关系在检查。检查是演绎。演绎在开放街道常常公理不全,所以要网络提假设。假设不是理解完成。完成是边写进状态并且改变了行动。改变了,理解模块才不是展览。展览只出日志。日志不让行。让行才是理解。理解在循环里。循环要边。边这一条实验能让「场景理解」从形容词变成次数差。次数差是本节分数。分数不来自情感分类冠军。冠军若没改效用权重,仍是展览。展览用这一条拆穿。拆穿后,积木世界的 On(A,B) 才有开放街道的对应物:关系边。对应物在,推理章进得了循环。进得了,2.4 毕业。边要写进状态并且改变行动,才叫理解完成而不是展览日志。

温故知新毕业不发逻辑证书。发的是会把边交给规划的习惯。习惯比量词抗忘。抗忘才能进第 3 章。第 3 章会吃边。没边则规划吃椅子。椅子不会过街。过街的人会。人要边。边要检查。检查要置信。置信不要 argmax。argmax 是撒谎。撒谎从感知冠军开始。冠军留下分数。分数进溯因。溯因进检查。检查进边。边进规划。这一串是本节的完成态。完成态很土。土的理解才决策。决策要让行。让行可测。可测过关。

温故知新

  • 四种推理:演绎检查、归纳学习、溯因填补、案例复用,调用点不同
  • 溯因是假设:必须带其他可能与置信,不能当确定事实
  • 表示锁定操作:换表示等于换推理引擎
  • 不确定从认知开始:argmax 标签是对决策撒谎
  • 理解的检验:结论必须能改变行动,否则只是日志
  • 内部可拆:假设、检查、行动分开,即使对外一句生成

下一章进入决策:在这份状态上如何选行动。


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U