本章跟着一条线走:AI的服务对象从物件换成了人。教育、能源、媒体、政务、建筑五个现场,审计的主线是"普惠的诱惑"与"误伤的代价"之间的拉锯。
第3章的效率公式在本章仍然有效,但每个现场都多了一个算不进公式的变量:误伤。教育AI把一个学生分进"低潜力组",影响的可能是几年的课程资源;政务AI把一个申请判定为"不符条件",卡住的可能是一个家庭的救急资格;媒体推荐把一条信息流推向千万人,塑造的是公共认知。这条主线从教室出发,经过电网、编辑部、政务大厅,最后停在工地,每一站的AI都在"扩大服务覆盖"与"放大错误影响"之间找平衡点,而审计要核对的正是这个平衡点的位置与调整机制。五站的阅读顺序也有讲究:能源一节(4.2)其实是最"轻"的一站,误伤止于财务层,适合用来校准审计手感;教育与政务两节则是重量级,建议放在状态好的时候精读。
4.1节审计教育:自适应练习与作文批改,看点是学生画像的固化风险与教师保留的判断权,附数据采集的伦理边界。4.2节审计能源:负荷预测的误差如何被旋转备用容量兜住、故障预警与3.2节预测性维护的同构性。4.3节审计媒体:生成与推荐的合流、信息茧房的审计口径、内容标识义务。4.4节审计政务:问答机器人的幻觉治理与审批辅助的程序正义底线。4.5节审计建筑:自动估价的黑箱与周期性巡检的落地形态。4.6节横向复盘:把五个现场按"误伤可逆性"排序,收束全章。
本章的转折在4.4节:公共服务的AI化有一条程序正义底线——凡是影响个人权利的判定,必须留有人工复核与申诉通道,这不是技术问题,是合法性问题。另一个转折在4.6节:五个现场按误伤可逆性排成阶梯后,"克制程度"第一次有了排序依据,而不是道德口号。最终落点:服务与公共行业AI的成色不看覆盖了多少人,看被误伤的那一小部分人有没有便宜有效的纠正路径。这个落点与第3章的回收期公式并不冲突——它们是同一份账本的两栏,缺一栏的账都是假账。
行业现场到此走完两圈(壁垒圈与效率圈之外再添服务圈)。第5章换一个刀法:不再按行业切,而是按技术模式切,把NLP、CV、预测、推荐、自动化五类模式从各行业现场里抽出来横向审计,看同一模式在不同行业的成色差里藏着什么规律,并以一份失败模式年鉴收束全册。本章的误伤阶梯在第5章会以"错误可逆性"的名义再次出现——它是贯穿两章的同一个变量,只是观察距离从行业拉远到了技术模式。