第04章 专科门诊:类型与异常


文档摘要

第04章 专科门诊:类型与异常 章节摘要:内科清完缺失与重复,病人的疑难杂症转专科。本章三个专科:类型科治"数字变字符串"的血型病(第01章埋的病灶在此结案),影像科判异常值的性质(真离群还是录错),整形科做字符串与规范化(空格、大小写、格式统一)。 一条主线 还是那份销售明细。内科出院时它已无缺失无重复,但金额列仍混着字符串'880',日期格式三种并存,门店名一会儿"A店"一会儿"a店"。专科门诊的任务是让它达到"可计算、可比较、可合并"的出院标准——特别是可合并,第06章的merge对键的格式极其挑剔,这边差一个空格,那边就对不上一条。本章是查体阶段的最后一站,过了这关,数据才真正"健康"。

第04章 专科门诊:类型与异常

章节摘要:内科清完缺失与重复,病人的疑难杂症转专科。本章三个专科:类型科治"数字变字符串"的血型病(第01章埋的病灶在此结案),影像科判异常值的性质(真离群还是录错),整形科做字符串与规范化(空格、大小写、格式统一)。

一条主线

还是那份销售明细。内科出院时它已无缺失无重复,但金额列仍混着字符串'880',日期格式三种并存,门店名一会儿"A店"一会儿"a店"。专科门诊的任务是让它达到"可计算、可比较、可合并"的出院标准——特别是可合并,第06章的merge对键的格式极其挑剔,这边差一个空格,那边就对不上一条。本章是查体阶段的最后一站,过了这关,数据才真正"健康"。

沿途站点

4-1 数据类型的转科单

astype与to_numeric的正规转科流程,errors参数的三种态度,category血型的省内存红利,以及转科失败的典型病例。

4-2 异常值的影像判定

describe与分位数先看片,IQR与Z分数两种判读标准,判异常之后的三条出路(修、留、标)——异常值处理是业务判断题,不是纯技术题。

4-3 字符串与规范化处置

str访问器全家、正则提取、strip去空格、统一大小写,最后给出一张出院前的规范化清单。

拐点与结论

本章的认知拐点在4-2:异常值不等于错误值。一笔12万的订单可能是录错(多打一个零),也可能是真大单。技术手段只能"标记可疑",定性必须回到业务语境。读完本章,你应当能够:

  • 把object的数字列安全转回数值,并解释errors='coerce'的代价
  • 说出category类型的适用条件与它对groupby排序的影响
  • 用IQR与Z分数两套标准圈出可疑值,并说明各自适用场景
  • 对异常值做出修、留、标三种处置并能陈述理由
  • 用str访问器与正则完成文本列的清洗与提取

前置与延伸

前置:第03章的缺失处置(转科产生的NaN要回那条流程)、第02章的布尔筛选(圈可疑值用)。延伸:category血型对分组排序的影响在5-1兑现;离群标记列如何进入报告口径在5-2讨论;字符串键的规范化直接决定6-1的merge质量。本章练习建议拿一张真实的脏表做"出院改造",把三科的器械各用一遍,改造前后各出一次describe对比,效果立竿见影。

下一章的接力

三科看完,病人拿到出院许可,进入报告环节:第05章的分组与会诊把明细压缩成指标。类型科定好的category血型,将直接影响分组报告的排序与体积。

本章考核知识点清单

三科的出科考卷:用to_numeric配coerce完成脏列转科并复核静默NaN;说出category类型的三个红利与适用条件;用describe的均值中位数背离识别偏态;用IQR与Z分数各圈一次可疑值并解释差异;对异常值执行修、留、标三种处置并陈述理由;用str访问器完成strip、映射、提取、拆列四类操作;说明regex=False的使用时机;背诵出院三标准——可计算、可比较、可合并。查体阶段的全部功夫到此验收,任何一条不过关,第06章合并时都会以"对不上的键"形式补考。


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U