机器学习基础概念

机器学习是AI的核心技术。

基本定义

什么是机器学习

从数据中学习规律
不显式编程
自动改进性能
​

学习类型

监督学习：有标签数据
无监督学习：无标签数据
强化学习：通过奖励学习
​

监督学习

分类问题

目标：预测离散类别
例子：垃圾邮件识别
算法：决策树、SVM、神经网络
​

回归问题

目标：预测连续值
例子：房价预测
算法：线性回归、梯度提升
​

常用算法

线性模型：简单快速
树模型：易于理解
神经网络：强大灵活
​

无监督学习

聚类

目标：发现数据分组
例子：用户分群
算法：K-means、层次聚类
​

降维

目标：减少特征数量
例子：数据可视化
算法：PCA、t-SNE
​

关联规则

目标：发现关联关系
例子：购物篮分析
算法：Apriori
​

模型评估

分类指标

准确率：整体正确率
精确率：预测为正的准确性
召回率：实际为正的覆盖率
F1分数：精确率和召回率的调和平均
​

回归指标

MSE：均方误差
MAE：平均绝对误差
R²：决定系数
​

验证方法

训练集：学习参数
验证集：调优超参
测试集：评估性能
交叉验证：更可靠评估
​

特征工程

特征选择

过滤法：统计方法
包装法：模型性能
嵌入法：正则化
​

特征变换

标准化：Z-score
归一化：Min-Max
编码：独热编码
​

特征创建

多项式特征
交互特征
领域知识
​

过拟合问题

表现

训练集：表现很好
测试集：表现很差
原因：模型太复杂
​

解决方法

正则化：L1、L2
Dropout：随机丢弃
早停：监控验证集
数据增强：增加样本
​

实践流程

1. 问题定义

明确目标
确定类型
设定指标
​

2. 数据准备

收集数据
清洗数据
探索分析
​

3. 模型训练

特征工程
选择算法
训练模型
​

4. 模型评估

交叉验证
调优参数
测试评估
​

5. 部署监控

模型部署
性能监控
持续改进
​

工具生态

Python库

scikit-learn：传统算法
TensorFlow：深度学习
PyTorch：灵活框架
​

工具平台

Jupyter：交互开发
Colab：云端运行
Kaggle：数据竞赛
​

机器学习是数据驱动的智能核心。