02.数学基础

文档摘要

数学基础张量、矩阵运算、矩阵的基础知识、矩阵分解概率统计、常见的（多变量）分布信息论、熵、互信息、相对熵、交叉熵最优化估计方法、最小二乘、线性模型矩阵论矩阵基本知识矩阵：是一个二维数组，其中的每一个元素一般由两个索引来确定一般用大写变量表示，m行n列的实数矩阵，记做 $A \in R{m \times n}$. 张量(Tensor)：是矢量概念的推广，可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数。标量是0阶张量，矢量是一阶张量，矩阵是二阶张量，三维及以上数组一般称为张量。矩阵的秩(Rank)：矩阵列向量中的极大线性无关组的数目，记作矩阵的列秩，同样可以定义行秩。行秩=列秩=矩阵的秩，通常记作rank(A)。