广域混流
当前位置:首页 - 母婴 >

机器学习之数学概念速查手册(四)线性代数

2019-11-01来源:菏泽日报
亲,戳上面的蓝字关注我们哦!


根据学习机器学习算法原理时接触到的一些数学名词,整理自网络资源及一些视频教程。做这些为了防止自己学习中对一些知识的遗忘,记录这里作为一个速查手册之类,希望对大家也有所帮助。整理中也难免有疏漏或理解不对的地方,欢迎多交流指正互相学习。

这是第4篇,这篇开始整理线性代数相关的知识点


标量、向量、张量  

标量

标量就是一个简单的数,比如24

向量(vector)

向量是一个有序数组,能够写成一行或者一列的形式。向量只包含一个索引,用来表示向量中的某个特定元素。


【行向量(row vector)】:

一个1×n的矩阵,即矩阵由一个含有n个元素的行所组成:

【列向量(column vector)】:

一个m × 1的矩阵,即矩阵由一个包含m个元素的列组成:

行向量的转置是一个列向量,反之亦然。


【向量的模】:

向量的长度叫做向量的模。假设向量 v = (v1, v2, …, vn), 则v的模。记作:


【单位向量】:模为1的向量就是单位向量。


【向量的基(也称为基底)】:

给定一个向量空间 V。 V的一组基B,是指V里面的可线性生成V的一个线性无关子集。B的元素称为基向量。


向量加法

a + b = (a1 + b1, a2 + b2, …, an + bn)

向量乘以标量

设标量为k, 则 ka = (ka1, ka2, …, kan)

向量的点乘


张量

三维张量是按照一定规律排列在方格中的数组,其中一个变量数字表示轴。张量有三个索引,第一个索引表示行、第二个索引表示列、第三个索引表示轴。例如V_232表示第二行、第三列、第二轴的元素 


矩阵  

矩阵是一个有序的二维数组,有两个索引。第一个索引表示行,第二个索引表示列。

【1】矩阵加法:m×n矩阵A和B的和(差):A±B为一个m×n矩阵,其中每个元素是A和B相应元素的和(差): (A ± B)i,j = Ai,j ± Bi,j,其中1 ≤ i ≤ m , 1 ≤ j ≤ n.

【2】矩阵数乘:标量c与矩阵A的数乘:cA的每个元素是A的相应元素与c的乘积,(cA)i,j = cAi,j


【3】矩阵转置:m×n矩阵A的转置是一个n×m的矩阵,记为AT(或A'),其中的第i个行向量是原矩阵A的第i个列向量;或者说,转置矩阵AT第i行第j列的元素是原矩阵A第j行第i列的元素, (AT)i,j = Aj,i


【4】矩阵的乘法:两个矩阵的乘法仅当第一个矩阵A的列数和另一个矩阵B的行数相等时才能定义。如A是m×n矩阵和B是n×p矩阵,它们的乘积AB是一个m×p矩阵,它的一个元素

,其中1 ≤ i ≤ m, 1 ≤ j ≤ p


矩阵运算的规律

[1] 矩阵的加法运算满足交换律:

A + B = B + A。

[2] 矩阵的转置和数乘运算满足分配律:

(A + B)T = AT + BT c(A + B) = cA + cB

并满足类似于结合律的规律: c(AT) = (cA)T.


[3] 矩阵的乘法满足结合律和对矩阵加法的分配律(左分配律和右分配律):

• 结合律:(AB)C = A(BC), • 左分配律:(A + B)C = AC + BC, • 右分配律:C(A + B) = CA + CB.

[4] 矩阵的乘法与数乘运算之间也满足类似结合律的规律:

c(AB) = (cA)B = A(cB)


[5] 矩阵的乘法与转置之间则满足倒置的分配律:

(AB)T = BTAT

[6] 矩阵乘法*不*满足交换律。

一般来说,矩阵A及B的乘积AB存在,但BA不一定存在,即使存在,大多数时候AB ≠ BA。


【矩阵的秩】: 用初等行变换将矩阵A化为阶梯形矩阵, 则矩阵中非零行的个数就定义为这个矩阵的秩。


【列秩】:一个矩阵A的列秩是A的线性独立的纵列的最大数目。

【行秩】:一个矩阵A的行秩是A的线性独立的横行的最大数目。

行秩和列秩的关系:矩阵的列秩和行秩总是相等的。因此它们可以简单地称作矩阵A的秩。通常表示为r(A),rk(A)或rank A。

【满秩矩阵(non-singular matrix)】:若矩阵秩等于行数,称为行满秩;若矩阵秩等于列数,称为列满秩。既是行满秩又是列满秩则为n阶矩阵即n阶方阵。


【子式】:设A为一个 m×n 的矩阵,k为一个介于1和m之间的整数,并且k≤n。A的一个k阶子式是在A中选取k行k列之后所产生的k2个交点组成的方块矩阵的行列式。

【余子式】:A的一个k阶余子式是A去掉了k行与k列之后得到的(m-k)×(n-k)矩阵的行列式。

NOTE: 在m=/=n的情况下,这样的行列式如何计算是没有定义的,仅仅在概念上存在。

【零矩阵】:即所有元素皆为0的矩阵。


NOTE:对称矩阵,对角矩阵,矩阵的对角化等都有针对mxn矩阵的一般定义,但是在应用的层面,我们不必进行这些一般性的讨论,而只需要关注其针对nxn阶方阵的情形即可,因此,大多数情况下,对于矩阵的性质和运算,我们集中关注方阵这一特例。


方阵的行列式、代数余子式  

1阶方阵的行列式为该元素本身

N阶方阵的行列式等于它的任意一行(或列)的各元素与其对应的代数余子式乘积之和

主对角线元素乘积减去次对角线元素的乘积

行列式:

1X1的方阵  2X2的方阵


代数余子式:

在一个n阶行列式A中,把(i,j)所在的元素所在的第i行和第j列划去后,留下的n-1阶

方阵的行列式叫元素的代数余子式,记做



伴随矩阵  

对于n X n 方阵的任意元素都有各自的代数余子式,构造n X n 的方阵A*:   

,A*称为A的伴随矩阵,


方阵的逆





参考资料:

https://blog.csdn.net/qq_31821675/article/details/79188449

邹博视频







扫描关注领福利^_^

^_^ 给 点 好 看 哦 ^_^ 


转载文章地址:http://www.ecrpl.com/muying/37650.html
(本文来自广域混流整合文章:http://www.ecrpl.com)未经允许,不得转载!
标签:
网站简介 联系我们 网站申明 网站地图

版权所有:www.ecrpl.com ©2017 广域混流

广域混流提供的所有内容均是网络转载或网友提供,本站仅提供内容展示服务,不承认任何法律责任。