​高斯分布详解(搞懂多变量高斯分布的由来)

高斯分布详解(搞懂多变量高斯分布的由来)

多变量高斯分布(multivariate Gaussian distribution)的形式如下:

其中, 是D维 mean vector, 是 协方差矩阵, 里面的第 i 行第 j 列元素表示第 i 个变量第 j 个变量的协方差 , 代表协方差矩阵的行列式。

二维高斯分布的图如下所示(来自wikipedia),它的每一个维度都是高斯分布:

高斯分布详解(搞懂多变量高斯分布的由来)(1)

本文主要就是讲式(1)的由来。

前置知识:雅可比矩阵和雅可比行列式

设 是一个函数,它的输入是向量 ,输出是向量 :

那么 雅可比矩阵 是一个m×n矩阵:

由于矩阵描述了向量空间中的运动——变换,而雅可比矩阵看作是将点 转化到点 ,或者说是从一个n维的欧式空间转换到m维的欧氏空间。

如果m = n, 可以定义雅可比矩阵 的行列式,也就是 雅可比行列式(Jacobian determinant)

在微积分换元中,也就是给出了 从x到y的n维体积的比率,

二维雅可比矩阵的几何意义

在二维情况(有直观的图),雅可比行列式代表xy平面上的面积微元与uv平面上的面积微元的比值。

雅可比行列式是:

高斯分布详解(搞懂多变量高斯分布的由来)(2)

如图所示:dA代表dx和dy张成的平行四边形的面积,如果du和dv充分接近于0,那么dA:

二重积分换元:

n维度情况以此类推。

多变量高斯分布

首先考虑 单变量标准正态分布 ,概率密度函数为:

然后考虑 n 维独立标准高斯分布,就是 n 个 独立的 一维标准正态分布随机变量的联合分布:

为了表达方便,用向量的形式来表示,设 ,式(3)写作:

一般的,设 由 的线性变换得到:

其中A是 的 非奇异矩阵 , 是n维向量

可把 用 表示:

注意到, 式(6)线性变换的雅可比行列式 是 ,因此:

设 ,则 ,由联合概率分布密度的定义,有:

因此,向量 的联合概率概率密度函数是:

也就得到式(1)

可以看出:多变量高斯分布是单变量高斯分布向多维的推广。

,

相关推荐

​各种螺丝刀规格(常见螺丝刀型号及规格)

​各种螺丝刀规格(常见螺丝刀型号及规格)

113

各种螺丝刀规格(常见螺丝刀型号及规格) 2014-09-29 航佳技术 螺丝刀按不同的头型可以分为常见型,如一字、十字、米字、六角头、梅花(又称星型)、12角、方头、Y型、以及一些非常...

​马桶尺寸规格大全(抽水马桶尺寸规格)

​马桶尺寸规格大全(抽水马桶尺寸规格)

105

马桶尺寸规格大全(抽水马桶尺寸规格) 抽水马桶是我们家中常用马桶类型之一,那 抽水马桶尺寸 有哪些呢?平时我们也不是特别了解,接下来我们就通过下面的内容,一起来看看...

​中东哪些国家,中东七国都是哪些国家?

​中东哪些国家,中东七国都是哪些国家?

58

中东哪些国家,中东七国都是哪些国家? 中东七国都是哪些国家 中东国家不止7个。特朗普在五角大楼签下“阻止外国恐怖分子进入美国的国家保护计划”的行政命令,包括伊朗、伊拉...

​五金工具能带上火车吗,五金锁可以上火车吗?

​五金工具能带上火车吗,五金锁可以上火车吗?

118

五金工具能带上火车吗,五金锁可以上火车吗? 五金锁可以上火车吗 五金锁可以上火车。因为对于五金锁来说,五金锁是有外包装的,只要把五金锁放在包装里面,是可以带上火车的...

​凉薯怎样储存能不烂,地瓜吃的是根还是茎?

​凉薯怎样储存能不烂,地瓜吃的是根还是茎?

168

凉薯怎样储存能不烂,地瓜吃的是根还是茎? 地瓜吃的是根还是茎 地瓜吃的是根。地瓜属于根茎类蔬菜,地瓜是豆科植物豆薯的别称之一,又名返蜜地瓜、返蜜薯,但多指栽培范围更...

​家用天然气可以烤肉,天然气能烧烤食物吗

​家用天然气可以烤肉,天然气能烧烤食物吗

125

家用天然气可以烤肉,天然气能烧烤食物吗 本文目录 1.天然气能烧烤食物吗2.天然气能烧烤食物吗3.用家里的天然气炉烤肉可以吗4.天然气能直接烤肉串吗 天然气能烧烤食物吗 天然气不能...

​瓷砖长时间泡水危害,什么地砖不用泡水

​瓷砖长时间泡水危害,什么地砖不用泡水

81

瓷砖长时间泡水危害,什么地砖不用泡水 本文目录 1.什么地砖不用泡水2.刚铺好的瓷砖地板进水0小时左右会怎么样呢3.瓷砖底下进水对以后使用有影响吗4.大理石长时间泡水有什么影响...

​q235b是什么材质,q235b是什么材质的钢材?

175

q235b是什么材质,q235b是什么材质的钢材? q235b是什么材质的钢材 Q235B是国内最常见的钢材之一,价格低廉,能够胜任大多数对性能要求不高的产品。 ①由Q+数字+质量等级符号+脱氧方法...

​c2c是什么,c2c是什么,有什么作用?

​c2c是什么,c2c是什么,有什么作用?

170

c2c是什么,c2c是什么,有什么作用? c2c是什么,有什么作用 C2C:主要指个人用户提供买卖交易的平台的电子商务交易业务。目前主要的C2C电子商务企业有:淘宝、易趣等。C2C (Custom...

​烧烤串如何快速解冻,冰冻烧烤串如何快速解冻

​烧烤串如何快速解冻,冰冻烧烤串如何快速解冻

151

烧烤串如何快速解冻,冰冻烧烤串如何快速解冻 本文目录 1.冰冻烧烤串如何快速解冻2.冷冻的烧烤怎么加热3.在家里如何用烤箱烤速冻羊肉串视频4.速冻烤串是熟食么吗 冰冻烧烤串如何快...