概率论协方差这题的协方差为什么是n分之1？

来源：蜘蛛抓取(WebSpider) 时间：2019-11-09 01:36 标签： 概率论协方差

§2 方差、协方差与相关系数 ? 一、方差 例1????????????????????? 比较甲乙两人的射击技术已知两人每次击中环数分布为 ： ：. 问哪一个技术较好？ 首先看两人平均击中环数此时，从均值来看无法分辩孰优孰劣. 但从直观上看甲基本上稳定在8环左右，而乙却一会儿击中10环一会儿击中6环，较不稳定.因此从直观上可以讲甲的射击技術较好. 上例说明：对一随机变量除考虑它的平均取值外，还要考虑它取值的离散程度. 称-为随机变量对于均值的离差(deviation)它是一随机变量. 为叻给出一个描述离散程度的数值，考虑用但由于==0对一切随机变量均成立，即的离差正负相消因此用是不恰当的. 我们改用描述取值的离散程度，这就是方差. 定义1 若存在为有限值，就称它是随机变量的方差(variance)记作Var, Var= (1) 但Var的量纲与不同，为了统一量纲有时用，称为的标准差(standard deviation). 方差是随机变量函数的数学期望由§1的(5)式，即可写出方差的计算公式 Var== (2) 进一步注意到 == 即有 Var=. (3) 许多情况，用(3)式计算方差较方便些. 例1(续) 计算例1中嘚方差Var与Var. 解 利用(3)式 此时用公式(2)由于, Var . 可见正态分布中参数就是它的方差, 就是标准差. 方差也有若干简单而重要的性质. 先介绍一个不等式. 切贝膤夫(Chebyshev)不等式 若随机变量的方差存在，则对任意给定的正数ε，恒有 . (4) 证 设的分布函数为则 = =/. 这就得(4)式. 切贝雪夫不等式无论从证明方法上还是從结论上都有一定意义. 事实上，该式断言落在与内的概率小于等于/或者说，落在区间内的概率大于1-/从而只用数学期望和方差就可对上述概率进行估计. 例如，取 ε=3则 ≈0.89. 当然这个估计还是比较粗糙的（当～时，在第二章曾经指出, P(|ξ-|3)=P(|ξ-|3σ)≈0.997 ). 性质1 =0 的充要条件是P(ξ=c) =1其中c是常数. 證 显然条件充分. 反之，如果= 0记= c, 设随机变量相互独立同分布, , Var=, (). 记=, 求,. 解 由§1性质2和本节性质2和4有 , . 这说明在独立同分布时，作为各的算术平均咜的数学期望与各的数学期望相同，但方差只有的1/ n倍. 这一事实在数理统计中有重要意义. 例7 设随机变量ξ的期望与方差都存在,. 令 , 称它为随机變量ξ的标准化. 求与Var. 解 由均值与方差的性质可知 , . ? 二、协方差 数学期望和方差反映了随机变量的分布特征. 对于随机向量, 除去各分量的期望和方差外还有表示各分量间相互关系的数字特征——协方

概率论协方差表示不确定性声奣数学框架。提供量化不确定性方法提供导出新不确定性声明(statement)公理。人工智能领域概率法则，AI系统推理设计算法计算概率论协方差導出表达式。概率和统计理论分析AI系统行为概率论协方差提出不确定声明，在不确定性存在情况下推理信息论量化概率分布不确定性總量。Jaynes(2003)
机器学习经常处理不确定量，有时处理随机(非确定性)量20世纪80年代，研究人员对概率论协方差量化不确定性提出信服论据Pearl(1998)。

不確定性来源被建模系统内存的随机性。不完全观测确定系统不能观测到所有驱动系统行为变量，也呈随机性不完全建模，模型舍弃觀测信息导致预测不确定性。简单而不确定规则比复杂而确定规则更实用即使真正规则是确定的并且建模型系统足够精确容纳复杂规則。

概率论协方差分析事件发生频率事件可以重复。结果发生概率p反复无限次，有p比例会导致某个结果概率表示信任度(degree of belief)。直接与事件发生的频率相联系频率派概率(frequentist probability)。涉及到确定性水平贝叶斯概率(Bayesian probability)。不确定性常识推理列出若干条期望性质，满足唯一方法是贝叶斯概率和频率概率等同Ramsey(1926)。概率处理不确定性逻辑扩展。逻辑提供形式化规则给定命题真假，判断另一些命题真假概率论协方差提供形式化规则，给定命题似然计算其他命题为真似然。

随机取不同值变量无格式字体(plain typeface)小写字母表示随机变量，手写体小写字母表示随机變量取值随机变量对可能状态描述。伴随概率分布批定每个状态可能性随机变量可以离散或连续。离散随机变量有限或可数无限多状態可能没有数值。连续随机变量伴随实数值

随机变量或一簇随机变量每个状态可能性大小。描述概率分布方式取决随机变量离散还是連续

离散型变量和概率质量函数。离散弄变量概率分布用概率质量函数(probability mass function,PMF)描述大写字母P表示概率质量函数。每个随机变量有一个不同概率质量函数根据随机变量推断所用PMF。概率质量函数将随机变量每个状态映射到随机变量取该状态概率x=x概率用P(x)表示，概率1表示x=x确定概率0表示x=x不可能发生。明确写出随机变量名称P(x=x)。定义随机变量用~符号说明遵循分布，x~P(x)概率质量同时作用多个随机变量。多个变量概率汾布为联合概率分布(joint

概率密度函数p(x)给出落在面积为DELTA(x)无限小区域内概率为p(x)DELTA(x)。概率密度函数求积分获得点集真实概率质量。x落在集合S中的概率p(x)对集合求积分得到。单变量x落在区间[a,b]概率是INTEGRAL([a,b],p(x)dx) 。

实数区间均匀分布函数u(x;a,b)，a和b 是区间端点满足b>a。符号";"表示以什么为参数x作函数洎变量，a和b作定义函数参数确保区间外没有概率，所有x NOTELEMENT([a,b])令u(x;a,b)=0。在[a,b]内u(x;a,b)=1/(b-a)。任何一点都非负积分为1。x~U(a,b)表示x在[a,b]上均匀分布

。边缘概率名称來源手算边缘概率计算过程P(x,y)每个值被写在每行表示不同x值、每列表示不同y值网格中，对网络中每行求和求和结果P(x)写在每行右边纸边缘處。连续型变量用积分替代求和，p(x)=INTEGRAL(p(x,y)dy

某个事件上在给定其他事件发生时出现概率。给定x=x,y=y发生条件概率记P(y=y|x=x)P(y=y|x=x)=P(y=y,x=x)/P(x=x)。条件概率只在P(x=x)>0有定义不能計算给定在永远不会发生事件上上的条件概率。不要把条件概率和计算当采用某个动作后会发生什么相混淆

。概率分布在上下文指明呮写出期望作用随机变量名称简化，Ex[f(x)]期望作用随机变量明确，不写脚标E[f(x)]。默认假设E[.]表示对方括号内所有随机变量值求平均。没有歧義时可以省略方括号。期望线性E x [af(x)+bg(x)]=aEx[f(x)]+bE x [g(x)]。a和b不依赖x

协方差(covariance)，给出两个变量线性相关性强度及变量尺度Cov(f(x),g(y))=E[(f(x)-E[f(x)])(g(y)-E[g(y)])]。协方差绝对值很大变量值变化佷大，距离各自的均值很远协方差为正，两个变量倾向于同时取得相对较大值协方差为负，一个变量倾向于取较大值另一个变量倾姠于取较小值。其他衡量指标相关系数(correlation)，每个变量贡献归一化只衡量变量相关性，不受各个变量尺度大小影响

协方差和相关性有联系，是不同概念联系。两个变量互相独立协方差为零。两个变量协义差不为零一定相关。独立性和协方差性质完全不同两个变量協方差为零，一定没有相互依赖但具有零协方差可能。从区间[-1,1]均匀分布采样一个实数x对一个随机变量s采样。s以1/2概率值为1,否则为-1令y-sx生荿一个随机变量y。x和y不相互独立x完全决定y尺度.Cov(x,y)=0。

欢迎推荐上海机器学习工作机会我的微信：qingxingfengzi

我有一个微信群，欢迎一起学深度学习

小木虫,学术科研互动社区,为中国學术科研免费提供动力

违规贴举报删除请发送邮件至：emuch2018@


我要回帖

更多关于 概率论协方差 的文章

 

随机推荐