统计量

对数据进行分析、检验的变量

统计量是统计理论中用来对数据进行分析、检验的变量。宏观量是大量 微观 量的统计平均值,具有统计平均的意义,对于单个微观粒子,宏观量是没有意义的.相对于微观量的统计平均性质的宏观量也叫统计量。需要指出的是,描写宏观世界的 物理量 例如速度、动能等实际上也可以说是宏观量,但宏观量并不都具有统计平均的性质,因而宏观量并不都是统计量。

定义

统计量(statistic)则是直接从样本计算出的量数,代表样本的特征。

概述

样本的已知函数;其作用是把样本中有关总体的信息汇集起来;是 数理统计学 中一个重要的基本概念。统计量依赖且只依赖于样本 ;它不含总体分布的任何未知参数。 和 从样本推断总体(见统计推断)通常是通过统计量进行的。例如 是从正态总体 (见 正态分布 )中抽出的简单随机样本,其中均值(见数学期望) μ 是未知的,为了对 μ 作出推断,计算 样本均值 : 可以证明,在一定意义下, 包含样本中有关 μ 的全部信息,因而能对 μ 作出良好的推断。这里塣只依赖于样本 ,是一个统计量。

分类

样本矩

设 ,是一个大小为n的样本,对 自然数 k,分别称为k阶样本原

和 点矩和k阶样本 中心矩 ,统称为样本矩。许多最常用的统计量,都可由样本矩构造。例如, 样本均值 (即 )和 样本方差 是常用的两个统计量,前者反映总体中心位置的信息,后者反映总体分散情况。还有其他常用的统计量,如样本 标准差 ,样本 变异系数 S/塣,样本 偏度 ,样本 峰度 等都是样本矩的函数。若 是从二维总体(x,Y)抽出的简单样本,则样本 协方差 及样本 相关系数 也是常用的统计量,r可用于推断x和Y的 相关性 。

次序统计量

把样本 ,由小到大排列,得到 称之为样 , 的次序统计量。其中最小次序统计量x⑴最大次序统计量x(n)称为 极值 ,在那些如年枯水量、年最大地震 级数 、材料的断裂强度等的统计问题中很有用。还有一些由次序统计量派生出来的有用的统计量,如:样本 中位数 是总体分布中心位置的一种 度量 ,若样本大小n为 奇数 ,,若n为偶数,,它容易计算且有良好的稳健性。样本p 分位数 及极差 也是重要的统计量。其中Zp当时即为中位数,而当时,表示不超过 的最大整数)。样本分位数的一个重要应用是构造连续总体分布的非参数性容忍区间(见区间估计)。

U统计量

这是W. 霍夫 丁于1948年引进的,它在非参数统计中有广泛的应用。其定义是:设 ,为简单样本,m为不超过n的 自然数 ,为m元对称函数,则称 为样本 的以为核的U统计量。 样本均值 和 样本方差 都是它的特例。从霍夫丁开始,这种统计量的大样本性质得到了深入的研究,主要应用于构造非参数性的量的一致 最小方差无偏估计 (见 点估计 ),并在这种估计的基础上检验非参数性总体中的有关假设。

秩统计量

统计量

把样本 按大小排列为,若 则称 为 的秩,全部n个秩 构成秩统计量,它的取值总是1,2,…,n的某个排列。秩统计量是非参数统计的一个主要工具。 还有一些统计量是因其与一定的统计方法的联系而引进的。如假设检验中的似然比原则所导致的似然比统计量,K.皮尔森的拟合优度(见假设检验)准则所导致的Ⅹ统计量,线性统计模型中的 最小二乘法 所导致的一系列线性与 二次型 统计量,等等。

完全性

统计量是由样本加工而成的,在用统计量代替样本作统计推断时,样本中所

含的信息可能有所损失,如果在将样本加工为统计量时,信息毫无损失,则称此统计量为 充分统计量 。

例如,从一大批产品中依次抽出n个,若第i次抽出的是合格品,则 ,否则 。

总体分布取决于整批产品的废品率p,可以证明:统计量,即样本中的废品个数,包含了 中有关p的全部信息,是一个充分统计量。

若取 ,令 ,则 仍是一个统计量,不过不是充分的。

充分性是 数理统计学 的一个重要基本概念,它是R.A. 费希尔 在1925年引进的,费希尔提出,并由J.奈曼和P.R. 保罗·哈尔莫斯 在1949年严格证明了一个判定统计量充分性的方法,叫因子分解 定理 。这个定理适用面广且应用方便,利用它可以验证很多常见统计量的充分性。例如,若正态总体有已知 方差 ,则 样本均值 塣是 充分统计量 。若正态总体的均值、方差都未知,则样本均值和 样本方差 S合起来构成充分统计量(塣,S)。

一个统计量是否充分,与总体分布有密切关系。 将样本加工成统计量要求越简单越好。简单的程度的大小,主要用统计量的维数来衡量。简单地讲,若统计量 是由统计量 加工而来(即 是 的函数),则 比 简单。在此意义上,最简单的 充分统计量 叫极小充分统计量。这是 欧洲篮球联赛 莱曼和H. 谢菲 于1950年提出的。前例中的充分统计量都有极小性。

在任何情况下,样本 本身就是一个充分统计量,但一般不是极小的。

关于统计量的另一个重要的基本概念是完全性。设T为一统计量,θ为总体分布参数,若对θ的任意函数g(θ),基于T的无偏估计至多只有一个(以概率1 相等 的两个 估计量 视为相同),则称T为完全的。

抽样分布

统计量的分布叫 抽样 分布。它与样本分布不同,后者是指样本 的 联合分布 。

统计量的性质以及使用某一统计量作推断的优良性,取决于其分布。所以抽样分布的研究是 数理统计学 中的重要课题。寻找统计量的精确的抽样分布,属于所谓的小样本理论(见 大样本统计 )的范围,但是只在总体分布为正态时取得比较系统的结果。

对一维正态总体,有三个重要的抽样分布,即Ⅹ分布、t分布和F分布。

Ⅹ分布

设随机变 是相互独立且服从标准 正态分布 ,则 随机变量 的分布称为自由度为n的Ⅹ分布(其密度函数及下文的t分布、F分布的密度函数表达式均见 概率分布 )。这个分布是 F.赫尔梅特于1875年在研究正态总体的 样本方差 时得到的。若 是抽自正态总体 的简单样本,则变量服从自由度为 的Ⅹ分布。若 服从的不是标准正态分布,而依次是正态分布 ,则的分布称为非中心Ⅹ分布,称为非中心参数。当 时即前面所定义的Ⅹ分布。为此,有时也称它为中心Ⅹ分布。中心与非中心的Ⅹ分布在正态线性模型误差 方差 的 估计理论 中,在正态总体方差的检验问题中(见假设检验),以及一般地在正态变量的 二次型 理论中都有重要的应用。

t分布设 随机变量 ξ,η独立,且分别服从 正态分布 及自由度n的中心Ⅹ分布,则变量的分布称为自由度n、非中心参数δ的非中心t分布;当 时称为中心t分布。若 是从正态总体 中抽出的简单样本,以塣记 样本均值 ,以记 样本方差 ,则服从自由度 的t分布。这个结果是 英国 统计学家W.S.戈塞特(又译哥色特,笔名“学生”)于 1908年提出的。t分布在有关正态总体均值的估计和检验问题中,在正态线性统计模型对可估函数的推断问题中有重要意义,t分布的出现开始了 数理统计学 的小样本理论的发展  。