第２８卷第３期 ２０１ １年０６月 工 程 数 学 学 报 ｖｏ１．２８ Ｎｏ．３ Ｊｕｎｅ ２０１ １ ＣＨＩＮＥＳＥ ＪＯＵＲＮＡＬ ＯＦ ＥＮＧＩＮＥＥＲＩＮＧ ＭＡＴＨＥＭＡＴＩＣＳ 文章￣：１００５—３ｏ８５（２ｏ１１）ｏ３—０２８５－０８ 一种基于密度核估计的最大熵方法 刘钰 ，韩峰 ，王玉恒 ，乔登江 ，一，王建国 ，。 ｆ１一西北核技术研究所，西安７１００２４； ２一上海华东师范大学，上海２０００６２；３一西安交通大学，西安７１００４９） 摘要：针对未知概率分布类型的测量数据，采用最大熵方法可以确定被测量含有最少人为主观假设的概 率分布．但经典最大熵方法由于其密度函数的数学形式导致全局优化难度较大，计算结果难以满 足概率密度函数基本性质，需要截断及归一才能使用．本文通过引入概率密度核估计方法，对最 大熵方法进行了改进，简化了计算过程，并证明了改进后计算结果能够满足概率密度函数基本性 质，最后通过算例说明了该方法的有效性． 关键词：测量数据；最大熵方法；密度核估计；概率分布估计 分类号：ＡＭＳ（２０００１ ６２Ｆ１５ 中图分类号：Ｏ２１２．１ 文献标识码：Ａ １ 引言 最大熵方法ＭＥＭ（Ｍａｘｉｍｕｍ Ｅｎｔｒｏｐｙ Ｍｅｔｈｏｄ）是Ｊａｙｎｅｓ于１９５７年提出的一种可处理不完 全信息的方法，利用信息论中熵的概念来尽量避免主观因素对推断的影响＿１．对于只有测量数据 １Ｊ的情况，如果没有充足的理由认为其服从某种概率分布，则可通过最大熵方法确定出其最不带 倾向性的分布形式及参数【２】，且运用最大熵原理得到的密度函数是被测量的最小偏差估计＿３．３ｊ 经典最大熵方法利用拉格朗日乘子法导出了概率密度函数估计的解析形式，并构造优化问 题．但该估计的解析形式对优化求解产生了一定制约，计算结果难以满足概率密度函数的基本 性质，甚至存在不严格可积的现象，这时往往需要截断及归一处理后才能使用．本文提出了一 种结合密度函数核估计的最大熵方法，该方法利用密度核估计函数能够收敛于任何复杂密度函 数的性质，对上述优化问题进行了重新描述，在熵值最大意义下给出了满足约束条件的被测量 密度函数估计，能够避免经典最大熵方法存在的问题． ２ 最大熵方法基本原理及问题 最大熵方法是按最大熵原理求解不适定问题的方法【４，引．具体地，随机变量 的概率密度函 数ｐ（ｘ）的信息熵可定义为 ）一 ｐ（ ｎ ） 收稿日期：２００９—０９—２４．作者简介：刘钰（１９８２年１１ＹＪｉｔ），男，硕士，助理研究员．研究方向：武器系统评估技术 工 程 数 学 学 报 第２８卷 】；（ ）＝ｅｘｐ（ ０＋∑ ｔ ）， （３） ＝一． ㈥ 卜一ｍ， ㈣ ３ 基于密度核估计的最大熵方法 在符合最大熵方法思想的情况下，被测量的概率密度估计 （ ），如果能够满足密度函数的 般性质： ，＋ｏ。 一１）ｐ（ｘ） ０， ２） ／ｐ（ｘ）ｄｘ＝１， ｏｏ 则可以显著减少截断误差．通过引入密度函数核估计方法，这种设想即可实现．密度核估计方 法可以较好地应用于规则分布或不规则分布，单峰或多峰分布的估计，而且只要样本容量足够 大，总可以保证以任意精度收敛于任何复杂的未知密度［８．８］ 第３期 刘钰，等：一种基于密度核估计的最大熵方法 ２８７ （ａ）概率密度函数左侧不可积情况 （ｂ）概率密度函数右侧不可积情况 图１：３阶矩最大熵密度函数 ３．１密度函数核估计基本原理 设 （ ）为Ｒ上的一个给定的概率密度函数，则 礼 Ｑ （ ）］ 称为总体密度ｐ（ｘ）的一个核估计【 ］， （ｕ）为核函数（也称为窗函数），扎为核函数的数量，ｈｔ＞ ０为窗宽，ａｔ是每个核函数的权重【。，加］，且０＜ＯＬｉ＜ｌ，∑ ｔ＝１，ｉ：１，２，…，ｎ． 因为核函数 ｆ ）为概率密度函数，则满足： ，＋。。 １） （钆） ０， ２） ／ Ｋ（ｕ）ｄｕ＝１， 一 显然，在Ｋ（ｕ）≥０的下，自然能保证 ｘ）的非负性，而且可以证明 州一 ｔ （ ） 去 （ ）出 ｉ ｃ （ｘ）ｄｘ＝１， ｔ ， ｃ７ 故Ｐ ｘ）满足归一化条件，即： ，十ｏ。 １）Ｐｎ（ ） ０， ２） ／ Ｊ—Ｏ０ 这就证明了 （ ）是一个合理的概率密度函数，满足了作为总体密度ｐ（ ）估计的基本条件［引． ３．２基于密度核估计的最大熵方法 根据最大熵方法的思想，将核估计概率密度函数Ｐ ｘ）取符合约束条件且信息熵值最大的状 态，则 卜 （ ）］．１ｎ（ ｔ （ ） ㈣ ２８８ 工 程 数 学 学 报 第２８卷 令Ｐ ｘ）的信息熵达到最大，则优化问题为 ｍａｘ Ｈ（ｐ ） ｓ．ｔ．ＸｉＰｎ（９） （ ）ｄ ： ， ：１ ．，ｍ， 其中 为第ｉ阶原点矩的值，ｍ为最高阶矩的阶数． 本文将这样构造的最大熵方法称为密度核估计最大熵方法ＫＤＥ－ＭＥＭ ｆＫｅｒｎｅｌ Ｄｅｎｓｉｔｙ Ｅｓｔｉｍａｔｅ—Ｍａｘｉｍｕｍ Ｅｎｔｒｏｐｙ Ｍｅｔｈｏｄ）．由于概率密度函数Ｐ ｘ）的性质，保证了目标函数在 积分域上的收敛性，解决了函数不严格可积的问题． ＫＤＥ－ＭＥＭ方法需求解的问题是约束非线性最优化问题，这可以选择序列二次规划 法ｆＳＱＰ）［ｎ］，其优化计算过程可以通过Ｍａｔｌａｂ优化工具箱编程实现，计算中有两点需要 注意： １）为了用数值方法计算出（８）式的积分，必须设置所求积分函数的上下界，一般可由样本 分散范围确定； ２）理论上核函数个数ｎ取值越大，密度函数逼近效果越好．但同时仡的取值越大，算法复 杂度也越高． ４ 数值算例 为了验证密度核估计最大熵方法的有效性，以下以两种典型分布为总体进行抽样，使用密 度核估计最大熵方法进行分布估计，并将验证结果与经典最大熵方法进行对比分析． ４．１对数正态分布 对数正态分布的概率密度函数为 ｐＬⅣ（ 其中 ＞０，一ＯＯ＜ ＜ＯＯ， ＞０． ｅ一 取 ：０．５， ＝０．２５，通过计算机从对数正态分布ＬＮ（Ｏ．５，０．２５）中抽样，样本容量为２００， 具体数据从略，根据这些数据计算其前４阶样本原点矩为 ＝１．６９７５，Ｍ２＝３．０６８６，Ｍ３＝ ５．８９２３．Ｍ４＝１１．９９９． 使用密度核估计最大熵方法方法，选定正态窗函数 （ ）＝ １ ｅ－考 ，则总体密度函数的 核估计为 ｎ ． １（１ｎｘ－ｉｔｔ）０一 ｐ ） ＯＺｉ［ ｅ一 ｒ］ｊ 扎 为了保证在优化过程中，１＞ＯＬｉ＞０，ｉ＝１，２，…，ｎ，且Ｅ Ｏｔｉ＝１，可以作如下变换 ｉ＝１ ｅｘｐ ８ｔ ｔ ——一， ∑ｅｘｐ ｔ：１ 其中 ∈Ｒ，这样既满足了 ｔ的条件，也使得优化参数的取值空间变为实数空间，更利于计 第３期 刘钰，等：一种基于密度核估计的最大熵方法 ２８９ 算．所以总体密度函数Ｉ？ＯＬＮ（Ｘ）的核估计变换为 ｉ＝１ ∑ｅｘｐ ＬＶ ‘ｅｘ ｐ￣ｉＯ－ｉ 『 ｅ一 ］取佗＝３，则ｐ礼ｘ）共包含９个参数，积分区间选取［０，４】，其各参数优化的结果见表１，残 差平方和Ｒ＝３．７２７×ｉ０ ２．经典最大熵方法的参数优化结果见表２，残差平方和Ｒ： ８．４２１７×１０～８． 表１：对数正态分布下密度核估计最大熵方法参数优化结果 表２：对数正态分布下经典最大熵方法参数优化结果 根据这些参数值，可以给出密度核估计最大熵方法得到的密度函数与ＬＮ（Ｏ．５，０．２５）理论分 布的图像，并与经典最大熵密度函数进行对比，见图２．通过观察图像可以看出，经典最大熵 方法的计算结果在右侧拖尾处出现不可积情况．而最大熵密度核估计分布与理论分布更为接 近，且满足概率密度函数基本性质． 图２：对数正态密度函数及其估计函数图比较 ４．２ ＷｅｉｂｕＵ分布 Ｗｅｉｂｕｌｌ 布的概率密度函数为ｐｗ（ｘ）＝ｂａ－ｂｘｂ－１ｅ一（詈） ，其中Ｘ＞０，ａ＞０，ｂ＞０． 取ａ＝３，ｂ＝６，通过计算机从分布Ｗｅｉｂｕｌｌ（３，６）中抽样，样本容量为２００，根据这些数 据计算其前４阶样本原点矩为 ：２．７８３０，Ｍ２＝８．０３５２，Ｍ３＝２３．９１８５，Ｍａ＝７３．０７６９．密 ２９０ 工 程 数 学 学 报 第２８卷 度核估计最大熵方法仍选定正态窗函数，取ｎ＝３，积分区间选取『０，５１，其各参数优化的结 果见表３，残差平方和Ｒ＝６．３５２×１０＿１０．经典最大熵方法的参数优化结果见表４，残差平方 口Ｒ＝２．４５×１０—７． 同样可以给出密度核估计最大熵方法得到的密度函数与Ｗｅｉｂｕｌｌ（３，６）理论分布的图像，并 与经典最大熵密度函数进行对比，具体见图３．通过观察图像可以看出，密度核估计最大熵方 法分布与理论分布更为接近． 表３：Ｗｅｉｂｕｌ１分布下密度核估计最大熵方法参数优化结果 表４：Ｗｅｉｂｕｌ１分布下经典最大熵方法参数优化结果 图３：Ｗｅｉｂｕｌｌ密度函数及其估计函数图 ５ 实例 器件ＭＫＪ９１１（ＦＰＧＡ）和２８Ｃ２５６（Ｅ ＰＲＯＭ）在受到７辐射时失效样本容量分别为６和５． 实验结果表明，这两种器件的失效规律一般遵循对数正态分布，根据失效样本不难估计出对数 正态失效分布的参数 和 ，见表５． 表５： 两种器件失效分布的参数估计 第３期 刘钰，等：一种基于密度核估计的最大熵方法 ２９１ 同时根据失效样本，使用本文方法可以得到器件的ＫＤＥ—ＭＥＭ失效分布估计．将两种失效 分布进行对比，如图４所示． 观察图４可以发现，在不加入任何主观信息的情况下，器件的最大熵分布估计基本能够符 合其失效规律．基于失效分布可以估计其失效阈值及方差，将两种失效分布下估计得到的失效 阈值及方差进行比较，结果见表６． （ａ）ＭＫＪ９１ １（ＦＰＧＡ） （ｂ）２８Ｃ２５６（Ｅ２ＰＲＯＭ） 图４： 两种器件的对数正态及ＫＤＥ．ＭＥＭ失效分布 表６： 两种器件的失效阈值及方差估计 ６ 讨论与分析 上节中的算例验证了密度核估计最大熵方法的有效性．我们可将两种方法对比分析的结果 总结如下： １）核估计 （ ）本身满足密度函数的基本性质，优化结果不存在不可积的情况，不需要进 行截断就可以直接使用； ２）在给定样本矩情况下，仅使用３个核函数的核估计，优化结果已经具有较高的精度．可 以根据需要，通过增加核函数的数量来进一步提高计算精度． 本文通过改进经典最大熵方法，得到了满足密度函数基本性质的计算结果，使最大熵方法 的适用性得到了进一步提高． ２９２ 工 程 数 学 学 报 第２８卷 圳 参考文献： ｆ１１ Ｊａｙｎｅｓ Ｅ Ｔ．Ｉｎｆｏｒｍａｔｉｏｎ ｔｈｅｏｒｙ ａｎｄ ｓｔａｔｉｓｔｉｃａｌ ｍｅｃｈａｎｉｃｓ［Ｊ１．Ｔｈｅ Ｐｈｙｓｉｃａｌ Ｒｅｖｉｅｗ，１９５７，１０６（４）：６２０—６３０ ｆ２１吴乃龙，袁素云．最大熵方法【Ｍ】．湖南：湖南科学技术出版社，１９９１ Ⅵ，ｕ Ｎ Ｌ，Ｙｕａｎ Ｓ Ｙ．Ｍａｘｉｍｕｍ Ｅｎｔｒｏｐｙ Ｍｅｔｈｏｄ［Ｍ１．Ｈｕｎａｎ：Ｈｕｎａｎ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ Ｐｒｅｓｓ，１９９１ 『３１林洪桦．现代测量误差分析及数据处理ｆＪ＿．计量技术，１９９７，２：３９—４４ Ｌｉｎ Ｈ Ｈ．Ｍｏｄｅｒｎ ａｎａｌｙｓｉｓ ｏｆ ｍｅａｓｕｒｅ ｅｒｒｏｒ ａｎｄ ｄａｔａ ｐｒｏｃｅｓｓｉｎｇ［Ｊ１．Ｍｅａｓｕｒｅｍｅｎｔ Ｔｅｃｈｎｉｑｕｅ，１９９７，２：３９—４４ 『４１陈希孺，等．非参数统计方法［Ｍ］．上海：上海科学技术出版社，１９８９：２８３—２９６ Ｃｈｅｎ Ｘ Ｒ，ｅｔ ａ１．Ｎｏｎｐａｒａｍｅｔｒｉｃ Ｓｔａｔｉｓｔｉｃａｌ Ｍｅｔｈｏｄ［Ｍ】．Ｓｈａｎｇｈａｉ：Ｓｈａｎｇｈａｉ Ｓｃｉｅｎｃｅ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ Ｐｒｅｓｓ， １９８９：２８３—２９６ ｆ５］詹昊克，姜礼平，苑秉成．最大熵先验下成败型产品成功率的鉴定试验方案［Ｊ］．工程数学学报，２００５，２２（４）： ６５３—６５８ Ｚｈａｎ Ｈ Ｋ，Ｊｉａｎｇ Ｌ Ｐ，Ｙｕａｎ Ｂ Ｃ．Ｒｅｌｉａｂｉｌｉｔｙ ｑｕａｌｉｆｉｃａｔｉｏｎ ｔｅｓｔ ｉｎ ｂｉｎｏｍｉａｌ ｃａｓｅ ｂａｓｅｄ ｏｉｌ ｍａｘｉｍｕｍ—ｅｎｔｒｏｐｙ ｐｒｉｏｒｓ［Ｊ１．Ｃｈｉｎｅｓｅ Ｊｏｕｒｎａｌ ｏｆ Ｅｎｇｉｎｅｅｒｉｎｇ Ｍａｔｈｅｍａｔｉｃｓ，２００５，２２（４）：６５３—６５８ 王中宇．测量不确定度的非统计理论ｆＭ１．北京：国防工业出版社，２０００ Ｗａｎｇ ｚ Ｙ．Ｎｏｎ－ｓｔａｔｉｓｔｉｃａｌ Ｔｈｅｏｒｙ ｉｎ Ｍｅａｓｕｒｅｍｅｎｔ Ｕｎｃｅｒｔａｉｎｔｙ［Ｍ］．Ｂｅｉｊｉｎｇ：Ｎａｔｉｏｎａｌ Ｄｅｆｅｕｃｅ Ｉｎｄｕｓｔｒｙ Ｐｒｅｓｓ，２０００ 朱坚民，等．基于最大熵方法的测量结果估计及测量不确定度评定『Ｊ－．电测与仪表，２００５，４２（８）：５－８ Ｚｈｕ Ｊ Ｍ，ｅｔ ａ１．Ｓｔｕｄｙ Ｏｉｌ ｅｖａｌｕａｔｉｏｎ ｏｆ ｍｅａｓｕｒｅｍｅｎｔ ｒｅｓｕｌｔ ａｎｄ ｕｎｃｅｒｔａｉｎｔｙ ｂａｓｅｄ ｏｎ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｍｅｔｈｏｄ［Ｊ］．Ｅｌｅｃｔｒｉｃａｌ Ｍｅａｓｕｒｅｍｅｎｔ ａｎｄ Ｉｎｓｔｒｕｍｅｎｔａｔｉｏｎ，２００５，４２（８）：５－８ Ｐａｒｚｅｎ Ｅ．Ｏｎ ｅｓｔｉｍａｔｉｏｎ ｏｆ ａ ｐｒｏｂａｂｉｌｉｔｙ ｄｅｎｓｉｔｙ ｆｕｎｃｔｉｏｎ ａｎｄ ｍｏｄｅｌ［Ｊ］．Ａｎｎａｌｓ ｏｆ Ｍａｔｈｅｍａｔｉｃａｌ Ｓｔａｔｉｓｔｉｃｓ， １９６２，３３（７）：３１６—３２７ 边肇祺，张学工．模式识别ｆＭ１．北京：清华大学出版社，２０００ Ｂｉａｎ Ｚ Ｑ，Ｚｈａｎｇ ｘ Ｇ．Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ［Ｍ］．Ｂｅｉｊｉｎｇ：Ｔｓｉｎｇｈｕａ Ｕｎｉｖｅｒｓｉｔｙ Ｐｒｅｓｓ，２０００ 郭照庄，等．变窗宽密度核估计的构造及均方相合性『Ｊ＿．佳木斯大学学报（自然科学版），２００６，２４（３）：４２３—４２５ Ｇｕｏ Ｚ Ｚ，ｅｔ ａ１．Ｓｔｒｕｃｔｕｒｅ ａｎｄ ｃｏｎｓｉｓｔｅｎｃｅ ｏｆ ｔｈｅ ｖａｒｉａｂｌｅ ｂａｎｄｗｉｄｔｈ ｆｏｒ ｋｅｒｎｅｌ ｄｅｎｓｉｔｙ ｅｓｔｉｍａｔｉｏｎ［Ｊ］．Ｊｏｕｒｎａｌ ｏｆ Ｊｉａｍｕｓｉ Ｕｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ Ｅｄｉｔｉｏｎ），２００６，２４（３）：４２３—４２５ 简金宝，罗慕华．一般约束最优化超线性与二次收敛的ＳＱＰ拟可行方法『Ｊ－．工程数学学报，２００４，２１（４）：５２６—５３０ Ｊｉａｎ Ｊ Ｂ，Ｌｕｏ Ｍ Ｈ．Ａｎ ＳＱＰ ｑｕａｓｉ—ｆｅａｓｉｂｌｅ ａｌｇｏｒｉｔｈｍ ｗｉｔｈ ｓｕｐｅｒｌｉｎｅａｒ ａｎｄ ｑｕａｄｒａｔｉｃ ｃｏｎｖｅｒｇｅｎｃｅ ｏｒ ｆｇｅｎｅｒａｌ ｃｏｎｓｔｒａｉｎｅｄ ｏｐｔｉｍｉｚａｔｉｏｎ［Ｊ１．Ｃｈｉｎｅｓｅ Ｊｏｕｒｎａｌ ｏｆ Ｅｎｇｉｎｅｅｒｉｎｇ Ｍａｔｈｅｍａｔｉｃｓ，２００４，２１（４）：５２６—５３０ Ａ Ｎｅｗ Ｍａｘｉｍｕｍ Ｅｎｔｒｏｐｙ Ｍｅｔｈｏｄ Ｂａｓｅｄ ｏｎ Ｋｅｒｎｅｌ Ｄｅｎｓｉｔｙ Ｅｓｔｉｍａｔｅ ＬＩＵ Ｙｕ ，ＨＡＮ Ｆｅｎｇ ，ＷＡＮＧ Ｙｕ—ｈｅｎｇ ，ＱＩＡＯ Ｄｅｎｇ—ｊｉａｎｇ ，一，ＷＡＮＧ Ｊｉａｎ—ｇｕｏ ＇。 （１一Ｎｏｒｔｈｗｅｓｔ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｎｕｃｌｅａｒ Ｔｅｃｈｎｏｌｏｇｙ，Ｘｉ’ａｎ ７１００２４； ２一Ｅａｓｔ Ｃｈｉｎａ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ ２０００６２；３一Ｘｉ’ａｎ Ｊｉａｏｔｏｎｇ Ｕｎｉｖｅｒｓｉｔｙ，Ｘｉ’ａｎ ７１００４９） Ａｂｓｔｒａｃｔ：Ｆｏｒ ｔｈｅ ｍｅａｓｕｒｅｍｅｎｔ ｄａｔａ ｗｉｔｈ ｕｎｋｎｏｗｎ ｐｒｏｂａｂｉｌｉｔｙ ｄｉｓｔｒｉｂｕｔｉｏｎ，ｉｔ ｈａｓ ｂｅｅｎ ｐｒｏｖｅｄ ｔｈａｔ ｔｈｅ ｐｒｏｂａｂｉｌｉｔｙ ｄｉｓｔｒｉｂｕｔｉｏｎ ｄｅｔｅｒｍｉｎｅｄ ｂｙ ｔｈｅ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｍｅｔｈｏｄ（ＭＥＭ）ｉｓ ａ ｒｅａｓｏｎａｂｌｅ ｄｉｓｔｒｉ— ｂｕｔｉｏｎ ｗｉｔｈ ｔｈｅ ｌｅａｓｔ ａｓｓｕｍｐｔｉｏｎ．Ｂｕｔ ｔｈｅ ｒｅｓｕｌｔ ｏｆ ＭＥＭ ｉｓ ｎｏｔ ａｌｗａｙｓ ｃｏｎｓｉｓｔｅｎｔ ｗｉｔｈ ｔｈｅ ｐｒｏｐｅｒｔｉｅｓ ｏｆ ａ ｐｒｏｂａｂｉｌｉｔｙ ｄｅｎｓｉｔｙ，ｔｈｅ ｒｅｓｕｌｔｉｎｇ ｔｒｕｎｃａｔｉｏｎ ａｎｄ ｎｏｒｍａｌｉｚａｔｉｏｎ ｏｆ ｔｈｅ ｒｅｓｕｌｔ ｗｏｕｌｄ ｒｅｄｕｃｅ ｔｈｅ ａｃ— ｃｕｒａｃｙ ｏｆ ＭＥＭ．Ａ ｎｅｗ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｔｈｅ ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｐｒｉｎｃｉｐｌｅ ｗｈｉｃｈ ｃｏｍｂｉｎｅｓ ｗｉｔｈ ｋｅｒｎｅｌ ｄｅｎｓｉｔｙ ｅｓｔｉｍａｔｅ ｏｆ ａ ｐｒｏｂａｂｉｌｉｔｙ ｄｅｎｓｉｔｙ ｉｓ ｐｒｏｐｏｓｅｄ．Ｔｈｅ ｅｓｔｉｍａｔｅ ｇｉｖｅｎ ｂｙ ｔｈｅ ｎｅｗ ｍｅｔｈｏｄ ｉｓ ｔｏｔａｌｌｙ ｃｏｎｓｉｓｔｅｎｔ ｗｉｔｈ ｔｈｅ ｐｒｏｐｅｒｔｉｅｓ ｏｆ ａ ｐｒｏｂａｂｉｌｉｔｙ ｄｅｎｓｉｔｙ．Ｔｈｅ ｖａｌｉｄｉｔｙ ａｎｄ ａｃｃｕｒａｃｙ ｏｆ ｔｈｅ ｎｅｗ ｍｅｔｈｏｄ ａｒｅ ｉｌｌｕｓｔｒａｔｅｄ ｔｈｒｏｕｇｈ ｅｘａｍｐｌｅｓ． Ｋｅｙｗｏｒｄｓ：ｍｅａｓｕｒｅｍｅｎｔ ｄａｔａ；ｍａｘｉｍｕｍ ｅｎｔｒｏｐｙ ｍｅｔｈｏｄ；ｋｅｒｎｅｌ ｄｅｎｓｉｔｙ ｅｓｔｉｍａｔｅ；ｄｉｓｔｒｉｂｕｔｉｏｎ ｅｓｔｉ— ｍａｔｅ Ｒｅｃｅｉｖｅｄ：２４ Ｓｅｐ ２００９． Ａｃｃｅｐｔｅｄ：Ｏ１ Ｄｅｃ ２０１０
