分解数据科学中不太知名的分布之一
背景
二项分布是数据科学内外广为人知的分布。但是,你听说过它不太流行的表兄弟超几何分布吗?如果没有,本文将为你详细解释它是什么以及为什么它对我们数据科学家非常有用。
直觉
超几何分布测量在没有替换的情况下,在某些关于总体的信息下,n次试验(样本)中k次成功的概率。这与二项分布非常相似,唯一的关键区别是采样是没有替换的。由于这个区别,每次成功(或结果)的概率都会在每次抽样/试验中改变,而在二项分布中,成功(和失败)的概率是固定的。
一个易于理解的例子是确定从标准卡牌组中随机抽取20张牌中所有4个国王的概率。如果我们抽到一个国王,抽取随后一个国王的概率将不同于第一个,因为总体组成已经改变。因此,成功的概率是动态的。
理论
超几何分布的概率质量函数(PMF)如下:

其中:
- n是试验次数
- k是成功次数
- N是总体大小
- K是总体中成功的总数
- X是来自超几何分布的随机变量
感兴趣的读者可以在此找到PMF的推导。
方括号式符号指的是二项式系数:

阶乘说明我们正在处理组合和排列。你可以在我的上一篇博客中阅读更多相关内容:
组合和排列入门
组合和排列的简明描述及其区别
towardsdatascience.com
分布的平均值为:

例子
让我们回到之前从常规卡牌组中随机抽取20张牌中所有4个国王的例子。我们所知道的信息是:
- N = 52:牌组中的卡牌数量
- n = 20:我们抽取的卡牌数量
- k = 4:我们想要的国王数量(成功次数)
- K = 4:牌组中的国王数量
将这些数字插入到 PMF 中:

因此,概率非常低。这是有道理的,因为从一副牌中选择一张王牌的概率是~0.077(1/13),因此在样本更小的情况下,这个概率会进一步减小,正如我们上面所示。
如果您想尝试一些数字和不同的情况,请点击此处链接到一个超几何分布计算器。
代码和图表
上面的示例是超几何分布应用的有用演示。然而,我们可以通过绘制 PMF 作为成功次数k的函数来获得更全面的图片。
下面是在 Python 中为我们上面的示例变化k的国王数量的绘图:
作者的 GitHub Gist。

正如我们所看到的,从 20 张牌中获得 5 张国王的概率为 0,因为卡组中没有五张国王!我们将获得的国王最可能的数量是 1。
现在让我们考虑一个新问题。从随机 30 张牌中获得黑桃花色卡的数量的超几何分布是多少?
作者的 GitHub Gist。

在 30 张牌的样本中,我们将获得最可能的黑桃数量是 8。正如图中所示,我们几乎不可能在样本中没有黑桃。
应用
超几何分布涉及许多领域,包括:
- 概率赢得扑克牌中的一手
- 选民人群分析
- 制造业的质量控制
- 种群中的遗传变异
因此,超几何分布是您在数据科学职业生涯中最有可能遇到的东西,因此值得了解。
总结和进一步思考
在本文中,我们讨论了超几何分布。这与二项分布非常相似,但由于我们在不重复抽样,成功的概率会发生变化。这种分布在数据科学中非常强大,并在质量控制和赌博行业中应用。因此,作为数据科学家,了解这一点非常值得。
完整的代码在我的 GitHub 上可用:
小猪AI-Articles/Statistics/Distributions/hypergeometric.py at main · egorhowell/Medium-Articles
我在我的小猪AI博客/文章中使用的代码。通过创建帐户来为egorhowell/Medium-Articles的开发做出贡献…
github.com
参考文献
- 有关超几何分布的更多信息:https://brilliant.org/wiki/hypergeometric-distribution/
- 理论方法:https://dlsun.github.io/probability/hypergeometric.html
与我联系!
- 要在小猪AI上阅读无限故事,请确保在此处注册! 💜
- 要获得发布更新的更新,请在此处注册电子邮件通知! 😀
- 领英 👔
- 推特 🖊
- GitHub 🖥
- Kaggle 🏅
(所有表情符号均由OpenMoji设计 – 开源表情符号和图标项目。许可证:CC BY-SA 4.0)