Press "Enter" to skip to content

Tag: fraud detection

MLOps 使用实施欺诈交易检测

介绍 在当今数字化的世界中,人们越来越倾向于通过在线交易和数字支付来进行交易,而不是使用现金,这是因为它的便利性。随着过渡的增加,欺诈行为也在增加。欺诈交易可以是任何类型,因为它涉及使用虚假身份或虚假信息要求钱款。这给个人和金融机构带来了重大问题。在这个项目中,我们将使用信用卡数据集来设计使用Airflow工具监控实时交易并预测其是否真实或欺诈的MLOPs模型。 学习目标 检测欺诈交易的重要性。 清理数据,转换数据集和预处理数据。 对数据集进行可视化分析以获得洞察力。 在数据科学中使用欺诈交易检测模型的实际应用。 使用Python编程语言进行欺诈交易数据分析 使用MS Azure和Airflow构建端到端的欺诈检测 本文作为数据科学博文马拉松的一部分发布。 什么是欺诈交易估计模型? 欺诈交易数据集包含来自不同来源的数据,其中包含交易时间、姓名、金额、性别、类别等列。欺诈交易估计模型是一个用于预测虚假交易的机器学习模型。该模型是在大量有效交易和欺诈交易的基础上进行训练的,以预测新的虚假交易。 什么是欺诈交易分析? 欺诈交易分析是分析过去数据集的过程。数据集分析旨在发现数据中的异常情况并找出数据集中的模式。欺诈交易分析在保护客户和减少财务损失方面起着关键作用。有不同类型的欺诈交易分析,例如基于规则的分析和异常检测。 基于规则的分析:基于规则的分析涉及创建规则来标记无效交易。例如,可以根据地理区域制定规则。 异常检测:异常检测涉及发现异常或异常的交易。例如,从新的IP地址进行的交易。 检测欺诈交易的重要性 对于企业和金融机构来说,检测欺诈交易对于保护客户免受欺诈和保护他们的资金至关重要。以下是检测欺诈交易的一些关键原因。 减少财务损失:欺诈交易给企业带来巨额财务损失,从而减少它们的利润。因此,企业检测欺诈交易变得至关重要。 维护声誉:维护声誉对于企业来说是至关重要的,因为它会导致潜在客户和顾客的流失。 保护客户和企业:欺诈交易可能对客户造成财务损失和情感影响。通过检测欺诈交易,企业可以保护客户和他们的业务。 数据收集和预处理 数据收集和预处理是开发欺诈检测模型的重要部分。一旦收集到数据,需要对数据集执行多个步骤。 数据清理:数据清理包括删除不需要的数据,例如重复数据,并填充缺失的数据值。…

Leave a Comment

微软高级数据科学家的成功故事

介绍 在当今数字时代,数据的力量不可否认,那些掌握利用其潜力的技能的人正在引领着塑造技术未来的潮流。在这些开拓者中,有一个卓越的个体,他就是尼尔马尔先生,数据科学领域的远见者,他已经成为世界一流科技巨头之一微软公司的高级数据科学家,成为推动力量。 认识尼尔马尔先生,他是坚韧、聪明和坚定奉献的化身。尼尔马尔先生从平凡的开始踏上了一段变革之旅,使他们成为微软公司高级数据科学家职业生涯的巅峰。他的迅猛崛起是一个激励人心的成功故事,不仅对有抱负的数据科学家有启示,也对任何有梦想和决心追求伟大的人有启示。 在这篇成功故事文章中,我们深入探讨了尼尔马尔先生的旅程,追溯了塑造他非凡职业生涯的关键里程碑、挑战和成功。我们探索了他领导的开创性项目、他所产生的变革性影响以及他一路上学到的宝贵经验。通过尼尔马尔先生的故事,我们发现在不断发展变化的数据科学世界中蓬勃发展所必需的特质和心态。 让我们开始对话吧! AV:请强调一下您的职业轨迹、教育背景以及它们如何帮助您获得第一份数据科学家的工作? 尼尔马尔先生:我的职业轨迹从来没有一条线性的道路。我们每个人都有自己的故事,我相信它们都很有趣。下面是我的故事:我在尼泊尔完成了IT工程的本科学位。我于2007年移民美国攻读硕士学位。在完成硕士学位后,我加入了美国陆军。是的,听起来非常不寻常。由于2009年美国爆发了一次大衰退(这也恰好是我毕业的那一年),就业市场非常糟糕,特别是对国际学生来说。美国陆军运行了一个特殊试点项目,我经历了所有必要的流程成为一名军人。在我成长的过程中,我有一些加入军队的激情。这是实现这个梦想的方式。 当我在军队中时,我完成了MBA学位。2014年,我完成了第一份入伍合同后,我离开了美国陆军。同年,我获得了在美国海军部门担任网络安全分析师的第一份数据角色,成为美国联邦政府雇员。在这份工作期间,我完成了第三个数据科学硕士学位。在作为数据分析师工作并建立学术资历以及数据科学技能的经验后,我转向私营行业,在2018年担任威尔斯法戈银行的首个数据科学家职位。从那时起,我一直从事数据科学,并目前在微软担任高级数据科学家。 AV:您能告诉我们一个您参与过的项目,您必须使用数据来解决一个现实世界的问题,并对业务或产品策略产生的影响进行说明吗? 尼尔马尔先生:有很多例子。首先,我们不必拥有“数据科学家”的职称来处理和解决任何数据问题。有一些误解就是这样。我们可以担任数据分析师、数据工程师、业务分析师或任何与数据相关的职位。 我主要在网络安全领域工作。我们的两个主要关注领域是调查和检测。在处理网络安全问题时,异常检测是一个非常流行的问题领域之一。我曾经参与一个数据科学团队建立异常检测系统,帮助安全分析师节省时间,确定要关注的事件/警报。这对于节省他们的时间和资源具有重要影响。 AV:您用数据科学解决过的最具挑战性的问题是什么?您是如何解决这个问题的?结果如何? 尼尔马尔先生:我要说的是,对我来说最具挑战性的问题尚未解决。由于我们生活在高度创新的人工智能世界中,我们应该时刻意识到对手现在拥有比以往任何时候都更先进的工具。然而,如果我必须提到一个有趣的问题,那么我会选择用户行为分析,也称为用户实体行为分析,在行业中被广泛称为UEBA。UEBA是一种发现威胁的网络安全功能,通过识别与正常基线偏离的用户活动来发现威胁。 一个简单的例子:我们有一个用户经常从A地登录,突然间我们看到从B地登录的活动。这可能是与旅行有关的正常行为,但仍然偏离了正常行为,因此必须查看以确认正常与恶意之间的差异。UEBA最具挑战性的部分是理解和创建基线。 数据驱动的洞察 AV:您可以分享一个时间,您必须向非技术利益相关者传达复杂的数据驱动洞察的故事吗?您是如何确保他们理解这些洞察和它们对业务的影响的? 尼尔马尔先生:作为一名数据科学家,我们会遇到多种这样的场景。大多数业务利益相关者对其问题和预期解决方案都非常了解。然而,有时很难向他们解释为什么某些解决方案是有意义的,而某些解决方案则不是。我可以分享一个例子。我们建立了一个欺诈检测模型,它是一个二元分类器,用于欺诈和非欺诈交易。欺诈分析师对他们的领域非常了解。但是对于我们向他们解释模型结果来说,将其分解为他们的语言是具有挑战性的。 如果我们分享诸如模型调整和超参数或交叉验证或抽样方法之类的细节,这些对他们来说将没有多少意义。但是,如果我们解释更高层次的内容,例如基于特征排名我们发现哪些属性是有用的,类别不平衡的一些挑战是什么,这些对他们来说就有意义了。因此,数据科学家始终以业务语言交流非常重要。   AV:您如何确保您的团队构建的机器学习模型对最终用户是可解释和透明的,特别是在安全和威胁检测的背景下? 尼尔马尔先生:像我在之前的例子中提到的那样,模型的互操作性在向业务合作伙伴解释模型时非常重要。无论您在哪个领域工作,这都很重要。在安全和威胁检测方面,这变得更加重要,因为我们构建的任何模型都必须能够向威胁分析师解释,以便他们可以采取适当的行动。我可以在这里分享一个很好的例子,即“良性正例”的概念。当我第一次听到这个术语时,我有点困惑,因为我只知道真正的正例和假正例。但是在安全领域,良性正例很重要。以下是这些类别的详细说明: 真正的正例(TP):由安全工具检测到的恶意行为。 良性真正的正例(B-TP):由安全工具检测到的实际但非恶意的行为,例如渗透测试或已批准应用程序生成的已知活动。 假正例(FP):虚警,表示该活动并未发生。 AV:您是否遇到过数据杂乱或不完整的情况?您是如何处理的,结果如何?…

Leave a Comment