人工智能具有无限的可能性，这在其引入每个人的新产品和发展中显而易见。随着OpenAI开发的最新聊天机器人ChatGPT的发布，由于其GPT的变压器架构，AI领域已经席卷全球。从深度学习、自然语言处理（NLP）和自然语言理解（NLU）到计算机视觉，AI正将每个人推向一个拥有无尽创新的未来。几乎每个行业都在利用AI的潜力并进行革命性的改变。特别是在大规模语言模型（LLMs），LangChain和向量数据库等领域的卓越技术进步，是这一显著发展的原因。 大规模语言模型 大规模语言模型（LLMs）的发展代表了人工智能的一大步进。这些基于深度学习的模型在处理和理解自然语言时表现出令人印象深刻的准确性和流畅性。LLMs通过从各种来源（包括书籍、期刊、网页和其他文本资源）获取大量文本数据进行训练。它们通过学习语言来获取语言结构、模式和语义链接，从而帮助它们理解人类交流的复杂性。 LLMs的基本架构通常涉及具有多层的深度神经网络。根据训练数据中发现的模式和连接，该网络分析输入文本并生成预测。为了减少模型预期输出和预期输出之间的差异，模型的参数在训练阶段进行调整。LLM在训练过程中消耗文本数据，并试图根据上下文预测下一个单词或一系列单词。 LLMs的应用 回答问题：LLMs擅长回答问题，并通过搜索大量的文本语料库（如书籍、论文或网站）来提供精确而简洁的回答。 内容生成：LLMs在涉及内容生成的活动中证明了其有用性。它们能够生成语法正确、连贯的文章、博客条目和其他书面内容。 文本摘要：LLMs在文本摘要方面表现出色，能够在将冗长的文本压缩为更短、更易消化的摘要时保留重要信息。 聊天机器人：LLMs经常被用于创建聊天机器人和使用对话式AI的系统。它们使得这些系统能够用正常语言与用户进行交互，理解他们的问题并适当地回答，并在整个交互过程中保持上下文。 语言翻译：LLMs能够准确地在不同语言之间进行文本翻译，克服语言障碍，促进成功的交流。 训练LLMs的步骤 训练LLMs的初始阶段是编制一个庞大的文本数据集，模型将使用该数据集来发现语言模式和结构。 一旦收集到数据集，就需要进行预处理，以便为训练做准备。为此，必须通过删除任何不必要或冗余的条目来清理数据。 选择适当的模型架构对于训练LLMs至关重要。基于变压器的架构已经显示出在处理和生成自然语言方面非常高效，包括GPT模型。 使用反向传播等深度学习方法调整模型的参数来训练LLMs，并提高其准确性。模型在训练过程中处理输入数据并基于识别出的模式生成预测。 在初始训练之后，LLMs将进一步在特定任务或领域上进行微调，以提高其在这些领域的性能。 为了评估经过训练的LLMs的性能，使用多种指标（包括困惑度和准确性）来评估模型的性能。 经过训练和评估后，LLMs将在实际应用中的生产环境中使用于实际应用。 一些著名的语言模型 GPT（Generative Pre-trained Transformer）是OpenAI的GPT模型系列的重要成员，也是知名的ChatGPT的底层模型。它是一个仅解码器的单向自回归模型，通过根据先前生成的单词预测下一个单词来生成文本。GPT拥有1750亿个参数，广泛用于内容生成、问题回答等方面。 BERT – 双向Transformer编码器表示（BERT）是最早的基于Transformer的自监督语言模型之一。它是一个强大的模型，用于理解和处理自然语言，具有3.4亿个参数。…
Leave a Comment四海吧 Posts
近期的发展使得大型语言模型（LLM）的能力显著增强，生成式预训练转换器（GPT）模型显示出了重要的潜力。从GPT-3到GPT-4的转变，以及PaLM和LLaMA等其他LLM的出现，都展示了在问题解决和自然语言理解技能方面的显著改进。此外，生成模型经常用于各个领域以生成不同应用的数据。当LLM用于需要高精度和可靠性的应用领域，如生物和医疗领域时，幻觉问题仍然是一个重大障碍。 不幸的是，目前没有系统的技术可用于准确检测幻觉或衡量输出的置信水平。特别是在使用强化学习与人类输入之后，生成LLM的内在置信度分数有时无法获得或无法有效校准以达到预期目标。启发式技术计算成本高，并受制于LLM本身的偏见，例如对LLM答案集进行采样。评估LLM回复的置信度程度的方法大致可分为两个基本类别。在第一种方法中，通过多种方式激励LLM生成多个回复，然后利用这些回复推断答案的可靠性。 自一致性和思维链激励是两个例子。这些技术不太定量，并且容易受到模型引起的偏见的影响。目前还没有标准化的测量方法，但提示技术可能对结果的质量产生重大影响。第二类选择借助外部数据源，例如雇用人工审核员验证答案或使用大量标记数据创建评估模型。目前监督模型训练的主要障碍之一是这些技术需要广泛的手动注释工作。在这方面，自我监督提供了一种可行的选择，因为它可以灵活地使用数据模式和超越常规的专业知识。 微软的研究人员在这项研究中提供了一个灵活的框架，利用帕累托最优学习将LLM响应数据和监督数据混合在一起。他们受到了程序化监督和帕累托优化研究的早期工作的启发。以下直觉指导了他们的策略。为了防止LLM自身评判的偏见，需要与LLM独立的外部监督数据源。其次，将LLM的错误视为对黄金标签的噪声扰动。当模型同时适应LLM噪声和独立的外部噪声时，实际上进行了隐式标签平滑处理，从而增强了校准能力。 在这方面，帕累托最优自我监督为整合两者提供了一个有用的框架。值得注意的是，所提出的方法只需要无标签数据，因此适用于注释成本较高的领域。他们通过帕累托最优自我监督对LLM进行校准的独特方法是该论文的关键创新。他们建议使用帕累托最优学习评估风险（POLAR）分数来计算LLM错误的可能性。他们在四个不同的自然语言处理任务上展示了实验结果，并证明所提出的POLAR分数与在黄金标签上评估的LLM错误率显著相关。他们展示了在高风险情况下通过POLAR分数确定的动态提示策略下，LLM的性能得到了提升。在不使用任何人工标记的训练数据的情况下，他们展示了他们的方法如何消除LLM的错误并提高GPT-4基线性能，超过最先进的监督模型。
Leave a Comment各行各业的公司都会创建、扫描和存储大量的PDF文件在许多情况下，这些文件的内容都是以文字为主，并且往往是用另一种语言编写的，需要进行翻译为了解决这个问题，您需要一个自动化解决方案，能够快速、高效地提取这些PDF文件中的内容并进行翻译许多企业都具有多样化的需求
Leave a Comment在社交媒体这个不断变化的世界中导航可能会让人感到压力巨大随着趋势不断演变，了解如何使你的内容脱颖而出至关重要AI文本生成提供了一个强大的助手来保持领先但是，如何优化这个工具以在社交媒体上获得结果呢？以下是10个快速方法，让你充分利用AI文本在社交媒体上的效果
Leave a Comment在处理工业物联网（IIoT）数据时，匿名化是一个重要问题。机器学习（ML）应用程序需要解密数据以有效执行任务，这意味着参与数据处理的第三方可能可以访问敏感信息。这对于生成数据的公司来说，存在隐私泄露和信息泄露的风险。因此，由于这些问题，公司在与第三方共享他们的IIoT数据时持怀疑态度。 解决匿名化问题的现有技术包括加密、同态加密、密码学技术和分布式/联邦学习等各种方法。然而，这些方法在计算成本、ML模型的可解释性和对网络攻击的脆弱性方面存在限制。此外，现有的隐私保护技术通常在隐私和准确性之间存在权衡，高度的隐私保护会导致ML模型准确性的显著损失。这些挑战阻碍了IIoT数据隐私的有效和高效保护。 在这种情况下，土耳其卡迪尔·哈斯大学的研究团队提出了一种将生成对抗网络（GAN）和差分隐私（DP）相结合的新方法，以保护IIoT操作中的敏感数据。这种混合方法旨在以最小的准确性损失和较低的附加计算成本实现隐私保护。GAN用于生成敏感数据的合成副本，而DP引入随机噪声和参数来维护隐私。该方法使用公开可用的数据集和从糖果制造过程中收集的现实IIoT数据集进行了测试。 作者提出了一种针对IIoT环境的混合隐私保护方法。他们的方法包括两个主要组件：GAN和DP。 GAN：他们使用GAN，具体来说是条件表格GAN（CTGAN）方法，来创建原始数据集（XO）的合成副本（XG）。GAN学习数据的分布并生成具有类似统计特性的合成数据。 DP：为了增强隐私保护，他们向数据中的敏感特征添加了来自拉普拉斯分布的随机噪声。这种技术在保持数据的整体概率分布的同时保护隐私。 该方法涉及以下步骤： 使用GAN创建合成数据集。 替换敏感特征。 通过添加随机噪声应用差分隐私。 生成的数据集在保护隐私的同时，可以用于机器学习分析，而不会泄露敏感信息。算法的复杂性取决于敏感特征的数量和数据集的大小。作者强调，他们的方法确保了IIoT数据的整体隐私保护。 本文进行的评估包括进行实验，测试提出的混合方法用于隐私保护数据合成和预测。实验是在四个SCADA数据集上进行的：风力涡轮机、蒸汽生产、能源效率和同步电机。实验使用了CTGAN合成数据生成和差分隐私（DP）技术。评估标准包括使用R平方度量准确性和使用六个隐私指标度量隐私保护。结果显示，所提出的混合方法实现了比其他方法（如CTGAN和DP）更高的准确性和隐私保护。实验还测试了所提出方法在具有隐藏敏感特征的数据集上的性能，并展示了它保护此类敏感数据的能力。 总之，本文提出了一种新颖的混合方法，将GAN和DP相结合，以解决工业物联网（IIoT）数据的匿名化问题。所提出的方法包括使用GAN创建合成数据集，并通过向敏感特征添加随机噪声应用DP。评估结果表明，所提出的混合方法实现了比其他方法更高的准确性和隐私保护。这种方法为在IIoT环境中保护敏感数据提供了有希望的解决方案，同时最小化了准确性损失和计算成本。
Leave a Comment餐饮行业一直在积极应用人工智能（AI）的力量，以简化运营流程，提升顾客体验，并适应COVID-19疫情带来的挑战。凭借自动化技术的先进性，过去的餐饮行业可能很快就会被效率和创新的新时代所取代。让我们深入探讨一下AI正在如何改变全球餐饮服务行业和餐厅，并从食品准备到顾客互动等方面进行革命性的改变。 利用机器人自动化重复任务 机器人不再是科幻的幻想，它们已经进入了现实世界的餐厅。在意大利风景如画的拉帕洛小镇，服务员机器人优雅地为顾客送上菜肴，展示了技术与美食的融合。通过利用机器人和人工智能，餐厅可以优化食物配送和厨房操作等重复性任务。这些机器人擅长制作薯条或清空油炸筐，减少了人工劳动，提高了效率。 还阅读：Zomato开创性地使用人工智能 简化顾客互动 疫情导致了员工短缺和对无接触体验的需求增加，推动了人工智能驱动的顾客互动的采用。餐厅现在利用人工智能来自动化诸如驶入点和电话订餐等流程。这种自动化改善了订单准确性，并有助于缓解人员短缺问题。借助人工智能，餐厅可以提升其运营能力，确保顾客享受无缝和个性化的体验。 人工智能在菜单个性化和推销中的作用 麦当劳标志性的金色拱门也采用了人工智能技术。麦当劳从2019年开始投资于人工智能和机器学习，彻底改变了点餐流程。餐厅内的触摸屏自助点餐机方便顾客下订单，而驶入式数字菜单根据时间、天气和餐厅客流量动态调整。人工智能算法提供了推荐的配套项目，自动化了交叉销售过程，提高了就餐体验。 利用配送机器人解决劳动力短缺问题 餐饮行业持续存在着劳动力短缺问题，这促使了自主配送机器人的崛起。这些机器人助手承担短途配送任务，缓解了人力短缺带来的压力。大学校园和城市地区是这些配送机器人的主要位置，自它们投入使用以来，许多机构报告了销售额的增加。从Grubhub在大学校园使用机器人到Uber Eats在人行道上测试配送机器人，自主配送的潜力是巨大的。 还阅读：机器学习视角下的机器人技术和自动化 虚拟助手和电话订餐 通过电话订餐也得到了人工智能的升级。著名餐厅连锁品牌Wingstop已经开始试点使用虚拟助手接听电话订单。这项技术能够模拟人类对话，并根据顾客的喜好进行个性化推荐。通过使用虚拟助手，Wingstop旨在缩短等待时间，使员工能够专注于烹饪和为顾客提供服务。对于喜欢传统点餐体验的顾客，仍然可以获得人工的帮助。 我们的观点 人工智能在餐饮服务行业的整合推动了效率的提高，顾客体验的提升和运营的优化。从机器人服务员到个性化菜单推荐，人工智能技术正在改变就餐体验的方方面面。随着餐厅继续适应和创新，人工智能的可能性变得越来越令人兴奋。餐饮的未来已经到来，由人工智能驱动。
Leave a Comment数据质量在过去一年中得到了广泛讨论数据契约、数据产品和数据可观察性工具的日益普及无疑显示了数据从业者对数据质量的承诺
Leave a Comment介绍 曼-肯德尔趋势检验，以H.A.曼和D.R.肯德尔命名，是一种非参数检验方法，用于确定趋势是否随时间显著变化。趋势可以是随时间单调增加或单调减少的。由于这是一种非参数检验方法，所以我们不必担心数据的分布。但是数据不应该具有串联相关性/自相关性（时间序列中的误差项从一个时期转移到另一个时期）。 曼-肯德尔检验旨在检测单调趋势，即随时间持续增加或减少的趋势，而不假设数据的特定分布。当处理可能不满足参数检验（如正态性）假设的数据时，它特别有用。 本文是数据科学博客马拉松的一部分。 样本量要求 如果你有非常小的样本，比如3或4个，那么很有可能找不到任何趋势。随着时间的推移，我们拥有的样本越多，测试统计量的可靠性就越高。尽管测试也可以针对非常小的样本进行，但建议的数据量至少为10。 测试目标 在本文中，我们研究了火车出轨事故随时间的相关情况。奥迪沙最近的火车出轨事故再次对铁路安全提出了质疑。铁路事故可以按照事故类型进行分类（例如正面碰撞、尾部碰撞、爆炸、侧面碰撞、出轨、火灾等）。随着时间的推移，铁路在技术和基础设施方面有了许多改进。尽管现代化的进展已经到位，但世界各地的火车事故仍然很常见。火车事故是全球铁路系统中发生的不幸事件。这些事故可能导致生命损失、伤害和财产损失。 在本研究中，我们将确定在印度，随着这些年所做的各种进步，我们是否能够减少火车事故（我们将研究事故类别中的出轨事故）。我们获得的有关印度出轨事故的数据是时间序列数据。我们拥有从2001年到2016年的出轨数据。数据按时间顺序排列。 我们的数据 从上表中，我们可以清楚地看到数据呈下降趋势。自2001年以来，出轨事故的数量大大减少。在2001年，我们有350起与出轨相关的事故，而在2016年减少到65起。由于数据是按顺序排列的，我们可以直接将其输入到Python环境中并进行处理。让我们在Python中绘制一个图来正确地可视化数据。 !pip install seaborn import seaborn as sns import matplotlib.pyplot as plt fig = plt.subplots(figsize=(20,…
Leave a Comment在如今迅速发展的技术环境中，人工智能（AI）已经成为影响我们生活许多方面的强大工具。然而，随着AI的进步，人们对其道德使用的担忧也在增加。对AI的滥用可能导致偏见结果并破坏公众的信任。为了解决这些问题，负责任的AI实践正在获得关注，并且行业领导者正在带头开发开源的负责任AI工具包。让我们探讨这些工具包及其在促进AI应用的公平性、透明度和问责制方面的重要性。 AI实施中的信任赤字 埃森哲（Accenture）2022年的技术展望研究揭示了一个令人震惊的统计数据：全球只有35%的消费者信任组织如何实施AI。此外，77%的人认为组织应对任何AI滥用负责。这些发现突显了优先考虑公平性和问责制的负责任AI实践的紧迫性。 还要阅读：欧盟对AI规则采取行动 负责任AI实践成为主流 承认负责任AI的重要性，大型科技公司已经建立了专门的内部团队和部门来负责负责任AI实践。Finarkein Analytics的联合创始人兼首席执行官Nikhil Kurhe强调，负责任AI实践正在成为主流，导致更广泛地采用道德AI原则。 负责任AI工具包的力量 负责任AI工具包确保以公平、稳健和透明的方式开发AI应用和系统。通过集成这些工具包，AI开发人员可以创建无偏见和负责任的模型，增强用户之间的信任。 TensorFlow Federated：赋能分散式机器学习 TensorFlow Federated（TFF）是一个面向分散式机器学习的开源框架。它使得可以在多个客户端的本地训练数据上训练共享的全局模型。TFF允许开发人员探索新颖的算法，并在其模型上模拟分散式学习。 还要阅读：如何用TensorFlow构建负责任AI？ TensorFlow Model Remediation：解决性能偏差问题 Model Remediation库提供了减少或消除模型创建和训练过程中的性能偏差对用户造成伤害的解决方案。该工具包使机器学习从业者能够创建准确且具有社会责任的模型。 TensorFlow Privacy：保护个人数据 TensorFlow Privacy（TF Privacy）由Google…
Leave a Comment广泛认可的是，人工智能（AI）近年来取得了重大进展，取得了显著的成就和突破性结果。然而，AI并不能在所有任务上都取得同样令人印象深刻的结果。例如，虽然AI在某些视觉任务（如人脸识别）中可以超越人类表现，但在图像处理和分类中也可能出现令人困惑的错误，从而凸显出任务的挑战性。因此，研究人员和开发人员对了解这种系统在相关任务中的内部工作方式以及它们如何做出某些决策的兴趣日益浓厚。 众所周知，类似于人脑，AI系统采用了分析和分类图像的策略。然而，这些过程背后的精确机制仍然是个谜，导致形成了一个黑匣子模型。 因此，现代机器学习模型，特别是神经网络，对解释决策的方法的需求越来越大。在这种背景下，归因方法已经流行起来，它们生成热图，指示影响模型决策的单个像素的重要性。然而，最近的研究揭示了这些方法的局限性，因为它们往往只关注图像中最显著的区域，揭示了模型的注视点，但没有阐明模型在这些区域内感知到什么。因此，为了揭示深度神经网络的奥秘，揭示AI系统处理图像的策略，布朗大学Carney大脑科学研究所的研究人员和法国人工和自然智能图卢兹研究所的一些计算机科学家合作开发了CRAFT（概念递归激活因子化解释）。这个创新工具旨在识别AI模型在决策过程中关注的“什么”和“哪里”，从而强调人脑和计算机视觉系统在理解视觉信息方面的差异。该研究还在加拿大举办的著名计算机视觉和模式识别会议2023年上进行了展示。 正如前面提到的，使用归因方法了解AI系统如何使用图像的特定区域做出决策一直是具有挑战性的。然而，仅仅识别有影响力的区域而不澄清为什么这些区域至关重要，无法为人类提供全面的解释。CRAFT通过利用现代机器学习技术来揭示神经网络学习到的复杂多维视觉表示，克服了这一限制。为了提高理解力，研究人员开发了一个用户友好的网站，个人可以轻松地探索和可视化神经网络用于分类对象的基本概念。此外，研究人员还强调，引入CRAFT后，用户不仅可以深入了解AI系统用于构建图像和理解模型在特定区域内感知的概念，还可以了解这些概念的层次排序。这一突破性的进展为揭示AI系统的决策过程和提高其分类结果的透明度提供了宝贵的资源。 从本质上讲，研究人员的工作的关键贡献可以总结为三个主要点。首先，团队设计了一种递归方法来有效识别和分解多层次的概念。这种创新策略使我们能够全面了解神经网络内部组件。其次，引入了一种开创性的方法，通过利用Sobol指数准确估计概念的重要性。最后，实施隐式微分改变了概念归因地图的创建方式，为可视化和理解概念与像素级特征之间的关联提供了一种强大的工具。此外，团队进行了一系列实验评估，以证实他们方法的效率和重要性。结果显示，CRAFT优于所有其他归因方法，巩固了它的显著实用性，并成为进一步研究基于概念的解释方法的基石。 研究人员还强调了理解计算机如何感知图像的重要性。通过深入了解AI系统采用的视觉策略，研究人员在提高基于视觉的工具的准确性和性能方面具有竞争优势。此外，这种理解有助于研究人员了解攻击者如何通过对像素强度进行微妙的变化来欺骗AI系统，而这些变化对人类来说几乎察觉不到，从而对抗敌对和网络攻击具有益处。至于未来的工作，研究人员对计算机视觉系统能够超越人类能力的那一天感到兴奋。在解决癌症诊断、化石识别等未解决的挑战方面，这些系统有潜力改变许多领域。
Leave a Comment可编程门阵列（Field Programmable Gate Array，FPGA）是一种可以在制造后进行配置和定制的集成电路。由于这种能力，这些芯片被称为”可编程字段”。它们由可编程逻辑块组成，可以设置为执行各种功能或充当逻辑门，为用户在电路操作方面提供了很大的灵活性。 可编程门阵列（FPGAs）是由可配置逻辑块（CLBs）和可编程互连组成的半导体器件。这些块可以执行简单到复杂的操作，并且可以包含翻转器或存储块等存储组件。 FPGAs类似于可编程只读存储器芯片，但可以容纳更多的门，并且是可重新编程的，而ASIC是为特定任务设计的。它们可以用于定制微处理器以用于特定用途，并且在无线通信、数据中心、汽车、医疗和航空航天等各个行业中广泛应用。FPGAs的可重新编程性质允许根据需要进行灵活的设计更新。 来源：https://allaboutfpga.com/fpga-architecture/ 来源：https://blog.samtec.com/post/new-intel-fpga-platform-features-samtec-interconnect/ FPGAs的应用 FPGAs在各个行业中得到广泛应用，并具有多样化的实施领域。它们的主要应用领域包括： 能源行业 FPGAs在智能电网技术中发挥着重要作用，可以提高性能和可扩展性，同时保持低功耗。这在传输和配电（T&D）变电站中尤为有用，需要高效的电力网络以实现最佳运行。 改进的汽车体验 Microsemi FPGAs允许原始设备制造商（OEM）和供应商为车辆创建新的安全应用程序，如定速巡航、盲点警告和碰撞避免。这些FPGAs还提供了信息保障、防篡改、硬件安全和可靠性功能，如纠错存储器和低静态功耗。 航空航天与国防 工业制造公司提供了抗辐射和抗辐射的FPGAs，这些FPGAs通常是太空级别的，以满足严苛环境下的性能、可靠性和寿命要求。这些FPGAs比传统的ASIC实现具有更高的灵活性，特别适用于处理密集型的空间系统。 计算机视觉系统 在当今世界，计算机视觉系统在视频监控摄像头、机器人和其他设备中广泛应用。通常需要使用基于FPGA的系统，使这些设备能够根据其位置、环境和面部识别能力与人们适当地进行交互。 数据中心 物联网和大数据导致获取和处理数据的数量大幅增加。使用深度学习技术进行并行计算推动了对低延迟、灵活和安全计算能力的需求。由于空间成本上升，增加更多的服务器无法满足这一需求。由于其加速处理能力、设计灵活性和硬件安全性等特点，FPGA在数据中心中得到了接受。 实时系统 FPGA被用于实时系统，响应时间至关重要，传统的CPU响应时间不可预测，很难准确预测何时触发器将会触发。 设计ASIC 首先创建电路架构，然后使用FPGA构建和测试原型，以便纠正错误。一旦原型表现符合预期，就会开发ASIC项目。这种方法节省时间，因为创建集成电路可能是费时和复杂的。…
Leave a Comment如果你想处理数据，你有哪些选择？这里有一个最简单的答案：你可以获取真实数据，或者你可以获取虚假数据在我的前一篇文章中，我们…
Leave a Comment无论您是数据科学家、市场营销人员还是数据领导者，如果您在谷歌上搜索“客户生命周期价值”，很有可能会感到失望我在担任CLV（客户生命周期价值）领导者时也有同样的感受
Leave a Comment随着人工智能在技术上的突破，大型语言模型（LLMs）变得越来越普遍。在过去几年中，研究人员通过在大量数据上训练这些模型以理解复杂的语言模式、生成连贯的回答等方式，在解决几个复杂的语言相关任务方面取得了快速进展。其中一个特别引起研究人员和开发人员兴趣的研究领域是在处理长篇内容时应用LLMs，以包含更广泛的上下文。这些任务的一些例子包括相对简单的文本摘要和代码生成，以及更复杂的问题陈述，如蛋白质结构预测和信息检索。长文本序列包含各种形式的信息，如段落、表格、图片等；因此，LLMs必须经过训练来处理和理解这些元素。此外，通过有效考虑长距离的结构依赖关系，LLMs可以识别文本的不同部分之间的联系，并提取最相关的信息。因此，对更广泛的知识的接触使LLMs能够为用户查询提供更准确和有关上下文的答案。 然而，尽管存在许多潜在的用例，大多数可用的开源LLMs，从Meta的LLaMA到MosaicML的MPT LLM模型，都是在最多2K个标记的序列上进行训练的。这一限制在对更长序列进行建模时带来了重大挑战。此外，以前的模型扩展研究表明，当给定一个固定的计算预算时，较小的模型在训练更多标记的情况下表现优于较大的模型。因此，受到手头问题和当前进展的启发，Salesforce Research通过引入XGen-7B取得了突破性的成就，这是一系列在1.5万亿个标记的8K序列长度上训练的7B LLMs。这一系列模型包括支持4K序列长度的XGen-7B-4K-Base，支持8K序列长度的XGen-7B-8K-Base，以及在公共领域指导数据上进行了微调的XGen-7B-8k-Inst（仅用于研究目的）。这些LLMs的显著特点是，与其他类似规模的最新LLMs（如MPT、Falcon、LLaMA等）相比，在标准NLP基准测试中，XGen取得了相当或更好的结果。 本研究所使用的XGen-7b模型是使用Salesforce的专有库JaxFormer进行训练的，该库可以利用数据和模型的并行性在TPU-v4硬件上进行高效训练。训练过程遵循LLaMA的指导方针，并进行了两项额外的研究。第一项探索集中在理解“损失峰值”，即在训练过程中，损失会突然而暂时地增加，而没有明显的根本原因。尽管这些峰值的根本原因尚不清楚，但研究人员确定了“顺序过并行电路”、“swish-GLU过GeLU”和“RMS-Norm过Layer-norm”等因素可能导致训练不稳定。第二个方面是序列长度。由于使用更长的序列进行训练会导致计算成本显著增加，因为自注意力的复杂度是二次的，因此采用了分阶段训练的方法。训练最初包括800B个标记，序列长度为2k个标记，然后是400B个标记，序列长度为4k，最后是300B个标记，序列长度为8k。 为了评估XGen-7b 8k模型在理解更长上下文方面的能力，研究人员使用三个主要任务进行评估：长篇对话生成、文本摘要和问答。研究人员针对所面临任务的难度使用了经过指导调整的模型进行评估。关于长篇对话生成，研究人员使用了三个任务进行评估：AMI会议摘要、ForeverDreaming和TVMegaSite剧本摘要。在所有指标上，XGen-7B-inst模型的得分最高，相比其他经过指导调整的模型，表现出了更好的性能。 对于长篇问答，研究人员使用ChatGPT生成了基于维基百科文档的问题，涵盖了物理学、工程学、历史学和娱乐等各种主题，以及它们对应的摘要。使用GPT-4对LLM生成的256个标记长的答案进行评估，评估标准包括结构、组织和与问题及源文档的相关性。在这种情况下，XGen-7B-8k-Inst模型胜过了只能处理2k个标记的基准模型，展示了其卓越的性能。在文本摘要方面，研究人员使用来自不同领域的两个数据集，具体是会议对话和政府报告，来评估XGen-7b模型。结果显示，XGen-7b模型在这些任务中明显优于其他基准模型，表明其在文本摘要方面的卓越性能。 评估结果显示，XGen-7b模型在理解各种任务中的较长上下文方面表现出色，包括长篇对话生成、问答和文本摘要。其性能超越了其他经过指导和基准调整的模型，展示了其在理解和生成连贯响应方面的有效性。然而，尽管其效果显著，研究人员承认XGen模型存在一定限制，因为它不能免于偏见，并有可能生成有害的响应，这是它与许多其他AI模型共同的特点。Salesforce研究还开源了其代码，以便社区探索其工作。 查看SF博客和Github链接。别忘了加入我们的2.5万+ ML SubReddit、Discord频道和电子邮件通讯，我们会分享最新的AI研究新闻、酷炫的AI项目等等。如果对上述文章有任何问题或者我们遗漏了什么，请随时发送邮件至Asif@marktechpost.com与我们联系。
Leave a Comment通过将多个活动合并为一条指令，指令调整增强了对新任务的泛化能力。这种对开放式问题的回应能力为最近的聊天机器人爆发做出了贡献，因为ChatGPT 2。最近，像CLIP-ViT这样的视觉编码器已经作为视觉指令调整模型的一部分添加到会话代理中，从而可以基于图片进行人-代理交互。然而，它们需要帮助理解图片中的文本，可能是由于训练数据中自然图像的占主导地位（例如，Conceptual Captions和COCO）。然而，阅读理解对人类的日常视觉感知至关重要。幸运的是，OCR技术使得能够从照片中识别出文字。 通过将识别到的文本添加到视觉指令调整模型的输入中（较大的上下文长度），可以（天真地）增加计算量，而不完全利用视觉编码器的编码能力。为了做到这一点，他们建议收集需要理解图片中的文字的指令遵循数据，以改进视觉指令调整模型的端到端性能。通过将手动给定的指示（例如，“识别提供的图像中可见的任何文本。”）与OCR结果相结合，他们首先使用文本丰富的图像收集了422K条嘈杂的指令遵循数据。 这些大规模的嘈杂对齐数据显著增强了语言解码器和视觉特征之间的特征对齐。此外，他们要求仅使用OCR结果和图像标题作为如何遵循指令的高质量示例，让纯文本GPT-4生成16K个对话。每个对话可能包含多轮的问答对。为了根据输入产生复杂的指令，这种方法要求GPT-4对OCR数据进行去噪，并创建独特的问题（图1）。他们使用获得的数据评估了LLaVA的预训练和微调阶段，分别使用嘈杂和高质量的示例来评估数据的有效性。 图1显示了如何收集关于遵循指令的准确统计数据。| https://arxiv.org/pdf/2306.17107.pdf 来自乔治亚理工学院、Adobe研究和斯坦福大学的研究人员开发了LLaVAR，即能够阅读的大型语言和视觉助手。为了更好地编码细微的文本特征，他们在原始LLaVA的基础上将输入分辨率从2242提高到3362进行了实验。根据评估技术，他们与四个基于文本的VQA数据集以及ScienceQA微调结果一起给出了研究结果。此外，他们在基于GPT-4的指令遵循评估中使用了来自LAION的50张文本丰富图片和来自COCO的30张自然图片。此外，他们还提供了定性分析，以衡量更复杂的指令遵循能力（例如海报、网站截图和推文）。 总之，他们的贡献包括： • 他们收集了16K条高质量和422K条嘈杂的指令遵循数据。两者都被证明可以改善视觉指令调整。这种改进的能力使得他们的模型LLaVAR能够基于多样的在线材料（包括文本和图片）进行端到端交互，同时仅在自然照片上略微提高模型的性能。 • 训练和评估数据以及模型里程碑都已公开提供。 这篇文章的英文原文发表在MarkTechPost网站上。
Leave a Comment本文是“数据科学家的大一纪事”系列的第二部分请务必先阅读第一部分！这样做将帮助您与团队和利益相关者建立信任，以…
Leave a Comment大型语言模型（LLMs）在自然语言处理（NLP）和自然语言理解（NLU）领域已被证明非常有效。著名的LLMs如GPT，BERT，PaLM等被研究人员用于为教育、社交媒体、金融和医疗保健等各个领域提供解决方案。通过大规模数据集的训练，这些LLMs获得了大量的知识。LLMs在问题回答、内容生成、文本摘要、语言翻译等方面显示出了能力。尽管LLMs最近展示了令人印象深刻的能力，但在生成合理且无根据的信息以及在数值推理方面存在困难。 最近的研究表明，将LLMs与外部工具（包括检索增强、数学工具和代码解释器）相结合是克服上述挑战的更好方法。评估这些外部工具的有效性存在困难，因为当前的评估方法需要帮助确定模型是否仅仅是回忆预训练信息，还是真正利用外部工具进行问题解决。为了克服这些限制，来自佐治亚理工学院计算学院的研究团队引入了ToolQA，这是一个用于问题回答的基准测试，用于评估LLMs在使用外部资源方面的熟练程度。 ToolQA包含来自八个领域的数据，并定义了13种可以从外部参考语料库中获取信息的工具类型。每个ToolQA实例中都包含一个问题、一个答案、参考语料库和可用工具列表。ToolQA的独特之处在于，所有问题只能通过使用适当的工具从参考语料库中提取信息来回答，从而最大程度地减少LLMs仅基于内部知识回答问题的可能性，并允许对其工具利用能力进行忠实评估。 ToolQA涉及三个自动化阶段：参考数据收集、人工引导的问题生成和程序化答案生成。在第一阶段，从不同领域收集各种类型的公共语料库，包括文本、表格和图表，作为基于工具的问题回答的参考语料库。在第二阶段，创建只能通过工具而不是参考语料库解决的问题。这是通过基于模板的问题生成方法实现的，该方法还涉及使用工具属性进行问题实例化和人工引导的模板制作和验证。第三阶段为生成的问题提供准确的答案，实现与工具对应的运算符，并从参考语料库中以程序化方式获取答案。 团队使用标准LLMs和工具增强的LLMs回答ToolQA中的问题进行了实验。结果显示，仅依赖内部知识的LLMs（如ChatGPT和Chain-of-thoughts prompting）的成功率较低，易问题约为5%，难问题约为2%。另一方面，通过使用外部工具，工具增强的LLMs（如Chameleon和ReAct）表现更好，易问题的最佳表现为43.15%，难问题为8.2%。 结果和错误分析显示，ToolQA对于当前的工具增强的LLM方法来说是一个具有挑战性的基准测试，尤其对于需要更复杂的工具组合推理的困难问题。这是人工智能发展中的一个有希望的补充。
Leave a Comment语言建模 (LM) 旨在对词序列的生成可能性进行建模，以便预测未来 (或缺失) 标记的概率语言模型已经彻底改变了自然…
Leave a Comment大型语言模型（LLMs）近年来在自然语言理解方面取得了重大突破，尤其在零样本和少样本环境下，展示出卓越的语义理解、查询解决和文本生成能力。如图1(a)所示，已经提出了多种方法来使用LLMs处理涉及视觉的任务。光学编码器可以被训练成将每张图片表示为一系列连续的嵌入，让LLM能够理解它。另一种方法是使用对比训练的冻结视觉编码器，同时在冻结的LLM上添加额外的层，然后从头开始学习。 另一种方法建议训练一个轻量级的Transformer来对齐一个冻结的视觉编码器（经过对比训练的预训练）和一个冻结的LLM。尽管在上述研究中取得了进展，但仍然难以证明额外的预训练阶段的计算成本是合理的。此外，为了将视觉和语言模态与现有的LLM同步，需要大量的数据库，包括文本、照片和视频。Flamingo在预训练的LLM中增加了新的跨注意力层，以增加视觉特征。 图1：比较协调视觉和语言模态的方法。多模态预训练有两个选择：（a）使用配对或网络数据集；（b）LENS，一种无需额外多模态数据集就可以与任何现成的LLM一起使用的无预训练技术。与LENS不同，以前的方法需要在大规模多模态数据集上进行联合对齐预训练，以完成视觉任务。 多模态预训练阶段需要惊人的20亿个图片-文本对和4300万个网站，即使使用预训练的图像编码器和预训练的冻结LLM，也可能需要15天的时间。相反，他们可以使用各种“视觉模块”从视觉输入中提取信息，并生成详细的文本表示（如标签、属性、动作和关系等），然后直接将其馈送给LLM，避免了额外的多模态预训练的需要，如图1(b)所示。Contextual AI和斯坦福大学的研究人员引入了LENS（Large Language Models Enhanced to See），这是一种模块化策略，将LLM作为“推理模块”使用，并在不同的“视觉模块”之间运行。 他们首先使用预训练的视觉模块（如对比模型和图像字幕模型）在LENS技术中提取丰富的文本信息。然后将文本发送到LLM，使其能够进行对象识别、视觉和语言（V&L）等任务。LENS通过消除对额外多模态预训练阶段或数据的需求，免费地弥合了模态之间的差距。此外，这种整合使我们能够立即利用计算机视觉和自然语言处理领域的最新进展，最大限度地发挥两个学科的优势。 他们提供了以下贡献： • 他们提出了LENS，一种通过使用语言模型的少样本、上下文学习能力来处理计算机视觉挑战的模块化方法。 • LENS使任何现成的LLM都能够在不经过进一步的训练或数据的情况下进行视觉处理。 • 他们使用冻结的LLM来处理对象识别和视觉推理任务，无需额外的视觉和语言对齐或多模态数据。实验结果表明，他们的方法在零样本性能上与Kosmos和Flamingo等端到端联合预训练模型相媲美或更优。他们的论文的部分实现已经在GitHub上可用。
Leave a Comment介绍 随着数据科学的日益突出和影响力，它已成为对于考虑自己职业发展方向的个人来说极具兴趣和魅力的主题。在一个数据生成、分析和利用呈指数增长的时代，一个问题出现了：数据科学是一个好的职业选择吗？通过探索数据科学的多方面特点、其在职业发展中的潜力以及其在各个行业中的相关性，人们可以辨别出使数据科学成为一种具有吸引力和良好的职业选择的巨大价值和前景。 在本文中，我们将回答关于数据科学家是否是一份好工作以及数据科学是否是未来一个好的职业的问题。这些问题的答案将提供一个全面的了解，使人们能够了解到使数据科学成为一种可行和充实的职业选择的前景和机会。让我们开始吧！ 什么是数据科学？ 数据科学专注于利用各种科学方法、算法和程序从大量数据中提取知识。它帮助发现原始数据中隐晦的模式。数据科学可以将一个业务问题转化为一个研究项目，从而将其转化为一个真正的解决方案。许多人选择从事数据科学职业，因为它提供了许多职位和有吸引力的薪资。 也可阅读：2023年成为数据科学家的逐步指南 为什么选择数据科学？ 数据科学领域广泛而多样。这个领域对于寻找技术领域职业的专业人士来说有很多提供。这是一个薪资丰厚的职业选择，拥有很多发展机会。选择从事数据科学职业的一些原因包括： 需求量大 数据科学非常抢手。潜在雇员的机会很多。在LinkedIn上，这个职位的增长速度最快，并预计到2026年将新增1150万个工作岗位。因此，数据科学领域需求量大。 可供选择的职位众多 只有一些人具备成为合格数据科学家所需的技能组合。因此，数据科学相对于其他IT行业来说发展较少。因此，数据科学这个学科非常多样，并提供许多选择。数据科学家需求量大，但仍然需要更多的人才。 薪资丰厚的职业 数据科学领域属于高薪职业。根据Glassdoor的数据，数据科学家的平均年薪为116,100美元。因此，从事数据科学职业可以获得丰厚的回报。 数据科学是一个灵活的领域 数据科学有广泛的应用领域。它经常用于银行、医疗保健、咨询和电子商务等领域。数据科学领域非常多样。因此，您将能够在各种领域工作。 数据科学的趋势和行业事实 数据科学经历了显著的增长，并成为许多行业不可或缺的一部分。一些趋势和行业事实突显了数据科学作为职业选择的重要性和潜力。数据科学领域提供有吸引力的薪资待遇。根据Glassdoor的数据，美国数据科学家的平均薪资约为每年113,000美元。这种高收入潜力证明了数据科学技能和专业知识在就业市场中的价值。 此外，数据科学在各个行业都有应用。从医疗保健和金融到市场营销和电子商务，各个行业的组织都依靠数据科学家提取有意义的见解并推动战略决策。例如，在医疗保健行业，数据科学用于分析患者数据并制定个性化治疗计划。同样，在市场营销中，数据科学有助于识别消费者趋势、针对特定受众并优化广告活动。 这些趋势和行业事实表明，数据科学是一个蓬勃发展且备受追捧的职业道路，在各个领域有着广阔的发展和影响机会。 数据科学职业的未来 就职机会而言，数据科学有很多。经济学家预计到2026年全国将有超过1100万个工作岗位。事实上，自2019年以来，数据科学招聘增长了46％。尽管如此，截至2020年8月底，印度仍有约9.3万个空缺的数据科学岗位。因此，数据科学的潜力是不可否认的。 在数据科学领域，除了数据科学家的角色外，还有许多工作选项，包括： 数据分析师：他们使用数据分析工具分析数据，并与团队合作产生洞察和商业计划。 数据管理员：数据库管理系统的管理、协调和运作是数据库管理员（DBA）的职责。…
Leave a Comment人们经常处理数据，数据分析师在掌握领域专业知识后寻求更具挑战性的角色。数据科学家常常被认为是最具吸引力的职业选择之一。虽然需要扩展技能，但许多教育平台提供了有益的知识，有利于变革。许多数据分析师已成功转行，你可以是下一个！ 以下步骤将帮助您为公司的发展做出贡献，并在您成为数据科学家的职业道路上增加专业知识： 评估技能差距 数据科学家角色所需的基本技能和知识 数据科学家需要对数据进行实验，因此开发新想法和研究的思维方式至关重要。同样重要的是，能够分析过去实验的错误。除此之外，执行这些职责所需的技术技能和知识如下： 技术技能： 编程或数据语言，如Python或R 机器学习算法，例如线性回归、逻辑回归、随机森林、决策树、支持向量机、KNN 关系型数据库，如SAP HANA、MySQL、Microsoft SQL Server、Oracle Database 特殊技能，如自然语言处理（NLP）、光学字符识别（OCR）、神经网络、计算机视觉、深度学习 RShiny、ggplot、Plotly、Matplotlit中的数据可视化能力 Hadoop、MapReduce、Spark等分布式计算 分析技能： IBM Watson、OAuth、Microsoft Azure等API工具 实验和A/B测试 预测建模和统计概念，如回归、分类和时间序列分析 领域知识： 计算机科学、软件工程或统计学的硕士或博士学位 专业知识…
Leave a Comment恭喜你，你拥有一个可工作的LLM概念验证，你为此感到自豪，并准备向全世界展示！也许你直接使用了OpenAI库，或者你正在使用一个…
Leave a Comment在过去几年中，计算机视觉和计算机图形相关领域，特别是表面重建方面发展迅速。这个不断变化的三维扫描领域的主要目标是以给定的点云高效地重新创建表面，并满足特定的质量标准。这些算法旨在基于给定的点云数据估计被扫描对象表面的底层几何形状。然后可以利用这个表面进行各种用途，如可视化、虚拟现实、计算机辅助设计和医学成像。一些最著名的表面重建方法包括自组织映射、贝叶斯重建和泊松重建。随着表面重建成为三维扫描的关键方面，正在进行大量的研究，以利用无监督机器学习从三维扫描中进行表面重建的各种适用技术。 为了朝着这个方向迈进，来自图宾根大学、苏黎世联邦理工学院和捷克技术大学的一群研究人员合作开发了SDFStudio，这是一个统一而多功能的神经隐式表面重建工具（NISR）。该框架建立在nerfstudio项目之上，该项目主要提供API以简化创建、训练和可视化神经辐射场（NeRF）的过程。作为其实现的一部分，开发人员使用了三种主要的表面重建方法：UniSurf、VolSDF和NeuS。UniSurf，或称通用表面重建，是一种表面重建方法，旨在通过结合隐式函数和多边形网格从无组织的点云生成平滑的表面表示。另一方面，体积有符号距离场（VolSDF）是一种利用输入点云的体积表示的表面重建方法。NeuS，或神经表面，是一种利用深度神经网络从点云生成表面表示的表面重建方法，实质上结合了隐式表面表示和基于学习的方法的优势。 为了支持一系列场景表示和表面重建技术，SDFStudio使用有符号距离函数（SDF）作为其关键表示，该函数将表面定义为隐式函数的等值面。为了估计SDF，SDFStudio使用了多层感知器（MLPs）、三面和多分辨率特征网格等各种技术。这些技术利用神经网络和特征网格在场景中的不同位置估计有符号距离或占用值。为了进一步提高准确性和效率，该工具还包括多种点采样策略之一，其中之一是受UniSurf方法启发的面导向采样。此外，SDFStudio还采用了从NeuralReconW方法导出的体素表面导向采样。这种方法利用体素网格的信息来引导采样过程，确保生成的点更有可能位于对象的表面上。通过采用这种采样技术，SDFStudio确保生成的点样本代表底层表面，并确保重建表面的质量和准确性得到改善。 SDFStudio的一个显著特点是它提供了一个统一和模块化的实现，为在工具内不同方法之间转移思想和技术提供了便利的框架。例如，从Mono-NeuS到NeuS中观察到了思想转移。另一个思想转移的例子是Geo-VolSDF，它将Geo-NeuS的思想融入到VolSDF中。SDFStudio具备在不同方法之间转移思想的能力，促进了表面重建的进步，使研究人员有机会尝试不同的组合，从一个过程中获得灵感并将其整合到另一个过程中。为了快速开始使用SDFStudio，您可以按照其GitHub存储库上提供的设置说明进行操作。
Leave a Comment合成数据，坦白说，就是假数据也就是说，它并不是来自你感兴趣的人群的真实数据（人群是数据科学中的技术术语，我在这里解释了它）它是…
Leave a Comment