Press "Enter" to skip to content

Tag: Advanced (300)

从头开始构建和部署使用Amazon SageMaker的机器学习推理应用程序

随着机器学习(ML)进入主流并得到广泛采用,基于ML的推理应用程序在解决各种复杂业务问题方面变得越来越常见解决这些复杂业务问题通常需要使用多个ML模型和步骤本文将向您展示如何使用自定义容器构建和托管一个ML应用程序[…]

Leave a Comment

学习如何使用AWS SageMaker JumpStart基础模型构建和部署使用工具的LLM代理

大型语言模型(LLM)代理是将独立的LLM的功能扩展到以下两个方面的程序:1)访问外部工具(API、函数、Webhook、插件等),2)能够自主计划和执行任务通常,LLM需要与其他软件、数据库或API进行交互以完成复杂任务[…]

Leave a Comment

使用@remote装饰器在Amazon SageMaker上微调Falcon 7B和其他LLMs

今天,生成式人工智能模型涵盖了各种任务,包括文本摘要、问答以及图像和视频生成为了提高输出的质量,采用了一些方法,如N-Short学习、提示工程、检索增强生成(RAG)和微调微调允许您调整这些生成式人工智能模型,以在您的领域特定的任务上实现更好的性能

Leave a Comment

通过在Amazon SageMaker上使用Hugging Face进行电子邮件分类,加速客户成功管理

在这篇文章中,我们分享了SageMaker如何帮助Scalable的数据科学团队高效地管理数据科学项目的生命周期,特别是电子邮件分类器项目生命周期从使用SageMaker Studio进行初始阶段的数据分析和探索开始,然后通过SageMaker训练、推理和Hugging Face DLCs进行模型实验和部署,并最终通过与其他AWS服务集成的SageMaker Pipelines完成训练流程

Leave a Comment

使用亚马逊Rekognition、亚马逊SageMaker基础模型和亚马逊OpenSearch服务进行文章的语义图像搜索

数字出版商不断寻求简化和自动化媒体工作流程的方法,以便尽快生成和发布新内容出版商可能拥有包含数百万张图片的存储库,并且为了节省费用,他们需要能够在文章中重复使用这些图片在这样规模的存储库中找到与文章最匹配的图片可能是一项耗时、重复、手动的任务,但可以通过自动化来完成这还依赖于存储库中的图片被正确标记,这也可以通过自动化来实现(有关客户成功案例,请参阅Aller Media Finds Success with KeyCore and AWS)在本文中,我们演示如何使用Amazon Rekognition、Amazon SageMaker JumpStart和Amazon OpenSearch Service来解决这个业务问题

Leave a Comment

使用Amazon Textract和Amazon OpenSearch实现智能文档搜索索引

在本文中,我们将带您快速构建和部署一个文档搜索索引解决方案,帮助您的组织更好地利用和提取文档中的见解无论您是人力资源部门在寻找员工合同中的特定条款,还是财务分析师在翻阅大量发票以提取付款数据,这个解决方案都旨在赋予您以前所未有的速度和准确性访问所需信息的能力

Leave a Comment

提升生成式人工智能体验:Amazon SageMaker 托管中引入流媒体支持

我们很高兴地宣布,通过Amazon SageMaker实时推理,响应流式传输已经可用现在,当使用SageMaker实时推理构建生成式AI应用程序(如聊天机器人、虚拟助手和音乐生成器)时,您可以连续地将推理响应流返回给客户端,以帮助您构建交互式体验通过这个新功能,您可以在可用时立即开始流式传输响应,而不是等待整个响应生成这降低了生成式AI应用程序的首字节响应时间在本文中,我们将展示如何使用SageMaker实时终端节点和新的响应流式传输功能为交互式聊天用例构建流式网络应用程序我们在示例演示应用程序UI中使用Streamlit

Leave a Comment

使用Amazon Redshift中的数据,利用Amazon SageMaker特征存储在规模上构建机器学习功能

Amazon Redshift是最受欢迎的云数据仓库,每天被数以万计的客户用于分析数十亿字节的数据许多从业人员正在使用Amazon SageMaker扩展这些Redshift数据集,以便进行机器学习(ML),其要求是在离线环境中以代码的方式开发功能[…]

Leave a Comment

在Amazon SageMaker上使用LLMs实现智能视频和音频问答,并提供多语言支持

在日益数字化的世界中,数字资产是企业产品、服务、文化和品牌身份的重要视觉表现数字资产与记录的用户行为一起,可以通过提供互动和个性化体验来促进客户参与,使公司能够与目标受众更深入地连接高效地发现和搜索特定的数字资产[…]

Leave a Comment

使用Haystack流水线和Amazon SageMaker JumpStart构建适用于企业搜索的生产就绪的生成式AI应用程序,使用LLMs

在这篇文章中,我们展示了如何使用Haystack pipelines和来自Amazon SageMaker JumpStart和Amazon OpenSearch Service的Falcon-40b-instruct模型,构建一个端到端的生成式AI应用程序,用于企业搜索,并加以检索增强生成(RAG)

Leave a Comment

在Amazon SageMaker Studio上托管Spark UI

亚马逊SageMaker提供了几种运行Apache Spark分布式数据处理作业的方式,Apache Spark是一种流行的用于大数据处理的分布式计算框架您可以通过将SageMaker Studio笔记本和AWS Glue交互式会话连接起来,在Amazon SageMaker Studio中交互式地运行Spark应用程序,并使用无服务器集群运行Spark作业通过交互式会话,您可以[…]

Leave a Comment

使用Amazon SageMaker和Salesforce Data Cloud集成,为您的Salesforce应用程序提供AI/ML功能

这篇文章由Daryl Martis(Salesforce Einstein AI产品总监)共同撰写这是一系列讨论Salesforce Data Cloud与Amazon SageMaker集成的第二篇文章在第一篇中,我们展示了Salesforce Data Cloud和Einstein Studio与SageMaker的集成,使企业能够安全地访问其Salesforce数据

Leave a Comment

你的模型好吗?深入了解Amazon SageMaker Canvas高级指标

如果你是一名业务分析师,了解客户行为可能是你最关心的事情之一了解客户购买决策背后的原因和机制可以促进收入增长然而,客户流失(通常称为客户流失)始终存在风险了解客户离开的原因可以获得洞察力,可以帮助企业采取措施来减少客户流失

Leave a Comment

使用Amazon SageMaker的地理空间能力分析啮齿类动物的入侵情况

“老鼠等啮齿动物与许多健康风险相关,并且已知可以传播35种以上的疾病识别高频率啮齿动物活动的区域可以帮助当地政府和害虫控制组织有效地计划干预措施,并消灭这些啮齿动物在本文中,我们展示了如何监测和可视化…”

Leave a Comment

在Amazon SageMaker Studio中使用VPC互连配置Amazon Redshift集群的跨账户访问

随着云计算的出现,随着计算能力和数据的普及,机器学习(ML)现在正在对各个行业产生影响,并且成为每个企业和行业的核心部分亚马逊SageMaker Studio是第一个完全集成的机器学习开发环境(IDE),具有基于Web的可视界面您可以执行所有机器学习开发[…]

Leave a Comment

使用Amazon SageMaker Canvas,通过无代码机器学习来实现制造质量的计算机视觉缺陷检测的民主化

制造商最关注的是质量不良成本质量缺陷会增加废品和返工成本,降低生产效率,并可能影响客户和公司声誉在生产线上进行质量检查对于维持质量标准至关重要在许多情况下,使用人工视觉检查来评估质量和检测缺陷,这可能会 […]

Leave a Comment

使用亚马逊AI内容审查服务的安全图像生成和传播模型

生成式人工智能技术正在迅速改进,现在能够根据文本输入生成文本和图像稳定扩散(Stable Diffusion)是一个文本到图像模型,使您能够创建逼真的应用程序您可以通过Amazon SageMaker JumpStart轻松使用稳定扩散模型从文本生成图像以下是输入文本和…的示例

Leave a Comment

通过AWS CDK使用Amazon SageMaker角色管理器在几分钟内定义自定义权限

机器学习(ML)管理员在维护ML工作负载的安全性和完整性方面扮演着至关重要的角色他们的主要重点是确保用户以最高安全性操作,遵守最小权限原则然而,满足不同用户角色的多样化需求并创建适当的权限策略有时会妨碍灵活性[…]

Leave a Comment

使用Amazon SageMaker Data Wrangler与Snowflake的直接连接,加速商业洞见的产生

Amazon SageMaker数据整理器是一个单一的可视界面,可以将数据准备和特征工程所需的时间从数周缩短到几分钟,并能够选择和清理数据、创建特征以及自动化机器学习(ML)工作流中的数据准备,而无需编写任何代码SageMaker数据整理器支持Snowflake,这是一个流行的[…]

Leave a Comment

使用 AWS CDK 部署 Amazon SageMaker Studio 生命周期配置

Amazon SageMaker Studio是第一个完全集成的机器学习(ML)开发环境(IDE)Studio提供了一个单一的基于Web的可视化界面,您可以在其中执行准备数据所需的所有ML开发步骤,以及构建、训练和部署模型生命周期配置是由Studio生命周期事件触发的shell脚本,例如启动[…]

Leave a Comment

在亚马逊SageMaker上部署带有大模型推理DLC的Falcon-40B

上周,技术创新研究院(TII)推出了TII Falcon LLM,这是一个开放源代码的基础性大语言模型(LLM)使用Amazon SageMaker训练了1万亿令牌的Falcon,在性能方面表现出色(在撰写本文时Hugging Face排行榜上排名第一),同时相对轻便且比其他LLM(如llama-65B)更便宜易于托管在…

Leave a Comment

AWS Inferentia2 在 AWS Inferentia1 的基础上进行了升级,其吞吐量提高了4倍,延迟降低了10倍

机器学习(ML)模型的规模——包括大型语言模型(LLMs)和基础模型(FMs)——每年都在迅速增长,这些模型需要更快、更强大的加速器,特别是用于生成式人工智能AWS Inferentia2 从基础设计上就旨在提供更高的性能,同时降低 LLM 和生成式人工智能推断的成本在此[…]

Leave a Comment

使用DeepSpeed加速PyTorch,利用基于Intel Habana Gaudi的DL1 EC2实例训练大型语言模型

训练拥有数十亿个参数的大型语言模型(LLM)可能会具有挑战性除了设计模型架构外,研究人员还需要设置先进的分布式训练技术,如混合精度支持、梯度累积和检查点对于大型模型,训练设置更加具有挑战性,因为在单个…中可用的内存有限

Leave a Comment