鉴于人工智能（AI）在今年取得的许多进展，AI已成为2023年的一个重要讨论点并不足为奇。现在，几乎在每个领域中都可以找到AI的应用案例，其中之一就是在医疗保健和医学领域的令人兴奋和有用的应用。从药物发现到转录医学文件，甚至协助手术，它正在改变医疗专业人员的生活，还有助于减少错误并提高其效率。本文讨论了2023年几个有可能改变医学界的AI模型。 Med-PaLM 2 Med-PaLM由Google Research设计用于医学领域，能够对医学问题提供高质量的答案。该模型利用了Google的LLM的强大性能，并是其中一个在回答USMLE样式问题时达到人类专家水平的首个模型。在评估时，该模型展示了理解症状、进行复杂推理并选择适当治疗的能力。此外，它在研究中基于MedQA医学考试基准测试中取得了86.5%的准确率。尽管显示出了有前途的能力，研究人员希望进行更严格的评估，以确保该模型可以在关键安全领域部署。 Bioformer Bioformer是BERT的一个紧凑版本，可用于生物医学文本挖掘。虽然BERT在NLP应用中取得了最先进的性能，但通过减少参数可以提高计算效率，对性能的影响很小。Bioformer研究人员采用这种方法开发了一个模型，其模型尺寸比BERT大大减小（减少60%）。该模型是在PubMed摘要和PubMed Central全文文章上训练的，并使用了生物医学词汇表。研究人员发布了两个版本的模型-Bioformer8L和Bioformer16L，在命名实体识别、关系抽取、问题回答和文档分类等参数评估中表现良好，即使参数更少。 MedLM MedLM是由Google开发的一套针对医疗保健用例进行调优的基础模型。MedLM中的两个模型旨在处理复杂任务并扩展到各种任务中。这些模型的主要目的是自动化任务，以节省时间，提高效率并改善患者整体健康状况，Google的研究人员与德勤合作以试行MedLM的能力。MedLM还与其他AI系统集成，如BenchSci的ASCEND，以提高临床研究和开发的质量和速度。 RoseTTAFold RoseTTAFold是一款通过有限信息预测蛋白质结构的深度学习软件。它能够研究蛋白质序列的模式、蛋白质氨基酸的相互作用以及它们的三维结构。该模型使研究人员能够模拟蛋白质和小分子药物彼此之间的相互作用，促进药物发现研究。该模型的研究人员还公开了其代码，以造福整个社区。 AlphaFold AlphaFold是由DeepMind开发的功能强大的AI模型，可以根据蛋白质的氨基酸序列预测其三维结构。DeepMind与EMBL的欧洲生物信息研究所（EMBL-EBI）合作共同发布了一个包含超过2亿个AI生成的蛋白质结构预测结果的数据库，以促进科学研究。在CASP14中，AlphaFold在高准确性的情况下超过了其他模型，产生了令人满意的结果。此外，它具有更好地帮助研究人员理解蛋白质结构和推进生物研究的潜力。 ChatGLM-6B ChatGLM是一个双语模型（中英文），它在中文医疗对话数据库上进行了精细调整。该模型在相对较短的时间内（13小时）进行了精细调整，使其成为非常实惠且适用于医疗目的的LLM。该模型还具有更长的序列长度，因此支持更长的对话和应用程序。该模型使用了监督式精细调整、RLHF等技术进行训练，从而使其能够更好地理解人类指令。因此，该模型具有出色的对话和问答能力。 本文最初发表在MarkTechPost上，文章标题为：医疗领域人工智能模型清单（2023年）。
Leave a Comment8 search results for "PubMed"
探索Google的Med-PaLM 2和EPFL的Meditron等大型语言模型在医疗保健领域的转型影响，研究其应用、挑战和在提高患者护理和临床效率方面的潜力
Leave a Comment最令人振奋的大型语言模型（LLM）应用之一是在医学领域的运用，其中一些用例包括医学研究、个性化健康计划、临床诊断等等。然而，考虑到该领域的安全性问题，有必要在各种用例中对这些模型进行安全测试，以确保它们可安全使用。此外，这些模型应该向公众发布，以供审查。 因此，一组研究人员发布了一组名为 MediTron 的LLM，它们是基于 LLaMA-2 的领域适应型模型。该模型有两个变体 – 一个带有 7B 参数，另一个带有 70B 参数。MediTron 是一个基础模型，可用于使用 RLHF 或指令调节进行特定的下游任务，其一些用例包括医学考试答题、一般健康问题、疾病信息查询以及支持差异诊断。 MediTron 的训练数据集非常全面，包括临床实践指南、医学论文及其摘要以及一般领域的预训练数据。采用了 Megatron-LLM 分布式训练库来优化训练效率，并使用数据、管道和张量并行化方案来加快进程。 研究人员对模型的真实性进行了初步评估。 他们使用了 TruthfulQA 数据集作为基准，并对 7B 模型进行了单次评估和对…
Leave a Comment探索负责任人工智能的关键支柱，包括在LLMs中管理幻觉、偏见和质量，以及在创建符合特定行业需求的可信模型方面面临的挑战
Leave a Comment图神经网络（GNNs）是一类在图结构数据上操作的强大的神经网络它们通过从节点的局部聚合信息来学习节点表示（嵌入）
Leave a Comment大型语言模型（LLM）的发展，例如OpenAI的ChatGPT和GPT-4，在自然语言处理、计算机视觉和生物医学等许多领域中重塑了人工智能。不幸的是，ChatGPT的训练细节和其变体的模型架构仍然未知。虽然LLaMA是一个开源的基础语言模型，但据推测，它在需要广泛领域知识的应用中表现不佳，是由于在模型预训练阶段缺乏领域特定数据引起的。 许多研究一直在讨论修改和使用开源LLM来实现专门目的。例如，Alpaca和Vicuna专注于通过训练模型以遵守自动创建的指令示例来扩展模型的交互能力。 上海交通大学和上海人工智能实验室最近的一项工作采用了一种不同的方法，将领域知识注入到单个预训练的LLaMA中，以将基础语言模型引导到医学专用语料库。他们介绍了PMC-LLaMA，这是一个公开可用的语言模型，通过在480万篇医学学术论文上对LLaMA-7B进行改进开发而成。团队认为，在医学讨论和咨询中，一个以医学为重点的基础语言模型会有更多的益处。 团队从S2ORC数据集开始，该数据集包含81.1M篇英文学术论文，并根据其PubMed Central（PMC）ID对其进行了排序。因此，约有490万篇论文，总计超过750亿个标记与医学知识高度相关。通过优化GPT2中首次提出的自回归生成目标，他们在这些免费的PMC论文上对LLaMA-7B模型进行了微调。他们采用bf16（脑浮点）数据格式和完全分片数据并行（FSDP）加速方法来加快学习过程。 团队通过对上述相关的医学问答数据集进行三种不同类型的微调来测试PMC-LLaMA：完全微调、参数高效微调和数据高效微调。实验结果表明，当微调指令调整时，PMC-LLaMA在医学领域中优于LLaMA和其他使用LLaMA微调指令训练的模型。 PMC-LLaMA的一个缺点是，这480万篇论文中并不包含每个标记，因为迄今为止他们只进行了五个时期的训练。在未来，他们计划逐步训练具有更多参数的PMC-LLaMA模型，持续训练PMC-LLaMA，并更新hugging face页面上的基础模型。
Leave a Comment对于医学专业人员来说，会话式生成人工智能有很大的潜力，但目前的研究仅侧重于文本。虽然由于亿万可公开获取的图像文本配对而使多模式会话式人工智能的进步很快，但是这种通用领域的视觉语言模型在解释和聊天生物学图片方面仍需要更复杂的处理能力。微软研究团队提出了一种低成本的方法，用于教授视觉语言会话助手如何回答有关生物医学图像的自由形式查询。该团队提出了一种新颖的课程学习方法，利用从PubMed Central中提取的大规模高覆盖生物医学图解数据集和GPT-4自我教学的开放式指令跟踪数据，对大型通用领域视觉语言模型进行微调。 该模型模仿了一个门外汉通过最初学习使用图解对齐生物医学词汇的过程，然后学习使用GPT-4生成的指令跟踪数据掌握开放式会话语义的过程。在不到15个小时的时间内（使用八个A100），研究人员可以训练出一款适用于生物医学领域的大型语言和视觉助手（LLaVA-Med）。由于其多模式会话能力和遵循自由形式指令的能力，LLaVA-Med非常适合回答关于生物图像的问题。经过微调后，LLaVA-Med取得了三个基准生物医学视觉问答数据集的最新成果。关于人们如何遵循指令以及LLaVA-Med模型的数据将被公开以推进生物医学领域的多模式研究。 该团队的主要贡献总结如下： 多模式医学训练合规统计。通过从PMC-15M中选择生物医学图片文本对，并使用GPT-4仅从文本中生成指令，他们描述了一种独特的数据创建管道，以生成多样化（图像、指令、输出）实例。 LLaVA-Med。使用自行生成的生物医学多模式指令跟踪数据集，他们提供了一种新颖的课程学习方法，以使LLaVA适应生物医学领域。 开源。生物医学多模式指令跟踪数据集以及用于数据生成和模型训练的软件将公开提供，以促进生物医学多模式学习的进一步研究。 LLaVA-Med的有效性和获得的多模式生物医学指令跟踪数据的准确性是该团队调查的重点。研究人员考虑两种不同的环境来评估研究： LLaVA-Med作为通用生物医学视觉聊天机器人的效果有多好？ 与现有技术相比，LLaVA-Med在行业基准测试中的表现如何？ 该团队首先提出了一种新颖的数据生成管道，从PMC-15M中采样了600K个图像文本对，通过GPT-4筛选出多样化的指令跟踪数据，并将创建的指令与模型对齐，以解决缺乏多模式生物医学数据集以训练指令跟踪助手的问题。 研究人员随后介绍了一种教授LLaVA-Med课程的新方法。具体而言，他们在广泛的领域中训练LLaVA多模式会话模型，并逐渐将重点转向生物医学领域。训练过程分为两个阶段： 指定生物医学概念词嵌入与大量创新生物视觉概念的相关图像属性对齐。 使用基于生物医学语言图像指令的微调模型，LLaVA-Med展现了令人印象深刻的零样本任务转移能力，促进了自然用户互动。 总的来说 微软研究团队开发了适用于生物医学领域的大型语言和视觉模型LLaVA-Med。他们使用自我教学策略通过语言生成技术GPT-4和外部知识构建了数据筛选管道。然后，他们将模型训练到高质量的生物医学语言-图像指令跟踪数据集上。LLaVA-Med在微调后在三个VQA数据集上的特定指标上打败了早期受监督的SoTA，展现了具有领域知识的出色对话能力。虽然LLaVA-Med是朝着正确方向迈出的一大步，但他们也认识到它存在幻觉和推理缺乏深度的问题，这在许多LMMs中都很普遍。未来的工作将致力于使事物更加可靠和高质量。
Leave a CommentCan't find what you're looking for? Try refining your search: