Tag: Def Con

本周，成千上万的黑客将在拉斯维加斯对最新的生成式人工智能平台进行调整、扭曲和探索，以构建更可信赖和包容的人工智能。 NVIDIA正在与黑客社区合作，建立测试下一代人工智能的最佳实践，参与业界领先的LLM解决方案（包括NVIDIA NeMo和NeMo Guardrails）的首次测试。 由AI Village、SeedAI和Humane Intelligence主办的Generative Red Team Challenge将是拉斯维加斯Black Hat和DEF CON安全会议上一系列研讨会、培训课程和NVIDIA领导人出席的活动之一。 这个挑战给黑客们提供了许多可利用的漏洞，承诺将是对新兴人工智能技术进行现实检验的第一个机会。 “人工智能使个体能够创造和构建以前不可能的事物，”SeedAI创始人、Generative Red Team Challenge联合组织者之一Austin Carson表示。“但是，如果没有一个庞大、多样化的社区来测试和评估这项技术，人工智能将只是其创造者的镜像，让社会的大部分人落后。” 与黑客社区的合作正值全球范围内关注人工智能安全的集中推动，拜登-哈里斯政府已经获得了在先进生成模型上工作的领先人工智能公司的自愿承诺，这一消息在全球都引起了轰动。 “AI Village汇集了关注AI系统影响和潜在恶意使用的社区，”AI Village创始人、Generative Red Team Challenge联合组织者之一Sven…