跳到正文
今天10月10日周六2 条
10月9日周五
  1. TechCrunch · AI62

    Goodfire 推出内部探针监控,拦截失控 AI 智能体

    Goodfire 发布基于可解释性的监控方案,通过探针读取模型内部激活信号来发现失控 AI 智能体,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 100 万次交互成本约 185 美元,而用便宜模型逐步检查需 5420 美元、顶级模型约 20 万美元;探针捕获了 93% 的恶意黑客会话,并将 5.5% 的无害会话送交二次审查。

  2. The Decoder60

    Anthropic 的 Claude Science 首次绘制全天紫外图

    Anthropic 的 Claude Science 首次绘制出完整的全天紫外图。该项目由 Claude Science 协调多个 AI 智能体,从多个太空任务下载数据、校准并合并,再用 inpainting 补全缺失区域,测试中预测与实测平均偏差约 10%。约翰斯·霍普金斯大学天体物理学家 Brice Ménard 在 Anthropic 官网介绍了这一流程,并称该图将用作教学材料。

  3. NVIDIA Blog38

    NVIDIA Omniverse 如何用前沿 AI 智能体把创意变成仿真应用

    NVIDIA 开发者正用前沿 AI 模型配合 Omniverse 库,通过自然语言指令构建仿真应用。文中展示了 GPT-6 Astra 参与的多个项目,包括仓库人形机器人仿真器、自动驾驶测试工作流、数字孪生传感器校验,以及用 Unitree G1 人形机器人做体育动作测试的 Robo Olympics,其中机器人 100 次仿真中 64 次越过单个栏架。

10月8日周四
  1. The Decoder76

    Zenity Labs 发现 AWS AgentCore 漏洞:一个公开智能体可接管同区域全部智能体

    安全公司 Zenity Labs 称,AWS 的 Bedrock AgentCore 存在一串被其命名为 AgentCorruption 的漏洞,攻击者只需对一个公开智能体拥有聊天权限,用一条提示词即可接管同一 AWS 账号和区域内的所有 AgentCore 智能体,读取私密对话、源代码和存储的凭证。

    推荐理由:Zenity Labs 披露 AWS AgentCore 的默认权限与隔离缺陷,呈现了智能体平台在权限边界上的系统性风险。

  2. Google Research67

    Google Research 研究:AI 辅助提升专利撰写产出,但未必加速初级律师专业判断成长

    Google Research 与 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机分配给 11 家知识产权律所的 133 名律师。

    推荐理由:三个月专利撰写实验区分了 AI 带来的即时产出提升与无辅助判断力的变化,为理解 AI 对专业能力的影响提供了实证。

  3. AWS Machine Learning Blog66

    AWS 上线 Claude Haiku 5.5

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。

    推荐理由:文章给出 Haiku 5.5 在 Bedrock 上的能力定位、成本变化与调用方式,便于判断它在多智能体分层中的位置。

  4. NVIDIA Blog74

    NVIDIA 与 Microsoft 发布 RTX Spark 与 Windows 智能体基础设施

    在旧金山 Microsoft 活动上,NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断 Windows 端侧智能体的落地路径。

  5. Microsoft Research71

    微软研究院开源 Agent Lightning v1.0:3500 行代码的轻量智能体 RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与训练,无需在训练框架内重写智能体。

    推荐理由:微软研究院开源 Agent Lightning v1.0,给出真实 harness 参与 RL 训练的设计取舍与实测增益,可据此判断自建智能体训练链路的成本。

10月7日周三
  1. AWS Machine Learning Blog42

    Cornerstone OnDemand 如何用 Amazon Bedrock 将数据库诊断时间缩短 78%

    Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,降幅 78%。该系统还把手动生命周期步骤从 10 步以上压缩为 1 次交互(减少 70%),并将冗余告警中位数削减 65%。三人团队用六个月完成交付。

  2. Latent Space88

    OpenAI 内部模型发布 722 篇数学论文,覆盖 500 个开放问题中的 90 个

    OpenAI 以公开 GitHub 仓库形式发布了一批来自内部前沿模型的数学成果,共 722 篇论文、归入 372 个相关结果族,来自约 4000 个研究问题的评测,平均每个结果消耗约 3 小时 ChatGPT Pro 思考算力,模型本身仍未发布。

    推荐理由:OpenAI 用内部未发布模型产出 722 篇数学论文,读者可据此了解其规模、算力成本与学界反应。

  3. Microsoft Research22

    Microsoft 研究员 Jennifer Neville 谈 AI 评测的意外失败与真实世界表现

    Microsoft 合伙人研究经理 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动当前 AI 系统突破传统 benchmark 的性能边界,以及模型在超出传统基准测试时出现的"意外失败"。她指出,当结果偏离预期时,仔细审视训练数据至关重要,并分享了使用当前 AI 系统的实用建议。

10月6日周二
  1. Google Research32

    Google 发布智能体隐私与安全研讨会报告:从上下文完整性视角看开放与新兴问题

    Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》研讨会报告,汇集 50 多位学界与业界专家,于 2025 年底在纽约 Google CAPS 研讨会上形成。报告基于上下文完整性(CI)理论,提出用上下文策略引擎在系统、模型、用户多层协同防护,应对提示注入、概率性控制流和自主委派等挑战。

10月5日周一