跳到正文
10月9日周五
  1. The Decoder58

    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。新政策还把虚假账号与误导性政治内容归入宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

  2. TechCrunch · AI22

    Ben Affleck 谈 AI:从卷积神经网络到微调开源视频模型,好莱坞明星的技术素养走红网络

    Ben Affleck 因在多段采访中讲解机器学习、神经网络、Transformer、张量和 GPU 等概念而走红网络,他称自己会写 Python 脚本。他透露曾走访 OpenAI,并于 2022 年创办 InterPositive,通过解冻权重微调开源视频模型、只训练最后的电影质感层,该技术已用于其电影《Animals》的后期制作。

  3. TechCrunch · AI71

    OpenAI 年化收入据报比此前预期低 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前外界报道的接近 700 亿美元低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入直接对比而做的推算,两家公司计算年化收入的方式不同,Anthropic 会计入云合作伙伴的销售额,OpenAI 则不计入。

  4. The Decoder80

    数学家呼吁抵制 OpenAI,AI 生成证明涌入数学领域

    一批数学家发表声明,呼吁抵制 OpenAI,起因是 OpenAI 一次性放出 700 多个文件,声称其内部模型解决了 100 多个未解数学问题。菲尔兹奖得主 Terence Tao 在博客转发该声明并提出 Math 2.0 时代,Scott Aaronson 则称之为 Mathocalypse。

    推荐理由:数学界对 OpenAI 批量放出 AI 证明的反弹,呈现了 AI 冲击基础研究时学术共同体与实验室之间的张力。

  5. TechCrunch · AI40

    Anthropic 更新使用政策:禁止滥用模型与干预选举

    Anthropic 周四更新使用政策,新增禁止干预选举、武器软件、监控以及长期辱骂模型等条款。新政策明确禁止用户持续对模型进行言语辱骂,但仅适用于用户反复恶意攻击且无明确目的的极端情况,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究。政策另设“不要破坏民主进程”章节,禁止用 Claude 运营虚假账号、伪造新闻媒体、欺骗选民或扰乱选举。

10月8日周四
  1. The Decoder50

    AI 数学突破引发以太坊研究者争论:钱包安全可能多快崩溃

    以太坊研究者 Justin Drake 警告,AI 辅助数学最坏情况下可能在数月内破解加密钱包所用的签名系统,他呼吁行业准备"bunker mode",把资金转移到从未签署过交易的地址。Vitalik Buterin 在 X 回复中认同风险,但提醒不要行动过快,称自己因迁移失误损失的钱比被黑客攻击还多。目前 ECDSA 签名方案在实践中尚未被真正破解。

  2. The Decoder76

    Zenity Labs 发现 AWS AgentCore 漏洞:一个公开智能体可接管同区域全部智能体

    安全公司 Zenity Labs 称,AWS 的 Bedrock AgentCore 存在一串被其命名为 AgentCorruption 的漏洞,攻击者只需对一个公开智能体拥有聊天权限,用一条提示词即可接管同一 AWS 账号和区域内的所有 AgentCore 智能体,读取私密对话、源代码和存储的凭证。

    推荐理由:Zenity Labs 披露 AWS AgentCore 的默认权限与隔离缺陷,呈现了智能体平台在权限边界上的系统性风险。

  3. Simon Willison12

    Ben Affleck 谈机器学习与视觉特效:从卷积神经网络到 Transformer

    Ben Affleck 表示自己从胶片转向数字后对视觉特效产生兴趣,并因此会写"相当糟糕的 Python 脚本"。他解释视觉特效流程多年来一直包含机器学习,早期用卷积神经网络处理 tensor 做边缘检测和特征提取,从而更方便地抠出绿幕画面并替换背景。他将卷积神经网络称为 Transformer 的前身,后者能同时进行更多计算。

  4. Simon Willison78

    Anthropic 发布 Claude Haiku 5.5,定价对齐 GPT-6 Luna

    Anthropic 发布快速低成本模型 Claude Haiku 5.5,定价为每百万 token 输入 0.10 美元、输出 0.50 美元,与 OpenAI 上月的 GPT-6 Luna 一致,超过 100,000 token 后涨至 0.50/2.50 美元。

    推荐理由:作者实测了 Haiku 5.5 的定价、tokenizer 变化与推理档位表现,读者可据此判断它与 GPT-6 Luna 的成本取舍。

  5. Google Research67

    Google Research 研究:AI 辅助提升专利撰写产出,但未必加速初级律师专业判断成长

    Google Research 与 NBER 发布一项为期三个月的专利撰写实地实验,将当时未发布的 Google Labs AI 专利写作助手(现属 Gemini Notebook)随机分配给 11 家知识产权律所的 133 名律师。

    推荐理由:三个月专利撰写实验区分了 AI 带来的即时产出提升与无辅助判断力的变化,为理解 AI 对专业能力的影响提供了实证。

  6. AWS Machine Learning Blog66

    AWS 上线 Claude Haiku 5.5

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上可用。

    推荐理由:文章给出 Haiku 5.5 在 Bedrock 上的能力定位、成本变化与调用方式,便于判断它在多智能体分层中的位置。

  7. NVIDIA Blog74

    NVIDIA 与 Microsoft 发布 RTX Spark 与 Windows 智能体基础设施

    在旧金山 Microsoft 活动上,NVIDIA 与 Microsoft 宣布为 Windows PC 上的 AI 智能体共同设计软硬件,Microsoft 宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统控制下安全持久地在后台运行。

    推荐理由:NVIDIA 与 Microsoft 把智能体运行所需的系统级容器和本地算力硬件一并给出,读者可据此判断 Windows 端侧智能体的落地路径。

  8. GitHub Blog · AI & ML60

    GitHub 推出基于 ModernBERT 的密钥检测模型,扩展 push protection

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 用九个季度数据说明密钥泄露与人工修复的失衡,并给出把检测前移到 push 环节的模型方案。

  9. Hugging Face Blog66

    Liquid AI 开源 d1-3B 与 d1-omni-600M 端侧决策模型

    Liquid AI 发布 d1 决策模型家族的两款开源模型 d1-3B 和实验性的 d1-omni-600M。d1-3B 在 Decision Index 0.2.1 上得分 48.57,领先所有 4B 和 9B 模型以及 Decider 35B-A3B 的 47.11,支持文本与图像输入;d1-omni-600M 支持文本加图像或文本加音频。

    推荐理由:Liquid AI 开源两款决策模型,给出端侧延迟与七项基准对比,可据此判断小模型做结构化决策的可行性。

  10. Microsoft Research71

    微软研究院开源 Agent Lightning v1.0:3500 行代码的轻量智能体 RL 框架

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的同一 agent harness 直接参与训练,无需在训练框架内重写智能体。

    推荐理由:微软研究院开源 Agent Lightning v1.0,给出真实 harness 参与 RL 训练的设计取舍与实测增益,可据此判断自建智能体训练链路的成本。

10月7日周三