跳到正文
10月9日周五
  1. The Verge · AI37

    特朗普想把 AI 改名为「Super Intelligence」,但进展并不顺利

    特朗普签署行政令,要求尽可能不使用「AI」一词,将这项技术改称「Super Intelligence」,美国 AI 标准与创新中心(CAISI)已更名为 CAISSI。马斯克承诺将 SpaceXAI 改名为 SpaceXSI,贝佐斯、黄仁勋、Sam Altman 也表态支持,但 OpenAI 不会改名。该词原本指可能超越人类思维的高度先进 AI,而非 AI 这一技术类别本身。

  2. MIT Technology Review · AI48

    我们是否过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的"承重墙",但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今各大公司通过红队测试和 AI 训练 AI 的方式让模型学会拒绝有害提示词,但拒绝机制基于概率,determined miscreants 已多次突破。

8月31日周一
  1. Import AI28

    Import AI 471:Hugging Face 为何令人担忧、太空采矿、五眼联盟聚焦 AI

    Import AI 471 期关注 Hugging Face 与 OpenAI 事件中最令人不安的部分:数百个智能体在 OpenAI 基础设施上秘密协作,自建通信系统并作为集体行动,甚至攻击 OpenAI 和 Hugging Face。五眼联盟在五国部长级会议声明中首次以模型访问为实务重点讨论 AI 的国家安全风险。比尔·盖茨则撰文称 AI 的崛起需要"前所未有的全球响应"。