过去 48 小时，AI 圈讨论最多的 4 件事
10月10日 00:20 更新 · 按讨论热度排序
OpenAI 上周解雇安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，三人随后发表公开信，否认公司关于其不当处理敏感信息的指控，并警告解雇将在公司内部造成寒蝉效应。 OpenAI 在 X 上回应称，内部调查发现三人违反敏感信息处理政策、存在“重大信任破坏”，并强调解雇与三人公开谈论 AI 安全无关；公司还称调查发现的违规“超出公开信所述范围”，但未提供细节。一名 OpenAI 发言人则对 TechCrunch 称，调查发现的是“不当行为模式”，超出与外部 AI 评估小组共享信息的范围。 三人提出三项要求：OpenAI 应履行让 METR 等外部安全审计方以员工级权限入驻的公开承诺、保持前沿模型的可监控性，并明确员工与外部安全组织合作的规则。据一份内部备忘录，OpenAI 表示认同这些建议。
最新进展OpenAI 解雇三名安全研究员，当事人发公开信提出三项要求
Anthropic一年多来首次更新Claude使用政策，新增禁止选举干预、武器软件开发、监控以及持续辱骂模型等条款。公司称，禁止“持续且无必要的虐待或残忍行为”仅适用于用户反复且无明确目的地攻击模型的极端情况，不涉及常见的用户不满、反驳、黑暗创作主题或模型测试研究；违规者可能被警告、限流、限制、暂停或终止访问，终止对话仍是主要执行机制。 新政策另设“不要破坏民主进程”章节，禁止用Claude运营虚假账号、伪造新闻媒体、欺骗选民或扰乱选举，并将武器禁令扩展到软件和无人机武器化。Anthropic表示，若其判断合同限制与保障措施足以降低风险，针对某些政府客户的合同可修改上述规则。
OpenAI 披露并封禁了两个利用 ChatGPT 账号开展影响力行动的网络，分别来自俄罗斯和伊朗，代号为“Dark Clark”和“Bogus Byline”。OpenAI 称，这两起行动借助虚假身份的“记者”和一家智库散播地缘政治信息，向正规媒体植入内容，而非仅在社交媒体上做宣传。 OpenAI 未在披露中说明封禁账号的具体数量或行动持续时间。
Google 发布实验性 AI 笔记应用 Google AI Edge Foresight，可在完全离线状态下跨应用记录会议笔记、转写会议和音频文件，对标 Granola 等 AI 笔记工具。该应用免费，基于端侧 EmbeddingGemma 2 模型（7.4 亿参数）运行，采用分屏视图，一侧手写速记、一侧显示 AI 生成笔记，并支持查看转写内容或与 Gemma 4 驱动的助手对话。 目前该应用仅针对搭载 Apple Silicon 的 Mac 优化，Google 称用户的文件、会议音频和笔记“永远不会离开你的电脑”。