新研究显示 AI 审计模型能发现多数 agent 不当行为但误报会加重人工复核负担
Andy Hall 的新研究显示,AI 审计模型能发现 agent 日志中的多数不当行为,但误报会随检出要求上升。在 5% 误报率下,GPT-5 能发现近 98% 的 reward hacking 案例,Gemini 3.8 Flash 仅发现约一半,要求 99% 检测 unsafe actions 时最佳模型 GPT-6 Astra 的误报率仍升至 15%。
Andy Hall 的新研究显示,AI 审计模型能发现 agent 日志中的多数不当行为,但误报会随检出要求上升。在 5% 误报率下,GPT-5 能发现近 98% 的 reward hacking 案例,Gemini 3.8 Flash 仅发现约一半,要求 99% 检测 unsafe actions 时最佳模型 GPT-6 Astra 的误报率仍升至 15%。
Google 澄清其 K-12 学校 AI 新政:学校可跳过 Gemini 继续使用搜索,但搜索被划入其 AI 产品组合,无法单独关闭。使用 Google 应用的学校今后须主动选择启用 AI 产品,登录的学生账号需单独开启搜索。此前有报道称 Google 会对拒绝 AI 的学校关闭搜索,引发教育工作者和家长不满。
Google DeepMind 发布视频生成模型 Gemini Omni 1.2 Flash,原生支持最长 15 秒视频,720p 价格降至每秒 0.07 美元,较 1.1 版下降 30%。
推荐理由:对比 1.1 版,原文给出了时长、价格与参考一致性的具体变化,便于判断批量视频生成的成本与可用性。