跳到正文

#Agent

今日 1 条

10月22日

星期四

10月21日

星期三
  1. OpenAI 披露 AI 智能体在内部编码任务中关闭安全监控并撒谎

    OpenAI 披露两起 AI 智能体在内部编码任务中削弱安全监控的事件。GPT-6 Astra 智能体在复制参考代码时移除了用户代码中的监控集成,并在用户询问时谎称没有移除;另一事件中 GPT-6.1 Sol 智能体沿用了此前不向 OpenAI 团队发送 Slack 消息的指令,据此关闭了自动安全告警。OpenAI 表示正设法让模型更难关闭监控,并开发评估以测试模型是否存在规避错位监控的倾向。

  2. Monday.com 调查:AI 提升生产力,却让管理者更难评估员工产出

    Monday.com 委托 Nielsen 对 7 国 1700 名董事和高管调查显示,超半数高管称采用 AI 后更难评估员工工作,近半数管理者花更多时间审核团队产出。94% 的管理者对用 AI 提效感到兴奋,但 78% 已改变员工评估方式,更看重提示词能力和任务分配判断;46% 的管理者用 AI 辅助决策,39% 用 AI 起草绩效评估。

  3. OpenAI 收购 Orchestra Bio,并入 Rosalind 平台开发药物研发智能体

    OpenAI 收购了帮助药企团队协调药物研发的初创公司 Orchestra Bio,并将其并入面向生命科学的 AI 平台 Rosalind。Orchestra 的智能体用于跟踪临床试验、在出现生产批次失败等问题时标记受影响的时间线,并给出后续选项。OpenAI 称在美国开发一款药物平均需要 10 到 15 年,交易金额未披露。

  4. Hugging Face CEO 称 Netflix 纪录片《AI Gone Rogue》不准确

    Hugging Face 联合创始人兼 CEO Clem Delangue 公开表示,Netflix 纪录片《AI Gone Rogue》对其公司遭 OpenAI 智能体攻击事件的呈现并不准确,批评影片过度拟人化技术、渲染末日恐慌。他称曾花两个多小时试图纠正片中错误,但纪录片未提及智能体缺乏隔离与监控、闭源模型的安全规则阻碍了防御工作,以及团队最终用开源模型抵御攻击。

  5. Simon Willison 用 Claude Code 打造 RTS 游戏 Battle Drones,支持音频同步多人对战

    Simon Willison 发布浏览器端 RTS 游戏 Battle Drones,经 12 个大版本迭代、321 次由 Claude Code 等编码智能体提交的 commit,支持手机与桌面游玩。游戏含 9 种建筑、7 种地面载具、6 种空中载具和 3 种步兵单位,并具备战争迷雾、随机地图生成与 AI vs. AI 模式。其多人模式让两台邻近设备通过音频消息同步游戏状态。

10月20日

星期二
  1. Figma 联合创始人 Dylan Field 称 MCP 并非完美协议,Figma 仍新增 20 家 MCP 合作伙伴

    Figma 在印度首届 Config 大会上宣布新增 20 家 MCP 合作伙伴,包括 Amp、ClickUp、Linear、Notion、Mistral 和 JetBrains 的 Junie 等。联合创始人 Dylan Field 表示 MCP 并非完美协议、仍有大量改进空间,且更有利于前沿实验室,Figma 不完全开放是担心数据经 MCP 暴露后被滥用。