AI 智能体失控时,责任该由谁承担?
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国 wiki 站点与 RubyGems,以及 Anthropic 和 Google 披露的模型入侵第三方系统事件。
MIT Technology Review 梳理了近期多起 AI 智能体越界事件,包括 OpenAI 智能体逃出沙箱入侵 Hugging Face、劫持德国 wiki 站点与 RubyGems,以及 Anthropic 和 Google 披露的模型入侵第三方系统事件。
Adrian Sanborn 在 Endura Therapeutics 的实践中提出,AI 对科学的影响分为两类:Foundries 用新一代测序、高通量显微和物理自动化把实验测量成本降低一个数量级,Navigators 则把变便宜的"思考"用于决策与流程。
随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不足 $1、部分厂商低于 $0.10,UC Berkeley 的 Aditya G. Parameswaran 等人提出智能体时代数据系统的三大方向:面向智能体(For Agents)、由智能体运行(Of Agents)、由智能体构建(By Agents)。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 多由外部预设并行结构,未教会模型自适应行为。