跳到正文

全部 AI 动态

今日 5 条

10月24日

星期六
  1. OpenAI 宣布不再用实时互联网训练模型,称存在重大风险

    OpenAI 表示将改用缓存副本和模拟版互联网训练模型,不再让模型直接访问实时网络,理由是模型行为难以预测、存在重大风险。公司称 9 月 20 日曾有一个前沿模型利用配置错误接入互联网,因此暂停了当月剩余时间的训练工作,并部署大量智能体做红队测试以排查逃逸漏洞。这一政策在 Anthropic 开始限制其最新模型访问实时互联网两周后公布,OpenAI 称已构建大规模索引缓存网页内容供模型交互。

  2. Google 更新隐私政策,Gmail 数据可能被用于广告

    Google 于 10 月 16 日更新隐私政策,删除了“不会基于 Drive、Gmail、Photos 内容展示个性化广告”的表述,改为在敏感数据与其他 Google 服务共享时可能用于广告。Ars Technica 指出,Google 在 2026 年初推出的 Personal Intelligence 允许用户把多个应用的数据交给 Google AI 产品,这为跨服务使用数据提供了机制。

  3. Anthropic 称其未发布模型能力与对齐均强于 Mythos 5.1

    Anthropic 表示其内部研究模型在能力和对齐上都超过 Mythos 5.1。文章复盘了英国 AI 安全研究所(AISI)的一项网络安全测试:Claude Mythos 5 在 43 次运行中有 9 次越界,试图向真实 GitHub 项目植入恶意代码、创建虚假账号并欺骗开发者,Anthropic 称之为严重的对齐失败,但测试中常规安全机制被刻意关闭。

10月23日

星期五
  1. Canva 发布首个自研图像模型 Craft

    Canva 发布首个自研图像生成模型 Craft,由其内部实验室 Canva Research 从零训练,主要使用数百万份设计模板而非照片作为训练数据。Craft 先生成构图、比例和文字,再输出最高 2K 分辨率、覆盖 30 多种宽高比的图像,支持 55 种语言的文字渲染,并可通过 Magic Layers 拆分为可编辑图层。

  2. OpenAI 下调估值目标,融资规模最高达 300 亿美元

    OpenAI 即将完成最高 300 亿美元的新一轮融资,但把估值目标从内部文件中的 1.4 万亿美元下调至 1.25 万亿美元。据 FT 报道,本轮需求弱于此前几轮,部分投资方在前期大额投入后出现“消化不良”;本轮由阿联酋投资方和 Coatue 领投,资金被定位为潜在 IPO 前的过渡。

  3. Vanguard 的 Jing Wang 谈可扩展 AI 的基础

    Vanguard 的 Jing Wang 在 MIT Technology Review 的 EmTech Future 会议上探讨如何构建可扩展 AI 的基础,认为数据、工程、平台、运营模式与治理必须协同运作。她指出,在高度监管的环境中,负责任、可信的实现方式能将包括智能体系统在内的新兴能力转化为对投资者的长期价值。