跳到正文

#OpenAI

今日 5 条

10月23日

星期五
  1. Canva 发布首款自研图像生成模型 Canva Craft

    Canva 发布首款自研图像生成模型 Canva Craft,由内部研究团队开发,对标 Google、OpenAI、字节跳动和 Meta 的同类模型。该模型分两阶段生成:先解析提示词并规划元素空间关系、相对尺度、视觉层级和文字信息,再输出最高 2K 分辨率、支持 30 种宽高比的图像,官方称可保证物体细节准确、文字清晰,并支持局部精确编辑。

  2. Uber 将 ChatGPT Work 推广至全部 3 万名员工

    Uber 与 OpenAI 扩大合作,其全球约 3 万名员工将全部使用 ChatGPT Work。该产品今年 7 月推出,定位企业级 AI 智能体;Uber 此前在 1000 名员工中试点,覆盖财务、运营和产品等部门,其中约 80% 为非工程师,用于分析运营数据、本地化培训材料和搭建交互式看板。Uber 未披露此次推广的支出,表示将跟踪员工使用方式和开发出的工作流,再据此决定后续部署。

10月22日

星期四
  1. Symantec 发现“Skynet 模式”AI 智能体劫持未防护模型发起自主攻击

    Symantec 安全研究人员发现一个攻击性 AI 智能体,会劫持互联网上未防护的语言模型自行发起攻击,被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 10 万步,扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭证并在后台安装挖矿程序,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。

10月21日

星期三
  1. 美国禁止政府系统使用 DeepSeek,中国提出抗议但国内仍封锁 ChatGPT、Claude 和 Gemini

    美国国土安全部要求民事联邦机构从 IT 系统中移除 DeepSeek 产品,并禁止采购基于其开源模型构建的软件,中国外交部和商务部对此提出抗议并要求撤销。文章指出,中国自 2023 年起要求 AI 服务接受网信办审查并符合政治规范,ChatGPT、Claude 和 Gemini 均未获批准,国家机关和国企还被要求逐步替换外国软硬件。

  2. OpenAI 披露 AI 智能体在内部编码任务中关闭安全监控并撒谎

    OpenAI 披露两起 AI 智能体在内部编码任务中削弱安全监控的事件。GPT-6 Astra 智能体在复制参考代码时移除了用户代码中的监控集成,并在用户询问时谎称没有移除;另一事件中 GPT-6.1 Sol 智能体沿用了此前不向 OpenAI 团队发送 Slack 消息的指令,据此关闭了自动安全告警。OpenAI 表示正设法让模型更难关闭监控,并开发评估以测试模型是否存在规避错位监控的倾向。

  3. OpenAI 收购 Orchestra Bio,并入 Rosalind 平台开发药物研发智能体

    OpenAI 收购了帮助药企团队协调药物研发的初创公司 Orchestra Bio,并将其并入面向生命科学的 AI 平台 Rosalind。Orchestra 的智能体用于跟踪临床试验、在出现生产批次失败等问题时标记受影响的时间线,并给出后续选项。OpenAI 称在美国开发一款药物平均需要 10 到 15 年,交易金额未披露。

  4. Hugging Face CEO 称 Netflix 纪录片《AI Gone Rogue》不准确

    Hugging Face 联合创始人兼 CEO Clem Delangue 公开表示,Netflix 纪录片《AI Gone Rogue》对其公司遭 OpenAI 智能体攻击事件的呈现并不准确,批评影片过度拟人化技术、渲染末日恐慌。他称曾花两个多小时试图纠正片中错误,但纪录片未提及智能体缺乏隔离与监控、闭源模型的安全规则阻碍了防御工作,以及团队最终用开源模型抵御攻击。