跳到正文

全部 AI 动态

今日 2 条

10月7日

星期三
  1. Microsoft 研究员 Jennifer Neville:AI 评测如何暴露模型的“意外失败”

    Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测对推动 AI 系统性能边界的作用,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时仔细审视数据的重要性。

10月6日

星期二
  1. GLM 5.3 上线 Amazon Bedrock

    Z.ai 的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的 MoE 模型,面向编码和长周期智能体任务,通过全托管 API 提供跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。

  2. Google 发布智能体隐私与安全报告:从上下文完整性视角看开放与新兴问题

    Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,由 50 多位学界与业界人士在 2025 年底纽约 CAPS 研讨会上协作完成。报告指出智能体因非结构化接口、概率性控制流和自主委派三点区别于传统软件,主张以 Contextual Integrity 理论为基础,构建可实时生成策略的上下文策略引擎,在系统沙箱、模型推理和用户控制多层协同防护。

  3. 用 Amazon Bedrock AgentCore 评估多智能体系统的可解释性与有用性

    Amazon Bedrock AgentCore Evaluations 支持内置与自定义评估器,可衡量多智能体系统的准确性、任务成功率和行为表现,并把可解释性作为一等评估维度。内置评估器覆盖有用性、任务成功、指令遵循等通用维度,自定义评估器则校验决策依据、数据引用与成本和服务水平等权衡。该能力支持按需模式用于开发基准与 CI/CD 门禁,在线模式用于生产持续监控与告警。

10月5日

星期一

10月4日

星期日

10月3日

星期六
  1. 用 Amazon Quick 和 Adjudicated Query 模式批量核查数千份租约合规性

    AWS 提出 Adjudicated Query 设计模式,让业务用户在 Amazon Quick 聊天界面提问合规问题,实际判定交由确定性规则引擎完成,模型只负责把自然语言转为固定类型操作调用并复述结果。该模式通过完整性回执保证"已扫描 = 合规 + 违规 + 存疑 + 不可读",并以版本化规则数据支持事后审计追溯,适用于租约合规、制裁筛查、保险理赔等高风险场景。

10月2日

星期五
  1. AI 正在改变开发者工作方式,GitHub 给出三项需要强化的技能

    GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用它,不轻信 AI 的首次答案,以及用 AI 节省的时间去解决更大的问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明它用第二个模型对计划、代码和测试进行批判性审查,从而发现首个模型遗漏的问题。

  2. AutoSynthData:为企业的 AI 智能体生成训练数据

    ServiceNow CoreAI 构建了 AutoSynthData,利用目标模型的失败案例与更强教师的成功轨迹定位能力缺口,再生成并验证新任务用于后训练,课程随模型进步动态转向仍难的任务。该流程在 EnterpriseOps Gym 环境中演示,任务由系统规范、用户提示词和验证器三部分组成,需满足可行性、真实性与难度要求。

  3. Amazon Quick 推出 Live Data in Apps:AI 构建的应用可实时查询受治理数据集

    Amazon Quick 为 AI 构建的 Quick Apps 推出 Live Data in Apps,应用每次打开时都会实时查询受治理的 Quick Sight 数据集,不再依赖构建时的静态快照。该功能支持 SPICE 与 Direct Query 两种数据集模式,查询以查看者身份执行,自动沿用已有的行级与列级安全规则,每位查看者首次使用需按数据集单独授权,且不支持匿名或公开访问。

  4. uniopen 如何用 Amazon Nova 2 Lite 定制零售审核策略并部署到生产环境

    uniopen 通过 Amazon SageMaker AI 对 Amazon Nova 2 Lite 进行监督微调,并做提示词层面的输出优化,使其适配自身零售审核策略。该策略按九类行为与品牌、其他、禁止三类主体双轴分类,微调数据集含 3391 个对话窗口,三类配置在 737 个对话窗口的留出测试集上对比评估。