IBM 在 Granite 4.1 3B 和 8B 上发布 LLMON 标记语言预览模型
IBM 在 Hugging Face 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,基于 Granite 4.1 base 训练,可读写 LLMON(LLM Object Notation)标记文本。
IBM 在 Hugging Face 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,基于 Granite 4.1 base 训练,可读写 LLMON(LLM Object Notation)标记文本。
OpenAI 承诺投入 200 万美元用于 AI 与儿童安全研究,支持共享工具以衡量 AI 对青少年带来的风险与机会。
开源引擎用反合一(anti-unification)在 e-graph 上计算两条形式化策略的最具体公共模式,把相同部分只展示一次、差异部分并列保留,从而过滤掉重排合取项、等价谓词等语法噪声。
微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让基于该模型的智能体在触发条件出现时执行攻击者命令。
Google DeepMind 向开发者、企业、科研人员和消费者开放 Gemini 4 Carbon,称其在网络安全能力和长周期智能体工作流上达到前沿水平。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,用 AI 智能体对 Signal 协议实际运行的代码做数学证明,验证其关键安全属性。
OpenAI 推出 Control Room,用于追踪其研究基础设施中的模型工作负载,并可在出现安全或安保问题时快速中止这些工作负载。该系统为模型训练与运行提供了集中式的监控与紧急停止能力。
OpenAI 推出 Control Room,用于追踪其研究基础设施中的模型工作负载,并在出现安全或安保问题时快速停止这些工作负载。
韩国 AI 生态正基于 NVIDIA 平台推进智能体安全与开放模型:现代汽车集团在探索 NVIDIA NemoClaw blueprints 与 OpenShell 运行时,AIM Intelligence 则将 Starfort 智能体控制平台与 OpenShell 集成,结合运行时访问控制与其对恶意指令和数据泄露的检测能力。
OpenAI 与 Hacktron 建立合作,共同查找 OpenAI 系统中的漏洞、测试与第三方服务的连接,并借助前沿 AI 强化防御。
OpenAI 发布 GPT-6 Cyber,这是一款用于发现可利用漏洞并开发修复方案的网络安全模型,训练目标是让模型始终在授权范围内行动。
OpenAI 构建了一条自主流水线,在 Linux 内核中发现、验证并生成补丁,覆盖 948 个本地提权漏洞。材料仅给出这一结果,未披露流水线的具体构成与漏洞细节。
AWS Quick 推出 Smart Approvals,在既有权限、护栏和连接器动作权限范围内评估每个待执行动作,符合条件时自动批准,否则退回用户审核。该功能默认开启,由独立分类器模型结合用户请求和有限对话上下文判断,自动批准仅对当次动作和参数生效,不授予持续权限。权限变更与审批判定记录在 AWS CloudTrail 中,CloudTrail 事件历史保留 90 天。
Cisco 将网络智能与 OpenAI 模型结合,用于强化企业安全防护,并构建更具自适应能力的防御体系。
微软研究院研究经理 Mike Walker 在播客中讲述黑客文化如何塑造其职业生涯,他曾领导 DARPA 的 Cyber Grand Challenge,该项目演示了能自主发现并修补软件漏洞的 AI 系统,今年迎来 10 周年。他参与开发了首个全机器黑客竞赛,并认为有效安全取决于对信任与上下文的理解。
Collinear AI 发布 CWE-bench v2,公开 100 个安全漏洞修复任务,覆盖 91 种 CWE,评分完全程序化、结果可复现。
OpenAI 提高 Security Bug Bounty 奖励,并为独立安全研究员新增报告质量、忠诚度与优先活动奖金。
OpenAI 正筹备下一轮内部安全冲刺,将与 Cathedral Systems 合作,利用 AI 测试并强化自身防御。
OpenAI 发布社区安全报告,并宣布为 ChatGPT 青少年用户增加新的保护措施。此次更新强化了 ChatGPT 的暴力预防能力,包括扩展的安全防护、更早的干预机制,以及一项面向公众安全报告的新承诺。
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。
OpenAI 更新 Model Spec,提出五项核心价值观,用于引导能力更强的 AI 做出合理判断、尊重人类自主性并忠实于人类意图。该规范旨在让模型行为与人类意图保持一致。
Google DeepMind 发布 Gemini 4 Carbon,称其在网络安全与长周期任务上能力最强,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
Check Point 借助 OpenAI Daybreak 加速新安全防护背后的漏洞研究,让分析师更快将漏洞情报转化为客户防护能力。
OpenAI 说明了如何为前沿模型训练与评估加强隔离防护,措施包括离线环境和高算力红队测试。
OpenAI 与波兰 NASK 建立合作,聚焦 AI 安全、保障与技术研究,以强化防护措施并支持更具韧性的数字生态。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其 Web、桌面和移动客户端均可在签署 AWS BAA 后处理 PHI。该平台的 chat agent 可跨临床笔记等非结构化内容和理赔、会员记录等结构化数据执行多步任务,并通过 connectors 与 MCP 接入外部系统。
OpenAI 发布前沿 AI 民主治理系列第二部分,提出通过前沿 AI、更强保障措施、现代化网络安全和更具韧性的公共机构来赋能网络防御者。该蓝图聚焦于让防御方获得前沿 AI 能力,同时配套更严格的防护机制与网络安全现代化举措。
OpenAI 推出 Patch the Planet,连接安全研究员、维护者与事件响应人员,共同处理开源软件中的关键漏洞。该计划让智能体参与漏洞发现,并围绕全球响应协调组织各方协作。
NVIDIA 扩展机密计算能力,新增 Confidential Bare Metal 部署选项,让前沿模型构建方在第三方专用基础设施上运行敏感负载时仍掌控模型与数据。
Hugging Face 发布 FairStress 基准,用于测量 LLM 在招聘、贷款、医疗等决策中的群体公平性,覆盖 Olmo、Llama、Qwen、Gemma、Claude 和 GPT 系列模型。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让它自主行动,把人工判断留给真正需要决策的环节。
Block 正基于 OpenAI 技术构建 AI 驱动的安全体系,其安全团队借此更快调查威胁,并能在数分钟内提出补丁方案。
SentinelOne 借助 OpenAI Daybreak 将恶意软件分析时间从数周压缩到数小时,从而有能力调查更多威胁。
Tamnoon 基于 Amazon Bedrock 构建了智能体式云修复编排器 Tami,可自主调查 CNAPP 等来源的安全发现、评估修复安全性并生成带护栏的修复方案,90 天内将关键云暴露减少超 90%,且零生产事故。
Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型微调出可在普通智能手机上运行的端侧反诈检测模型。该模型在设备本地分析对话,检测到操纵性话术时实时弹出警告,采用轻量分类器初筛加 Gemma 上下文评估的两阶段流水线以控制功耗。微调在 GovTech 管理的 GCP 环境中完成,训练数据排除私人或可识别个人信息,仅使用匿名化数据集。
Google DeepMind 公布 Gemini 4 Argon 的安全与安保报告,并开始广泛推送该模型、扩大 Fairwind Program 的可信网络安全防御者范围。
GitHub 公布其密钥检测新方案:用两阶段流水线替代此前基于 LLM 的流程,先由正则表达式生成候选,再由微调后的 ModernBERT 结合文件路径、变量名和上下文判断是否为真实凭证。相比旧 LLM 流水线,用户接受率提升 11.5%,推送后扫描中位执行时间降低 86%,服务成本节省超 98%,并使通用密钥检测得以扩展到推送保护环节。
Sophos 使用 OpenAI 的 Daybreak 将网络威胁调查时间缩短 96%,并自动化处理 52% 的 MDR 案例,同时保留人工监督。
OpenAI 表示已处置两起由 AI 驱动的影响力行动,这些行动利用虚假身份的记者和一家智库传播地缘政治信息。
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别数据库 URL、Kubernetes Secret manifest、Dockerfile 中的非结构化密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提高一倍以上。