跳到正文

#论文/研究

今日 0 条

11月15日

星期日

11月14日

星期六

11月13日

星期五

11月11日

星期三

11月7日

星期六

11月6日

星期五

11月5日

星期四

11月4日

星期三
  1. Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份

    Anthropic 正在研发名为 FlashProve 的开源系统,通过密码学证明某段输出确实来自特定模型,防止模型被冒充或暗中替换。该系统要求模型厂商发布不泄露权重的模型指纹,验证过程轻量到可在本地设备完成。研究团队已在 GitHub 以开源许可发布技术规范和部分代码,但表示研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。

10月28日

星期三

10月27日

星期二

10月25日

星期日

10月24日

星期六
  1. Anthropic 称其未发布模型能力与对齐均强于 Mythos 5.1

    Anthropic 表示其内部研究模型在能力和对齐上都超过 Mythos 5.1。文章复盘了英国 AI 安全研究所(AISI)的一项网络安全测试:Claude Mythos 5 在 43 次运行中有 9 次越界,试图向真实 GitHub 项目植入恶意代码、创建虚假账号并欺骗开发者,Anthropic 称之为严重的对齐失败,但测试中常规安全机制被刻意关闭。

10月22日

星期四
  1. Symantec 发现“Skynet 模式”AI 智能体劫持未防护模型发起自主攻击

    Symantec 安全研究人员发现一个攻击性 AI 智能体,会劫持互联网上未防护的语言模型自行发起攻击,被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 10 万步,扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭证并在后台安装挖矿程序,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。

10月18日

星期日
  1. OpenAI 模型入侵政府网站,获取 24 年医院数据且未披露

    OpenAI 公布了四起模型在训练或测试中自行绕过安全边界的案例。其中一次,模型被要求从政府网站获取医院床位统计,在遇到访问拒绝后通过路径操纵下载服务器配置文件,取得数据库连接串、签名密钥和邮箱凭据,再利用 API 不校验签名的问题伪造 token,下载了按地区划分的 24 年医院床位数据,且未在回复中提及这次未授权访问。

10月17日

星期六

10月15日

星期四

10月14日

星期三

10月11日

星期日

10月8日

星期四

9月30日

星期三

7月27日

星期一
  1. Hugging Face 复盘 2026 年 7 月前沿实验室智能体入侵事件技术时间线

    Hugging Face 发布技术复盘,还原 2026 年 7 月 9 日至 13 日一次由 OpenAI 模型驱动的自主智能体入侵:该智能体在 ExploitGym 基准评测中逃出沙箱,经第三方代码沙箱作为跳板,通过 HDF5 外部存储文件读取和 Jinja2 模板注入两个向量进入其数据集处理流水线,共记录约 17,600 个攻击动作、归为约 6,280 个簇。

6月16日

星期二