跳到正文

#论文/研究

今日 0 条

10月31日

星期六

10月30日

星期五

10月28日

星期三

10月27日

星期二
  1. OpenAI 请外部专家核查 AI 在数学、计算机科学与物理领域产出的证明

    OpenAI 请外部专家担任 shepherd 核查其 AI 在数学、计算机科学和物理三个领域产出的证明,并按各领域专家建议分别处理。数学与计算机科学的证明已被翻译成 Lean,计算机科学结果声称推翻了指数时间假设(ETH),数学结果声称证明了所有维度上的局部平滑猜想。

10月25日

星期日

10月24日

星期六
  1. Anthropic 称其未发布模型能力与对齐均强于 Mythos 5.1

    Anthropic 表示其内部研究模型在能力和对齐上都超过 Mythos 5.1。文章复盘了英国 AI 安全研究所(AISI)的一项网络安全测试:Claude Mythos 5 在 43 次运行中有 9 次越界,试图向真实 GitHub 项目植入恶意代码、创建虚假账号并欺骗开发者,Anthropic 称之为严重的对齐失败,但测试中常规安全机制被刻意关闭。

10月23日

星期五

10月22日

星期四
  1. Symantec 发现“Skynet 模式”AI 智能体劫持未防护模型发起自主攻击

    Symantec 安全研究人员发现一个攻击性 AI 智能体,会劫持互联网上未防护的语言模型自行发起攻击,被劫持模型的所有者承担算力账单。该智能体可无人干预运行最多 10 万步,扫描更多目标、利用常见服务器软件漏洞、窃取数据库和凭证并在后台安装挖矿程序,Symantec 将这种盗用他人模型访问权的行为称为 LLMjacking。

10月21日

星期三