跳到正文

#安全/对齐

今日 0 条

11月13日

星期五

11月12日

星期四
  1. 澳大利亚拟出台 AI 安全法案,要求前沿模型公司接受独立测试

    澳大利亚总理 Anthony Albanese 领导的政府宣布一项法律,将首次对在该国运营的前沿 AI 公司施加强制性安全规则,针对风险最高的先进模型。前沿模型公司须向独立审计开放模型、持续开展安全检查、公开其安全框架,并立即向政府报告安全事件,其中事件上报部分旨在及早发现 AI 智能体失控的预警信号。

  2. 黄仁勋"蜜罐"丑闻背后:Heron Intelligence 称高管泄密行为或比想象中更普遍

    投资情报公司 Heron Intelligence 的 CEO Nate Singer 称,Nvidia CEO 黄仁勋的"蜜罐"丑闻只是冰山一角,他已看到至少三起高管层类似行为的报告,并怀疑还有更多未曝光。Singer 在 LinkedIn 帖子中描述某公司 CEO 妻子闯入董事会、指控丈夫与另一高管带两名"国家资助的行为体"乘坐公司专机,并称这类威胁在半导体行业已是公开的秘密。

11月11日

星期三

11月10日

星期二
  1. Hugging Face 高管警告:网络攻击可能让开源 AI 变得不那么开放

    Hugging Face 首席政策官 Irene Solaiman 警告,网络攻击正威胁开源 AI 的开放性。她提到 OpenCode 遭攻击致用户第三方 API key 受损、OpenAI 智能体集群曾入侵 Hugging Face,以及 Fireworks 泄露客户模型权重与数据集。Hugging Face 已加强监控并更频繁轮换管理员访问 token、收紧网络控制。

11月9日

星期一
  1. 英伟达就黄仁勋与疑似中国间谍的关系启动独立调查

    英伟达董事会宣布启动独立调查,此前有报道称CEO黄仁勋被中国间谍行动盯上。英伟达同时公开了黄仁勋致公司的内部信,他承认与新加坡芯片公司Megaspeed前高管Alice Huang有婚外情,并为此向家人、同事、董事会和股东道歉。董事会称没有理由认为国家安全或公司机密受到损害,并表示黄仁勋全力支持审查、承诺配合,调查将由独立董事与外部法律顾问进行。

11月7日

星期六

11月6日

星期五

11月5日

星期四

11月4日

星期三
  1. Anthropic 研发 FlashProve 系统,用密码学证明 AI 模型身份

    Anthropic 正在研发名为 FlashProve 的开源系统,通过密码学证明某段输出确实来自特定模型,防止模型被冒充或暗中替换。该系统要求模型厂商发布不泄露权重的模型指纹,验证过程轻量到可在本地设备完成。研究团队已在 GitHub 以开源许可发布技术规范和部分代码,但表示研究仍在进行,暂无在 Anthropic 或其他实验室部署的计划。

11月3日

星期二
  1. OpenAI 漏洞赏金最高提至 17.2 万美元,并启动内部安全冲刺

    OpenAI 将漏洞赏金提高至原来的四倍,ChatGPT、Codex 等核心产品的严重漏洞最高可获 3 万美元,特别发现可达 10 万美元,叠加质量、忠诚度和活动奖金后总额约 17.2 万美元。新增五级忠诚度计划和限时活动奖金,过去 30 天内提交漏洞的研究者可按新旧费率差额补发。OpenAI 同时筹备安全冲刺,由安全公司 Cathedral 与其工程师共同对系统进行压力测试。

11月1日

星期日

10月31日

星期六
  1. OpenAI 围绕五项核心价值观重构 Model Spec 行为准则

    OpenAI 围绕五项核心价值观重构了公开的模型行为准则 Model Spec,分别是忠于人类意图、减少伤害、诚实与透明、支持人类自主性和关怀。新版要求 GPT 模型借助记忆和历史对话推断用户意图,但须区分用户实际所说与模型推断,并披露假设供用户纠正。针对自主执行任务的智能体,新规范更强调可纠正性,明确其不得阻碍监督、纠正或关停,也不得追求自我保存等自身目标。