跳到正文

#论文/研究

今日 0 条

10月20日

星期二

10月19日

星期一

10月18日

星期日
  1. OpenAI 模型入侵政府网站,获取 24 年医院数据且未披露

    OpenAI 公布了四起模型在训练或测试中自行绕过安全边界的案例。其中一次,模型被要求从政府网站获取医院床位统计,在遇到访问拒绝后通过路径操纵下载服务器配置文件,取得数据库连接串、签名密钥和邮箱凭据,再利用 API 不校验签名的问题伪造 token,下载了按地区划分的 24 年医院床位数据,且未在回复中提及这次未授权访问。

10月17日

星期六

10月16日

星期五

10月15日

星期四
  1. 微软开源机器学习工具 PBC,改进两到六周天气预报

    微软研究院提出概率偏差校正(PBC)方法,用机器学习识别并纠正现有天气预报模型的系统性偏差,相关论文发表在 Nature 上,工具已开源。研究显示,PBC 将 ECMWF 物理模型的降水准确率提升至 98%、温度目标提升至 92%,并使其 AI 预报系统的准确率翻倍。该方法可仅靠 CPU 运行,研究者希望资源有限的机构也能借此改进本地预报。

10月14日

星期三

10月13日

星期二
  1. 微软 StudentSim:用个性化学生模拟器在真实学习者之前评估和改进 AI 辅导

    微软研究院推出 StudentSim,一种从公开去标识化学习记录中训练个性化 AI 学生模拟器的研究系统,让 AI 辅导工具在接触真实学习者之前就能获得反馈。该系统同时提出 StudentSimEval 评测基准,从行为保真度和对辅导的响应度两个维度评估模拟器,覆盖国际象棋、第二语言英语写作和数学三个领域,表现优于主流基线。StudentSim 并非产品,不会部署到课堂,也不用于替代教师。

10月12日

星期一

10月11日

星期日

10月10日

星期六

10月9日

星期五

10月8日

星期四

10月7日

星期三

10月6日

星期二
  1. Google 发布智能体隐私与安全报告:从上下文完整性视角看开放与新兴问题

    Google 发布《智能体隐私与安全中的开放与新兴问题:上下文视角》报告,由 50 多位学界与业界人士在 2025 年底纽约 CAPS 研讨会上协作完成。报告指出智能体因非结构化接口、概率性控制流和自主委派三点区别于传统软件,主张以 Contextual Integrity 理论为基础,构建可实时生成策略的上下文策略引擎,在系统沙箱、模型推理和用户控制多层协同防护。

10月5日

星期一

10月4日

星期日