跳到正文

#Anthropic

今日 2 条

10月5日

星期一

10月4日

星期日
  1. Sam Altman 反对将 AI 模型神化,称这是"真实的安全问题"

    OpenAI CEO Sam Altman 公开反对将 AI 模型与宗教类比,称人们对 AI 模型"赋予宗教力量或放弃人类判断"让他"非常不安",并称这是一个"真实的安全问题"。此番表态紧随《纽约时报》关于 Anthropic 接触宗教领袖的报道,以及教皇利奥十四世称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年表示 OpenAI 的目标是打造"天空中的魔法智能"。

10月3日

星期六
  1. Anthropic 联合创始人据报向宗教领袖表示担忧创造出会持续受苦的存在

    据《纽约时报》报道,Anthropic 自 2025 年秋季起秘密邀请数十位宗教学者到其办公室,讨论 Claude 是否可能具有意识,与会者均需签署保密协议。联合创始人 Christopher Olah 将 Claude 视为可能具有感知能力的存在,并请嘉宾帮助对其进行道德教育。Anthropic 展示了模型内部的情绪向量,并称保密协议已在夏季解除。

  2. 教皇利奥十四世批评 AI 生成艺术:算法缺乏人性火花

    教皇利奥十四世在 X 发帖批评 AI 生成艺术,称人类艺术与机器产物之间存在“本体论差异”,算法基于数百万张他人图像的统计计算,缺乏人性火花。他今年 5 月曾发布通谕详述 AI 与人类尊严问题。据《纽约时报》报道,Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场,但收效甚微。

  3. 白宫将 AI 正式更名为“超级智能”,并推动科技 CEO 签署 AI 安全承诺

    白宫本周召集 Zuckerberg、Bezos、Musk、Anthropic 的 Dario Amodei 等科技 CEO 签署 AI 安全承诺,Trump 称其“具有道德约束力”。Trump 还签署行政令,正式将 AI 重新命名为“super intelligence”。TechCrunch Equity 播客本期讨论了这些 AI 动向、消费级 AI 的经济账,以及 IPO 市场变化和初创交易。

10月2日

星期五
  1. AI 幻觉让"顾客永远是对的"变得更糟:服务员、护林员和幼教都在被 ChatGPT 反驳

    生成式 AI 的普及正在让服务业员工面对越来越多"用 ChatGPT 反驳专业人士"的顾客:纽约服务员称有客人以 ChatGPT 为由否认菜品含贝类过敏原,还有客人拒绝侍酒师、改问 ChatGPT,甚至点出不存在的酒。护林员遇到游客拿着 AI 编造的露营地和不合理行程,幼教则遇到家长坚持 ChatGPT 给出的睡眠方案。Meta 新 AI 智能体 Muse 的推出可能加剧这一问题。

10月1日

星期四
  1. Google 发布 Gemini 4 Argon,缩小与 OpenAI、Anthropic 的差距但未取得明显领先

    Google 发布新前沿模型 Gemini 4 Argon,在部分基准上超过 OpenAI 和 Anthropic 的竞品,但未取得明显领先。该模型先面向 Fairwind 计划的“可信网络防御者”和 Google 内部团队开放,之后才向开发者、企业和消费者推出,尚未公布日期;介绍性价格为每百万输入 token 2 美元、输出 token 10 美元,缓存输入便宜 95%。

  2. FTC 对 OpenAI、Anthropic 等 AI 实验室启动消费者保护调查

    美国联邦贸易委员会正就潜在的消费者保护违规行为调查 OpenAI、Anthropic 等领先 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制移交文件并质询高管,相关命令预计数周内发出。调查在 Hugging Face 遭黑客攻击事件之前就已启动,AI 安全机构 METR 也在审查范围内。

  3. Google 在 Gemini 中推出 Skills 取代 Gems

    Google 在 Gemini 聊天中全球上线 Skills,用针对具体任务的详细提示词取代此前的 Gems,用户输入斜杠加名称即可调用。Skills 格式源自 Anthropic 并以开放标准提供,支持文本、PDF 和图片作为参考材料,Gemini 还能从历史对话生成 Skills 并在匹配时自动运行,多个 Skills 可串联。

9月30日

星期三
  1. Sam Altman 称 OpenAI 在模型足够安全前不会上市

    OpenAI CEO Sam Altman 在 DevDay 主题演讲后的记者问答中表示,公司不会在能够对模型安全做出可靠承诺之前上市,且没有明确时间表。他称等待太久对世界也不好,并担心上市会带来在安全名义下让华尔街支持者失望的压力。Altman 将“pacing the frontier”解释为把安全与对齐置于能力之前,而非直接放缓;此前他曾表示公司今年大概率不会上市。