跳到正文

#Anthropic

今日 2 条

10月10日

星期六

10月9日

星期五
  1. 我们过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今模型经大量拒绝训练,却仍可能被绕过,已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制合法言论。

  2. Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把虚假账号与误导性政治内容归入新的宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

  3. Anthropic 更新使用政策:禁止模型滥用与干预选举,明确禁止辱骂 Claude

    Anthropic 更新使用政策,新增禁止干预选举、武器软件与监控等条款,并明确禁止用户对模型进行长期言语辱骂。该政策仅适用于用户反复恶意辱骂且无明确目的的极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策还禁止用 Claude 运营虚假账号或伪造新闻媒体,并设“不要破坏民主进程”章节禁止欺骗选民或扰乱选举。

  4. OpenAI 年化收入据称比此前预期少 200 亿美元

    据《金融时报》报道,OpenAI 已告知投资者其年化收入“接近 500 亿美元”,比此前流传的约 700 亿美元低约 200 亿美元。此前 700 亿美元的数字来自 OpenAI 投资者为与 Anthropic 年化收入直接对比而做的推算,两家公司计算年化收入的方式不同,Anthropic 会计入云合作伙伴的销售,OpenAI 不计入。

10月8日

星期四

10月7日

星期三
  1. Simon Willison 测试 Claude Opus 5.5 作曲能力:生成可播放游戏音乐的 artifact

    Simon Willison 让 Claude Opus 5.5 设计一种简单的文本音乐格式,并构建一个能将其播放出来的 artifact,还要求示例曲目达到初代《猴岛小英雄》的水准。结果成品比他预想的更贴近猴岛主题,但质量出奇地好。他由此猜测,文本模型作曲可能类似此前的 3D 图形能力,是近几个月才涌现的新能力,但需要更多实验验证。

10月6日

星期二
  1. TechCrunch Disrupt 2026 完整分论坛议程公布:Anthropic 等将分享 AI 智能体实战

    TechCrunch Disrupt 2026 将于 10 月 13-15 日在旧金山 Moscone West 举行,完整分论坛议程已公布。Anthropic 技术团队成员将现场演示如何并行运行多个 Claude 智能体、委派真实工程任务并审查输出。其他议题涵盖物理 AI、AI 从训练转向推理的经济学、可信 AI 构建及融资实操,每场 50 分钟并设观众问答,席位有限先到先得。

  2. AI 接管数学引发的争议风波

    过去一年,OpenAI、Anthropic 等实验室宣布在多个长期未解的数学问题上取得突破,部分进展超出研究者对现有系统能力的预期,其中包括解决一个著名的千禧年大奖难题。但这些成果并未获得一致认可,反而在学界引发反弹,AI 实验室表示正在从早先的错误中吸取教训,这些承诺能否兑现尚待观察。

10月5日

星期一