跳到正文

#现象/趋势

今日 0 条

10月14日

星期三

10月13日

星期二
  1. 开放模型利大于弊吗?Anthropic 报告称 GLM-5.3 构成重大网络攻击风险

    Anthropic 发布报告称,中国公司 Z.ai 于 8 月发布的开放权重模型 GLM-5.3 可被任何人自由下载和修改,构成重大网络攻击风险。目前 Artificial Analysis LLM 排行榜前八名均为闭源模型,但开源模型在开发进度上仅落后数月。争论焦点在于开放模型带来的安全风险与防止权力集中、推动技术民主化之间的权衡。

10月12日

星期一
  1. Anthropic 的 Andrej Karpathy:外界只看到 AI 能力的“预览版”

    Anthropic 的 Andrej Karpathy 称,外界只看到了 AI 实际能力的“预览版”。他把大语言模型用户分为四层:约 60 亿人几乎没接触过 LLM,10 至 20 亿人只把免费 ChatGPT 类产品当作更好的搜索引擎,约 2000 万数学和编程领域的专业用户已用智能体完成过去需数周乃至数月的复杂项目,而仅约 5000 人能接触内部前沿系统。

  2. 硅谷科技巨头纷纷跟随特朗普,将 AI 改称"超级智能"

    在特朗普宣布将 AI 重新命名为"超级智能"后,硅谷多位科技领袖相继跟进。马斯克承诺将 SpaceXAI 更名为 SpaceXSI,Marc Benioff 宣布 Salesforce 将 AIForce 改名为 SIForce,Nvidia 承诺投入 10 亿美元用于"超级智能研究",微软 Satya Nadella 也在呼吁为 AI 建立"紧急刹车"的帖子中反复使用"超级智能"一词。

  3. AI 行业能否靠取消 NDA 说服数据中心反对者?Amazon 与 Microsoft 已先行

    Amazon 效仿 Microsoft,宣布在与地方政府谈判数据中心事宜时不再使用保密协议(NDA)。TechCrunch 的 Equity 播客讨论认为,此举是修复行业沟通问题的第一步,但难以立即改变社区反对态度。目前多地通过的数据中心暂停令多只持续一两年,而项目建设周期长达数年。

10月11日

星期日
  1. 纳德拉称应假设所有 AI 模型都已被攻陷,呼吁给 AI 装紧急刹车

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,称不能再接受把 AI 当作一组嵌套黑盒、只能接受或拒绝其建议与行动。他主张建立更透明的体系,让模型可被隔离、观察并留下防篡改的人类可读证据,并称必须从一开始就假设模型已被攻陷并加以隔离,就像紧急刹车,授权人员应能随时暂停或关闭执行任务中的模型。他还提到更先进的模型需要更先进的隔离技术并应加以标准化,文中多处将 AI 称为超级智能。

10月10日

星期六
  1. a16z 榜单:AI 用户多付费少,1% 重度用户贡献近两成支出

    a16z 发布第七版消费级 AI 产品榜单,首次通过 YipitData 面板数据追踪美国消费者信用卡上的实际 AI 支出。数据显示近半数美国消费者使用 AI,但仅 4.5% 拥有 ChatGPT、Gemini 或 Claude 的付费个人订阅,且支出高度集中,前 1% 用户贡献近两成支出,月均约 900 美元,而普通付费用户月均约 25 美元。

  2. a16z 合伙人 Olivia Moore 谈消费级 AI 现状:ChatGPT 仍遥遥领先,社交、约会、金融等六大品类仍空白

    a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小厂展现出持续生命力。报告指出社交、约会、电商、零售、旅游、金融、健康等约六个消费品类在榜单中完全没有 AI 产品入局。她认为消费级 AI 仍处早期,机会在于跳出订阅和 API 收费,用广告等方式变现,并更多采用开源或低成本模型。

10月9日

星期五
  1. 特朗普试图把 AI 改名为「Super Intelligence」,业界褒贬不一

    特朗普签署行政令,要求尽可能不使用「AI」一词,将这项技术改称「Super Intelligence」,理由是「artificial 让智能显得虚假」。美国 AI 标准与创新中心(CAISI)已更名为 CAISSI,司法部新闻稿也改用该说法。马斯克承诺将 SpaceXAI 更名为 SpaceXSI,黄仁勋、Sam Altman 等表态支持,但 OpenAI 不会改名。

  2. Instinct 如何在与 Muse、Dots 的竞争中守住最火 AI 智能体地位

    Instinct 以邀请制、无营销、几乎无官网的方式上线,靠 iMessage、WhatsApp 或邮件完成预约、报名等日常事务,在 Muse 和 Dots 相继推出后仍保持竞争力,并于 9 月底获得 100 亿美元估值。创始人 Noah Shinn 称其只专注打造日常生活个人助理,目前无 App、无月费,需邀请或等待名单审批。

  3. 我们过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝机制已成为 AI 安全的核心支柱,但这一机制并不可靠。Anthropic 2021 年提出模型应"有用、诚实、无害",如今模型经大量拒绝训练,却仍可能被绕过,已有用户试图用先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制合法言论。

  4. OpenAI 的数学解答尚未达到学界标准

    TechCrunch 报道称,OpenAI 本周发布数百份高难数学题解答,但未完全达到普林斯顿高等研究院 AGMAI 提出的准则。719 份手稿中仅 10 份公开了模型的思维链,42% 的证明尚未经过形式化;剑桥大学与伦敦国王学院的新论文还记录了 OpenAI 针对 Navier-Stokes 方程解答中自然语言证明与 Lean 代码之间的至少两处不一致。

10月8日

星期四
  1. Meta Muse 与 OpenAI Dots 谁更值得托付日常事务

    The Verge 资深 AI 记者 Hayden Field 在 Decoder 播客中对比 Meta Muse 与 OpenAI Dots 两款消费级 AI 智能体。Muse 免费并借 Meta 平台大规模分发,Dots 面向每月 100 至 200 美元订阅用户并推出营销、法律等专业版本。两人讨论了把信用卡、邮箱和硬盘数据交给智能体的隐私风险,以及 Meta 计划从交易抽成的变现方式。

  2. 机器人领域的 AI 突破短期内不会改变你的生活

    MIT Technology Review 与 Aventine 合作的文章指出,尽管 Elon Musk 预测 Tesla 的 Optimus 人形机器人最早 2027 年底开售、单台成本低至 2 万美元,Jensen Huang 也称人形机器人今年将达到人类水平能力,但许多机器人研究者对此持怀疑态度。Yann LeCun 在达沃斯表示,没有任何一家人形机器人公司知道如何让机器人足够智能和实用。

  3. Meta 推出新 AI 工具,识别暗中导流儿童性虐待内容的广告

    Meta 宣布推出新的 AI 工具,用于发现那些看似正常、实则将用户导向站外非法儿童性虐待内容的广告和账号。其中一套新的大语言模型系统用于识别所谓 signposting,即广告本身不含非法内容但充当通往违规网站的入口,Meta 因此开始审查广告的跳转目的地而不只是广告内容本身。