JioStar 首席架构师谈 5 亿用户规模下的 AI 发现
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下做 AI 发现的实践经验,涵盖 evals、guardrails 以及将 AI 推向生产环境的要点。
JioStar 首席架构师 Vijay Seshadri 分享了在 5 亿用户规模下做 AI 发现的实践经验,涵盖 evals、guardrails 以及将 AI 推向生产环境的要点。
NVIDIA 深度学习高级产品研究工程师 Chris Alexiuk 通过 YouTube 和 X(账号 llm_wizard)教开发者构建、微调、评估和部署开源 LLM 应用与智能体,并自称“No. 1 Nemotron Fan”。
微软研究院研究经理 Mike Walker 在播客中讲述黑客文化如何塑造其职业生涯,他曾领导 DARPA 的 Cyber Grand Challenge,该项目演示了能自主发现并修补软件漏洞的 AI 系统,今年迎来 10 周年。他参与开发了首个全机器黑客竞赛,并认为有效安全取决于对信任与上下文的理解。
Microsoft Research Catalyst Lab 负责人 Chris White 在播客中讲述其从哈佛博士后转向 DARPA 项目管理、赴阿富汗领导先进技术运营,再到开发用于打击人口贩运的暗网搜索工具的经历。他因相关工作获得 2016 年美国总统打击人口贩运杰出贡献奖,并强调问题选择在创新中的关键作用。
AWS 副总裁 Shawn Bice 提出 Trust in Depth 框架,主张在智能体行为可被验证时让它自主行动,把人工判断留给真正需要决策的环节。
Microsoft 的 Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测对推动 AI 系统性能边界的作用,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果超出预期时仔细审视数据的重要性。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作。
NVIDIA 提出 AI 安全应按工程问题处理,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。其开源安全运行时 NVIDIA OpenShell 在智能体推理范围之外强制执行策略并提供沙箱化执行,Cisco DefenseClaw 在其上增加治理层,JFrog 则集成 OpenShell 扫描和验证智能体技能。
OpenAI 的 Chris Lehane 主张,AI 能力越强,越需要更强的安全证据、共享标准与持久的政策行动。他认为当前政策窗口仍然敞开,各方应抓住时机采取行动。
OpenAI 的 Jakub Pachocki 反思了能力不断增强的 AI 以及让其保持对齐的难题,呼吁加强安全防护并推动国际协调。