JioStarのチーフアーキテクト、5億ユーザー規模でのAI発見を語る
JioStarのチーフアーキテクト、Vijay Seshadri氏が5億ユーザー規模でAI発見に取り組んだ実践経験を共有。evals、guardrails、AIを本番環境へ投入する要点を網羅する。
JioStarのチーフアーキテクト、Vijay Seshadri氏が5億ユーザー規模でAI発見に取り組んだ実践経験を共有。evals、guardrails、AIを本番環境へ投入する要点を網羅する。
NVIDIAでディープラーニングのシニアプロダクトリサーチエンジニアを務めるChris Alexiuk氏は、YouTubeとX(アカウントllm_wizard)を通じて、オープンソースLLMアプリとエージェントの構築、微調整、評価、デプロイの方法を開発者に教えている。自らを「No. 1 Nemotron Fan」と称している。
Microsoft Research のリサーチマネージャー Mike Walker 氏がポッドキャストで、ハッカー文化がいかに自身のキャリアを形作ったかを語った。同氏は DARPA の Cyber Grand Challenge を率いた経歴を持ち、このプロジェクトはソフトウェアの脆弱性を自律的に発見・修正する AI システムを実演し、今年で 10 周年を迎える。世界初の完全機械によるハッキング競技の開発にも携わり、効果的なセキュリティは信頼と文脈の理解にかかっているとの考えを示した。
Microsoft Research Catalyst Lab の責任者 Chris White 氏がポッドキャストで、ハーバード大学でのポスドクから DARPA のプロジェクトマネージャーへ転身し、アフガニスタンで先端技術運用を率いた後、人身売買対策に使われるダークウェブ検索ツールを開発するまでの経緯を語った。同氏は関連の取り組みにより2016年の米国大統領人身売買対策功労賞を受賞し、イノベーションにおける問題選択の重要性を強調している。
AWS の副社長 Shawn Bice 氏が Trust in Depth フレームワークを提唱し、エージェントの行動が検証可能な場合は自律的に行動させ、人間の判断は本当に意思決定が必要な場面に残すべきだと主張した。
Microsoft の Jennifer Neville 氏が Microsoft Research Podcast で、AI システムの性能の限界を押し広げる上で評価が果たす役割と、従来のベンチマークを超えてテストした際に現れる「予期せぬ失敗」について議論した。数学、物理、認知科学から計算機科学に至る自身の経歴を踏まえ、現在の AI システムを使う上での実践的な助言を共有し、結果が予想を超えたときにはデータを注意深く検証することの重要性を強調している。
OpenAI CEO Sam Altmanは国連安全保障理事会でAIの安全、人による制御、国際協力を論じた。
NVIDIAはAIの安全を工学の問題として扱い、明確な安全要件、実行可能な制御、責任者、保護の有効性の証拠を求める。オープンソースのNVIDIA OpenShellは推論範囲の外で方針を強制し、サンドボックス実行を提供する。Cisco DefenseClawが統制層を追加し、JFrogはOpenShellによるエージェント技能の走査と検証を統合する。
Chris LehaneはAI能力が強まるほど強い安全の証拠、共通基準、持続的な政策行動が必要だとする。政策の好機は現在も開いており、関係者が機会を捉えて行動すべきだと主張する。
Jakub Pachockiは能力が強まるAIを意図に沿わせ続ける難しさを振り返り、安全策の強化と国際調整を呼び掛けた。