企業要導入 AI 代理人(AI Agent),最先要解決的是安全與權限怎麼管。NVIDIA 執行長黃仁勳(Jensen Huang)在 GTC Berlin 主題演講中,拆解代理人的五個組成,以及 OpenShell 這套安全執行環境。這支 42 分鐘的精華,也帶你看公司怎麼用自家資料與開源模型(open model)做出自己的 AI。
原片 NVIDIA
| 重點 | 從哪裡看 |
|---|---|
| 過去十年 NVIDIA 把 AI 效能提升一百萬倍;他說摩爾定律十年只會進步 100 倍 | ▶ 3:46 |
| 一個一吉瓦的 AI 工廠約要 500 億美元;以每年 400 億美元營收假設,晚三個月就是 100 億美元 | ▶ 10:33 |
| DSX Pod 以工廠預先組裝,現場部署從數個月縮短到數天;DSX Max LPS 同樣產出可少用 30% 電力 | ▶ 6:12 |
| 代理人有五個元件:模型、外骨骼(harness)、沙盒、知識、工具 | ▶ 13:03 |
| 每個任務、每位使用者、每次啟動所需權限都不同,所以權限管控與監控必須動態進行 | ▶ 18:44 |
| 第一通商用 CUDA 電話在 T-Mobile 網路上與 Nokia 完成,他說耗時近八年 | ▶ 30:21 |
NVIDIA 十年進步多少?
倍
| 項目 | 數值 | 補充 |
|---|---|---|
| 摩爾定律 | 100 | 每五年十倍 |
| NVIDIA | 1,000,000 | 極致協同設計 |
相差一萬倍
極致協同設計會讓加速持續下去
AI 工廠蓋得慢,代價有多大?
億美元
| 項目 | 數值 | 補充 |
|---|---|---|
| 建一座工廠 | 500 | 一吉瓦規模 |
| 每年營收 | 400 | 粗估 |
| 延遲損失 | 100 | 晚三個月 |
先在供應鏈組好,上線縮到約一個月
代理人由哪五個部分組成?
安全怎麼顧?
AI代理人
| 項目 | 說明 |
|---|---|
| 思考用工具 | 反覆推理迭代 |
| 變得有用 | 真的能做事 |
| 更多人用 | 開發更多代理人 |
| 用量暴增 | token 消耗衝天 |
GPU 需求也跟著飆升
OpenShell 為什麼各大公司都在採用?
| 只靠拜託 | OpenShell |
|---|---|
| 請別刪檔案 | 每次動態給權限 |
| 請別碰金鑰 | 強制執行政策 |
| 希望不是安全 | 全程監控 |
每家公司都要能安全接收代理人
公司該用哪一種模型?
自家資料能不能讓開源模型變強?
代理人要怎麼讀懂公司內部知識?
三家企業怎麼打造自己的代理人?
| 項目 | 說明 |
|---|---|
| AI代理人 | |
| 模型 | 感知推理規劃 |
| 框架 | 像外骨骼協調工作 |
| 安全沙盒 | OpenShell 管權限 |
| 知識與工具 | 公司資料與專業 |
任何公司都能打造自己的超級代理人
無人計程車的共同標準,新加入哪些車廠?
| 項目 | 說明 |
|---|---|
| 感測器 | 14鏡頭9雷達3光達 |
| 運算平台 | NVIDIA 雙 GPU |
| 自駕軟體 | 多家軟體公司 |
| 叫車平台 | Uber、Bolt 等 |
人人都能接入的巨大虛擬車隊
原片 頻道 NVIDIA
本頁由剪片存檔自動產生