Grayson ViewsGrayson Views
AppAI
繁中简中
隱私條款
登入
  1. AppAI
  2. ›網站
  3. ›Grayson Views
  4. ›AI 代理人進公司,權限怎麼管?NVIDIA 執行長黃仁勳談 OpenShell【AI原聲帶】
隱私權政策服務條款
AppAI

AI 代理人進公司,權限怎麼管?NVIDIA 執行長黃仁勳談 OpenShell【AI原聲帶】

看影片
在 YouTube 觀看

重點時刻

  1. 0:00新工業革命
  2. 3:25效能提升一百萬倍
  3. 3:46過去十年 NVIDIA 把 AI 效能提升一百萬倍;他說摩爾定律十年只會進步 100 倍
  4. 4:40AI 工廠與延誤成本
  5. 6:12DSX Pod 以工廠預先組裝,現場部署從數個月縮短到數天;DSX Max LPS 同樣產出可少用 30% 電力
  6. 10:33一個一吉瓦的 AI 工廠約要 500 億美元;以每年 400 億美元營收假設,晚三個月就是 100 億美元
  7. 12:08代理人與安全
  8. 13:03代理人有五個元件:模型、外骨骼(harness)、沙盒、知識、工具
  9. 18:00動態權限政策
  10. 18:44每個任務、每位使用者、每次啟動所需權限都不同,所以權限管控與監控必須動態進行
  11. 19:27封閉加客製開源模型
  12. 20:25用自家資料訓練
  13. 20:48賦予公司知識
  14. 23:01CUDA-X 模擬片頭
  15. 24:31模擬畫面
  16. 25:23三個企業代理人
  17. 30:16首通 CUDA 商用電話
  18. 30:21第一通商用 CUDA 電話在 T-Mobile 網路上與 Nokia 完成,他說耗時近八年
  19. 30:42Hyperion 無人計程車
  20. 33:38RTX Spark 與造機器人
  21. 41:09MicroDuck 登台
  22. 42:14演講總結

企業要導入 AI 代理人(AI Agent),最先要解決的是安全與權限怎麼管。NVIDIA 執行長黃仁勳(Jensen Huang)在 GTC Berlin 主題演講中,拆解代理人的五個組成,以及 OpenShell 這套安全執行環境。這支 42 分鐘的精華,也帶你看公司怎麼用自家資料與開源模型(open model)做出自己的 AI。

看完整影片

原片 NVIDIA

重點速覽

重點從哪裡看
過去十年 NVIDIA 把 AI 效能提升一百萬倍;他說摩爾定律十年只會進步 100 倍▶ 3:46
一個一吉瓦的 AI 工廠約要 500 億美元;以每年 400 億美元營收假設,晚三個月就是 100 億美元▶ 10:33
DSX Pod 以工廠預先組裝,現場部署從數個月縮短到數天;DSX Max LPS 同樣產出可少用 30% 電力▶ 6:12
代理人有五個元件:模型、外骨骼(harness)、沙盒、知識、工具▶ 13:03
每個任務、每位使用者、每次啟動所需權限都不同,所以權限管控與監控必須動態進行▶ 18:44
第一通商用 CUDA 電話在 T-Mobile 網路上與 Nokia 完成,他說耗時近八年▶ 30:21

▶ 0:00 新工業革命

▶ 3:25 效能提升一百萬倍

NVIDIA 十年進步多少?

  • 過去十年 NVIDIA 把 AI 效能提升一百萬倍;他說摩爾定律十年只會進步 100 倍 ▶ 3:46

十年加速百萬倍,遠超摩爾定律的百倍

倍

項目數值補充
摩爾定律100每五年十倍
NVIDIA1,000,000極致協同設計

相差一萬倍

極致協同設計會讓加速持續下去

▶ 4:40 AI 工廠與延誤成本

AI 工廠蓋得慢,代價有多大?

  • DSX Pod 以工廠預先組裝,現場部署從數個月縮短到數天;DSX Max LPS 同樣產出可少用 30% 電力 ▶ 6:12
  • 一個一吉瓦的 AI 工廠約要 500 億美元;以每年 400 億美元營收假設,晚三個月就是 100 億美元 ▶ 10:33

AI 工廠晚三個月,就少賺一百億美元

億美元

項目數值補充
建一座工廠500一吉瓦規模
每年營收400粗估
延遲損失100晚三個月

先在供應鏈組好,上線縮到約一個月

▶ 12:08 代理人與安全

代理人由哪五個部分組成?

安全怎麼顧?

  • 代理人有五個元件:模型、外骨骼(harness)、沙盒、知識、工具 ▶ 13:03

代理人越好用,耗掉的 token 就越多

AI代理人

項目說明
思考用工具反覆推理迭代
變得有用真的能做事
更多人用開發更多代理人
用量暴增token 消耗衝天

GPU 需求也跟著飆升

▶ 18:00 動態權限政策

OpenShell 為什麼各大公司都在採用?

  • 每個任務、每位使用者、每次啟動所需權限都不同,所以權限管控與監控必須動態進行 ▶ 18:44

代理人每次上工,權限都要即時重新給

只靠拜託OpenShell
請別刪檔案每次動態給權限
請別碰金鑰強制執行政策
希望不是安全全程監控

每家公司都要能安全接收代理人

▶ 19:27 封閉加客製開源模型

公司該用哪一種模型?

▶ 20:25 用自家資料訓練

自家資料能不能讓開源模型變強?

▶ 20:48 賦予公司知識

代理人要怎麼讀懂公司內部知識?

▶ 23:01 CUDA-X 模擬片頭

▶ 24:31 模擬畫面

▶ 25:23 三個企業代理人

三家企業怎麼打造自己的代理人?

一個 AI 代理人,由五個積木組成

項目說明
AI代理人
模型感知推理規劃
框架像外骨骼協調工作
安全沙盒OpenShell 管權限
知識與工具公司資料與專業

任何公司都能打造自己的超級代理人

▶ 30:16 首通 CUDA 商用電話

  • 第一通商用 CUDA 電話在 T-Mobile 網路上與 Nokia 完成,他說耗時近八年 ▶ 30:21

▶ 30:42 Hyperion 無人計程車

無人計程車的共同標準,新加入哪些車廠?

各家車廠共用一套無人計程車標準

項目說明
感測器14鏡頭9雷達3光達
運算平台NVIDIA 雙 GPU
自駕軟體多家軟體公司
叫車平台Uber、Bolt 等

人人都能接入的巨大虛擬車隊

▶ 33:38 RTX Spark 與造機器人

▶ 41:09 MicroDuck 登台

▶ 42:14 演講總結

原片 頻道 NVIDIA

本頁由剪片存檔自動產生

訂閱電子報