AI 真的會失控、自我進化到人類管不住嗎?a16z 共同創辦人 Ben Horowitz 在 All-In podcast 上說,這種 AI 末日論(AI doomer)目前只是理論。他引用 Databricks 的 Ali Ghodsi 列出的四個條件,說一個都沒達成,也談到 Bill Gates 為什麼被他視為最危險的發聲者,以及媒體為什麼愛報。這支精華約三分鐘。
原片 All-In Podcast
| 重點 | 從哪裡看 |
|---|---|
| Horowitz 說,Bill Gates 有 Microsoft 的光環,又是大額政治捐款人,所以他的警告特別有分量,也特別危險。 | ▶ 0:19 |
| 他說外界最怕的情境是模型遞迴自我改進後暴走,Databricks 的 Ali Ghodsi 列出了四個先決條件。 | ▶ 0:47 |
| 第一個條件:下一代模型要用少很多的 GPU。他說現實是要借債、買 GPU、備電力和散熱,建下一個模型要很久。 | ▶ 1:26 |
| 其餘條件是:下一代訓練時間要更短、準確度要更好,而且要一再重複。他說四個條件一個都沒達成。 | ▶ 1:49 |
| 他說媒體愛這個故事,因為能跟環境議題、工作末日論結合,成為收視保證。 | ▶ 2:22 |
| 主持人的結論是:不要辭掉工作,繼續打造。他認為人一退下來就容易胡思亂想。 | ▶ 3:42 |
Gates 的警告有證據嗎?
AI自我進化
| 項目 | 說明 |
|---|---|
| GPU少很多 | 不是少一點而已 |
| 訓練更快 | 訓練時間更短 |
| 模型更準 | 下一代比上一代好 |
| 一再重複 | 循環停不下來 |
末日風險目前只是理論
這種末日說法,媒體為什麼愛報?
最後,主持人怎麼解讀這股風潮?
| 項目 | 說明 |
|---|---|
| 1995 | 登上世界首富 |
| 1998 | 司法部告微軟壟斷 |
| 2000 | 卸任微軟執行長 |
| 2000 | 成立蓋茲基金會 |
| 2010 | 和巴菲特發起捐贈誓言 |
別辭職,繼續打造公司
Ben Horowitz a16z 共同創辦人 共同創辦 Loudcloud
原片 頻道 All-In Podcast
本頁由剪片存檔自動產生