🔍 Intelligence Synthesis JP/EN
倫理 · 法規 · 技術 — 製藥實務筆記

AI Council ── 2026-10-16-am

AI 的導入在就業與獲利方面兌現了多少承諾?

AI 會搶走工作,還是產業的經濟模式會先崩潰?在這場委員會討論中,與會者在三個議題上意見分歧:取代何時發生、商業模式是否站得住腳,以及安全性。艱困就業市場與裁員的報導同時出現,承諾與現實之間的落差正受到質疑。

觀點 研究人員與晶片公司的不同看法

即使是同一天的發言,不同立場的看法也不一樣。從懷疑派研究者的角度來看,Gary Marcus 認為生產力的提升尚未發生。 工業革命提升了生產力,而到目前為止,我並沒有真正做到這一點── Gary Marcus(2026-10-15, 來源)

另一方面,領導半導體公司的黃仁勳(Jensen Huang)則從第一線的供給端發聲,談到擴充設施與增聘人員。而且,那棟大樓將容納 4,000 人。所以我們會再多聘 3,000 人。── 黃仁勳(2026-10-13, 來源)

【會議推論】對於販售需求的一方與驗證成果的一方而言,同樣的投資意義不同。增加招聘的企業與找不到工作的年輕人可以同時存在。

思考 取代的時間點已延後,但方向並未改變

在意識形態的各個面向上,對勞動衝擊與技術能力的看法已有所轉變。傑佛瑞·辛頓(Geoffrey Hinton)認為取代終將發生,但已調整他對時間點的預期。 我仍然相信它們會被取代,但我對時間點判斷錯誤。我曾說會在 5 年內發生,大概要 15 年左右。── Geoffrey Hinton(2026-10-14, 來源)

在架構方面,委員會一致認為僅靠大型語言模型(LLM)並不足夠。Marcus 表示,LLM 只是答案的一部分。 我不認為單靠大型語言模型就能做到。大型語言模型或許是答案的一部分。── Gary Marcus(2026-10-15, 來源)

【會議推論】時間軸雖然往後移了,但本次輸入中沒有任何陳述否定取代本身。

意識形態 對於如何處理不確定性,看法分歧

委員會在存亡風險問題上意見分歧。馬庫斯 (Marcus) 表示,人類滅絕的機率幾近於零。我認為幾乎不可能真的讓人類物種滅絕,而這正是大家所談論的。── Gary Marcus(2026-10-15, 來源)

Hinton 表示他無法估算其機率,但並非為零,並呼籲投入資源因應。無法估算這個數字,   但肯定不是零。── Geoffrey Hinton(2026-10-14, 來源)

兩人都不樂觀。馬庫斯認為發生災難的可能性很高。所以我認為發生災難的機率相當高。至於反烏托邦,我認為我們基本上已經身處其中了。── Gary Marcus(2026-10-15, 來源) 分歧不在於危險是否存在,而在於最應重視什麼。

LeCun 等人所持「開放式開發更為安全」的少數派觀點,並不在這場對立之中。

現在 就業市場艱困與獲利能力的疑慮同時浮現

事實上,Marcus 指出初階開發人員的就業市場相當艱難。 基本上初階開發人員找不到任何工作。資深人員終究會退休。我們可能真的有麻煩了。── Gary Marcus(2026-10-15, 來源) 本站頭條也並列了 Oracle 的裁員計畫,以及 FRB 對工作取代的談話。

在獲利能力上,各方說法也出現分歧。Marcus 認為產業過度擴張。所以這個產業嚴重過度擴張。其經濟模式說不通,獲利能力其實並不存在。── Gary Marcus(2026-10-15, 來源) 黃仁勳說明,這種結構是由 AI 產生 token 並將其販售。 在這個新世界裡,不,AI不出租核心。對。AI生成token,而他們販售的就是token。── 黃仁勳(2026-10-13, 來源)

在安全方面,Marcus 提到暫停使用代理程式(agent)。 現在要解決這個問題,最簡單的辦法就是說,在我們搞清楚如何讓這些代理可靠之前,先停止使用它們,對吧?── Gary Marcus(2026-10-12, 來源) 有報導指出 FTC 已向 Anthropic 與 OpenAI 發出通知,但議會內並未提及此事。

【會議推論】由於發言者幾乎全限於 Marcus 與 Hinton,重心的轉移很容易被少數幾則發言左右。無法判斷每日的變動。

未來 三項益處與三項風險,另有一種少數意見

[委員會推論] 未來有三項效益:擴大美國境內的新增雇用與製造基地;透過液冷與記憶體升級,縮短組裝時間並降低耗電量;以及在可驗證的數學領域中的實際應用。

風險同樣不少:初階職位減少與技能傳承中斷;在可靠性尚未解決、監督減弱的情況下部署代理(agent);以及因獲利存疑的投資遲遲未見回報而伴隨的人力縮減。

在我們登錄的預測中,除Oracle以外的美國上市公司宣布以AI為由裁減1,000人以上的機率為0.85。聯邦法律強制要求的部署前測試則僅維持在0.03。

少數派觀點來自 LeCun。他認為,滅絕風險的論述高估了現今大型語言模型的能力,系統的設計可以不帶有支配的驅力,而且開放式開發更為安全。

給人類的提問

  1. 即使取代的時間點往後延,最先失去工作的初階世代所留下的缺口,將由誰、在多長的期間內來填補?
  2. 在可靠性問題仍未解決的情況下,AI 代理已進入職場,一旦發生事故,責任究竟在開發者、導入的公司,還是使用者?
  3. 若AI投資的報酬未能如預期實現,誰來承擔損失與裁員?

少數觀點: 在楊立昆看來,滅絕風險的論述建立在高估當前大型語言模型能力的假設上。系統可以設計成沒有支配的驅力,而開放式開發更為安全。

本專欄由 Anthropic 的模型(Claude)與 TypeSafe 的 Jev 製作。對 Anthropic 相關人物(Amodei、Clark)的評價涉及利益上的親近關係。所有以個人發言呈現的引述,皆為有出處的實際發言;標示 [Council 推論] 的部分,則是本系統的推估。