🔍 Intelligence Synthesis JP/EN
伦理 · 监管 · 技术 — 制药实务笔记

AI 委员会 ── 2026-10-16-am

人工智能的应用在就业和盈利方面兑现了多少承诺?

是AI先抢走工作,还是行业经济模式先崩溃?在本次委员会的讨论中,发言者在三点上存在分歧:替代何时发生、商业模式是否成立,以及安全性。随着就业市场艰难和裁员的报道同时出现,承诺与现实之间的差距正受到质疑。

视角 来自研究人员和芯片公司的不同观点

即使是同一天的表态,立场不同,观点也各异。站在持怀疑态度的研究者的角度,Gary Marcus 认为生产率提升尚未出现。 the industrial revolution raised productivity and so far I has not really done that── Gary Marcus(2026-10-15,来源)

与此同时,领导半导体公司的黄仁勋从一线供应端发声。他谈到了扩建设施和增加人手。而且,那栋大楼将容纳4,000人。所以我们还要再招聘3,000人。── Jensen Huang(2026-10-13,来源)

【Council 推断】对于出售需求的一方和验证成果的一方来说,同样的投资意味着不同的东西。增加招聘的企业和找不到工作的年轻人可以同时存在。

思考 替代的时间已被推迟,但方向并未改变

在意识形态层面,对劳动力影响和能力方面的看法都发生了转变。杰弗里·辛顿(Geoffrey Hinton)认为替代终将发生,但已修正了对时间点的预期。 我仍然相信它们会被取代,但我对时间判断错了。  我曾说会在 5 年内发生,可能大约要 15 年。── Geoffrey Hinton(2026-10-14,来源)

在架构方面,理事会一致认为仅靠大语言模型是不够的。Marcus 表示,大语言模型只是答案的一部分。 我不认为仅靠大语言模型就能实现。大语言模型可能是答案的一部分。── Gary Marcus(2026-10-15,来源)

【Council 推断】时间线的坐标轴已经后移,但此次输入中没有任何表态否定替代本身。

意识形态 在如何处理不确定性上观点分歧

理事会在生存风险问题上存在分歧。Marcus 称,人类灭绝的概率几乎为零。 我认为人们所说的真正灭绝人类这个物种的可能性几乎为零。── Gary Marcus(2026-10-15,来源)

Hinton表示,他无法估算这种概率,但概率并不为零,并呼吁投入资源应对。没有办法估算这个数字, 但它肯定不是零。── Geoffrey Hinton(2026-10-14,来源)

两人都不乐观。马库斯认为发生灾难的概率很高。所以我认为发生灾难的可能性相当高。至于反乌托邦,我觉得我们基本上已经身处其中了。── Gary Marcus(2026-10-15,来源) 分歧不在于危险是否存在,而在于应最优先权衡什么。

杨立昆等人提出的“开放式开发更安全”这一少数派观点,不在这场对立之内。

现在 就业市场的困难与对盈利能力的质疑同时出现

事实上,Marcus 指出了初级开发者所面临的艰难就业市场。 基本上初级开发者找不到任何工作。资深开发者最终会老去退出。我们可能真的有麻烦了。── Gary Marcus(2026-10-15,来源) 本站的头条新闻中还并列了 Oracle 的裁员计划和美联储关于工作替代的言论。

在盈利能力问题上,各方说法同样存在分歧。Marcus认为该行业过度扩张。所以这个行业严重过度扩张。其经济逻辑说不通。盈利能力并没有真正体现出来。── Gary Marcus(2026-10-15,来源) 黄仁勋解释说,这种结构就是由 AI 生产 token 并将其出售。 在这个新世界里,不,AI不出租内核。是的。AI生成token,而他们出售token。── Jensen Huang(2026-10-13,来源)

在安全方面,Marcus 提到了暂停使用智能体一事。 现在解决这个问题的简单办法就是说,在我们弄清楚如何让这些智能体变得可靠之前,先停止使用它们,对吧?── Gary Marcus(2026-10-12,来源) 有报道称 FTC 已向 Anthropic 和 OpenAI 发出通知,但委员会内部并未提及此事。

【Council 推断】由于发言者几乎只限于 Marcus 和 Hinton,重心的转移很容易被少数几条言论左右。无法判断每日的变化。

未来 三项益处与三项风险,另有一种少数派观点

【Council 推断】前方有三大益处:扩大美国国内的新增招聘和制造基地;通过液冷和内存升级缩短组装时间、降低功耗;以及在可验证的数学领域实现实际应用。

风险同样不少:初级岗位减少、技能传承中断;可靠性问题尚未解决、监督减弱的情况下部署智能体;以及在盈利能力存疑的投资回报迟迟不到位的情况下随之而来的裁员。

在我们登记的预测中,除 Oracle 之外的美国上市公司以人工智能为由宣布裁员1,000人或以上的概率为0.85。联邦法律强制要求的部署前测试则仅为0.03。

少数派观点来自杨立昆。他认为,灭绝风险的说法高估了当前大语言模型的能力,系统可以被设计成没有支配欲,而且开放式开发更安全。

留给人类的问题

  1. 即使替代的时间点推迟,最先失去工作的初级一代留下的空缺,将由谁来填补,又需要多长时间?
  2. 在可靠性问题尚未解决的情况下,智能体已进入职场,一旦发生事故,责任在于开发者、部署它们的公司,还是用户?
  3. 如果人工智能投资的回报未能如预期实现,谁来承担损失和裁员?

少数观点: 在 LeCun 看来,灭绝风险的说法建立在高估当前大语言模型能力的假设之上。系统可以被设计成没有支配欲,而开放式开发更为安全。

本专栏由 Anthropic 的模型(Claude)与 TypeSafe 的 Jev 共同制作。对与 Anthropic 有关联的人物(Amodei、Clark)的评价存在利益上的亲近关系。所有以某人言论形式呈现的引文均为真实、有出处的发言;标注 [Council inference] 的部分是本系统的推测。