读见

AI 进入生产阶段之后, 智能、算力、芯片 会走向哪里?

时长 41:08

本期节目AI 进入生产阶段之后, 智能、算力、芯片 会走向哪里?
00:00-41:08

推荐理由庄明浩全程听完 AICC2026 后做的单口整理,三章一条主线:AI 进入生产阶段,比的是谁能让每个任务跑完。需求侧引 IDC 报告,2026 到 2030 年全球 Token 消耗复合增长率 4822.6%,由任务执行次数、单任务消耗与多智能体协同放大系数三个乘数相乘驱动,2030 年算力供需缺口达 3809 亿美元。第三章的两个细节尤其值得记:清华存算一体芯片用 28 纳米成熟制程把算力从 150 提到 600 TOPS,智源 FlagOS 让一个模型一天内适配 12 款芯片。 适合谁:同时关注 Agent 落地、算力与国产芯片生态的读者

听前速览

5 个要点

庄明浩以单口 PPT 形式整理 AICC2026 人工智能计算大会,从需求侧结构性跃迁、智能重新定义、算力芯片生态三层,论证 AI 进入生产阶段比的是「谁能让每个任务跑完」。

  1. Agent 正在重写一切,需求侧从单轮问答走向长链路任务执行。

    IDC 报告提出 Agent=Model+Harness 已成业界共识,模型决定智能上限,Harness 把输出转化为可执行流程;预计 2030 年全球活跃 Agent 达 22.16 亿,AI 从内容生成走向能独立承担生产任务的运行单元,竞争焦点从是否部署 AI 转向是否具备规模化、安全、可治理的运行能力。

  2. Token 需求由三个乘数相乘驱动,算力供需缺口将长期放大而非缓解。

    2026 至 2030 年全球 token 消耗复合增长率达 4822.6%,来自任务执行次数(2800 亿次到 415 万亿次)、单任务 token 消耗(数十到数十万)、多智能体协同放大系数三者相乘。IDC 预计 2030 年算力供需缺口达 3809 亿美金,算力满足度虽有缓解但缺口绝对值近十倍增长,物理与能源限制成为常态。

  3. 智能需要被重新定义,从概率拟合走向可信生产。

    郑庆华院士指出大模型存在算力数据消耗高、缺乏抽象能力、黑箱不可解释、灾难性遗忘、小样本复杂推理缺失等局限,主张借鉴人脑(860 亿神经元、约 20 瓦功耗)机制发展机器记忆智能,兼顾有限性、时效性与开放性。

  4. 评测体系需从单一模型评价升级为全链路可靠性评价。

    工信部电子五所蒋沛航提出测评对象、方式、边界、力度、标尺五个维度都要升级,覆盖芯片、整机、框架、模型、数据、应用全链路,兼顾推理成本与 TCO,当天联合二十多家单位发布面向 Agent 时代的可靠 AI 评测体系,为产业选型和技术演进提供可验证参考。

  5. 算力芯片需系统、器件、生态三级同时突围。

    浪潮信息主张能力型与容量型双轨智算并发布对应产品;清华吴华强的存算一体芯片以 28 纳米成熟制程实现算力四倍提升(150 到 600 TOPS),绕开先进制程依赖;智源林咏华的 FlagOS 开源生态让一个模型一天内适配 12 款芯片,破解国产芯片软件生态孤岛问题。

完整摘要

这是「屠龙之术」一期单口带 PPT 的播客,主播庄明浩全程参加第七届 AICC2026 人工智能计算大会后做的侧记,内容分三章。第一章「从 Chat 到 Agent,需求侧的结构性跃迁」:IDC 与浪潮信息联合发布《2026 年中国人工智能计算力发展评估报告》,引用 Agent=Model+Harness 已成业界共识;预计到 2031 年 AI 累计创造 22.5 万亿美元经济价值、2030 年全球活跃 Agent 达 22.16 亿;2026 至 2030 年全球 token 消耗复合增长率 4822.6%,由任务执行次数、单任务 token 消耗、多智能体协同放大系数三个乘数相乘驱动,2030 年算力供需缺口达 3809 亿美金,物理限制成为常态。第二章「智能本身的重新定义」:同济大学郑庆华院士主张跳出单纯堆数据与算力,借鉴人脑机制走向机器记忆智能,实现有限性、时效性、开放性的平衡;工信部电子五所蒋沛航提出从单一模型评价转向全链路可靠 AI 评测体系,当天联合二十多家单位发布该体系。第三章「算力与芯片」:浪潮信息刘军提出能力型与容量型双轨智算并发布 SD200、HC2000 等产品;清华吴华强介绍存算一体芯片以成熟制程实现性能跃迁并推动中国芯换道超车;智源林咏华介绍 FlagOS 开源生态实现一模型一天内适配 12 款芯片。

文字稿

  1. 说话人 1:

    Hello, 大家好,欢迎收听屠龙之术。又是一期我个人的 solo 带 PPT 的播客节目。本期的主题叫 AI 进入生产阶段之后,智能算力芯片会走向哪里?我对今天的议题起了一个小标题,叫 AICC2026 人工智能计算大会侧记。看到这个小标题你大概会猜到我为什么会有这期的内容。

  2. 说话人 1:

    本周一的时候,我去北京参加了一场 AICC2026 人工智能计算大会,这是这次大会的第七届。也就是说在过去七年的时间里面,关于人工智能计算,尤其是关于算力芯片的探讨就已经持续了非常多的时间。因为进入到 2026 年之后,随着 AI 这一轮模型能力的提升,关于算力芯片包括下一阶段智能怎么走的探讨特别的多。

  3. 说话人 1:

    如果大家有印象的话,我在今年 6 月份发过一期播客,是我跟高飞老师对谈的。那次的大会叫 AIEC 人工智能生态大会。那次的会议内容其实更多集中在我们平时在我的博客聊的比较多的,比如应用,软件,agent 的这个方向上。但是今天这次的 ICC 的大会,我觉得可能弥补了我很多此前行业不是特别了解的,有些偏 info 跟硬件层面的很多的探讨。我在大会上听了完整的一天的内容,包括上午的主会场所有嘉宾的 keynote,下午的几个分论坛我串着听了一听,挑了一些我感兴趣的内容。基于这次大会的内容,我做了今天的这次的 PPT 的整理,跟以往的内容一样,PPT 会放在我的爱艾玛里,然后 PPT 的所有的图像会放在我的 show note 里。欢迎大家收听,我们正式开始今天的内容。

  4. 说话人 1:

    就像前面标题提及的,我所说的叫智能算力跟芯片到底会走向哪里。所以今天的内容大概分了三个章节。我首先会讲从 chat 到 agent,也就是需求侧的结构性跃迁。这部分内容主要来自于现场大会现场当天上午 IDC 的副总裁周总的一个非常长的报告分享。第二部分是关于智能本身的重新定义的。从概率拟合到可惜生产,它主要来自两位嘉宾,一位是同济大学的党委书记,一位是来自工信部的一位研究员。第三部分来自于三位嘉宾,他们分别从系统层面、元器件层面以及整个生态层面探讨了算力与芯片的发展。所以一共三张,我们先进入第一章,从 chat 到 agent 需求侧的结构性跃迁。

  5. 说话人 1:

    首先在 IDC 的这次分享当中,我觉得他用了一个可能今天这个时间点成为业界共识的概念。也就是 agent 等于 model 加 honey,model 决定了 agent 的智能上限。今天的 agent 里面的模型可能包括推理程度,上下文的长度程度,是否支持多模态工具的调用以及成本的差异。同时又因为不同模型对于不同任务的擅长的能力,模型的路由层变得越来越重要。大家开始探讨模型的路由层,要把不同的任务按类型用户的意图负载做动态的匹配,给予最优的选择。同时对于模型的评判上,我们开始考虑准确率、推理能力、延时性,包括头盔的成本。就是模型这一层,它在决定整个 agent 智能的上限。

  6. 说话人 1:

    在进入今年之后,大家讨论的比较多的哈尼斯,他负责的是把模型输出转化为可执行的流程。那模型从真正意义上嵌入到 agent 到产出结果中间所有的所用到的东西,或者说所用到的功能模块,可能包括上下文的管理,模型的路由工具的连接状态与记忆、执行控制、安全甚至可观测与评测。就像我上一期播课讲的,benchmark 变得特别重要。所以 agent 等于 model 加 honey 模型提供智能能力 harness,把能力组织成可运行、可治理并能恢复 agent 的执行系统在当下这个时间点,这个公式本身似乎已经成为了绝对的业界共识。

  7. 说话人 1:

    IC 在会上发布了一个报告,他是跟浪潮信息联合发布的,叫 2026 年中国人工智能计算力发展评估报告。我会把这份报告放在 show note 里,这份报告列了非常多的信息点,我抽取到了一些我比较关注的点。比如说在过去一两年时间里面,我无数次的提及人工智能的发展走到了人类极限里,我们开始用万亿美金锤炼这样一个数据标记。用我们去衡量 GDP 的一个数据标尺,去衡量整个 AI 领域的。无论是 KPS 的投入,AI 的产值等等。

  8. 说话人 1:

    IDC 的报告在这次报告当中给了一个截止到 2031 年,就是未来五年左右时间,人工智能这个行业累计创造的全球经济的价值。它给了一个数字是 22.5T 就是 22.5 垂直,他给了一个未来五年在这件事情上一个宽以下的产值。这个数字可能已经基本上等于中国还是美国 26 年的 GDP 了。对,如果我没记错的话,因为我 26 年的预计的全世界生产国民生产总值应该是 126 个 T 就是 22.5,大概相当于 6 分之 1 左右的全世界的 GDP。

  9. 说话人 1:

    对,然后因为我们走到雷震的年代,IDC 这份报告预计截止到 2030 年,全球活跃的 agent 的数量可以跑到 22.16 亿。更重要的是 agent 从或者说 AI 的能力从此前的验证开始走到价值的兑现。那最直接的体现就是所谓的经济价值。因为无数的人提及这一轮的 AI 是所谓的什么技术革命,第四次工业革命之类的那他既然被冠到这样的名词,当然要去跟能够提升多少 GDP 去做对比,能够提升所谓的多少的经济价值。IDC 给了这样一个预期,但同时在这份报告当中用了很大的篇幅去描述。

  10. 说话人 1:

    算力层面供需的剪刀差在持续扩大。根据 idc 的预计,2030 年全球 AS 案例的供需缺口,注意是供需缺口将达到 3809 亿美金。并且从趋势上来看,这个缺口在持续的放大。很多人预期 28 年左右,随着这一轮的基础建设的投入,这个缺口可能会出现缓解。但是 IDC 的统计或者 IDC 的预期似乎预示着这件事情的缺口将持续放大。为什么呢?因为到从 2026 年到 2030 年,全球 token 的消耗量的复合增长率,IDC 的统计是 4822.6%。我再说一遍,2026 年到 2030 年,全球 token 消耗量的复合增长率 SaaS4822.6%。在这样一个巨大的涨幅前提下,似乎物理世界的很多限制都很难追得上。

  11. 说话人 1:

    IDC 的定义,比如说 agent 的发展,它定义了五个阶段,有点类似之前的 L 一到 L5 的划分,但是更集中在 A 的这个板块。它会认为第一个阶段是功能性 ai 主要做的是生成识别跟预测代码生成,视觉的试验,智能的回答。第二个阶段是个人 agent 工具调用和任务执行,主要做邮件、日程文档。似乎我们在这个阶段二、阶段三,他会认为叫单流程 agent,就是完成一个业务流程代码一下的工单的全链路的端到端的交付。似乎我们正在从阶段二走到阶段三阶段 4,他会认为叫多 A 人的协同,跨角色跟跨系统营销销售交付协同,供应链协同。当然今天这个时间点,如果大家熟悉 agent 的发展,似乎有一些前沿的 agent 调研跟 agent 的任务的协同,大家也在尝试。阶段五叫监督下的闭环持续运行,人工负责工程资质人审批权的变更。听到这个概念你会发现似乎最最激进当前这个时间点的模型厂商跟厂商也在尝试类似的事情的话。

  12. 说话人 1:

    那在当下这个时间点,echo 我前一期播客所讲的也是 HUZ 给的结论,work 场景加 coding 场景是这个时间点的共识。所以从成熟度的角度来判断,专业服务的 work agent 法律咨询、会计等专业工作,以及软件与 IT 行业的 coding agent 代码的开发测试与工程交付相对会比较成熟。其他领域比如教育、科研、医疗、金融、能源、制造、零售这些,他的成熟度没有当前这个时间点的 work 加 coding 那么的成熟。我觉得在 26 年 work 加 agent 似乎 worker agent 加 coding agent 是阶段性公式。当然最近一段时间出现了所谓个人 agent 的一波浪潮,这个我在我上期博客也有提及。

节目说明

本周一(9.21)我去北京参加了AICC2026-人工智能计算大会,

作为已经举办了7年的国内最顶级的关注“计算”本身的行业大会,

其嘉宾阵容可以说是“顶级”配置……

我全程听完了大会主论坛的嘉宾分享以及部分分论坛的环节后做了这期内容。

相较于此前我参加的AIEC,AICC大会更加关注的是底层基础设施;

比如算力系统、芯片、软硬适配、Token生产等等。

我今天的内容设计三个章节,分别是:

  • 从Chat到Agent,需求侧的结构性跃迁

  • 智能本身的重新定义,从概率拟合到可信生产

  • 算力与芯片,系统、器件、生态的突围

PPT在我的ima数据库中,有需要可以去ima获取;

屠龙之术VIP报告库 ima.qq.com

(想加粉丝群的请先+微信:rosicky311)

下面正片开始……

【时间线】

00:14 标题

01:17 AICC2026

02:33 第一章:从Chat到Agent

02:40 Agent=Model+Harness

04:19 IDC-浪潮信息联合发布《中国人工智能计算力发展评估报告》

报告下载,小程序搜索:技术价值白皮书

07:34 Agent发展阶段

08:52 当前共识work+coding

09:47 Token增长的三个系数

11:35 算力缺口持续存在

13:21 IDC观点总结

14:58 第二章:智能本身的重新定义

15:08 同济大学郑庆华院士的演讲

16:29 当前大模型的局限所在

17:29 从“人脑”结构找寻解决方案

18:23 机器记忆智能

19:22 可靠评测体系

21:21 可靠性

22:27 全链路覆盖

23:34 所谓“可靠”

24:01 评测体系发布

25:13 一体两面

25:46 第三章:算力与芯片

26:00 系统、器件、生态的突围

26:41 浪潮信息的主张:智算系统的双唯进化

27:48 能力型智算的极端要求

28:59 双轨实施

30:17 浪潮信息的新产品发布

31:13 芯算一体的主张

32:02 让计算走进存储

33:12 已有的实施效果

33:42 场景拓展

34:15 上个价值

35:09 FlagOS的生态

35:52 软件生态也是壁垒

37:01 万能插座

37:25 国产模型与国产芯片的Day 0适配

39:01 生态壮大中

39:54 回顾三章

40:28 写在最后,金字塔的比喻

40:53 致谢

【播客简介】

屠龙之术是一档关注科技、互联网、风险投资的播客,

主播庄明浩是一个游走在互联网和风险投资行业的边缘人士。

其工作多年所积累的认知似乎都成为了某种意义上的”屠龙之术“……

或许某天再有新的“龙”出现的时候,就是这档播客停更之时。

【ima知识库】屠龙之术VIP报告库 ima.qq.com

值得记下

当 AI 从内容生成走向任务执行,从单轮问答走向长链路协作,它不再是人类手中的工具,而开始成为能够独立承担生产任务的运行单元。
没有什么支撑的算力只是闲置资源,生态是芯片之真正发挥价值的最后一公里。
所以回顾一下我们三章三层 AI 进入生产阶段,比的是谁能让每一个任务跑完。
第二,缺乏人类的抽象能力。
智能是否净化,它是否能在有限资源下工作,在限定时间内给出答案。