华为芯片三十年:从产业周期到AI算力突围的深度复盘
本文基于华为半导体首席科学家廖恒博士及昇腾芯片架构负责人等相关技术领袖的访谈内容整理,系统梳理了全球半导体产业的历史规律、产业模式变迁、摩尔定律的本质与极限、断供背景下的技术突围路径、AI处理器架构设计的核心理念,以及芯片人才培养与产业未来格局的深度思考。
访谈背景与核心脉络
访谈背景与目的
- 受访者为华为Fellow,半导体首席科学家,拥有三十余年(1987年至今)的半导体行业从业经验,是华为经历2020年外部制裁压力后首次公开讲述芯片产业与华为海思从低谷走出的高管之一。
- 访谈者为主持人小俊,访谈主题聚焦于全球半导体芯片产业的历史规律、产业模式变迁(以处理器与通信基础设施两条主线为主)、对产业周期兴衰的反思(垄断、技术创新、垂直分工模式),以及个人早年求学与职业生涯的经历。
接受访谈的三个缘起
- 回顾工程师故事:海思极少出现在媒体面前,借此机会给世人留下启示。
- 对硬件人才断档的担忧:半年多前在清华讲《计算机组成原理》课程后的挫败感——学生追逐AI算法、模型训练、推理加速等热点,硬件课程难学、被视为“鬼门关”,难以吸引学生兴趣,担心未来硬件人才断档。
- 为下属与同事提供完整行业视角:下属与同事缺乏完整行业视角,容易迷茫摇摆,希望提供一个几十年发展的规律性的完整视角。
半导体产业历史的两条主线
纵向主线:处理器与通信基础设施
- 主线一:处理器(CPU)。从1984/1985年IBM PC、桌面办公终端,到企业IT服务器,再到2005/2006年起的AI新浪潮。
- 主线二:通信基础设施带来的芯片。过去30年人类从“非连接”走向“人人连接、设备连接”的互联网发展历程:从电话线Modem到宽带、光纤,再到移动网络,催生大量基础设施芯片;智能手机成为半导体消耗大户(曾占全球半导体消耗的60%-70%)。
横向(时间)脉络:从狂热到凋零再到回春
- 半导体产业经历极度狂热繁荣的上升阶段(互联网浪潮),随后进入凋零衰落期(被视为夕阳产业),然后因AI热潮(2015/2016年后)再次回春。
- 2005-2015年“夕阳期”的核心观察:美国硅谷风险投资(VC)在AI兴起前有10-15年(约2005-2015整整十年)完全没有对芯片初创企业投资。
- 博通(Broadcom)模式:并购成熟半导体公司、合并重组、降低成本以提升运营效率,是夕阳产业的“收割”模式。操作步骤为:找天才商业领导者 → 从私募股权借一笔钱 → 以小吞大并购比自身大十倍的公司 → 低价买进后重组 → 删除重复部门与人员、裁掉利润不佳的产品 → 报表变好。
- 2000年互联网泡沫持续约3年;美国直到今天用的光纤很多是2000年铺设的(当时过度建设,无人购买/租用)。
垄断与产业凋零的反直觉机制
推理链
- 当一个重大发明或新业务出现,资本市场加持后,企业可迅速(约3-4年)建立近乎垄断的优势(如Google搜索、Meta社交、Windows操作系统、苹果手机)。
- 垄断优势不仅是技术,更是资本、基础设施和用户习惯(用户不轻易切换平台)。
- 垄断对创新产生极度负面影响,原因有二:
- 定价权倒置:客户若占采购量绝大部分,则拥有极大定价权,供应商毛利变低微、无利可图。
- 技术方向滞后:主导方主导需求和技术方向,而芯片从架构/产品定义到用户落地至少需3年(设计周期十几个月 + 制造周期9-10个月 + 整机测试,快2.5年、慢4年),若盲目听从客户(客户生活在当下,自己生活在2030年的“日历”),会滞后四年,导致创新被抑制。
- 上一代大公司(如Google、Meta、Apple、Windows等)虽有“第一板斧”的独创能力,但绝大多数组织“再造自己”的能力有限;一个领域的优势往往成为新领域的劣势。因此AI时代最有突破的公司往往不是上一代“big name”。
当前AI时代尚未进入垄断阶段的原因
- 从2016/2017年起,AI时代尚未进入“不幸的垄断”阶段,原因是参与者极度活跃——五道口、杭州等地的年轻人不断带来惊喜,包括中国的参与者也是重要的“player”(群星璀璨),垄断无法形成。
台积电代工模式的形成与经济逻辑
背景
- 晶圆厂资本支出与研发周期随世代演进以近乎摩尔定律速度提升(制程从约10层掩膜到100层掩膜;单台机器从10万/100万美元到1000万/1亿美元)。
- Foundry(晶圆制造)是资本投入极高、研发周期极长、回报周期极长、风险极高、ROI极差的生意;设计公司自身没有资本能力承担(类比居民不会为用电自建电厂,应共享基础设施)。
张忠谋的历史贡献
- 张忠谋(台积电创始人,1987年创立时56岁)首先意识到并明确将此作为商业模式,是伟大贡献。
- 无数企业(包括Google这样的巨头)基于该模式成功——没有Fabless模式连Google都难做TPU(若自建厂需3年开发工艺、3年运营,规模不足以支撑最先进Fab所需经济规模)。
模式成立的大前提
- 全球自由化(“the world is flat”),每个层面采购世界上最优秀的能力。
- 廖恒指出自己在海思2019年之前几乎所有设计(95%甚至99%)都建立在“楼下”(供应链/制造层)最优秀供应之上。但该前提因国家竞争、地缘政治因素已被彻底颠覆。
模式的局限
- 垂直分工模式未能完全满足所有需求。当事件发展过于迅猛时,分层模式未必能满足要求。例:最近半年内存(DRAM)极度匮乏,价格涨了十几倍,垂直分工无法很好应对这种剧烈变化(类比股市暴涨暴跌时正常操盘跟不上)。
摩尔定律的深度解析
摩尔定律的三个维度:PPA
- 经济性:面积缩小、平均到每个晶体管的成本降低,这是世界上唯一“反通胀”的产品类别(电子产品)的原因。
- 性能:更小的管子速度更快。
- 能效(energy cost):翻转更小的“水桶”消耗的能量更低。
摩尔定律放缓的关键论断
- 摩尔定律不管有没有科技战都在放缓,这是客观事实。
- 从16纳米甚至7纳米起经济性已经停滞——每个管子的成本不但没变便宜反而变贵了。
- 性能收益非常小。
- 目前真正有收益的是能效(energy cost)。
摩尔定律的度量尺度问题
- 不应该再用纳米(长度尺度)来描述,应该用原子数量。因为最小feature已到埃(angstrom,1/10纳米)级别,即以多少颗原子为单位。
- 终极终点是不可能小到一颗原子。
- 也可以换一种时间尺度(每秒做更多运算)或能量尺度(每次翻转消耗多少皮焦)来度量。
- “换一道题”的思路:換一种尺度/问题时答案可能不同。类比“度量一个人考数学还是考语文,换一个科目同一个人考分不一样”。
摩尔定律放缓的物理本质
- 影响电路翻转速度的是电容×电阻。
- 线越细电阻越大(变差),极板越靠近电容越大(变差),但极板越小电容越小(变好),两个因素互相抵消,因此电容没有显著变好,电阻越来越差。
- 所有半导体进步都靠电容变小,电阻越来越大——这是摩尔定律的本质。
- 结构性改变带来的微缩方向:如果用正交的线代替平行线,重叠面积从整条线变成只有交叉焦点,电容会大幅缩小,速度可能快很多。
中国半导体的能源“保底”
- 中国半导体与台积电的主要差距在energy cost:10万个GPU的算力中国轻松可以提供,只是比世界第一的产品能耗大一些。
- 但中国不缺能源——电力供应可能是美国的三倍,中国数据中心的电费可能是美国的1/5到1/4,平均约小于等于1/4。
- 强调这不是为了说服大家用更耗电的东西,而是说“保底”不需要过于担心。
断供前后的华为决策与反思
ARM服务器(CPU)的判断失误
- 最初反对做ARM server CPU,理由是X86生态已成熟,改变用户习惯需要“几倍优势”(要么便宜到别人的1/3,要么性能好三倍),当时不具备这种价值优势。
- 唯一可能的市场机会在美国,因此建议立刻派人去微软和亚马逊(西雅图)。2017年前后确实几乎获得在微软或亚马逊云上部署ARM CPU的机会,但中美科技战爆发导致故事中止。
- 科技战后ARM server重新崛起,甚至有预测称两三年内可能超过X86——但驱动力不是纯粹的价值优势,而是宏观政治因素(中国关键基础设施不能再冒被IT侵入的风险,如伊朗电站事件),且中国产品已进步到“不比别人差、完全可用”的程度。
- 承认自己的判断在短时间窗口内没错,但宏观上完全错了,整个过程花了十年,“人的一生一共有几个十年”。
昇腾(训练芯片)的判断失误
- 2016年领导要求做能训练、能构成大集群的旗舰产品,最初反对,因为当时看不到中国“群星璀璨”的那一天,重要算法和发明创造都来自美国,中国互联网公司也没有开始自己训练模型。
- 主张先做小产品(覆盖从1亿美金到1亿美金的八个数量级的广覆盖,最小的产品是耳机里的chip,最大的是几十万卡训练集群)。
- 当时非常看好边缘产品、不看好数据中心产品,但今天来看数据中心在收入、利润和规模上远大于边缘产品。
对个人认知局限性的反思
- 错误都在“宏观层面”——没有看到更大格局、对未来预期和世界变化。微观层面上这些决策似乎都没问题。
- 归因于“小池子里的泥鳅突然到了大海里”,阅历较浅、坐井观天,越年轻越容易犯这种错误。
- 承认华为公司主要领导和海思领导“格局比我要大得多”。
拆解问题的方法论
- 一个看上去impossible的问题拆解后变成10个或100个更具体的问题,再拆一层变成1000个物理、化学、数学问题。
- “能不能跟台积电一样?”简单答案是“不行”,但这个答案没有帮助。拆解后你发现有些地方行、有些地方不行,你可以解决其中80个、100个问题,甚至10个比别人做得更好,然后扬长避短。
- “问题的定义本身已经占了80%的credit,真正找到一个具体的办法去解决被定义出来的问题,可能占了20%。”
断供后的应对
- 断供之前海思从采购量和产品种类来看已是世界top 3的半导体公司,能用台积电最先进的工艺,甚至英伟达不会用的工艺华为是第一个或第二个用。
- 断供后不得不面对更困难的事。华为在5年做了381颗芯片,平均每年约70颗new tapout,从未听说有芯片“回来冒烟”(测试不通过、无法量产)。
- 断供后可能5000到1万个单板全部重新做过,换了零件并快速达到量产能力。
- 昇腾命名来源:取“日升月恒”之意,对未来的美好期待。
AI处理器架构设计的核心理念
DSA vs SIMT之争的本质:数据块颗粒度问题
- DSA(专用架构)与SIMT(单指令多线程)的实质是“卡车与私家车”的差别:一个运算是以单个元素为粒度表达(SIMT),还是以一大块数据一起做运算(DSA)。
- 今天的CPU内部和GPU内部实际上都是SIMT的,CPU多个核跑几乎相同的代码(SPMD模式);且GPU内部也有DSA要素——例如处理8比特浮点数时,其32比特寄存器需要将四个数拼在一起运算。
- 真正的差异只是数据块颗粒度是128b(GPU的natural宽度)还是512b(昇腾早期产品的宽度)。
- 颗粒度偏大的实际影响有限:昇腾早期512b宽度是“鹅卵石大大块了一点”,但在transformer这类网络里头数据本身就特别大块,所以影响不大;只有在推荐网络或早期端侧视觉网络中才需要更小颗粒度。
- 950一代通过同时支持DSA和SIMT来缓解这个问题。
- 90%的争论在今天已经可以放之一边。当下更重要的问题是:内存带宽配多少、互联怎么构建超节点、怎样在kernel运算中实现极致融合、怎样降低多核乃至多芯片之间的同步开销。
Kernel融合与编程范式转移
- 低延迟推理使“单算子调用”模式失效:如果目标是1毫秒延迟(即每秒输出1000个token),而当前典型chatbot每秒只输出20-30个token(即40-50毫秒延迟),这是几十倍的时间压缩。在这种场景下,每个算子调用都有launch延迟和数据传递开销,所以必须把整个模型表达为一个超大算子——这就是kernel融合。
- 这一变化在过去一两年迅速发生,代表性工作包括FlashAttention,之后DeepSeek等开源的工作也无一不是融合的典范。
- 融合对处理器设计带来冲击并催生新编程语言/编译器:过去设计核只关心运算快不快;现在还得关心复杂计算过程是否容易编程表达,程序能否快速修改并在处理器上获得最大性能。
计算机架构是软硬件之间的界面
- 引用教科书(Hennessy和Patterson的《Computer Architecture》)的核心定义:“computer architecture就是the interface between software and hardware”。
- 当前AI处理器设计面临“界面正在被重新打开”的局面,而CUDA生态的防护墙正在迅速消失——如果DeepSeek所有工作都建立在TopLang基础上,那么TopLang就变成特别重要的界面。
CANN的双重定位
- Legacy(兼容旧生态):全面对齐现有生态(能跑PyTorch、能跑BLM),逐层一对一对齐,但确实还有差距。legacy是长尾的、服务大众的(高校学生、老师),会持续非常长时间。
- 先进性(追求极致性能):服务于少数人——要部署一个模型、追求最高经济效益(每卡每秒最多token)和最低延迟时,需要极致调优,因为每增加10%的吞吐就增加10%的收入。先进性的部分可能只有100个人没日没夜地去攻关。
开源决策的逻辑
- 人不沟通的带宽远低于芯片间通信:人说话每秒只有3-5个字(约1 Kbps),而两颗芯片之间通信带宽有7.2T bit per second,差若干个数量级。
- 交付复杂技术体系时,对方必须快速理解接口设计和使用方法,沟通本身就是极大瓶颈。如果还控制文档、签NDA,就等于在受限的channel上加不必要的防护门。
- 开源意味着把所有代码都给你看,反而不需要费口舌沟通了,解决了最大的交流/对齐瓶颈。
- 开源之后客户和开发方都“如释重负”,解决问题的速度快了很多,而且AI辅助编程可从开源代码中获得充分语料来训练编程模型。
- 华为CANN已成为中国开源社区的活跃社区,过去一年取得长足进步。
生态超越比物理突破更难
- 纳米级突破以自身努力为主、70%要素掌握在自己手里(30%是客观物理限制)。
- 生态是改变群体的共同习惯,需要群体不断获得正向理由才会迁移(例如发明一个新的即时通信软件说服所有人不用微信是非常难的)。
2.5D Scaling的物理上限与散热困境
正方形类比:N²与4N的矛盾
- 计算die(简化为一个正方形)边长N,面积为N²,算力与N²成正比;内存带宽、互联、供电都围绕周边,需要跨越四条边,而周长只有4N。
- 算力、带宽、互联、功耗都是N²增长,但只有4N的边沿可以进出,N越大gap就越大、矛盾越爆炸。
- “N平方和N的矛盾是物理上不可调和的。”
- 因此靠越来越大的die加越来越多的HBM这条路有上限,在达到物理边界之前可继续做大,但一旦超过会雪崩。
- 边界可能是4个reticle(每个reticle约800mm²)、6个或8个reticle,取决于上游制造链能够把能力边界扩多大。
- 这种架构也许还能做1-2代,也许三代,大概率第四代就不行了。
单Rack功耗不可持续
- 一个机框功耗如果今年10万瓦、明年20万瓦、后年40万瓦、再后年一兆瓦(只需四年,2⁴的倍数关系)。
- 以自然大气散热推算:约500平方米才能散掉一兆瓦,那一个gigawatt的数据中心可能只有1000个rack,但散热塔可能要占地一平方公里,机框footprint只有不到两平方米,却需要500平方米散热空间——250倍的空间放大,导致水管可能要拉1公里。
华为的“松散布局+光互联”设计哲学
- 与其把100颗芯片塞到一个rack里,不如放到4个rack,让每颗芯片有舒适的物理空间。机房每平方米成本约2000元人民币,相比千万级机框可忽略不计。
- 通过光互联(第一代UBB总线就设计成既能跑电线也能跑光缆)来连接。光缆和电缆的直径差约十倍,一根线没有区别,但5000根线捆在一起时,电缆会像大象腿那么粗。
- 设计哲学是“扬长避短”,不要同时挑战多个物理极限:如果同时突破20个物理极限,只要有一个没突破产品就挂掉;如每个成功概率99%,99%的20次方接近零。情愿把精力集中在突破5个特别难且高价值的问题。
与英伟达的差异化竞争
由相似到越来越不像
- 早期以单颗芯片为主部署的方式比较相似。
- 英伟达的Tensor Core越来越像昇腾的Cube(变大了来获得更高计算效率),是“他们变得越来越像我们”。
- 但更大的不像在系统层面:颗粒度差异(以小打大)、超节点差异。
- 英伟达追求极致的机框(rack)级别的density,逐代几乎每代都双倍算力塞到同样机框里,但受访者认为需要有度,不应无限提升。
“他要做密,我要做稀疏/松”
- 英伟达让20个人睡在一个炕里;华为要让每个人都坐在有自己的卧室可以舒适的睡觉。
- 昇腾选择“松散布局+光互联”:与其把100颗芯片塞到一个rack里,不如放到4个rack。
内存是关键竞争力
- 按今天成本计算,一颗GPU约80%的钱花在HBM上,只有约10%花在先进逻辑die上面。
- AI芯片的主要竞争力来自有多少带宽,而不是计算规格多大;或者说计算规格变大时带宽必须等比例放大。
- HBM不能独立销售,必须寄生在GPU或NPU里,因此它的变现依赖最终集成者。
- 核心竞争力更多来自计算die及匹配的内存有多先进,而非逻辑带到底多先进。
- “我们与其说在卖一个AI的算力芯片,还不如说在卖一个高带宽的内存。”
昇腾的架构演进与关键发现
算力配比差异
- 昇腾8比1,Blackwell 32比1(Cube/矩阵运算单元与Vector算力的比例)。
- 类比:一家四口住100平米小公寓vs住400平米别墅——空间富裕时可以随便浪费,空间稀缺时必须精打细算地利用每一寸空间。
DeepSeek的“Codesign”意识
- DeepSeek R1做了非常有意识的选择——利用参数系数激活(只算32分之1的参数参与运算)来节约32倍算力。
- 2025-2026年又做了序列压缩和稀疏化(长序列不需要每一个都算)。
- 这种挑选过程需要付出更多Vector运算的复杂性代价,恰好匹配8比1算力的昇腾。
- 而Anthropic/OpenAI不需要这么做,因为它们有32倍cube算力。
- 结论:DeepSeek是非常精准地做了codesign,跨了两层楼的工作。
推理阶段的关键发现
- 进入推理部署后1-2个月内发现,推理的decode阶段算力并不需要那么高,内存带宽特别重要。
- 算力与内存带宽的比例在推理(decode)与训练(pre)之间有显著不同。
- “推理是一个生产收入的过程,而训练是一个建立capability的投入。一个是纯支出(cost center),一个是profit center。所以profit center一定要比cost center更大。”
颗粒度的教训
- 通信搬运的数据颗粒度是极度本质的问题——原来以为搬1兆数据,实际发现要搬7Kb数据。
- 用鹅卵石、沙子、水填满箱子三个层次的类比说明颗粒度越小填充越满。如果设计只优化了大颗粒度搬运,小颗粒度效率就会很差。
超节点的验证
- 超节点(多芯片紧耦合协同工作)是910C或950能存活的重要原因,在实际业务部署中得到检验。
- 昇腾910 vs 950的环境对比:“910的时候是条件很好但不知道未来的变现机会在哪里;950的时候是条件特别苛刻,但现实给了特别多检验的机会。”
HBM的提前准备
- 七年前就意识到“与其说在卖AI算力芯片,不如说在卖高带宽内存”,为此成立了专门的部门建立HBM设计能力。
- 但即使准备七年,等到内存十几倍涨价的风暴来临,依然觉得准备不够,有遗憾和侥幸心理。
光通信技术路线选择(NPO)
背景与数据
- 为实现超节点远距离连接,采用光通信。做出的光模块为7.2T(7200G),而市面上主流光模块为800G(0.8T),相差约9倍。
- 当前产业模式:光模块以独立芯片置于面板一侧,芯片到光模块连接器间有一段电缆(最长约50公分),形似八爪鱼。
- 华为选择“NPO”(near package optics):把7.2T光模块直接放在芯片边上,芯片与光模块间距离缩短到1-5公分,去掉那段电缆。
- 坚定选择“放在边上”(不放在外面、也不放芯片里面),且坚定选择“光源放在里面”而不是外面。
选择理由(基于物理原理)
- 封装内部非常热(内部有1000瓦的NPU,相当于电炉/2000瓦大功率电器),光器件受热会使折射率巨幅变化,因此不要放进去。
- 温度高激光器会失效(激光器有故障概率,高温环境更易失效)。
- 不要放外面是因为72路光需用72倍能量光源供给并分路,高功率通过某一点会形成局部热点,烧坏材料或使胶水/灰尘烧黑变成“切割机”。
- 选择双光源(做两个激光器,坏了一个另一个继续工作)降低失效率。
物理直觉的建立
- 2008-2009年间意识到芯片IO电线传输距离太短,某天必须把光做到芯片边上或里面(当时以为56G时就必须变光,实际到224G才变光,差了4倍)。
- 主动学习激光器设计、调制、接收等知识,在欧洲光通信暑期班学习一至两周。
- 学到的四个基本物理知识:①所有光器件离不开折射率(光在材料中的速度);②折射率随温度改变;③激光器会失效;④光的耦合有损失(每耦合一次损失零点几dB能量)。
- 基于这些知识做出NPO路线选择——没做实验、没经过100个专家验证,直接排除不可行方案。
芯片产业竞争格局与垄断问题
AI行业难以垄断的原因
- 技术尚未饱和:AI技术还没有到达饱和点(没有进入曲线平缓期),领先者可能3-6个月后被另一家超越,过去几年能力交替一直在发生(如Llama曾被认为最好,可能明天又东山再起)。
- 人才供给充足:人类智商阈值没那么高,五道口可能有5000到1万个学生完全理解最新模型trick,且在实操中用更小规模实验寻找突破点。
- 价值愿景多元:有志向的人不一定想当“世界终结者”,而是想普惠地让更多人加入行业——至少中国的一两个leading团队价值愿景如此。
- 国家意志:中国环境、国家本身不希望所有AGI被美国一家公司垄断,这甚至可能产生人类危机。
- 开源模型是刺破垄断最重要的“针”,硬件层也在做努力避免单一硬件体系。
数字世界vs物理世界的鸿沟
- AI在数字世界能力进展很快,几乎所有具体事情AI都比人干得更好,已接近“数字世界的AGI”。
- 但跨越物理世界还有巨大鸿沟:物理AI模型还没有到“ChatGPT时刻”,这个gap或许需要未来两三年、甚至就是下一时刻,需要重大模型突破才能跨越“物理AI从0到1”的时刻。
- 物理世界不易垄断:一旦进入物理世界,必须有身体、是一台机器,机器本身多样。汽车工业发展上百年仍有大量品牌存在于不同国家/地区。物理世界的多样性使得垄断更难。
对中国的看好
- “I want to learn China”——中国各方面条件非常值得期待,应该能上一个很大的台阶。
- 反对“零和”视角(中国赢则美国输),认为这是“撒旦视角”;“如果有这么好模型,为什么我要用来攻击你?为什么不把我自己的生活过得好一点……这个念头本身就是一个很错误的动机吧。”
五年至十年芯片产业格局
- 最大影响因素是中美科技战/贸易战是否会回到之前状态。如果再持续十年,一定会分裂成两个体系,各自拥有完整制造能力。
- 芯片之于现代生活已上升到接近水和空气的层次,经济规模肯定比石油产业更大。
- 其次才是垄断问题——现在不具垄断条件,因为每天都变,领先厂家都还说不出是谁,你领先3-6个月大概率有人达到类似水平。
竞争可能“不值得赢”
- 当年微软IE vs Netscape的竞争持续多年、美国司法部干预、比尔·盖茨退休;回头看,今天Windows默认浏览器是Chrome内核的Edge,当年赢下的“最重要战场”并未带来fantastic result。
- 微软从未成为互联网霸主,新霸主各自找到了奇怪的赛道(中国横空出世的阿里巴巴、淘宝、支付宝、微信都不是在美国定义的那个赛道竞争)。AI应用层可能也是这样。
数据中心“八大件”与完整产业能力
构建完整数据中心的关键组件
- 除CPU和NPU/GPU外,还包括内存、SSD/存储系统、网卡、交换机等。
- 交换机端口数直接影响网络层次:一个交换机连512个东西一层搞定,1024个就得两层,每加一层延迟和代价直接翻倍。
- 华为在构建领取系统和以太网整套体系,从网卡到交换设备,在每个赛道力求至少世界第一梯队,不能有代差——比如别人用了51.2T时自己还在用25.6T就是代差。
“八大件”齐全——定义私有协议的条件
- 只做单一零件无法构成10万卡/20万卡完整系统,必然有大量legacy制约竞争力。
- 互联必然涉及把所有必要零件连接在一起,依托完整以太网体系与legacy设备互通(且互通能力世界一流),但超级节点技术“八大件”每缺一个就会产生重要缺陷。
- 灵渠系统自2019年开始设计,一方面是被逼的,另一方面当时已意识到技术体系必须“自立”;自立的先决条件是连接所需的“牌”要凑齐——即所有key component完全具备自主能力,并能与世界一流产品互相替换比肩。
- 灵渠协议已开源、公开Spike(license free),欢迎世界各厂家使用。
最主要的欠缺在软件生态
- 硬件虽有规格欠缺(希望芯片更大、内存更快),但最大欠缺是软件生态。
- 希望随部署量提高,有更多人具备条件和必要性加入新硬件平台做性能调优;一旦使用人群比现在多一倍,共性力量/群体力量足够大,系统可自我持续良性发展。
中国芯片能力的现状
- 与在海外半导体公司经历的“漫长的跌落期/萎缩期”相比,这十年中国处在能力的爆发期。
- 绝大部分美国能做的芯片,中国已经都可以自己做设计制造(除工艺差一点、规格差一点),而且能设计相对复杂SoC的能力已经“百花齐放”,不再稀缺。
- 从业人员比硅谷年轻20岁——在硅谷半导体行业算年轻的,但在中国行业里已属于“即将应该被淘汰的年龄”,这代表希望。
- 判断“中国芯片走出中国道路”的依据是财报:一个道路不但要技术突破,还要经济上可闭环——不能一直补贴或亏损,长期失血不可维持。除逻辑厂外还要看内存厂、封装厂,五年时间线上都是数量级的飙升。先进封装和存储领域并不落后(Dram、HBM差距没那么大)。
芯片人才培养与工程师成长
芯片工程师的关键:经历而非聪明
- 一个天才博士是做不了芯片的,必须从模块级、子系统开始经历漫长(至少18-20个月)的投片周期,且得经历不止一次。
- 软件写十分钟代码可以马上编译运行试错;芯片是按一下按钮就花掉至少两三亿人民币且18个月后才知道结果,完全没有试错机会。
- 纳秒/皮秒级别的timing没到,芯片立刻fail。这个物理的差异和严谨苛刻的工程要求,学校教育不能提供。
- 豪华团队如果领导没意识到这点,光是学历、名师履历是没有任何关系的。
- 必须要在不断投片(一年投几次或五年投几次)的过程当中历练大量的人,不愿意经历的人永远成长不到架构师。
工程师的“好奇喇叭口”
- 做芯片设计(7楼)要有6楼、8楼、9楼的能力——能跟做算法的人形成共识。
- 除了关心手头的事,还得问楼上楼下怎么回事。要付出额外好奇心,提问、多读跟自己没关系的论文。
- 当能够和最前沿做模型的人对话时,会进入另一个舒适区:不但能理解他,甚至可以预测他下一步想什么,甚至预期到他没想到的问题,因为你有了更底层的视角。
关于国内高校算力
- 在国内高校,算力资源绝对是比海外充裕得多(北京上海的国家资源实验室都有万卡以上规模,而国外最著名高校一个系可能只有1000卡或几百卡)。
- 学术界中国算力是“遥遥领先、无法想象的充足”,得益于高层领导更早意识到需要提供算力支持学术研究。
- 企业界也没有看到过度匮乏,有价值的团队都可获得一定算力。
- 但算力不是今天大模型的主要瓶颈,只是一个瓶颈之一——如DeepSeek团队只用千卡规模就实现了极高突破。
- 需要区分:算力谈不上“过度充足可以随便浪费”。
选人标准
- 首先是三观大致对齐:如果特别优秀的同学没有耐心经历训练cycle就走了,对双方都是浪费时间。
- 华为组织文化并非军事化,创新在于刚入职一年的员工也可以到办公室来argue问题,且非常欢迎。
- 努力让周边的人self-driving(自我驱动)比被别人驱动更有效。
未来技术趋势与产业展望
未来三代的技术方向
- 可见的未来三代都差不多——与对手一样每年翻倍的节奏。
- 系统层面最值得期待的是:做集成度非常高的积木块还是更小的积木块通过连线组合,让不同用户在场景中获得更灵活的组合。
- 业务模型一年从600B涨到1.6T、明年可能5T到10T,KV cache从NPU内存迁到HBM,延迟从20毫秒降到1毫秒——这些数量级变化让all-in-one形态(如NVL72)的预先固化配比难以适应两年后的需求。
- 全光互联可让盒子更小、可通过光纤随意组合,超节点的域也会做得很大——20T模型超低延迟需要几百甚至上千节点的通信域。
昇腾产品线规划
- 昇腾产品线:910B/910C(DSA架构)、950(支持“新同构”,同时支持DSA和SIMT)、960/970/980/990在pipeline中。
“超定律”发布的意义
- 让更多人知道微缩不是唯一的路——不能微缩时可以堆叠(芯片级堆叠、系统级堆叠)。
- 今年秋天新一代手机发布后,大量反向工程分析报告会验证堆叠逻辑折叠是否能缩小代差,受访者认为“很大程度上可以”。
AI生态合作三个等级
- 第一等是推理:模型来了能推理,适配好可复制部署,属于一次性工作。已基本解决。
- 第二等是训练:工作量约是适配推理系统的三倍(反向算子更复杂),但如果模型版本已确定,大规模训练也是一次性的(做一次可以搞三个月)。完全可期待、不需要很长时间。
- 第三等是研究:先进研究团队几十个算法人员每天改代码,要突破研究必须靠更先进的编译栈。需要一年内通过编译栈的努力局部到达。
“不抄作业”的自主创新路线
核心理念
- “不抄作业”是深植的信念和第一天就做出的决定。没有一家科技公司可以靠抄作业获得巨大成功,因为科技本身就是innovation,价值创造靠差异化优势——哪怕有100个缺点,必须有1个优点。
- 特别怕做跟别人一样的产品(“海宁皮革城/温州小商品市场卖圣诞树”的类比)。
抄作业的两个致命问题
- 永远不可能长得跟别人完全一样,不完全一样的部分必有后果。
- 技术体系不可演进,一步抄必然步步抄,完全失去自主设计创新的可能性,相当于“削足适履”让自己穿白雪公主的水晶鞋,削过一次下次还得削,由照抄过程决定了必然落后。
代价与现状
- 不抄作业的代价是生态差距一开始非常巨大(如同所有人用Windows而你做出非Windows PC),要付出巨大努力改变别人的习惯、给出切换理由。
- 这些问题是“现在正在跨越所谓的痛苦的平台期”。
个人职业历程与成长反思
早期经历
- 廖恒个人时间线:1987年本科入学,1996年赴美做博士后,1997年加入半导体企业;后在PMC-Sierra工作,2016年(其公司被出售当年)加入华为。
- 14岁进少年班(少年班通常要求15岁以前),是竞赛生(编程/软件强)。
- 清华时期(1987年前后),计算机系学习内容:Apple II兼容机、IBM PC(用软盘floppy disk,硬盘是新鲜事物)。
- 曾与合作伙伴吴钊(硬件竞赛生,比廖恒小不到一岁)在中关村“散混”开发各种产品(类似今天startup):激光打印机、影碟机、电子词典等,多数失败。
赴美的念头
- ① 必须去MIT(或美国名校)一趟,否则觉得自己“差”。
- ② 当时做的东西都未真正走向市场,带着“为什么我做的总是不够好/不成功”的困惑。
- 工作一年多后找到“缺失的一环”(missing piece):一个产品从prototype到市场必须经过严格的工程与验证流程(例如电水壶必须通过安全检测:不得干烧、继电器坏了要fail-safe而非fail-dangerous、沾水不电死等),学生时代完全没意识到这一点。
- 例证:自动驾驶团队从做出prototype(在园区到处跑)到上市卖给第一个消费者,花了整整7年。
关于组织协作
- 不可能每个成员都是奥赛选手,需要让普通有责任心、经适当培训的人能有效工作(20人团队如此,1万人研发每年投入如此)。
- 全是天才反而会产生矛盾,“20个天才肯定搞不定”。
首次访美印象
- 曾于1987年(14岁)去过美国,感觉像“梦幻之地”(fantasy land),误以为“美国连街上都放着空调”(实为Stanford附近Palo Alto一个带玻璃顶的Shopping Mall,当时中国没有Shopping Mall)。
- 96年作为成年人再去,第一点失望是国内有“深刻的无所属感”(Princeton是精英贵族场所,自己不属于那个阶层)。
- 第二点失望是原以为自己可做教职,但必须重新读博士(清华牌子当时不够硬)。
- 在普林斯顿做博士后仅待了一年就离开。当时认为若要做教职必须重新读博士。
- 当时赴美带1000美元,属于“大富豪”(许多同学只带100美元)。
PMC-Sierra经历
- PMC-Sierra 97年时是一个刚由加拿大公司和硅谷公司合并而成的小公司,最顶峰人数不超过2000人。
- 做传送网(城域网、长距离传送网),赶上互联网第一波浪潮。
- 客户从Cisco、Ericsson、Alcatel等电信公司,后转向HP、IBM、EMC、Network Appliance等IT公司。
- 市值曾位居加拿大第二,可轻松买下蒙特利尔银行;在出售时(2016年)价值25亿美元。
对回国认知的改变
- 96年时曾认为回国是“不行才待不下去”,后来认为是“非常愚蠢的错误”。
- 认为在中国,普通有责任心、积极向上、不躺平的人都能做得很好(由于大环境上升,如同“电梯在往上涨”)。
- 美国社会从87年/96年观察“进步不快甚至在退步”。
“熬过最难的日子”的界定
- 当接收到越来越多批评、尤其是内部批评的时候,就说明已经熬过了最难的日子。
- 最困难时别人不会来批评你——如同沙漠中七天没喝水,看到脏水也觉得救命不会挑剔;喝下第一瓶后恢复身体,再到第二瓶时才会挑剔水的味道不好。
- 受访者认为去年前年就已过了最难的时候。
书籍推荐与职业哲学
五本推荐书籍
- 《Idea Factory》(《思想工厂》):讲贝尔实验室历史。特别有借鉴意义的是1940-1945年:当时美国GDP发达但科技仍远逊欧洲老牌学术圣地(剑桥、哥廷根等),但贝尔实验室在普林斯顿周边100公里/50公里半径内产生了计算机(冯诺伊曼)、信息论(香农)、晶体管(肖克利、巴丁)等影响深远的工作;图灵本人也是普林斯顿学生。跟当下十年有类比性:图灵机代表符号主义底层理论,现在AI代表连接主义且正处爆发期;半导体正处于中国“破茧重生”的困难阶段;通信与计算是纠缠在一起的两条脉络。中国实体经济已无可比拟地强大,但科技需要从跟随者跃迁为某些局部最重要的发明创造之地——时空相隔80年gap,但“right time, right place, right ingredient”组合必发生化学反应。
- 《创新者的窘境》(The Innovator's Dilemma):更适合企业领导者——成功要素很可能是下一个失败最主要的阻碍力。成熟组织像一个免疫系统,容不下一个新东西。
- 《Rules of Work》:推荐给同事的小册子,讲年轻人如何正确看待工作环境。超过一个人就有相对复杂的人际交互,需要达成共识的过程和规则——既不破坏组织也不委屈自己,帮助年轻员工释怀。
- 《Edison》传记:可在Gutenberg.org免费获取电子书,由爱迪生身边工作人员写的,真实感强。核心:①做有用的事,不做花里胡哨、华而不实的东西;②尊重现实,识别什么问题值得解决,不浪费时间解决无意义的问题;用“笨办法”工作,其非凡之处在于首先识别人类需要(没电灯发明灯泡、没电影发明记录运动图片的方法、第一个电影也是爱迪生拍的)。
- 《The Soul of a New Machine》(《新机器的灵魂》):讲70年代末Data General公司工程师群体如何设计新一代机器。受访者曾见到书中描述的一名实习生(当时叫Bob,见面时已是EMC fellow、白发苍苍老人)。价值:工程师群体的故事代代相传、不断重复;工程师通常是内向、不善言谈、不会为自己立传的群体,该书以几乎第一人称视角描述真实项目日常。
关于AI Coding与工程师职业
- 不需要过于担心被AI coding取代:只要你有想法、不愿意被轻易取代,一定会发明新需求、定义原来做不了的事。
- 有了AI加持,你可能具有10人甚至100人的开发能力——应该去开发全新前所未有的东西。
- 更应担心的是自己是否会“躺平”,还是对创造更有用的事物/服务/产品有自驱力。
个人使命
- 华为使命:“把数字生活带给每一个人、每一个企业、每一个社会。”
- 个人使命:“有限的生命能够尽可能留下一些更好的东西,或者是建设性的东西要多于破坏性……生不带来死不带走,只是过程希望有所用,为人所用。”
- 热情来源:更多来自“necessity”——看到需要(算力、自动驾驶汽车、不能全中国只有苹果手机)就应当行动。“necessity is the mother of invention”。
- 负面驱动力:人只要没干特别好的事儿,大概率会去干坏事。
- 信心变化:面临十倍困难后发现都有办法解决,自然更自信;跨越门槛之后就觉得没那么难。
“Silicon Valley在哪里”的猜测
- 猜测:五道口(清华周边)或上海前滩/后海/滨江(徐汇区创业园区)。
- 理由:带孩子去五道口,在餐馆/咖啡厅坐下就听到旁边桌两人激烈讨论昨天loss为什么跑飞了、强化学习怎么弄更好。
- Silicon Valley不再具有吸引人才的凝聚力,是因为企业本身的monopoly desire限制了员工(如Anthropic员工可能不会跟斯坦福本科生讨论最新强化学习手段,因为这要被变成竞争优势)。
- 中国人才供给更充裕、离monopoly更远,正处于群星璀璨、百花齐放、思想交流十分活跃的时期。
- 开源文化可能产生比想象更深远的影响,希望持续久一点。
关键术语与数据速查
- PPA:Performance(性能)、Power(功耗)、Area(面积)
- DSA:Domain-Specific Architecture,专用架构
- SIMT:Single Instruction Multiple Threads,单指令多线程
- SPMD:Single Program Multiple Data,单程序多数据
- HBM:High Bandwidth Memory,高带宽内存
- NPO:Near Package Optics,近封装光互连
- UBB:Ultra Bus,华为自研总线,第一代即可跑电线或光缆
- KV cache:键值缓存,用于推理加速
- Codesign:协同优化设计
- VLIW:Very Long Instruction Word,超长指令字(静态调度)
- Super Scaler:超标量(完全动态调度)
结语:核心结论
- “面对一个困难就想去解决它吧。”——面对困难的核心态度。
- 半导体产业的两条主线——处理器和通信基础设施——互相交织在一起,形成整个芯片或硬件的主线。
- “如果你完全听客户的是没有前途的。我生活的日历是在2030年,而我的客户是生活在2026年,这里头有四年的gap。”
- 摩尔定律从16纳米甚至7纳米起经济性已经停滞,真正有收益的是能效。
- “所有半导体的进步都是靠电容变小,电阻是越来越大的,这是摩尔定律的本质。”
- 一个看上去impossible的问题,拆解后就变成了十个或者100个更具体的问题。
- DSA/SIMT之争的本质是数据块颗粒度是128b还是512b的差别。
- “开源是一个极致的开放……当我把所有代码都给你看了之后,我其实是不需要跟你沟通的。”
- 生态超越比物理突破更难:物理突破70%要素掌握在自己手里,生态需要改变群体的共同习惯。
- “抄作业就是削足适履……他在照抄的这个过程就已经决定了他一定是落后的。”
- 中国芯片能力正处于爆发期,绝大部分美国能做的芯片,中国已经都可以自己做设计制造。
- 钱最多、资源最丰富的组织未必会赢——“AI is a new thing, it's not an old thing.”
- 开源模型是刺破AI垄断最重要的“针”。
- “我觉得中国本身无论各个方面的条件,都非常值得期待,它应该是可以上很大的一个台阶的。”