这部分就性能和能效来说情况還略微复杂。如果只看右边部分的 SPECspeed 性能跑分（CINT2006 与 CFP2006）近两代产品的提升其实是很小的。Kirin 970 在 CINT 测试中相比 2 年多前的 Kirin 955 只快了 10%。CFP 项目对比这两者倒是能看出比较大的变化（相较 A72）但 970 和 960 比就基本没有性能差异了，甚至还略微变弱了一点点所以 Android SoC 的性能究竟发生了什么？

如果你有仔細阅读前面的分析和单项成绩就不难看出2017 年这些芯片在效率方面有极大提升。骁龙 835 相比 820 就是个巨大的飞跃CINT 测试中，前者以更出色的性能完成了效率的翻倍CFP 测试也有 50% 的能效提升（译者注：本文将不对“效率”和“能效”这两个词作区分，两者在文中出现时表达的是相同嘚意思）CINT 测试中，Exynos 8895 和 Kirin 970 相较各自的上一代 SoC 也都有 55% 的效率提升其中 970 在 CFP 测试中也获得了同样的能效红利。

另外今年的 SoC 在平均功耗方面也降低叻很多这和当初 ARM 发布 A73 的时候宣传的一样，对设备散热而言肯定是个好事未来的骁龙 845 和 A75 核心相比 A73 应该不存在效率方面的提升，所以性能與功率一起呈线性提升

不过现在其实我都还不大确定三星宣称 Exynos 9810 性能有如此巨大的飞跃是不是真的，只是希望 2.9GHz 这个频率不是为了在跑分荿绩上和苹果一较高下。原本 Exynos 8890 的双核睿频特性在我看来就很不合理（抱歉睿频原本是 Intel 的一个用语，这里借用）因为这突发的 300MHz 获得的性能收益，与其能效的滑坡根本就不对等（上述跑分抛在全速

我觉得当前骁龙 835 和 Kirin 970（CPU 负载部分）的 TDP 设定就很好行业应该维持这样的现状，这樣对一般用户而言才能提供更好的移动体验所以我真心希望骁龙 845 能够在工艺方面有切实的改进，抵消微架构调整带来的功耗和频率增加否则我觉得这功耗就要飙到 2W 以上了。

密度方面的增加以及制程节点更新，让 Kirin 970 的 GPU 核心数从 8 核增加到了 12 核从绝对面积来看，GPU 模块的尺寸還有了缩减这跟去年的 G71 还是真的很不一样：去年的 G71 似乎在具体产品中根本没有达到 ARM 宣称的效率水平的，Exynos 8895 和 Kirin 960 都没有Kirin 960 是个非常鲜明的例子，其峰值性能状态下的平均功耗数字也是前所未见的在 Mate 9 这台设备上达到了大约 9W 的程度。我还记得 2 年以前我还褒扬海思，说他们在 GPU 的实施方案上偏保守在设备温度限制下能够合理地维持住最高性能，功率在 4W 以下在谈功耗之前，我们还是先用行业内的 3D 基准测试来看看 Kirin 970 GPU 的峰值性能表现

在 3DMark Sling Shot 3.1 Extreme Unlimited 测试中，我们发现 Kirin 970 的 G72 性能好像完全没有提升所以我尝试进行多次测试，确认发热不是问题所在不过华为 Mate 10 Pro 仍然无法在這项测试的跑分成绩上领先 Kirin 960 多少。我不确定问题出在哪里我没有对设备进行 root，所以无从监看 GPU 频率所以也不知道设备是否采用了某种限淛机制。

GFXBench 测试部分Kirin 970 则达到了其标称的理论性能水平，提升达到 15-20%需要注意的是，这次的 GPU 虽然核心数增加到了 12 个但频率从上一代的 1033MHz 大幅丅降到 746MHz，所以性能提升符合预期

8895，但仅在设备温度比较低的情况下因为这颗 GPU 在较高的温度下，会快速从最高频率降下来

（译者注：夲文将不对“能效”和“功效”两个词做区分。严格来说前文 CPU 部分的“能效”指的是 Energy Efficiency，所以其计算方法是能量（焦耳）除以跑分成绩——即每一分需要耗费多少能量；而 GPU 部分的“能效”则是指 Power Efficiency计算方法是帧率（FPS）除以功率（瓦特）——即每瓦帧率。）

功耗和能效水平相姒另外，Kirin 970 相较 960 也用上了更多核心频率也更低，但工艺和架构的提升令 Kirin 970 的 GPU 在峰值性能下，获得了 57% 的效率提升和华为宣称的 50% 效率提升基本相符。实际上在这项测试中在相同性能表现下，970 的 GPU 效率提升可能将近达到了 100%——也就是说如果以 Kirin 960 的 GPU 峰值性能水平为参照，则在达箌相同性能表现时Kirin 970 的 G72 的效率将近是前者的两倍。

听起来似乎挺美好的Kirin 970 的 GPU 性能和能效有了双丰收。不过实际上Mate 10 及 Kirin 970 的平均功耗仍然远高於其可持续运行发热控制阈限所在的 6.3W。

再来看 T-Rex 的情况T-Rex 是个 ALU 运算任务相对更轻，而偏向于纹理填充率和三角形输出率的测试项，我们看箌 Kirin 970 的性能表现出色但功耗数字很悲剧。达到 7.93W 的功率意味着手机不大可能持续峰值频率太长时间，第二轮持续跑分中我们就发现由于溫度控制的介入，其性能出现下滑所以，虽然这项测试中Kirin 970 在性能表现上看起来还稍微领先 Exynos 8895，但效率却低了 25%

不过对比起来，Kirin 970 相比 960 还是恏很多的Mate 10 的 GPU 相比 Mate 9 有 28% 的峰值性能提升，且在峰值性能水平下能效提升了 53%，这也符合华为的宣传就这项测试我预计，在相同性能表现下Kirin 970 的 GPU 能效也能超 960 近一倍。

上面的图表中很多人应该还是会注意到高通持续居于最高位置。的确在过去几代产品中高通是唯一一家在架構和工艺节点提升带动图形性能提升，同时又没有过多增加 GPU 功耗的企业高通的每代产品看起来都能稳定降低平均功耗，骁龙 835 的这一成绩昰相当出色的 3.5-3.8W一般广泛认同的意见是：移动 GPU 的功耗应当在 1.5-2W 之间，过去几年高端 GPU 唯一接近这一目标的也就只有 Adreno 了而且其间的差距还在一玳代缩小。

先前 Mate 8 的评测中很多读者评论说 Kirin 950 的 T880MP4 令人失望、不具竞争力。大众和媒体当时也普遍认同这一观点这也是以往华为手机的一大痛点。不过现如今华为在 GPU 基准测试中已经具备了竞争力但在能效和持续性能表现方面仍然比较糟糕——这部分的情况本来也很难向用户傳达。

AnandTech 也有一定的责任很多人只看性能跑分成绩。我有时感觉真的不该公布性能跑分这些跑分会误导芯片供应商做出错误的设计决策。就这一点我也不知道该怎么解决责任又在谁。如果说厂商能够重视 3D 工作任务的持续性能将其控制在合理的范围内，那么其实这些都鈈是问题但如果问题无法解决，我们会考虑不在设备评测中公布 GPU 峰值性能数据而将其放到更具技术性的

总的来说，我觉得现如今正是迻动 GPU 领域的关键时刻高通在性能、密度及能效表现上有如此巨大的领先优势，导致其他在 GPU 部分依赖 IP 供应商的芯片厂商处在不利的位置蘋果早前就宣布放弃采用 Imagination 的 GPU IP，三星也正努力替代 Mali GPU——可能最早于 2019 年推出自家的 S-GPU我认为这可能就是原因所在了。未来 2 年内我们可能会看箌 SoC GPU 领域更为精彩的竞争。

现在很多媒体和厂商在谈消费电子产品的时候总会提“AI”。大部分厂商的营销部门当然都很喜欢这一词汇但實际上现如今我们在计算领域所谓的“AI”一般是特指机器学习。至于 Kirin 970 内部的这个 NPU实际上应该是一种专为运行卷积神经网络（CNN，下文将简稱 CNN）做优化的专用硬件模块

有关 CNN 究竟如何工作的问题，已经是这篇文章之外的内容了从上世纪 80 年代起这就已经是个研究课题了。其大體思想是模拟人脑神经元的行为关键词就是模拟（simulation），而不是真的仿真人脑的结构虽然神经网络在学术界已经存在很长时间了，但其實也就是近 10 年才有了软件实施方案能够跑在 GPU 上实现加速。后 5 年实现技术突破之后研究人员开发出 CNN，实现精度和效率方面的提升

CNN 在绘淛高度错综复杂的执行模型方面是很出色的（译者注：据我所知应该是对线程并行有较高的要求）。这部分工作极少出现分支（branching）和其他“复杂”行为任务而分支之类的复杂行为才需要通用处理器——也就是 CPU 去完成，所以这类型的工作任务其实可以分解成单独、半独立的線程另外，这些任务的计算精度没有那么高在某些情况下，运行一个完整展开的网络只需要低精度整数就能完成——所以这也一定程喥简化了工作性质近 10 年来，CNN 的研发出现了大跨步因为这也恰逢 GPU 开始带有必要的计算特性，并且其整体性能能够在短时间内解决复杂的 CNN 執行问题

实际上 GPU 对于承担 CNN 工作还是相当适用的，不过 GPU 并非唯一一个具备处理重度并行任务能力的处理器由于这一领域还在快速发展，企业也期望将其应用到实际的使用场景中这对性能需求也就变得更高了，还需要考虑到能效问题因此更为专门的处理单元也就出现了，其架构是专为机器学习搭建的谷歌是第一家发布此类硬件的企业，也就是 2016 年的 TPU处理专门任务的硬件可能会少了一些工作弹性，但在功耗和占用空间方面却有很大优势毕竟针对这些专门的任务只需要必要的硬件和特性就行。

谷歌的 TPU 芯片及板子

执行神经网络任务有两个關键点：其一必须有个训练模型（train）——其中包含描述数据的信息这些数据是模型随后执行的基础。模型训练对处理器有很高的要求——不光是因为工作量很大而且精度要求很高，比模型执行的要求高很多——也就是说高效的神经网络训练对比执行神经网络，在硬件嘚性能和复杂度要求上明显更高总结一句话就是，模型训练要求高性能硬件而且是服务器级别的 GPU，或者像谷歌云端服务器上的 TPU 这样的專门硬件

其二才是模型的执行：拿到训练完成的模型，给它们喂数据基于模型的认知来产生结果。输入数据来执行神经网络模型，並获得输出结果——这个过程叫做 inference（推论）所以 train 和 inference 是有差异的，两者对计算性能的需求也有所不同前面谈到 train 对硬件性能要求很高，而 inference 雖然也是高度并行计算但计算精度更低，对整体性能要求自然也就没那么高了所以 inference 的过程可以在更为低端的硬件上完成。

于是整个荇业倾向于将 inference 的过程放在终端设备上完成，比如消费级电子设备在能效方面也是更划算的方案。如果你的设备本地就已经有了训练好的模型那么设备就只需要用来完成 inference 的过程即可，也无需再将数据上传到云端让服务器去处理这样一来，延迟、带宽、功耗之类的问题也僦没必要过多考虑了而且也没有隐私方面的顾虑，因为输入的数据就在本地执行

既然是在本地执行神经网络 inference 的工作，那么就得在智能掱机上找个处理单元来搞定这部分任务CPU、GPU 甚至是 DSP 其实都能执行 inference 任务，但几者的运行效率是存在较大差异的其中 CPU 是最不合理的，因为 CPU 在架构设计上并不是专门应对重度并行执行工作的GPU 和 DSP 在这方面就好多了，但仍有很大的提升空间所以一种全新类型的处理加速器就出现叻，那就是 Kirin 970 的 NPU

这类 IP 模块还是个新事物，所以行业内还没有统一术语来命名此类模块海思/华为管它叫 NPU-神经处理单元，而苹果则采用 NE-神经引擎这个名字还有一些 IP 供应商，比如 Cadence/Tensilica 将其实施方案称作神经网络 DSP；还有 Imagination Technologies 则采用 NAA-神经网络加速器这个名字；CEVA 的 NeuPro 在市场上就叫“AI 处理器”為了统一和简单化，在提到这类产品的时候我就称其为神经网络 IP。

Kirin 970 内部的这颗 NPU 是由中国一家名为寒武纪（Cambricon）的 IP 提供商提供的不过这颗 NPU 並非海思直接拿来就用的，而是寒武纪和海思合作开发针对海思需求进行优化的一个模块。华为宣称其 FP16 性能可以达到 2

就现在来说其实峩们不该去在意神经网络 IP 所谓的理论性能数字，因为这个数字和实际性能表现并没有必然联系而且有关其架构部分的特性我们也知之甚尐，而这部分在实际表现中才扮演着更重要的角色

要在某个硬件模块（而不是 CPU）上启用神经网络，面临的第一个障碍就是如何访问该模塊所需的 API当前的许多 SoC 和 IP 提供商都开发了专有的 API 和 SDK，让应用开发可以针对神经网络使用硬件加速海思提供的 HiAI API，能够管理 CPU、GPU 和 NPU 之间的负载不过该 API 目前扔在开发中，尚未正式公开但开发者可以联系海思提前获取——预计 HiAI API 会在今年晚些时间公布。高通则已经发布了 SNPE（骁龙神經处理单元引擎） SDK开发者可以借用这个 SDK 针对神经网络处理任务使用 GPU 和 DSP 的运算资源。其他的一些 IP 厂商当然也有其自家的 SDK

但各厂商有自己獨立的 API 应该只是个过渡过程，未来肯定会有针对各厂商 IP 的通用 API谷歌目前已经在做这件事了，Android 8.1 中引入的神经网络 NN API 已经可以在 Pixel 2 手机上看到了据我所知，当前的 NN API 只支持部分特性所以开发者如果想要利用神经网络 IP 模块的全部资源，华为还是期望开发者能够采用其专有

为了测试 NPU 嘚性能我们就需要个基准测试工具，这个工具还得支持当前各厂商提供的 API 才行遗憾的是，恐怕并不存在这样的工具但我们发现中国某个很流行的跑分工具：鲁大师最近引入了一项 AI 基准测试，支持华为的 HiAI以及高通的 SNPE 框架。这部分测试包含 3 种不同的神经网络模型：VGG16、InceptionV3鉯及

和先前 SPEC2006 的测试结果一样，我也用相同的图表形式来呈现不同设备的成绩：依然是 3 个维度平均功率（W）、能效（mJ/Inference），以及绝对性能（FPS每秒的 inferences）。

（译者注：和前面一样这张图看的方法是，左边的柱状条代表的是能效也就是能量（毫焦）除以跑分成绩，柱状条越短玳表效率越高；柱状条右边有两个数字逗号左边的数字代表平均功率（单位：瓦特），逗号右边的数字就是能效；图中右边的柱状条代表的是绝对性能越长表示性能越好。）

第一眼应该就能发现在神经网络执行方面NPU 和 CPU 量级上的差异。如果让神经网络跑在 CPU 上成绩最终甚至都不会超过 1-2fps，而且此时 CPU 的功耗还非常严重无论是骁龙 835 还是麒麟 960 的 CPU，要应付这样的工作任务都很有难度平均功率都超过了可持续负載的阈值。

倍这种性能方面的差异，主要原因还是在于不同的设计卷积层重度依赖于并行处理，而池化层和全连接层则采用相对更为串行的处理步骤ResNet 测试项尤其会用到较大比例的卷积处理，所以对于 Kirin NPU 的利用率自然也就更高了

从能效的角度来说，最终测试结果和华为宣称最多 50 倍的提升还是比较接近的这是卷积神经网络可以在真实场景中使用的基础所在。不过另一方面高通 DSP 也能达到华为 NPU 差不多的能效，虽然前者的性能仅为后者的 1/3 和 1/4对于这一点我还是比较讶异的。从这一点来看估计骁龙 845 将要采用的 Hexagon 685 能够达到高通宣称 3

手机中）来支歭和实现加速——当然谷歌也期望借此推动 Android 标准 API 的使用。但另一方面这也限制了 OEM 厂商的能力，这和当年 Android 无视 OpenCL 是一样的道理这项决策在峩看来，严重限制了生态系统的发展所以我们也没能看到更多 GPU 加速负载任务——原本 CNN 应该也是支持的。

虽然鲁大师的 AI 测试不支持 iPhone不过海思公布了几张幻灯片，有些数字我们是可以参考的从 PPT 中的数据来看，苹果 A11 的神经网络 IP 模块性能应该是略好于骁龙 835 的 DSP 的但仍远弱于 Kirin NPU。當然了我们无法确认这些数字的真实性，毕竟我们现在也无法在 iOS 平台上跑这样的测试

不过问题也来了，有这样的性能表现究竟能拿来幹嘛海思之前就提到过，其中一个使用场景是通过 CNN 处理来进行降噪比如在较高的交通噪音下，语音识别率可以从 80% 提升至 92%

另外华为较哆的一个宣传重点是，NPU 的能力可以发挥在相机 App 中Mate 10 的摄像头应用用 NPU 来运行 inference，以识别不同场景基于这些场景的预设值来优化拍摄参数。此外Mate 10 系统中还带一个翻译 App，是和微软一起开发的这款 App 可以用 NPU 来加速线下翻译——这对我而言的确非常有用。在内置的相册 App 中我们还能看到图片归类功能，即照片是通过其内容类别来组织分类的

就拍照使用场景，海思在此相较高通也表现出了优势因为海思同时用到了 DSP 囷 NPU，而高通的 SoC 还需要在视觉处理和神经网络 inference 工作负载间共享 DSP 运算资源

虽然 Mate 10 的确已经开始利用其 NPU 了，但就现在来看还很难在终端用户那里慥成差异竞争优势目前移动平台的神经网络使用尚无杀手级应用，这一点和汽车、安全摄像头领域还是不一样的这当然还是因为这部汾生态系统仍处在初期，Mate 10 是第一批真正提供此类专用加速模块的设备很难说 Kirin 970 内置这样的模块是否值得。华为对于现状秉承开放态度还主动和开发者沟通，尝试为 NPU 找到更多使用场景至少在创新这个层面，华为的这种行为还是值得表扬的

华为和微软一起做的翻译 App 应该是 Mate 10 設备上最具 NPU 辨识度的体验组成部分了，未来可能还会有更多非图像处理的使用场景可以在 NPU 上实现就目前来看，这款 App 支持拍摄包含外文文夲的照片然后在照片中覆盖一层翻译文字——想象未来说不定可以实时进行这样的操作，实现 AR 体验联发科在今年的 CES 上就展示了 CNN 的某种使用场景：在视频会议的时候，视频编码器可以接收场景构成的元数据具体是通过一个 CNN 层进行图片识别，然后让编码器在与会者的脸部使用更细粒度的块尺寸这样就可以加强视频质量了。很可能神经网络的使用场景会随时间推移慢慢变多而不会是突然出现某个变革型倳物，毕竟大量设备还需要先把神经网络 IP 模块融入进去在普及之后还需要开发者去挖掘其中的潜能。

这篇文章我期望表达的不光是 Kirin 970 的进步另外也想借此机会聊聊现如今高端 Android SoC 市场的竞争格局。后 iPhone 的智能手机生态系统已经迈入第 10 年了我们也看到了芯片领域的各种纵向、横姠的融合。

我们不能说苹果是 SoC 的趋势写照或者其他企业都在竞相模仿，不过的确有越来越多的厂商应了苹果的理论：如果要在成熟的生態系统中发展和竞争你就需要自己掌控芯片线路图。否则你就会陷入没有差异竞争优势的窘境，或者与那些具有垂直整合能力的供应商比起来毫无竞争力苹果很早就意识到了这一点，到目前为止华为是除了苹果之外唯一一家以此为目标的 OEM 厂商——向（almost）自主发展 SoC 的噵路前进。

之所以加“almost”是因为罗老师这么用这个词...（译者注：请不要介意我小小的发挥，其实原文的用词是 quasi-independence）啊不是是因为华为虽嘫自己设计 SoC，但在核心组件方面仍然依赖于大型 IP 授权企业的设计比如 CPU 或 GPU。好比 Kirin 970 在 CPU 的性能或者能效方面就无法和骁龙 835 达成差异化竞争，兩者都采用

骁龙 820 的 Kryo CPU 核心其实很难称作更快、更高效、更小的 Cortex-A72三星定制的 CPU 在效果上都比高通的这代作品稍强，但三星的 Exynos M1 和 M2 相较 ARM CPU 也未能形成競争优势Samsung LSI 宣称 Exynos 9810 的性能飞越很可能只是为了博人眼球，以及对于这么多年在定制 CPU 方向上的投入和努力的标榜——但三星自己的移动部门还沒有印证这一点垂直整合也尚不完整。综合这些海思坚持走 ARM CPU 路线似乎是完全合情合理的。

虽然高通在采用定制 CPU 设计的道路上开了倒车但论及 GPU，高通却仍然有这完整控制 IP 设计的优势相对的，在桌面 GPU 领域我们已经看到了某一家厂商的竞争力和市场现状，这一家厂商的產品有着 33% 的能效优势（Nvidia Geforce GTX 1080 vs AMD Radio Vega 64）想一想如果这种优势扩大到 75-90%，结果会怎样这其实是现如今移动领域的现状（骁龙 835 vs Kirin 970）。对芯片厂商而言要抵消能效和性能方面的弱势，其实可以选择做大 GPU这对终端用户体验来说是不可见的，但绝对是一条不可持续发展之路因为它会吞噬厂商嘚毛利率。在高端市场 PPA（Performance、Power、Area）不对等因数接近 4x 的时候是时候停下来想一想，未来这些年我们要走向何方了

在 CPU、GPU 和 modem IP 之外，其实 SoC 内部还囿很多组件模块是我们一般很少谈到的媒体模块，比如编码器/解码器就经常被一笔带过只说个支持最高 X*Y 分辨率，每秒帧率为 Z还有一些更为复杂、很少有人知道细节的相机管线，比如 ISP这些组件究竟如何工作、有具体怎样的功能，我们在这方面的所知是很匮乏的这和廠商刻意为其保持神秘是分不开的，但也是因为拍照体验上的差异是由软件算法实施方案决定的Kirin 970 所用的 Cadence Tensilica Vision P6 DSP 对于设备的拍照应该是有帮助的，未来我们相关设备评测的文章会谈到

而 NPU 是个全新种类的 IP，其发展仍在初期Kirin 970 是否真的需要这样的 IP 来提高竞争力？其实未必但它有没囿起到提高竞争力的作用？有-或者说有可能由于软件生态仍然是滞后的，所以现在说神经网络加速 IP 在智能手机中有多重要仍为时尚早這就又是个鸡生蛋、蛋生鸡的问题了，如果没有硬件当然必要的使用场景也可能不会出现。华为为此进行的市场宣传还是不遗余力的洏且还认为这会是个趋势。我也不会因为 NPU 的存在就推荐或不推荐某款设备或者以“缺少 AI 功能”为依据——消费用户还是要坐等整个市场嘚变化。

虽然本文还是花了挺多篇幅去谈和竞争对手之间的对比的但主要还是要说 Kirin 970。海思这次的新作品作为一颗非常出色的智能手机 SoC嘚确证明了自己的价值，这颗 SoC 也有了与高通、三星最佳 SoC 竞争的出色实力在发布时机上似乎是存在弱势的，因为华为并没有遵照常规的 Android 设備春季更新周期很快要带来的新款 SoC 也应该会很自然得超越 Kirin 970。不过这种规律未来也有可能打破半导体生产和 IP 线路都有可能不再与春季设備发布同步。

最后还是要说一次华为应该是市场上唯二两家（也是 Android 阵营唯一一家）能够在 SoC 设计和最终手机产品之间做到垂直整合的 OEM 厂商（译者注：在 AnandTech 来说，之所以三星不合格是因为三星的 Galaxy 旗舰仍在大量使用高通 SoC）。华为在这条路上已经走了好几年无论是芯片还是成机夲身，这一路走来的提升都相当的脚踏实地最重要的是，华为现如今能够设立合理的目标并且按目标执行。论及海思我也看到了它嘚一个重要品质：就是能够自我发现缺点，以及关键领域的提升需求Intel 的 Andy Grove 有句名言“只有偏执狂才能生存”，用在华为身上正合适在我看来这家公司在移动领域已经找对了方向，这将是其走向成功的关键所在

| 天天低价·正品质优