三款自研芯片，如何让亚马逊云科技凌云驭势

　　有关注云计算领域的朋友可能知道，在今年的11月底到12月初，亚马逊云科技按惯例召开了2022年度的re：Invent全球大会。在这场活动中，亚马逊云科技不仅再一次高调秀出了他们的年度业绩、行业地位，同时还发布了一大批全新的软硬件服务、最新的云计算技术，展示了云计算的前沿发展方向。
　　然而，re：Invent全球大会毕竟是一场持续数天、涵盖数百场分论坛的大型活动，所以想用一篇内容来总结它的内涵，几乎是不可能的事情。正因如此，我们三易生活选择了耐心等待，直到近日亚马逊云科技在国内专门针对2022re：Invent全球大会的内容，进行了一次精练的、生动的宣讲，再结合我们此前已经获悉的相关信息，才有了今天这篇内容。
　　即便如此，我们也并未打算去讲那些太过深奥的内容。因为今天我们要关注的话题，其实是2022re：Invent全球大会上最为耀眼的硬货，三款亚马逊云科技自主研发的全新云计算芯片。
　　NitroV5、Graviton3E、Inferentia2三箭齐发
　　首先，我们来看看这三款芯片的基础规格。
　　其中，NitroV5是一颗同时肩负虚拟化、网络处理、以及存储管理功能的芯片。而作为亚马逊云科技早在2012年就已开始研发、资历最老的自有芯片产品之一，Nitro的每一代演进几乎都会带来翻倍级的规格提升。
　　例如，第一代Nitro的网络性能只能做到万兆级别（10Gbps），到了第四代就已经可以做到十万兆（100Gbps），性能提升了十倍。而在报文转换能力方面，第一代Nitro只能每秒钟转发约120万个报文，到第四代一秒钟的转发能力就已经达到了1500万个报文，上升幅度甚至超过了十倍。
　　同理，NitroV5的晶体管数量是上一代的两倍，数据包转发能力提升了60、延迟减少了30，同时它还变得更省电了，其每瓦特的性能提升了40之多。
　　其次，我们还迎来了Graviton3E，这也是亚马逊云科技自研高性能CPU家族的最新成员。根据官方公布的信息显示，它专门为浮点和向量指令运算进行了优化，在特定场景中能够带来35的性能提升。
　　最后，针对机器学习推理场景，亚马逊云科技此次还发布了下代自研推理芯片Inferentia2，以及基于它的AmazonEC2Inf2实例。与前代实例相比，新的实例吞吐量提升了4倍、延迟降低了90，同时每瓦性能提高了45。
　　自研芯片意味着什么？它能大幅强化竞争力
　　众所周知，对于大型服务器来说，虚拟化几乎是必须要有的一大技术特性。它不仅可以解决硬件架构之间的差异问题，也能大幅强化整套系统的安全性。
　　但是传统的虚拟化技术是依托CPU指令集实现，这就意味着一旦开启，就会额外消耗CPU算力、降低内存性能。而对于云计算体系来说，算力降低就意味着成本的上涨，无论是对于运营商还是客户来说，显然都会造成损害。
　　明白了这一点，我们再来看看亚马逊云科技此次推出的自研芯片组合。首先NitroV5最大的特别之处，就在于它能够完全接管整套系统的虚拟化计算工作。也就是说，有它在，CPU本身便不再需要浪费算力在虚拟化指令集上，可将自身的性能100用于工作负载、解放生产力。
　　其次，与传统的、服务器用的x86处理器相比，亚马逊云科技自研的Graviton3系列处理器一方面使用了时下最新的小芯片架构，来降低制造难度、提升成本优势。另一方面，它不带有SMT（也就是俗称的超线程）功能，所有的虚拟CPU都会按照1：1的比例分配给物理内核，这就使得它降低了指令预测过程中的性能消耗。
　　最终与使用x86架构的EC2实例相比，基于Graviton3处理器的EC2实例能效高出了60，这就意味着在执行相同的计算量时，它的单价更低、可以直接为客户带来实惠，并为亚马逊云科技的业务带来显著的性价比优势。
　　最后，机器学习模型近年来发展的越来越快，如今一个大型模型可能会拥有十亿个变量，并且在一两年后，这个数字可能会发展到万亿个的级别。这也就意味着，传统的硬件处理架构根本不可能跟得上机器学习推理的性能需求。
　　而天生就专门针对分布式计算设计的亚马逊云科技Inferentia2推理芯片，却完全不存在这个问题，因为它可以轻易地扩展计算规模，很简单就能实现超过一万颗芯片的集群计算。因此基于这款芯片的AmazonEC2Inf2实例，也就此成为了行业中目前唯一一个，为超大型模型推理做好准备的实例。
　　自研芯片不为炫技，亚马逊云科技很务实
　　特别、显著、唯一是的，我们频繁使用了这些词语来形容亚马逊云科技的自研芯片家族，以及他们对于这家全球云计算领军厂商的重要意义。
　　但可能你没有想到的是，从某种程度上来说，亚马逊云科技的这些硬件创新并没有那么高调，甚至它们可能还显得非常朴实无华。
　　比如说，亚马逊云科技副总裁兼EC2杰出工程师AnthonyLiguori此前在接受访谈时就曾披露，Graviton3E相比于先前发布的Graviton3，主要其实就是增强了FPU（浮点单元）与Neon引擎（类似x86处理器的SSE引擎）的供电设计，并提高了这两个单元的运行频率。换句话说，它有点像是一种官方特挑小改超频版本，而不见得是重新设计了整个芯片。
　　但又不得不承认的是，这样的小改动在实际业务中带来了显著的提升。比如当用于分子运动分析时，新款处理器能将总体的用时缩短11，如果是用于计算金融期权定价，那么Graviton3E甚至是足足快了30。
　　这意味着什么？简单来说，它所反映出的事实是，当亚马逊云科技在设计和改进自研芯片时，他们首先考虑到的是实际业务需求，而不是为了部分参数上的好看。而亚马逊云科技这些完全出自实用考量的硬件设计，基础的思路又来自于他们常年市占率全球第一、并且受到无数用户青睐的云计算业务。
　　说得更直白点，当拳头游戏（RiotGames）在亚马逊云科技的服务器上每秒处理50万个游戏事件、当纳斯达克将他们的MRX期权核心交易系统搬迁到亚马逊云科技的云端运行，当西门子在亚马逊云科技的节点运行他们的工业云服务时这些庞大数据背后的运营经验，实际上就进一步变为了亚马逊云科技远超竞争对手，去针对性构建自主云基础设施的底气所在。