临汾山东漯河饰品美体美文
投稿投诉
美文创意
爱情通信
用品婚姻
爱好看病
美体软件
影音星座
瑜伽周边
星座办公
饰品塑形
搞笑减肥
幼儿两性
智家潮品
漯河衢州
兴义眉山
桂林阳泉
玉溪简阳
山东遂宁
永城新余
梧州洛阳
泸州温州
临汾清远
营口常熟
浙江大连
桐乡宜昌

液冷,让AI模型更庞大

2月10日 菩提门投稿
  1943年,当心理学家W。S。McCulloch和数理逻辑学家W。Pitts,经过反复地推算验证,提出神经网络和数学模型,并接受掌声和鲜花时,他们心中必然有一丝遗憾,因为在晶体管还未发明的年代,纷繁复杂的数学公式无异于纸上谈兵。他们肯定很难想象,80年后的今天,一场绿色的智能算力变革,会像电力、宽带一样,向我们奔腾而来。
  01hr超大AI模型呼唤更强算力
  两年前,大洋彼岸传出的一则的消息,震动了当时的学界。人工智能公司OpenAI发布了一篇长达72页的论文,作者多达30人,内容描述了一种超大AI语言模型GTP3,包含了1750亿神经网络参数,不仅能自己造句子,还能编故事。在大家都在感叹《终结者》电影中的狡猾天网似乎正走进现实时,很少有人注意到强悍功能的背后,超大AI模型正在贪婪的吞噬着有限的算力。
  大模型成为人工智能工程化的重要方向,智能算力需求几何级增长,9月19日,中国智能计算产业联盟发布的《东数西算下新型算力基础设施发展白皮书》,一针见血地指出当下智能算力的紧迫氛围。
  AI的发展绕不过三大核心要素,数据、算法、算力。如果把数据比作工业原材料,算法就对应着生产关系,而算力就是生产力,看得见摸得着的计算中心是它现实中的代表。十年前,业内广泛流传的段子是得大数据者得天下,如今却是得算力者得天下。
  从数据来看,超大AI模型对算力挑战巨大。比如说,OpenAI为了训练含有1750亿参数的GPT3,从无到有耗费了5亿美元,新搭建了一个算力中心,用掉了1万张显卡。而这个模型在训练上则消耗了355个GPU的年算力,训练的成本超过了460万美元。
  除了算力,超大AI模型对电力的需求同样让人吃惊,GPT3被训练一次就要消耗电量19万度,按照美国碳排放标准计算,大约产生了85000kg二氧化碳当量。
  可如今,对更大AI模型的疯狂追求却成了趋势。尤其是在AlphaGo以5比4的成绩击败李世石之后,各家科技巨头像着魔一般,疯狂挑战超大AI模型。在OpenAI推出GPT3之后,微软和英伟达也不甘心被落下,一年后立马公布了拥有5300亿参数的MTNLG大模型。
  所以,研究人员现在不得不面对一个现实困境,智能算力越来越不够用。在半导体产业,摩尔定律广为人知,芯片中的晶体管每隔18个月左右,基本会翻一番,性能同时会提升一个档次。而从2012年以来,人工智能产业也呈现了类似规律,复杂的AI训练任务所需的算力,每3。43个月就会翻倍。OpenAI在整理2012到2018年算力数据后,更是发现了一个惊人的事实,六年时间内,AI算力需求竟然增长了30万倍,这比摩尔定律更震撼。
  中国工程院院士郑纬民曾指出,下一代AI的发展亟需建设大规模AI算力基础设施,GPT3取得了很好的进步,但是离强人工智能还有差距,下一代人工智能模型可能超过万亿参数。
  当AI大模型成为推动AI能力提升的重要工具和手段时,它的非线性甚至是几何式增长的参数数量,将导致AI大模型、巨量模型的计算规模越来越大,需要的硬件资源越来越多,对算力需求及其巨大。若是步入强人工智能时代,所需算力更是将呈现几何倍增长。
  02hr更强的算力中心急需降温
  在算力需求嗷嗷待哺的同时,如何给数据中心节电省钱,也成了工程师们必须面对的难题,光是2021年,全国近2。6的电力都用在了数据中心运维上,且年电力消耗增速超过60。所以,各地数据中心面临节能减排的重任,而接二连三的政府文件,也恰好证明了这一点。
  2017年,国务院印发的《十三五节能减排综合工作方案》明确要求,新建的大型云计算数据中心能源利用效率值(PUE)要优于1。5。2021年,政府发布的《新型基础设施绿色高质量发展实施方案》又再次强调,到2025年,国家枢纽节点的PUE值要进一步降到1。25以下,绿色低碳等级要达到4A以上。
  所谓的PUE,简单点解释就是数据中心消耗的所有能源与IT设备能耗的比值,越接近1证明能效水平越好,也就说明数据中心的大部分电力都被服务器、网络设备、储存设备消耗掉了。但PUE1只是理想情况,按照正常的物理逻辑,强悍的算力往往意味高耗、高热量。
  首先就单个芯片来说,在制程不断突破极限、功率奔向千瓦时,如何冷却是头号问题。英特尔曾在1999年对外展示过一张折线图,内容是处理器功率密度随时间变化的趋势。可以很明确地看到,按照摩尔定律的发展路径,晶体管的尺寸和芯片的功率密度呈现负相关,也就是说晶体管尺寸减少的同时,芯片的功率密度反而高了。
  而随着新的数据中心不断建设、装备了先进制程芯片的机柜投入使用,单个机柜的功率密度也在快速抬升。根据UptimeInstitute发布的《2020全球数据中心调查报告》显示。2020年数据中心平均但机架功率为8。4(KW机架),相比于2017年的5。6(KW机架)、2011年的2。4(KW机架)有明显提高,年复合增长率达到了15。
  而且短期来看,功耗问题难以顺利解决。因为在经典的冯诺依曼架构中,数据的处理和存储是放在不同的地方,频繁地高速传输必然导致系统功耗很高。从某种角度理解,这也是冯诺依曼架构的缺陷所在。所以,当全球媒体津津乐道AlphaGo打败人类时,有一组让人大跌眼镜的事实,人类只用了20瓦的大脑能耗,而AlphaGo的能耗达到了2万瓦。
  先进制程芯片的突破、功率更高的单机柜使用,迫使数据中心使用更多的能源用于散热。
  03hr液冷技术成为破局要素
  2022年,《求是》杂志第二期中的一张图片,吸引了众多通信界人士的目光。这张图片展示的是一款浸泡在液体中的处理器,在其周围附着了很多移动的气泡。在图片旁边还注明了一行文字:对数字经济对经济社会的引领带动作用日益凸显,图中液冷计算节点能够将数据中心能效比PUE降至1。1以下,比传统风冷技术节电20。
  实际上,这款图展示的正是曙光自主研发的浸没式相变液冷技术,通过特殊的、沸点很低的液体,将CPU、内存、电源系统等发热部件运行时产生的热量带出设备,之后这些液体再与水做热交换,最终将热量排除,达到给数据中心降温的效果。从具体的数据来看,这样的冷却技术达到了极好的效果,甚至能将PUE值控制最低1。04,这说明数据中心的电力基本很少有浪费。而且,这些液体带出的热量还能被回收,供附近居民采暖。
  在液冷技术上,曙光很早就开始埋头耕耘。2011年,在业内竞相追逐互联网泡沫时,曙光开始了服务器液冷技术的探索与研究,2013年推出首台冷板液冷服务器原理机,并在一年后完成产品化。有了冷板液冷经验,先进的浸没相变液冷技术也就手到擒来了。2013年,首台浸没相变液冷原理验证机被推出,2014年原型机诞生,2017年启动商用,两年后,国内首个浸没相变液冷服务器大规模应用项目落地。
  在东数西算的大背景下,曙光的绿色算力方案也在有序的落地中。在全国一体化算力网络成渝枢纽节点内,曙光在重庆市璧山区科学城打造的数据中心,就是以浸没相变液冷技术为底座,布局建设。实际上,依托液冷技术,曙光的绿色大脑正在为国内各地、各行业提供算力,相比传统风冷技术,一年节电量达2亿度。
  由曙光承建西部(重庆)科学城先进数据中心效果图
  基础设施意味着普惠性、大众化,也就意味着东西便宜、用的人多。18世纪的蒸汽、19世纪的电力、20世纪的宽带,都在相应的时间节点上,顺利地演变成那个时代的基础设施,有的仍存延至今。在以液冷技术为代表的绿色算力席卷全球、贯通各行各业时,我们似乎看到了强人工智能时代的算力基础设施,正呼之欲出。
  来源科工力量
投诉 评论

女人特别想念一个男人,会是什么样子?文夏莫01、卷首语思念的味道,千奇百怪。有时像糖果一样,甜蜜入心;有时却又像莲子一样,苦到心坎里。爱情,就像是一块巨大的磁铁,它让男人和女人不断地靠近,不断地想要深……41岁柳岩凭梦华录演技获好评,奋斗多年如今北京住千万豪宅最近大火的《梦华录》除了让刘亦菲和陈晓轮番上热搜,女配柳岩的演技也获得不少称赞。她饰演的孙三娘是个力大无穷敢爱敢恨的厨娘,柳岩用细腻生动的表演将有情有义、有血有肉的孙三娘……重庆老汉买3瓶茅台存酒20年,小儿子婚宴时开封,酒友全放废了很多家长都是强烈地希望后辈们能够成才,以此摆脱原有的人生。这既是来自于上一代人的祝福,也是来自他们的期待和鞭策。这种思想其实从古至今一直都广泛存在于我们的社会中,但是也有很多人……胃不舒服,百试百灵这是在个博主那看来的,分享给大家试试今天下午吃的有点杂,饼干,月饼,葡萄胃不舒服(没到需要吃药的地步),涨的慌,感觉胃揪揪着,到晚上饭点也不饿按照我以往的经验,知道……游山忆多霉湿的地方,连山地也是潮润的草城,泳装里爬遍了山坡的上下,林木秘密职业如同账目,除了稀稀拉拉几个小圈圈光落在地上外,阳光就大部分被截留在树林之上,细条子路软软的引入草丛,人走……朝鲜观察,朝鲜农村的房子都建在什么地方?在朝鲜旅行的时间里,朝鲜农村给我留下了深刻的印象。朝鲜农村风光很美,处处青山绿水。透过车窗,朝鲜农村的风貌,像极了我们八十年代。儿童在铁路旁奔跑,赶着牛车的老农在夕阳下慢悠悠的……OPPO将于6月8日公布Android13适配计划,新特性解5月11日谷歌在GoogleIO2022大会上推出了Android13操作系统,并公布了首批适配的厂商。今日,OPPO官方发布,将于6月8日开展OTalkAndroid1……夏天不管穿什么衣服,都要远离这5种大妈色,显黑又土气在夏日的穿搭里,色彩是必不可少的元素,选择不同的颜色的服饰,可以演绎出不同的风格与气质,但选错了颜色,穿起来就很容易显黑显土气,因此色彩的穿搭也是很有讲究的。在这个明朗的……旅游散记骑上摩托,带上儿子,到邻近乡镇的村庄逛逛,算是自驾游。惬意,自在其中。沿途不少风景,可圈可点,谨以粗疏文字记之,姑且称:旅游散记。陈莲行陈莲,是长汀县馆前镇的一个行……液冷,让AI模型更庞大1943年,当心理学家W。S。McCulloch和数理逻辑学家W。Pitts,经过反复地推算验证,提出神经网络和数学模型,并接受掌声和鲜花时,他们心中必然有一丝遗憾,因为在晶体……黄金加速下跌,是机会吗?一句话告诉你我认为加速下跌之后是机会。首先,在9月利率决议后,基本面其实已经没有太多威胁了,下一次利率决议要到11月份。而目前进入到了真空期,市场大概率有修复行情。其次,我认为……王者请陪玩究竟是抱着什么心态?想上分,还是为隐藏福利嘀嗒,为你而动。其实在任何跟游戏相关的行业当中,让我最感到不可思议的就是陪玩,陪玩顾名思义就是通过下单,将你想陪玩的某位主播,让他们陪你一起打游戏,这便是所谓的陪玩。……
原神新手玩家千万别碰这四个辅助角色,否则后悔都来不及!中国人造一个夸父去逐日!把神话变现实,这是独属于我们的浪漫邢台园博园采煤塌陷区变身城市绿心2022中国物联网平台行业概览报告,PaaS市场将成为竞争焦和暗沉鸡皮说拜拜!这美白身体乳直呼牛四川值得去的景区,拥有中国最大的摩崖石刻造像,游客络绎不绝决战纯碱期货120万持仓的多空大战难忘40年前电影牧马人,朱时茂丛珊主演,重要演员近况如何恭喜巴特勒!再见76人!东部首支晋级决赛球队诞生,哈登成输家官宣!西班牙人新MVP诞生4场3球爆发,进球30武磊,冲56新能源医药消费半导体恒科猪肉下周(1014)预测分析数据中台始于阿里,兴于DaaS知识名言追求知识的名言(四)石榴树的养殖方法和注意事项石榴树如何养殖保湿水有哪些种类甄子丹vs邱建良谁会赢?顺着读骂人倒着读情话抹不掉的记忆死亡幻术的门徒读后感摘抄年终奖晒晒我的寒假生活初二作文950字无疑造句用无疑造句大全曹操造句用曹操造句大全幼儿园大班教师个人工作总结

友情链接:中准网聚热点快百科快传网快生活快软网快好知文好找