AI越进化与人类大脑越像,Meta找到了机器的前额叶皮层,引
说出来你可能不信,有一只AI刚刚被证明,处理语音的方式跟大脑谜之相似。甚至在结构上都能相互对应科学家们在AI身上直接定位出了视觉皮层。
这项来自MetaAI等机构的研究一经po出,立马在社交媒体上炸开了锅。一大波神经科学家和AI研究者前往围观。
LeCun称赞这是出色的工作:自监督Transformer分层活动与人类听觉皮层活动之间,确实密切相关。
还有网友趁机调侃:Sorry马库斯,但AGI真的快要来了。
不过,研究也引发了一些学者的好奇。例如麦吉尔大学神经科学博士PatrickMineault提出疑问:
我们发表在NeurIPS的一篇论文中,也尝试过将fMRI数据和模型联系起来,但当时并不觉得这俩有啥关系。
所以,这到底是一项怎样的研究,它又是如何得出这只AI干起活来像大脑的结论的?AI学会像人脑一样工作
简单来说,在这项研究中,研究人员聚焦语音处理问题,将自监督模型Wav2Vec2。0同412名志愿者的大脑活动进行了比较。
这412名志愿者中,有351人说英语,28人说法语,33人说中文。研究人员给他们听了大约1个小时的有声书,并在此过程中用fMRI对他们的大脑活动进行了记录。
模型这边,研究人员则用超过600小时的无标签语音来训练Wav2Vec2。0。对应志愿者的母语,模型也分为英语、法语、中文三款,另外还有一款是用非语音声学场景数据集训练的。
而后这些模型也听了听志愿者同款有声书。研究人员从中提取出了模型的激活。相关性的评价标准,遵照这个公式:
其中,X为模型激活,Y为人类大脑活动,W为标准编码模型。
从结果来看,自监督学习确实让Wav2Vec2。0产生了类似大脑的语音表征。
从上图中可以看到,在初级和次级听觉皮层,AI明显预测到了几乎所有皮层区域的大脑活动。研究人员还进一步发现了AI的听觉皮层、前额叶皮层到底长在哪一层。
图中显示,听觉皮层与Transformer的第一层(蓝色)最吻合,而前额叶皮层则与Transformer的最深一层(红色)最吻合。此外,研究人员量化分析了人类感知母语和非母语音素的能力差异,并与Wav2Vec2。0模型进行对比。
他们发现,AI也像人类一样,对母语有更强的辨别能力,比如,法语模型就比英语模型更容易感知来自法语的刺激。
上述结果证明了,600小时的自监督学习,就足以让Wav2Vec2。0学习到语言的特定表征这与婴儿在学说话的过程中接触到的数据量相当。
要知道,之前DeepSpeech2论文认为,至少需要10000小时的语音数据(还得是标记的那种),才能构建一套不错的语音转文字(STT)系统。
再次引发神经科学和AI界讨论
对于这项研究,有学者认为,它确实做出了一些新突破。例如,来自谷歌大脑的JesseEngel称,这项研究将可视化滤波器提升到了一个新的层次。现在,不仅能看到它们在像素空间里长啥样,连它们在类脑空间中的模样也能模拟出来了:
又例如,前MILA和谷歌研究员JosephViviano认为,这个研究还证明了fMRI中的静息态(restingstate)成像数据是有意义的。
但在一片讨论中,也出现了一些质疑的声音。例如,神经科学博士PatrickMineault除了指出自己做过相似研究但没得出结论外,也给出了自己的一些质疑。
他认为,这篇研究并没有真正证明它测量的是语音处理的过程。相比于人说话的速度,fMRI测量信号的速度其实非常慢,因此贸然得出Wav2vec2。0学习到了大脑的行为的结论是不科学的。
当然,PatrickMineault表示自己并非否认研究的观点,他自己也是作者的粉丝之一,但这项研究应该给出一些更有说服力的数据。
此外也有网友认为,Wav2vec和人类大脑的输入也不尽相同,一个是经过处理后的波形,但另一个则是原始波形。
对此,作者之一、MetaAI研究员JeanRmiKing总结:
模拟人类水平的智能,确实还有很长的路要走。但至少现在来看,我们或许走在了一条正确的道路上。
你认为呢?
论文地址:
https:arxiv。orgabs2206。01685
参考链接:
〔1〕https:twitter。compatrickmineaultstatus1533888345683767297
〔2〕https:twitter。comJeanRemiKingstatus1533720262344073218
〔3〕https:www。reddit。comrsingularitycommentsv6bqx8towardarealisticmodelofspeechprocessingin
〔4〕https:twitter。comylecunstatus1533792866232934400
风向!郑州科创格局确定!房地产科创,行业或将焕发新生近年来,科技创新产业发展迅猛,人工智能、生物科技、大数据技术、物联网、区块链、传感器、虚拟现实、云计算、智能家居、地理空间和5G技术等新兴词汇随处可见,而这些高新技术的发展也越……
喜欢一个人需要三天爱上一个人需要三个月人和人终究是不同的有人风雨中送来的晚餐却不及某人随手的一句晚安网易云音乐热评《如果会是你》喜欢一个人需要三天,爱上一个人需要三个月,忘记一个人需要三年,等待一个人需……
华夏文萃原创推送东方剑作品写给雨声淅淅沥沥的雨点不轻不重的敲击着这里的万物,如老天筛选的一个个精灵,窥探着万物。那声音忽而泣如诉,忽而风情万种。雨中江湖,那么充满着神奇的魅力……
我不顾父母的劝阻,娶了二婚带孩子的女人回家,现在后悔也晚了导语:如今的父母大多数比较开通,不会过于干涉孩子的婚姻大事,只要孩子愿意,他们不会管得过多。但是,如果儿子娶一个离婚带孩子的女人,父母大多不赞成,甚至反对,但是孩子……
第十一代思域的开箱评测来了!探寻世界,挑战不止东风Honda第十一代思域媒体试驾会至此已经圆满结束蕞全开箱测评已准备好等你来看!01第十一代思域惊艳亮相试驾会现场精彩纷……
一块干爽的毛巾,一杯甜甜的姜茶,灿都风雨来袭,黄浦校园暖融融台风灿都来势汹汹,受其影响,9月13日下午和9月14日全天,上海中小学幼儿园停止教育教学活动,托育机构停止托育活动。看台阶,小心路滑,注意脚下,慢慢走哦!昨天早晨,虽然因……
中文到底有多美?中文有多美?从字体结构,到书法艺术;从音韵格律,到朗读吟诵。从单字含义,到组词成语;从市井俚语,到官样文章。从语录散文,到诗词歌赋;意韵无穷尽,美意不胜收。……
镜头摄美景西去地铁窗外,黄土原上处处可见风车,形成一道亮丽风景线,除此之外树木花草很难碰见,我渴望着绿。地铁快进入银川,眼到一片葱绿,水稻玉米,绿树映入眼帘,禁不住拍下。小区……
辽宁盘锦马付春原创大连日本风情街感大连日本风情街感日街争议深思痛,恩怨情仇泾渭明。莫忘初衷头脑醒,永铭史命运畴宏。搞活开放须有度,迷外奴颜不可行。前世警钟犹在耳,……
童年像一场梦,梦醒了,我们就成了现在的样子或许很多人都在写回不去的童年,其实无论是童年少年青年,都是回不去的,老了就老了,还回去干什么,时代在前进,社会在进步,你可以回忆童年的田野、滚铁环、爆米花、跳皮筋、丢沙包、抓迷……
记从日本成田机场到上海浦东机场的回国经历回国啦,哈哈2020年10月16日上午10点(日本时间)从后乐寮出发,大概11:30分左右达到机场2号航站楼。送我们去机场的司机师傅是一位中国人,可能是经常往返于机场接送……
夜太美,月朦胧月朦胧,血无痕。夜太美,心太累。天黑路滑,小心火烛有木有!一天都这么朦朦胧胧的。原来好像是把精神放在胸口的,现在放在肚子里了内心没肺多好哈,要保护眼睛,……
静夜天又黑了,早早地爬上被窝,却又换来一彻夜的失眠!这已不是第一夜,也绝不是最后一夜,鲁迅先生说时间就像海绵里的水,要挤总会有的。这是用来勉励人们要珍惜利用时间,然而此刻的瓦竟放时……
让我无比蛋疼的天行者前几天看了郑伊健先生演的《天行者》,坦白说,郑先生在我们这辈人心中有着深刻的烙印,当然,那是当年红极一时的《古惑仔》带来的。尽管当时个人对陈浩南这个角色没有什么好感,好感全集中……
结婚纪念日今天,是我的4周年结婚纪念日。2005年的今天,我和筱去登记结婚了。那天早上天气不是很好,霏霏的小雨,薄薄的雾,很冷;我们带着证件就到了区民政局,在婚姻登记处……
光棍节快乐吗?我很快乐!呵呵各位同志们:今天是11月11日是世界传统佳节光棍节,在这一年一度的传统佳节之日我仅代表国家主席、国家军委主席、党中央、国务院、国家光棍协会向奋战在一线的广大光棍同志们致以……
开学了2009年9月1日,天气毛毛雨开学了,儿子忽然长大了。早上一听见手机的呤声,就一骨儿的起床了,一改以往睡不醒的坏习惯,洗脸刷牙也不用我提醒了。送到教室,已经有五分之……
写给贝贝的思念当确信那个叫贝贝的狗儿已经离开人世的时候,我的眼泪不禁夺眶而出。只是这一次没有哭出声,早在一年前,曾经以为已经失去了它,所以关于它的眼泪,在那个寒冷的冬天已经流过一次。而……
向20090818办公室的鱼缸有一条鱼只剩这一条鱼其他的早已陆续死亡从去年的春天一直活到现在前段时间我偶有困惑如果大家都不在了它该去哪今天上……
逝去的曾经的曾经,那么用心,那么努力。原来一切,也会被时间带走。岁月的长河里,流走的,不仅是你,还有那份执着,我的青春。那一刻,……
女人实在无需楚楚可怜我想变的放纵变的不可一世我想变的不在乎我想变得洒脱我是女的我一样可以玩我不知道玩不玩得起但我想试一试我就是这么自私我想玩的沵们都对我恋恋不忘我想玩……
写给某个故人最近真的遇到好多过去的人好多记忆好多故事好多好多重现脑海所有的故事重新浮现跟你说着没办法太念旧了毕竟走过来这么多年头了跟你说着感觉好多……
梦一直在在夜深人静的时候本该呼呼大睡,而我却难以入眠。仿佛在思考着什么。。。。思考着思考着貌似什么都不能打断大脑亦是如此的清晰!!反复的思考着,表现的出的是那么的烦躁和不安甚至纠结回想……
笑一笑,十年少。你今天笑了吗?1:甲:你年薪多少?乙:96万。甲:那一个月8万哦!乙:是的,这是我的基本工资。甲:不错嘛,做什么的?乙:做梦的。2:四个人打麻将,突然着火了,他们都没有注意到。消防员赶……