ChatGPT带给我们的思考

　　最近资金对ChatGPT概念的狂热炒作持续性之强，波及面之广均超出了预期，是什么样一种能力让这款产品快速出圈，使人工智能从曲高和寡一下子变得触手可得？通用人工智能是不是取得了长足进步，即将引爆新一轮产业革命？以下是个人的一些粗浅看法。
　　算法和基础算力的较量
　　回顾这一路在谷歌（收购了DeepMind）和OpenAI两家公司在探索通用人工智能的道路上你追我赶不断竞争，自然语言类模型规模越做越大，动不动几千亿的模型参数（好在13亿参数的InstructGPT生成的回复相比1750亿参数的GPT3也不差）。算法和算力的成本之高让人望而生畏，国内具备研发实力和算力基础的就那么几家公司，希望国内公司也能砥砺前行，争取早日突破。阿里巴巴（BABA）百度（BIDU）
　　技术需要满足用户需求
　　思考ChatGPT的出圈，不仅仅是技术上的突破就可以的。前期谷歌在技术上的积累可谓功力深厚，但一时还是没有站稳脚跟，败下阵来。在回答一个太空望远镜的问题时，Bard错将欧洲南方天文台的甚大望远镜的成就，安在了詹姆斯韦伯太空望远镜身上，只是针对输入的数据，返回一个符合算法预期的数据。个人理解谷歌在迎合社会化需求方面投入不足，而OpenAI团队使用奖励模型和更多的标注过的数据继续优化微调过的语言模型并不断增强。通过这样的训练，获得了更真实、更无害，而且更好地遵循用户意图的语言模型。
　　通用人工智能之路还很长
　　虽然ChatGPT能够帮助人们在日常生活中写报告、写代码、搞创作、搞研发，但它背后的算法本质上采用的还是监督学习算法，不论是字词向量化，还是基于人类老师指导的强化学习背后都是监督学习的范畴，只不过在预训练阶段不需要人工标注的数据。所以它目前数学题还做不好，对没有学过的知识关系也是一本正经的胡说八道。背后也说明了训练数据仍然起着很大作用，数据依然是人工智能的燃料。所以这次炒作中知乎W（02390）最高飙涨57也就比较好理解了。
　　盖茨在接受德国商报采访时指出：到目前为止，人工智能可以读写，但无法理解内容。像ChatGPT这样的新程序将通过帮助写发票或邮件来提高许多办公室工作的效率，这将改变我们的世界。
　　阿尔特曼在接受福布斯杂志的采访时说：我认为其中一个令人惊讶的情况就是，如果你做出一点微调，让（模型）以特定的方式对人们有所用途，并找出正确的交互范式，那么你就可以得到这个结果。实际上，这并不是一项全新的技术。（让它产生这个效果的）是其他的调整。我认为这一点还没有得到很好的理解。比如，很多人仍然不相信我们，他们认为这一定是GPT4。