和全球爆火的AI聊了聊，我可能离下岗不远了？

　　动动手指，获取新知
　　本文首发于公众号：小多少年时，由小多少年时原创
　　有没有发现，这届AI的新闻真是一个比一个惊人。
　　比如几个月前，谷歌工程师称一款名为LaMDA的聊天机器人已经具备独立人格，并晒出了他们之间的对话（SAN值狂掉！谷歌研究员称AI已具备人格，这是他与AI的聊天全记录（中译文最完整版））人们震惊于LaMDA不亚于人类的语言表达能力，以及对哲学、文学、宗教、人类感受与情绪的独到看法；
　　然而，就在人们还没从震惊中缓过神来时，OpenAI发布的聊天机器人ChatGPT在全球爆火，仅仅5天左右就有超过100万人参与测评，连ElonMask都在自己的社交平台（你懂是哪个社交平台）上感慨：
　　ChatGPT好到吓人！我们离强大到危险的人工智能不远了。
　　离强大到危险还有多远咱不知道，但是看了一圈感觉咱打工人离下岗是不远了。
　　干啥啥像样
　　堪称AI届劳模
　　在过去相当长的一段时间里，AI聊天机器人的表现都不尽如人意，比如你手机上的Siri、小冰，通常你需要问它们很多问题，并且在众多问题中不断筛选掉那些生硬的、所答非所问的篇幅，才能使剩下的对话看起来有点意思。
　　一些人工智能被反复训练一些比较明确的功能，比如当做赛事监督，或者和人下棋，一旦超出它们的舒适圈，AI就会出现失控的现象；但是ChatGPT不同，它看起来更加聪明、灵活，更能适应多种语言的应用以及不同使用场景的切换。
　　作为一款聊天机器人，ChatGPT不仅能回答各种问题，还可以写小说。比如，以克隆人为主题，要求它写一篇800字以内的短篇小说，不到5分钟它就写完了。你能看到小说中对于孤独、生命价值等问题的探讨：
　　以《孤勇者》为题目创作歌词：
　　写网页代码，再也不用担心熬夜到秃头了：
　　甚至能帮孩子解答初中的物理题，连解题步骤也写下来了，堪比一个小型的家庭教师：
　　而当你去问它一些涉及道德和法律的问题时，它会劝你不要有这么危险的想法：
　　连加入虚拟的犯罪组织也不行：
　　比起从前的Siri，以及谷歌、百度这些常常所问非所答的聊天机器人和搜索引擎，ChatGPT似乎更加聪明，更有道德。
　　而且，它不像一般的AI一样，把用户的每一次交流当做全新的指令；ChatGPT能够记得几分钟前用户说过的话、训练过的指令（除非你和它说：忘记我刚刚说过的话）。这不就是老板心目中的全能打工人、模范员工吗？那我是不是就离下岗不远了？
　　但是，别被它一本正经的样子给欺骗了。相比起前面那些不怎么聪明的程序，看似可靠的ChatGPT实际上就是个大忽悠，因为它给出的答案经常出现一些常识性的错误，但是说出错误答案的时候语气又是那么坚定、那样的信誓旦旦。
　　比如你问它中美洲最大的国家是哪里，它的回答是巴拿马，但是实际上中美洲最大的国家是尼加拉瓜：
　　王维和张飞都是沈从文笔下的人物，这也只有赛博脑的AI才敢想吧：
　　它不太擅长数学，却又能把解题步骤写得天花乱坠，好像多写一个字就能多点步骤分一样：
　　以至于人们感叹到：ChatGPT是一个功能强大的聊天机器人，它可以出色地回答你的任何问题，但它说的话你最好一个字也别相信。
　　AI为啥会犯错？
　　想要弄清楚这个问题，我们得先了解ChatGPT是如何工作的。
　　五年前，谷歌和OpenAI等实验室的研究人员开始设计神经网络，分析大量的数字文本，包括书籍、维基百科文章、新闻故事和在线聊天日志。科学家称其为大型语言模型。这些系统识别了人们连接单词、数字和符号的数十亿种不同模式，学会了自己生成文本，也就形成了我们看到的ChatGPT。
　　想象一下，很有可能你留在某些社交平台上的一些痕迹，成为了这些AI的学习对象。
　　今天被一个地狱笑话戳中笑点，功德锐减10086，一会去敲电子木鱼
　　今天又看了一个减肥视频，看了就等于瘦了
　　我知道你很急，但是你先别急
　　好了，想想人类在网络上留下的文字如此不靠谱，似乎学习人类语言的AI偶尔闹些笑话也变得容易接受起来了。
　　基于网络上海量真实的文本进行训练，ChatGPT能够尽量模仿人类的方式去说话，但是它可能并没有真的走心地理解这些句子究竟是什么含义，因为它不具备人类一样的逻辑思维方式。
　　比如，当我们和一个人说：嗨，你知道《红楼梦》这部小说表达了哪些主旨吗？
　　对方可能会先去充分理解我要问的究竟是什么，动用他的个人积累、真实阅读《红楼梦》的一些思考感受、以及综合网络上看到过的信息，来对这个问题进行回答，这个回答是有创造性的，而非对信息的选择与组合。
　　而ChatGPT这样的聊天机器人则是用海量的数据经过训练的语言表达形成一个深度的模型，在模型参数的作用下生成的数据。本质上来说，它是概率最大化而不断生成的数据，而非人类头脑中逻辑推理的结果这也就是它之所以频频出错的原因。
　　对此，OpenAI称他们还在不断完善这项技术，比如这次的100万人测评就是一个帮助ChatGPT去强化学习的过程。通过在测评页面设置这些回答是否令你信服？回答是否准确等用户评级系统，更加精准地定义ChatGPT会说什么、不会说什么。
　　对于早前已经出现的一些错误回答，OpenAI公司警告人们：ChatGPT偶尔会产生一些不正确的信息、产生有害的指导或是有偏见的信息，它还只是一个在研发中的项目。
　　真正危险的是
　　尽管ChatGPT闹了不少笑话，但是它也让我们看到AI革命对人类生活、学习和知识传播的重大改变。这些改变，我们已经可以看到细节了：
　　我们用ChatGPT去替代Google、百度这样的搜索引擎；
　　用AI去替代初级的家庭教师，帮助孩子学习和完成作业；
　　进行基础的写作，比如新闻稿、活动通稿的撰写；
　　根据关键词创作AI绘画；
　　这也许意味着，随着AI技术更加完善，将有大量现有的人类工作被人工智能替代，失业即将到来。
　　但更可怕的是，当你去搜集资料、准备写一篇论文的时候，面对海量的数字信息，你如何判断它们是来自真实的、人类的研究，还是AI基于概率生成的一个看似一本正经、实则满篇错误的回答？
　　今天，仅仅还在测试阶段的ChatGPT偶尔出现的错误回答，被人们大量传播到网络上，当做段子和乐子来看待；等假以时日，技术真的成熟起来，我们将如何分辨网络上的信息真伪，如何对知识追本溯源呢？
　　专家警告称，这种基于网络真实数字文本形成的AI聊天机器人的技术，如今已经在市场上广泛复制和应用。无论是谷歌还是OpenAI都无法控制这项技术的发展走向，他们也无法阻止人们利用这些系统传播错误的信息。也许我们需要建立起一项对应的监管政策，来避免对AI技术的滥用。
　　互动留言：您对未来AI的发展怎么看？AI是否会威胁到人类？
　　推荐阅读
　　智能不是关于什么是可能的，而是关于什么是有用的和有价值的
　　参考文章：
　　https：www。nytimes。com20221210technologyaichatbotchatgpt。html？searchResultPosition4
　　https：www。nytimes。com20221205technologychatgptaitwitter。html？searchResultPosition1
　　如果喜欢我们的文章，欢迎点赞、分享、评论！