我和俞敏洪聊了聊人工智能

（本文内容来源于抖音直播“俞敏洪对话李开复”） 俞敏洪：大家好！开复老师跟大家打个招呼吧。 李开复：大家好！感谢大家来观看我和俞敏洪老师的直播。 “ 01. 《AI未来进行式》” 俞敏洪：开复老师的新书《AI未来进行式》已经出版了，您来给大家介绍一下这本书吧。 李开复：这本书是我和著名科幻作家陈楸帆一起写的。之所以写这样一本书，是因为AI是一个非常重要的科技，很多人会认为它遥不可及，晦涩难懂。我过去也写过两本有关AI的书，有人觉得科普做得还可以，但也有人觉得技术含量过高，我就想，怎么才能让更多人了解这项技术，不论是理工科还是文科都能看懂。这样一想，讲故事是最好的方式，我自己不是写故事的专家，就找了陈楸帆合作。 书中一共有十个短篇故事，描述20年后，2042年的世界。在这个世界里，我描绘了一个AI的发展蓝图——在那时，AI已经普及到各个领域。根据这个蓝图，楸帆写了十个故事，发生在十个不同的国家，里面涉及到的科技大概率都是会在20年之内发生的，写得非常有意思。在故事之后，我对科技作点评，描述这些科技是如何工作，给人类带来什么样的好处，什么样的挑战和烦恼，这些挑战和烦恼是否能化解，可以怎么化解，以及未来的社会将会因为AI和其他高科技产生什么样的改变。所以这是“科学+科幻”的一本书。 我觉得，90%的人都能从头到尾读完、读懂这本书，真正了解AI，可能还有10%的人觉得李开复写的东西太玄了。没关系，你们可以当小说来看，只读陈楸帆写的故事，跳过李开复的部分，这样也能对AI有一定程度的理解。 此外，如果想做AI、想做计算机的专家，这本书可以帮助增加想象力。我记得当年我学计算机、学AI的时候，对算法、应用对社会的影响一窍不通，但看完这本书，你们就会知道今天已学或者想学的技术在什么领域有用，在什么领域有危险，应该做什么事去弥补这些危险和麻烦，怎样加强自己的能力，让自己进入AI最有希望的领域，产生自己的最大价值。 点击图片可购买《AI未来进行式》 俞敏洪：《AI未来进行式》场景设置在2042年，我读的时候一下就傻了，我心想那时候我都已经不在了，后来认真一算，可能还会在，因为2042年，我是80岁。如果李开复老师的预测正确，这意味着我在偷窥20年后，这个世界在人工智能的主导下到底会是一个怎样的世界，我自己还能不能参与其中。 书中有十篇短篇小说，但这本书的亮点在于故事可读性比较强，而且还镶嵌了人工智能会给人类带来的十个场景。在这些场景中，人类采取了什么态度，给人类带来了什么好处，以及可能带来了什么挑战。更大的亮点是，李开复老师作为人工智能顶级专家，会对技术在人类中的应用有所评价，还会对底层逻辑和底层技术来源进行分析。 通常读者会觉得人工智能的书是科技书，读起来会很枯燥，读不懂。开复老师是我的朋友，他写的每一本书我都会读，到目前为止，他出了三本书，第一本是《人工智能》购书链接，第二本是《AI未来》购书链接，第三本是《AI未来进行式》购书链接。 当我看到他第一本《人工智能》的时候，我就有点害怕读不懂，但实际上那是我第一本人工智能相关的普及读物，让我这么一个连数学一元一次方程都搞不清楚的人也能读懂。 第二本是《AI未来》，涉及到中国人工智能在日常生活中应用的各种场景，包括对这些场景背后一些互联网公司的看法，包括小米、美团等等。当时我就感觉人工智能离我太近了，不知不觉我们的生活已经被人工智能包围了。 李开复：谢谢俞老师。《人工智能》是一本针对人工智能写的科普书，关于人工智能的技术和历史，都写得很详细。《AI未来》是在描述为什么中国在AI方面有很大的希望，有哪些创业者做了很棒的工作，推动了中国的AI发展，另外也谈了AI可能带来的一些问题，有关AI取代工作该如何解决，以及一些我个人的故事。最后一本《AI未来进行式》则是一个真正的小说家讲解的结合体，很特殊、很有创意、大部分人可能会比较惊讶甚至惊喜的一本书。 点击图片可购买《人工智能》 俞敏洪：你在书中讲了人工智能和医疗的关系，我就更加坚定了2042年我应该还在，应该能享受到你书中所讲的人工智能所带来的便利，也可能还会面临人工智能带来的、不可预料的挑战。我看了以后还挺兴奋，我还在参与一个时代，而且可能能够比较完整地参与这个时代。 “ 02. 人工智能发展小史” 俞敏洪：你在世界人工智能方面的研究是比较领先的，你在哥伦比亚读本科的时候就开始学计算机，后来偏向于人工智能相关领域。你当初青春年少，作为哥伦比亚的高材生，为什么要选择计算机？后来为什么又偏向人工智能？你当初所学的人工智能和现在的有什么不同？你曾经预料到人工智能会对今天的人类产生如此巨大的影响吗？ 李开复：我1979年读的大学，上大学的时候我选了法律和数学，因为数学我比较擅长，法律则是因为我以后想当律师。读了一段时间，我发现法律不适合我，或者我不适合法律，因为书那么厚，读到最后我都想睡觉了。 至于数学，可能我在我们家的小城市里，数学算比较厉害的，但在纽约，和那些真正厉害的人相比，就真的不觉得自己是数学天才了。正在比较迷茫的时候，我接触到了电脑，接触的计算机课程里有几门是人工智能相关的。 在1979、1980年的时候，人工智能才刚刚萌芽，非常幸运遇到了三个教授，分别来自于斯坦福大学、卡内基梅隆大学和耶鲁大学。他们三个做的正是人工智能的视觉、自然语言和算力，我就师从这三位老师，非常幸运地接触到了这个领域。当时数据不够，计算机也不够快，所以当时做出来的各种演示、功课都非常粗浅，在今天看起来都微不足道。 可是这让我充满了热情，觉得这真是人类最后最重要的一个技术，让我们能了解自己，了解自己的大脑是如何运作，用什么样的算法能够达到人的智慧，没有比这更有意思的事情了。我义无反顾地决定把我的两个专业换成了计算机科学，并且在计算机科学里做人工智能，后来又到卡内基梅隆大学读博士，也是人工智能领域。特别巧的是，我在人工智能里做的是机器学习，所以跟今天的主流方向完全一致。 如果在40年前，也就是我还在读大学的时候问我，2022年会不会有今天AI的发展，或者2042年会不会有书中AI的发展，我当时的回答绝对是肯定的。因为我那时比较天真，也比较无知、乐观，觉得现在AI已经能做点事情了，再给我40-60年，肯定会改变和颠覆世界，要不然我这书不就白读了吗？可是，等我博士毕业之后才发现，AI，写写论文不错，做做演示也不错，但想要在真实世界里运行，是行不通的。 偶尔碰到一个小小的能用的，也有人会说那不是AI，它已经Work了，那就是软件、产品，不Work的才叫AI。当时我们沮丧到连AI这个词都不敢用，因为只要一讲，那就是在做不Work的东西，或者觉得我们是唬人的科学家。所以如果你在20年前问我，比如20年前我在微软的时候，或者再早一点我在苹果的时候，你问我对未来还这么乐观吗？我可能就不会那么乐观。但是，近年来，因为深度学习的发明，让我又变得乐观了，而且比过去任何一个时候都要更乐观。这个技术已经开始进入主流，而且还远远没有影响辐射到各行各业。

俞敏洪：从今天的角度去看，你在大学甚至博士期间所学的人工智能的内容和方向，可能都是错误的，比如神经网络系统，你会觉得当时这些研究方向白学了吗？还是说是为未来的深度学习和大数据结合的方向奠定了基础？或者过去的失败其实并没有对今天人工智能的方向奠定意义？今天的深度学习和大数据在未来也还有可能被再次推翻吗？ 李开复：我非常幸运，当时我读本科和读博士的时候，最主流的人工智能叫做专家系统，那和所有的机器学习都不一样，甚至它本身并不能算是机器学习，而是人用人类的规则去教AI该怎么做，这个方法后来被证明是不成功的，当然今天还有人用这个方法在做，认为它们会带来未来的希望。 我做的是基于类似神经网络的隐马尔可夫模型。我也有很多同事在做神经网络，包括发明深度学习的杰弗里·辛顿（Geoffrey Hinton），他就是我在卡内基梅隆的老师，因为算力和数据不够，他当时还没有用深度学习，用的是比较简单的神经网络。我们的工作，尤其是他的工作，都是非常重要的奠定基础。 神经网络和深度学习的差别主要在于，神经网络非常简单，而深度学习也是一种神经网络，我们把数据输入进来，它会有一到两层神经网络，通过数据推算出一个结果。差别在于，我读书的时候数据量太少，而且计算力太慢，只能做到一到两层很浅的神经网络，今天计算量大了，可以做到几千层。当网络做不到深度的时候，它的学习就不够强大，不能够超过人类。 但如果我们有海量的数据、足够的算力，能做出一个深度模型，人工智能运用深度学习，它就能在某一个领域里大大超过人类。其实当年可以暂时称为浅度学习，它绝对是深度学习非常重要的基础，就像小朋友要先学描红，再学毛笔字，先学加减乘除才能学微积分，是一样的道理。 俞敏洪：很多科学家、技术人员都是在为后来的科研人员奠定基础，到最后真正能长期适用的技术却并不是来自于这些最初的科学家。最初研究神经网络系统人工智能的这批科学家和工程师，或是技术人员，是后来深度学习的推动者、发明者吗？还是说深度学习的人工智能其实是另一批技术人员开发出来的？ 李开复：这个问题非常有趣。其实深度学习可以说是三十年如一日，有三个科学家被打入冷宫，被主流抛弃。因为在非常早期，比如大约1988年我读完博士的时候，大家认为神经网络是不太Work的，在所有能评比的问题里，它们未必能打败其他模型，当时就觉得这套技术不行，很多期刊、论文或者重要的学术会议都不再接受做神经网络的这波人。这些人大部分就慢慢流失了，他们觉得既然我这个不是主流，那我就来做主流的，所以他们进入了各种不同的其他模式识别的方法，用不同的SBM技术来做。 只有少数人坚持了下来。他们认为这个东西可以Work，之所以过去不能Work，主要是因为数据不够，模型不够大，算力不够，所以要不断地增加、强化这些方面。这三位科学家不断地坚持，包括当时在卡内基梅隆的杰弗里·辛顿（Geoffrey Hinton），后来去了多伦多大学；还有当时在贝尔实验室(Bell-Labs) 的燕乐存（Yann LeCun），后来去了纽约大学和Facebook；以及约书亚·本吉奥(Yoshua Bengio)，他一直在蒙特利尔大学。 这三位大师当年并没有进所谓前10名的计算机系，因为前10名的计算机系都很自以为是，认为神经网络不Work，还想来我这里做教授，想都不用想，更不用说经费。后来他们在美国拿不到经费，两个人就搬去了加拿大，加拿大会给更多国家经费。他们三个人基本上是卧薪尝胆，用了接近30年的时间证明，有几个他们当年发明的算法，在之前只是理论，后来数据多了，算力多了，就真的Work了。 今天大家如果想做科研，想读博士，想做科学家，可能需要了解，这其实是一个比较孤独的方向，而且你也不确定自己该从众还是要坚持。在这个例子上，他们三位真的证明了自己的坚持是对的，他们三位在两年前得了图灵奖，也就是计算机领域的诺贝尔奖，这是蛮难得的故事，也比较励志。 俞敏洪：这特别了不起，当别人都在怀疑你做的方向出错的时候，自己能继续坚持下去，并且坚信自己有一天能做出来。其实他们算是幸运的，有太多科学家和技术人员坚持了一辈子自己的想法，到最后都不一定能有成果，有的甚至还要经过好几代的努力才能有成果，就像你刚才的说法，也是因为大数据的出现，某种意义上推动了深度学习和人工智能的飞跃。 李开复：是的。 “ 03. 人工智能可预见的发展” 俞敏洪：中国是一个比较容易产生大数据的国家，可能随便做一个面向大众的APP，哪怕做得再差都有几十万人、上百万人在用。从这个意义上来说，面向未来，中国在人工智能方面领先世界的可能性会比较大？因为深度学习的基础是大数据。

李开复：中国之所以能够崛起，成为世界AI两大大国之一，确实就是靠你说的这个理由。中国的人口多，中国的APP让我们一用就停不下来，每个人每天都会花很多时间在这些所谓的Super App上，无论是微信、抖音还是淘宝。人口众多，APP又做得好，就不断地滚动起来，这确实是AI的催化剂。 中国最早期的一大批AI专家就是百度、阿里、腾讯、字节等等培养出来的。要成为一个好的AI工程师、科学家，需要真的能做应用，而不只是写论文，这就需要在一个有超级大数据的环境里工作过，而这些大公司起到了催化剂的作用。 到了今天，AI已经不只是互联网的应用，未来可能会看到，在工业方面、医疗方面、交通方面等都会有所发展，没有哪个行业会没有AI。中国AI在哪些行业会比较强，就要看行业的老板是否能足够早识别，未来的企业是不是有足够多足够好的数据，有没有数据要收集，收集数据要花多少代价等等。 总体来看，除互联网领域以外，AI应该会在中国制造方面有很大机会。中国是制造大国，在这个领域，我们比别的国家机会更多。医疗领域也是如此，因为海量数据正在医疗领域产生。交通领域也会不错，我们的无人驾驶公司都做得非常务实，而且政府政策也愿意推动科技的落地。比如我们投资的一家公司，已经在7个城市有Robo-Bus、Robo-Taxi运行。其他领域包括金融都应该还有机会，不一定哪个国家会走在最前面。但是在有些领域，中国会有一些挑战，比如大企业的应用软件，中国没有那么多像Oracle、Salesforce、Microsoft这样的公司，整个工作的流程还没有足够好的数据化，这样做AI就会有比较大的困难。 总体来说，中国在大部分领域里还是很有机会，企业级应用是唯一一个现在有点看到瓶颈的领域，其他领域要么已经领先，要么还有机会能够成为第一或第二的领跑者。 俞敏洪：中国未来的经济发展或者社会变革跟人工智能是密切相关的，应该让民间或者政府想办法利用这样一个千载难逢的机会，千万不要再落后于世界。深度学习和大数据是人工智能的底层逻辑，面向未来，人工智能还会有别的技术出现吗？会有推翻深度学习的可能性吗？如果有，大概会在什么时候？ 李开复：可能在五年之内，深度学习依然会是人工智能最重要的基础，在这个基础上会有很多新技术出现，比如卷积神经网络，就是让深度学习能够学会“看”，让计算机视觉至少在物体识别方面能超过人类。最近的自监督学习，也在深度学习的基础上把自然语言做得非常好，在很多重要问题上，比如阅读理解方面超过了人类。所以会不断地有重要的技术，每一两年一次，在深度学习的架构基础上再发出更多的光芒，扩张到更多的领域。 再往后，有一些科学家，比如杰弗里·辛顿（Geoffrey Hinton）基于海量数据提出了比深度学习更好的理论和想法，这是一个方向。也有一些科学家，比如吴恩达，认为大数据限制了AI的发展，能不能用小数据来做？还有一些科学家认为，深度学习需要人类智慧的辅助，当年被证明不Work、被抛弃的专家系统，可能还是要把里面的一些精髓捡回来用作补充，比如在一些分析、预测、推测、常识、对事物的理解方面，AI毕竟还只是在靠海量数据来蒙对答案，它并没有真正理解，这也是一个方向。还有一些人认为，今天的计算机架构还是慢，要做一个更类似人脑的、真的是基于神经网络一类的人脑来推动的计算机架构，这又是一个方向。这些都各有机会，但它们可能被验证能超过深度学习的概率不是很高，也不会在五年之内发生。

但在书中，我们提到了量子计算。量子计算能够真正超级推动算力。AI在过去六七年、七八年的成长，很大程度是因为英伟达的GPU，也有很多中国、英国以及别的国家的类似GPU、IPU、TPU等等算法，专门用来加速深度学习。但他们虽然提升了很多计算量，让我们能处理更多数据，但是与未来的量子计算相比，GPU又差太多了。当量子计算出来的时候，我们就需要发明一整套新的AI算法，那时候能做的事情就不知道会比今天多出多少数量级了。 总体来说，如果未来有一个超级突破性的技术会把今天的AI都推翻掉，要做一整套新的更强大的AI，那就是量子技术。但量子计算可能离我们还有大约十到二十年时间，需要一点耐心来等待。 俞敏洪：量子实际上是非常不稳定、非常活跃的一个状态，现在好像有了一点点初步的研究成果。假如量子计算最后成功普及，对人类生活的命运会带来什么样的影响？你书中的短篇故事中，由于量子计算的诞生和应用，把游离在外的保密不那么好的比特币全部转到了自己账上，引起了世界金融的动荡，甚至还提到，由于量子计算的出现，武器的精密度和效率都变得极高。我们这一代人能真正看到量子计算的实现吗？ 李开复：二十年之内，普通人家里不会买一台量子计算机，因为太大、太不稳定，但是国家、大实验室、大公司肯定都会有。当然不能说这百分之百会发生，因为技术还在不断推进，但大部分专家认为十到二十年之内应该可以做足够大的、有用的量子计算机。今天其实已经有量子计算机了，只是他们目前能解决的问题都是没用的问题，一旦开始解决有用的问题，就会让所有人跌破眼镜。 量子计算机需要重新写算法，我们可能会看到量子计算机的第一个应用就是破掉我们今天所有的解密、加密。书中讲的偷比特币是一件事，同样的技术也可以被用来偷我们的密码，盗我们的账户，把银行的钱取出来等等。今天的一部分加密算法是今天的计算机算一千年也破解不了的，但是量子计算机可能几分钟，甚至几秒钟就可以破解掉。 当然，量子计算机并不是一个破坏型的东西，它只是一个计算平台，还是会带来非常多好处。它可能会把过去的加密、解密破坏掉，但是用量子来做加密、解密，就能成为一个永远都不会被破解的方法。也就是说，现在银行账号、比特币会被偷，但量子计算机出现后，就不会了，因为它是绝对不能被破解的加密方法，即便是量子计算机，也破不了另一个量子计算机的加密方法。 另外，有了量子计算机之后，人工智能的算法可以同时计算很多指数级增长，因为它可以平行用很多q-bit来模拟0到1之间的和平性，速度会非常快，不像现在的人工智能还需要一步一步计算。量子本来就是世界上的一个物理基础，用量子计算来模拟人的身体、气候变化，或是任何一个物理现象，对科学方面的推进都会是非常巨大的。我们可以更深地了解气候变化到底是什么因素造成的，或者我们吃了一颗药，这颗药对我们身体的影响，都是可以被模拟出来的。我们可以用量子的方法把药物成分和人的身体成分做一个模拟和计算，就可以确保在我们吃药之前，这个药物对我们个人来说是安全的。这些应用都是特别巨大的。 “ 04. 人工智能带来的困境”

a.

Deep fake

俞敏洪：你大学毕业后的工作都和人工智能、自然语言相关，当时你的研究和今天对于自然语言的研究，有什么不同？今天对自然语言研究的方向和方法，确实能在未来使机器人、人工智能完美地和人进行同等智商的对话吗？

李开复：我毕业后第一份工作在苹果，后来到了微软，无论是在苹果还是微软，我确实都做了一些自然语言的工作。 在微软做的比较有意思，2000年的时候我接管了自然语言部门，大概120个人，我需要去说服比尔·盖茨进行团队改造，让所有专家系统、语言学的人离开，然后重新招一批机器学习的人进来。这件事后来也慢慢地在微软扩散到更多产品部门，用机器学习做出了很多自然语言的工作，可以看到整个社会在做技术升级，我也参与了微软这样的升级。当然，升级的过程还是蛮痛苦的，因为很多人失去了工作。 俞敏洪：当初做升级这件事情，其实对人工智能自然语言的研究起到了比较大的推动作用？ 李开复：可以这么说。如果不做这件事情，今天很多微软平台里可能还会存在一些瓶颈。近年来，自然语言的进步非常快，前面提到的自监督学习就是今天最火的一套自然语言技术，我们把全世界的语料用来训练一个超级大的模型，有点类似一个人学中文，学会了中文之后，用这个结构就可以相对快速地理解中文，再去学历史、学化学，速度很快。如果一个人不懂语言，他是学不会历史、化学的。 今天自然语言基本上是突飞猛进的状态，因为我们用自监督学习，可以用超级海量的数据训练出模型，这特别重要，因为机器学习需要的就是超级海量的数据，比如几万亿数据。当有几万亿数据的时候，就不太可能人工标注数据，而自监督学习不用标注，把数据丢进来，它自己不断地看，看很多遍以后它自己就搞懂了语言是怎么回事，在这个基础上再做机器翻译、人机对话、语音识别、问答，再来做搜索引擎，就会跟过去有完全不一样的效果。 我们的创新工场也在预测，自然语言是特别重要的领域，所以在过去一年我们投了四家我们认为非常强的自然语言公司。如果今天有年轻人想创业，我认为AI领域里的自然语言是一个非常好的方向。 所以我对未来AI能有强大的对话能力是抱有乐观态度的，同时这个对话还要很小心地设计，如果是去模拟一个人，只要犯一个错误，别人就再也不相信你了。如果让对方知道我是一个机器人，我尽量做好我该做的事，我偶尔犯错的话请原谅我，如果有这样的前提和假设，它应该能够在很快的时间内在各个领域有所应用。 比如我们现在在电商网站买东西，找机器人客服时常常碰到答非所问的情况，但以后ta就会变得非常聪明、非常贴心、非常精准。比如，以后找电话客服也不一定是真人接电话，因为机器接电话跟真人接电话是一样的效果。再比如，日后在元宇宙或者游戏里，我们和游戏中的虚拟人物用语音沟通也会变得相对顺畅。当然，对话只是自然语言的应用之一，以后的语音识别还会非常精准，比如我们今天的对话完全可以做一个几乎没有错误的笔录，这会有很大的作用，以后公司开的所有会议都有笔录，我们就可以搜索，在什么会议上谁说了什么，答应了什么。 而且我认为，机器翻译会做得非常精准，这意味着可能五年之内，我们就可以在耳朵里放一个小耳机，去国外旅行的时候，我们可以无障碍地跟他们交流，对方讲西班牙语，我们听到的是中文。今天也有这种技术，但在未来可以做得非常实时，非常精准。搜索引擎方面，快速问一个问题将会得到一个精准的答案。这些都是五年之内我们可以看到的自然语言技术的应用。 俞敏洪：我已经碰到这样的困境了，当然还不是机器，而是用人工的方式模仿我的声音，说出我从未说过的话，还配上视频，对上我的口型，放在短视频平台发表，挺混淆视听的。我也访问过一些公司，他们能通过人工智能合成我的声音，用我的声音读一段话，当然现在读得还没有那么像，但如果未来人工智能的技术更精确，就像你书中写到的那样，能伪造出我这个人，而且让人无法分辨真假俞敏洪，老百姓看到我在这儿讲话，但那其实并不是我，他们看到我这个人在这儿充满表情地说话，但也并不是我，他们都无法用肉眼、耳朵分辨出来。如果发生这种情况，将会是一个怎样的状态？那时候会不会乱套？

李开复：很不幸，这个未来必然会来临，而且不会很久，今天用足够多的时间和计算已经可以做出你刚才描述的情景了。我们也看到有很多假新闻，或者一些明星的脸被贴到一些不堪的画面上，这已经在不同的国家发生了。 从短期来看，这是一个不断对抗的过程，好的网站可以不断抓Deep fake，大部分时候可以抓到，能否抓到还要看谁的计算机更快，只要好人的计算机比坏人的更快，基本上可以抓到。问题是，如果有很多坏人不断把这种东西放到各个网站上，我们可能就会抓不胜抓，甚至有时候也会犯错，会有一些漏网之鱼。这是十年之内我们确实可能会面临的一个巨大挑战。怎么办呢？ 一方面还是要有更好的监管，如果做了坏事，冒充别人，骗了钱，或者做了假新闻，被抓到后得有比较严重的惩罚。另外，大家的眼光也要更亮一些，不要看到什么就马上相信，假如今天在某个社交平台上看到一段感觉不可思议的话，第一个就要想，这会不会是假的。同样的，以后大家看到俞敏洪老师讲了一段不可思议的话，首先就要想想，这是不是假的，这可能需要大家的思考提升上来。 如果看得更长远一些，比如二三十年后，会有比如区块链技术，可以嵌入到各个不同的设备，相当于加上水印来验证这个视频，这个照片是我这个手机拍的，它没有被篡改，这样就可以杜绝Deep fake，但这需要升级所有手机、电脑、摄像头等等，不是短时间内能做到的，计算量也会比较大。 最后我想补充一下，Deep fake的技术不完全是坏的，这是一个可能容易被坏人使用的技术，但每一种技术都有好的应用和坏的应用，比如以后要拍电影，是不是可以不用演员了？就用Deep fake的方法，低成本、非常快速地做出一部电影、一个游戏，这还是相当有价值的。包括现在谈的元宇宙里，或许也需要用类似的技术才能渲染出更多人，更逼真的脸、手势、表情等等，所以技术有好的应用，不全是坏的。

b.

反向控制

俞敏洪：有一个问题，现在人已经不知不觉地被技术控制了，比如大量的人在手机上花大量的时间，刷屏也好，打游戏也好，几个小时甚至十几个小时。这就产生了一个问题，人或多或少被机器所控制，比如我会根据我手机上显示的行走步数来确定今天我要锻炼的时间，有的时候很忙，到了晚上打开手机一看才走了5000步，就又会跑到外面再走5000步或者1万步，这算是一种良好的控制，但其实有很多不甚良好的控制。在你的书中，第一个故事叫《一叶知秋》，讲述了因为人工智能的发展，人反而更加分层，更加有偏见，更加不能掌控自己命运。你觉得在这方面，技术的发展会把人类引向什么地方？人应该以什么样的态度来面对和防范？ 我现在会在自己工作和阅读的时候，把手机放在我不能随手拿到的地方。另外，我会强制性地要求自己刷视频、刷信息的时间最长不超过20分钟。我是比较自律的，但现在的年轻孩子，甚至很多家长完全做不到。关于这你怎么看？机器会从哪些方面控制人类？人类应该做出什么样的应对措施？

李开复：今天所谓机器控制人，其中一个重要的理由就是，AI太强大，所以很多公司第一想到的就是用AI来赚钱。AI怎么为一个互联网公司赚钱？其实就是让人多用它的APP，人们用得越多，看的广告越多，就越赚钱。在这样一个AI优化的过程中，并没有充分考虑到给用户看的信息对用户有害还是有益，会不会上瘾，有没有不适合的、暴力倾向的内容等等，它们只是比较单一地让用户多看这个网站或者APP，所以我们需要鼓励、帮助这些大公司修改它们的APP，让他们用AI的时候不要那么单一地为了赚钱而进行优化。 当然这还是有蛮多挑战，因为一个公司要赚钱也是天经地义的，但我在书中也提到了很多方法，比如可能有一些监督网站能够监督每个APP有多少虚假内容，或是打分、公布给社会看，太多虚假内容就会失去信誉，甚至可以把它当做公司治理的ESG之一，虚假内容太多的公司，基金就不能买它的股票。 可能要靠这些方法，如果只靠法律法规严惩是不够的，要让这些公司能有动机自律，俞敏洪老师能够自律地把手机放下来，但并没有很多公司能够自律地说，我要为用户好，我可以不赚钱，这还是比较困难的。 在《AI未来进行式》的第一篇故事里，AI还产生了偏见，大数据里拥有的偏见。第一个故事里描述的是种族歧视，做APP的公司本身并没有歧视某一种民族，但是因为过去很多数据的收集，当某一个民族的人嫁给了另一个不那么发达成功的民族时，对前者未来的发展，甚至健康、保险都会有一些量化的伤害，于是AI就自作聪明地阻碍这样的恋情发生。其实整个故事里并没有坏人，保险公司、APP公司也是为了用户好，但却发生了这种不人道的事情。所以未来做AI的工作者，需要明白，当一个人、一种技术或者一个公司的权力越大，责任也越大。 AI的能力这么强大，每一个做AI的人必须顾及到自己技术中可能会产生偏见、误导，所以我们要用各种方法来平衡数据，用自动的方法也好，或者小心翼翼用人工的方法也好，做到能够预警不良情况的发生。要解决这类技术问题，主要还是靠技术方法，所以希望更多的技术人能够更加保持警惕，让自己进步，发明更多的方法降低这些不好的事情的发生概率。

c.

数据隐私

俞敏洪：现在还有个隐私保护的问题。我们下载任何一个APP都有可能把自己直接交给了这个APP，包括我们的行程，手机内的信息。因为它总会问你要权限，你不小心就点了同意，甚至有时候是不知不觉地就让它拥有了权限。现在我们带着手机出门，我们的行程、到达的地方、购买的东西都被暴露得一清二楚，但又不能把手机放在家里，因为手机是通讯工具、支付工具，手机不能离身。 这样的状态下，人好像变成了电子的、无形的、透明的，就这样被曝光到社会面前，我们甚至不知道自己到底暴露了什么，别人知道的反而比我们自己知道的更多，这种情况下，人是会缺乏安全感的。国家也制定了很多保护隐私的措施，但在现实中，因为某种意义上是群雄混战，所以对个人其实带来了不少的影响。从这个意义上来看，对像我们这样已经手机不能离身的普通人有什么建议？

李开复：的确会有这样的困境，在今天的技术框架下，如果我不提供我的数据，就会突然发现，我们手机里的淘宝、抖音、美团，都无法像过去那样聪明、精准地工作了，我们生活会面临麻烦，所以一定程度上，我们是拿了个人数据去交换了一些好用的APP。目前的一些方法，比如现在Web3.0技术或是欧洲的《通用数据保护条例》（General Data Protection Regulation，简称GDPR），都在试着把数据还给用户，但如果做得极端，没有了数据，AI就不工作了。所以这是我们所面临的两难问题，数据给了它怕它作恶，不给它AI又不工作。 所以可能比较好的解决方案还是用技术解决技术问题。有没有可能鱼与熊掌可以兼得，有没有可能把我的数据放在我信赖的机器上，也许是我的手机或者电脑，然后由一个很聪明的助理进行管理，它知道什么情况下能用我的数据去达到我想达到的目标，而且能确保我的数据不会离开我信任的环境，不会被不被足够信任的公司拿到。 举个例子，如果我们觉得病例是非常重要的隐私，不能乱给别人，但是你的病例必须得给到医院，同时我们又想用1000家医院的数据来训练一个特别强大的癌症诊断系统，那怎么办？如果把这1000家医院各有的1000个用户病例，就是100万个病例，汇集起来，其实可能就会造成被人滥用的风险。那有没有可能这1000家医院各有自己的一套系统，自算自己的1000个病人，算完后再上传已训练好的模型，模型和模型就可以再结合了，这样操作，我的数据就没有离开我的医院，但我也贡献了数据，帮助了癌症的诊断。这样一套技术称为联邦学习，我们希望这类技术能够逐渐解决隐私被滥用的问题。 俞敏洪：不管是如何产生的数据，其实都是有所有权的。我认为数据是因为我产生的，原则上这个所有权是在我。很多大公司用了我们的数据，产生了很多经济收入，相当于在我们不知不觉、没有被告知的情况下，这些数据被无偿使用了。这就产生了一个问题，数据的所有权到底属于谁？商业利益中的一部分用户是不是应该也有分享的权利？ 李开复：对，有不少人提出这样的看法。然而过去这些互联网公司都不给我们钱，今天让他们把钱吐给我们，可能比登天还要难。也许这对未来新的应用是可行的，但是对过去的应用是很困难的。 我们思考这个问题的时候，建议不要太纠结拥有权，因为拥有权是可以授权的，授权了以后是不是就能让他用了？我们现在也常常在各个网站上授权这个，授权那个，最后都授权出去了，我们自己也不知道结果如何，这是个很大的挑战。所以我们可以跳出这个框架，想想有没有别的模式可行。 比如今天大部分互联网公司都是广告的商业模式，会很想让我们看各种东西，看得越多广告就越多。这样会有两个坏处，一是这些广告对我没什么好处，我并不想看它；二是它为了让我在APP里花费的时长更多，就给我看很多也许不适当的内容。 我们可以思考一下另一个商业模式——订阅模式，比如我们订阅某一个公司的音乐或视频，在这个过程中，我们和公司的利益相对比较一致，因为公司要尽量做好内容和服务，让每个用户都满意，一旦用户不满意就不再订购，这个公司就不敢乱用个人隐私，也不敢打太多广告，因为用户已经每个月付费了，还要打一堆广告让用户看，用户就会不爽，这样的方式会降低广告行为。而且公司也不需要让用户一定要花费足够的时长在APP上，因为如果是广告的商业模式，看得越多就越赚钱，但如果是订阅模式，用户每个月已经付了100块钱，APP就没有必要再让你在他上面花几百上千个小时。

所以，我们希望未来有更多订阅式的，而非广告式的商业模式，这样就会使公司很自然地去做对用户好的事情，而且也不敢做对用户坏的事情。如此一来，用户也相当于有了一个武器。因为如果是用广告支持的商业模式，公司可能会想，你不用我的网站行吗？反正你不付钱给我，我为什么要满足你？但如果是订阅模式，用户的武器就很简单了，你给我看太多广告和垃圾内容，把我的数据拿去滥用了，我可以马上停止付费，公司就赚不到钱了。 所以解决的方法不完全只是把用户的数据还给用户，当然如果能做到也是一件好事，我们也还可以思考一些别的模式，因为我们最终想做的事情是让公司的利益和个人的利益能够越来越近，这样就不会有利益冲突。 俞敏洪：但这还是一个用钱买自由的模式。 李开复：也是。

d.

信息茧房

俞敏洪：现在大部分老百姓不知道算法是什么，但大家都深受算法的影响。比如我在某个新闻APP上总看某个方面的内容，新闻APP后续就会总推送类似的内容，甚至当用户赞赏了某个观点后，后面推送的所有文章、讯息、视频都是用户喜欢的那个观点的内容。这就形成了新闻传播界讨论的“信息茧房”，反而用户接触不到多元化的信息。 原来没有这样的算法时，所有的信息都能被我看到，我可以自己进行筛选，现在我自己不用筛选，机器已经筛完了，结果反而让我看不到反面的信息，甚至是更有参考意义的信息。所以一个人如何避免因人工智能算法使自己进入“信息茧房”，让思维反而变得狭隘的情况？ 李开复：其实书中有几个故事跟这个问题相关，这确实是一个问题，但主要问题还是因为目前AI算法太单一。一个公司想要我们花更多的时长看它的视频或者商品，就会不断秀这些东西，让我们的时长不断增加，而且它可能会发现我们喜欢某一个明星，就不断地让我们看这个明星，我们认可某一个观点，就不断给我们看这个观点，使我们接触不到多元化的信息。所以多元化AI目标函数是一个重要技术，APP并不只是为了一个目的而给用户看内容，它的目的可能有很多个。 如果看得更远一点，从用户角度来说，一个用户希望自己得到成长，变得更有知识、更聪明，或者更被别人喜欢，更被别人尊敬，如果我们有方法能够衡量这些东西，我们推送的内容能满足这些需求，达到多元的目的。所以如果我们能够想一些比较复杂的优化目标函数，根据每一个用户真正想做的事情推送内容，把这些目标做得复杂些，多元化一些，我们看到的内容可能就会有所不同。 这些目标中还包括一些别的事情，比如教育系统认为每一个年轻人应该多看点什么内容，有没有什么是通俗的，是全世界每个人都应该多了解的东西，偶尔秀一秀，有些东西可能是这个用户从来没看过的，但我们是否可以试一试，如果他喜欢了，以后再推给他，不喜欢，那就不好意思，浪费了你一次的时间。这些都是在把AI的目标函数做得更复杂，这不是纯粹地只做某些方面的优化，而是需要优化很多事情。有些可能因人而异，有些可能是社会教育体系或者经验告诉我们的，有些就是单纯内容很好应该推一推，所以要综合考量各个因素，才不会造成你刚才讲的“信息茧房”的状态。

俞敏洪：有没有可能现在用户可以自己选择，比如有一键按钮，按下去之后，它就不再自动推送这种算法推荐，我想看什么东西就看什么。如果有了这样的选择就有了主动权，到现在为止我没有发现有这个主动权，从技术上这个事情应该是可行的吧？ 李开复：是可行的，而且非常简单。很多视频网站也有搜索功能，只要有搜索功能或是浏览功能，一旦浏览了就会有AI来优化。 俞敏洪：比如我搜索了几部讲抗日战争的电视剧，结果后面推送的很多都是抗日战争电视剧。 李开复：对。我觉得可以把更多选择权放在用户手里，让用户知道自己有几个可选项，可以用搜索的，可以用推荐的，也可以用不用AI排序的，用时间流排序，或者用浏览量排序，这肯定是可以做到的，我们可以给用户更多的选择。 俞敏洪：现在各个网站有热搜功能，根据搜索人的多少来排列的。 “ 05. 人工智能可能对人类的影响”

a.

元宇宙

俞敏洪：人工智能和机器对人的影响其实才刚刚开始，面向未来，这个影响会不断深化，包括青少年在内，因为未来AR、VR、MR等会把人带到元宇宙。这本书中也写了很多有关元宇宙和“3R”的故事，他们其实会给我们的生命和生活带来影响，我不太懂这方面，但我了解的基础概念是，一个人进入元宇宙的时候，是完整地把自己放入了一个虚拟世界，甚至会忘掉这是一个虚拟世界。这种情况下，人可以根据自己的感觉来创造一个自己喜欢的世界，这个世界有可能跟现实世界格格不入。当人回到现实的时候，他在现实中反而就变得没有生存能力。 像现在，虽然我们也受人工智能和机器的影响，但我们毕竟还是在现实世界中跟大家进行交互，如果是在元宇宙中，我们很有可能就感觉不到现实世界的存在了。这对未来的孩子们，包括对成年人的影响是什么？元宇宙等等的东西会对我们的生活和工作带来什么样的好处？能解决人类什么问题？它们会给人类带来什么样的麻烦？

李开复：这套元宇宙可以是纯虚拟的，也可以是虚拟和真实世界结合的，这是AR/VR/MR的差别。你提到的是一个非常真实的问题，它所提供给我们的是一个沉浸式体验，当我们戴上眼镜或者头盔，就真的跳入了一个平行宇宙，一个不同的世界中，而且非常逼真，非常有意思，会非常吸引我们。从正面来说，我们可以做特别好玩的游戏，让大家玩得开心；未来的电影我们也可以参与；未来的教育可以让我们学历史的时候就回到秦始皇时代，看他建长城，焚书坑儒，看当时罗马的基督徒碰到了什么样的问题，被狮子吃掉等等各种非常逼真的场景，这可以让我们更好地学习，比看课本、看视频震撼力更大，也更有趣；从培训的角度来看，要训练一个什么技能，可以直接虚拟地训练，提前做好我们想学的工作，这些都是正面的应用。 就负面而言，它最大的应用还是娱乐，而且会被证明让人特别喜欢的也仍然是娱乐。今天的手机游戏已经让很多人欲罢不能，而元宇宙则是手机游戏加强1000倍的版本，所以以后父母对孩子，个人对自己的自律都会变成很大的问题。 而且书中还提到一个场景，未来AI会取代很多工作，有一批人的工作会被AI取代，他们自己的人生追求是通过工作得到满足，但自己所能做的所有工作都被AI取代了，这时候就应该接受新的培训，去做更长的培训，做AI不能做的工作。如果元宇宙里面又有游戏，很多人因为觉得这个世界已经没有工作可做，培训又太麻烦，索性就拿着政府的救济金和补贴或者失业金，戴着眼镜直接飞到另一个世界，沉溺在游戏中，这两件事情加起来又会让问题更严重。

b.

人工智能取代工作

俞敏洪：这刚好也是我想问的，人工智能取代人的工作这件事情几乎是不可逆的，和当初工业革命时，机器对工人工作的取代是一样的概念，所以当时也有很多革命，很多工人把机器砸掉。但没有任何人能砸掉人工智能，而且它是在无形中取代掉我们的工作。现在因为社会的发展和进步，不少国家对失业者进行补助，包括疫情期间有各种各样的补助，很多人拿了补助以后就打游戏。 从长远来说，这对人的发展和心理会造成重大负面影响，因为任何一个人的心理健康和幸福感都来自于自己具体参与或者主宰了某件事情以后所得到的成就感。尽管打游戏会有成就感，但在现实中是虚幻的，也就是说游戏中的成就感没法替代我们在工作中取得的成就感。那么，人工智能取代人的工作这件事是否必然会发生？ 

李开复：每种科技都会取代一些工作，但历史告诉我们，每一种科技最终也会带来很多新的工作，但需要一个缓冲期让这些新的工作产生。就像刚刚有互联网的时候，我们可能无法预测现在滴滴司机或者美团小哥这样被互联网创造出来的工作，但是他们会在一段时间的发展后衍生出来。 长期来看，AI还是会带来很多工作，我们可能只知道一些，还不知道全貌，如果给予足够的时间，这个问题可能会被部分化解。麻烦的是，AI本身是有智慧的，所以它能马上做我们在做的事情，在还没有帮助我们创造很多工作的时候，我们的工作已经被取代了。所以AI的工作取代速度和力度也会超过过去的科技，这是我们面临的一个很大的挑战。 我们可以考虑的是，到底什么工作不会被取代，一方面是很有创意的，有关分析能力的、跨领域的、跳跃式思维的，这些是年轻朋友应该去努力发展的方向。 那如果一个50岁的工人这辈子只做过某一种工种，他被AI取代之后，他还有15年工龄，这时候让他去做科学家、艺术家、CEO是很困难、也不符合常理的，那还有什么工作是可以做的呢？有几种，一是可以在已有的工种上做AI还达不到的事情，比如现在AI可以搬运，可是AI还没有手这么灵活，也没有手眼协调得这么精确；另一种，AI是无法处理陌生环境的，这种情况下有些工种AI就处理不了，比如水管工，因为水管工要分析理解水管的情况，要大胆地敲破墙壁，AI不见得适合做这样的事，所以可以找这类的工作。 再有一种，未来服务业会大大增加，一方面是因为世界上创造了这么多价值和财产，会出现更多的中产或者有钱的家庭，很多事情可以交给机器人做，但有些工作还是需要人来做，比如一个好导游，可以告诉我们去周围哪里游玩，好的餐厅在哪里，或者未来可能有新的工作产生，也许有大厨可以到家里来做菜，也许每年换季的时候帮我们把衣橱里的衣服换了。这些都是一些过去不会想要找人来做的事情，但这些都不是AI能做的，因为这需要一定的创意，来家里做菜的大厨至少要知道你的口味，要做前所未有的菜；帮你清理衣橱的时候要把它弄得香香的，知道你喜欢什么样的环境。 此外，人与人之间会有交流，所以我们需要有温度的工作。比如护士，或是老人院和孤儿院的照护，这类工作是有温度的，能让大家心中感到温暖。这些工作AI一方面不会做，即便会做，至少在未来的三五十年内，人们是不会接受一个机器人来做老人照护的。当然，这些工作在今天可能并不是社会里最受追捧或者收入最高的工作，但随着供需的改变，我相信这些工作以后会有更大的市场需求，他们的工资也会得到更好的提升，人们也会更愿意做这类工作。 俞敏洪：提到不可被替代的工作，我脑子中想到的是幼儿园老师、小学老师，包括家庭辅导老师，因为他们有温度，有温度的事情是不太容易被取代的。我也一直认为孩子的成长必须在父母温暖的怀抱中，在老师为人师表的引导下，在跟小朋友一起的相处中，才能真正成长为一个健全的孩子。你在书中也反复提到AI在定制化教育中对孩子的陪伴问题，那么在未来，人工智能会在一个孩子的成长过程中带来什么帮助？ 点击图片可购买《AI未来》
李开复：未来老师的工作可能也会有一些调整，老师的部分工作AI可以做得更好，可以让老师有更多时间去做AI做不了的事情。如果是一个AI虚拟老师，它可以在孩子的手机、电脑中或者元宇宙里每天陪伴孩子，这是老师做不到的。有了陪伴就有了数据，可以了解每个孩子喜欢什么，用孩子喜欢的方法来辅导帮助孩子，它可以知道每个孩子学到了什么程度，哪些东西没学好，可以先帮孩子打好基础。这些事情老师当然也能做，但一个老师教30个学生，不可能按照每一个人合适的方式和速度来教学，老师也不可能保证清楚地知道有没有某个学生落后了，或者超前了，或者感到枯燥。 但AI可以，AI会知道这个学生乘法还没学好，要赶快学好，不然接下来要教除法了；或者这个学生喜欢篮球，AI能不能把一部分数学题改成篮球相关的题目给他做；AI老师还可以变容貌，可以是正常的老师，也可以是小朋友们喜欢的卡通人物，也可以是一个机器人，或者动物，而且可以有非常有趣的教学，我们可以把它称作AI助教，它可以用更长的时间，更深的千人千面的针对性，做到更贴合孩子的兴趣和需求，打造专属的助教补助课程。 随着AI助教越做越好，老师更多的时间就可以用在孩子的情感接触上，彼此建立信任，教一些有关情商、创造力、沟通能力、团队合作的软知识，或者做需要跟其他小朋友一起做的事，同时也可以为人师表，在孩子的人格、个性、人品的发展中做更多工作。至于练习加减乘除，或者要学会该怎么用毛笔写字等等，恐怕AI助教可以教得更好。

c.

无人驾驶

俞敏洪：最近几年，自动驾驶、智能汽车已经成为全世界的热点，并且很早就开始研发，包括各个大公司，比如Google、微软、特斯拉。中国也有大量公司在研发，比如百度在智能驾驶、智能交通上投入了巨大的精力。未来智能驾驶也一定是个方向，因为人类对技术的追求是无止境的，一旦无止境就会有突破口。 目前为止，自动驾驶中的局部精密计算是没问题的，比如这次冬奥会就用了大量自动无人驾驶汽车接送运动员，从一个地方到另外一个地方。但真正全天候的，在什么路上都能开的自动驾驶汽车到今天也没有真正上路，就怕一上路出问题。那么，关于真正的自动驾驶，像我这样的人年纪大了之后，自己不能开车，也没钱雇佣司机，就得需要一辆自动驾驶汽车，我说请带我去黄山，然后我就在车里睡一觉，这个车就自动开到黄山。这种场景大概什么时候会发生？智能驾驶最重要的突破点在哪里？ 李开复：我认为你描述的场景，在先进的国家，比如中国、美国，可能需要10-15年，一些比较落后的国家可能需要20-30年。自动驾驶的发展路径和AI的发展路径是一样的，第一，能不能快速产生海量的数据让它快速进步。但这会产生一个悖论，无人驾驶在路上可能会撞到人，所以我们也不敢太早地推广它，但不早点把它推出来就没办法产生数据，这样一个怪圈怎么解决？ 一种解决方法是先落地一些比较简单的、有限制的场景，比如先把无人小巴、无人叉车、无人机场接泊、无人机场行李搬运、旅游区接泊车、矿区矿车等等先做好，累计数据，有了数据后再做更难的应用，最终希望能够达到货车、轿车的水准，先由人接管，之后就不需要人接管了。它一定是一步一步地迭代，随着迭代，我们能够提早落地，收集数据，做更难的场景。 我们投资了很多无人驾驶公司，前面提到的每一个应用都是我们投资的公司在做的，这些中国公司相对美国公司来说更务实，更希望能够尽早落地，收集数据，推进项目。在美国我们会看到Waymo在不断地精进技术，但不愿意去约束这个技术，他们希望一推出就是比人开得更好的技术，这可能会比较困难，因为数据的累积需要有安全员的车来不断累积。所以在两三年内，我们可能会看到很多无人驾驶会在很多有限制的场景中越来越多，价钱也会越来越便宜，然后在5-7年内开始在这些领域达到普及。如果希望汽车能够完全自己开，而且开得比人好且足够安全，可能需要在不断练习，不断累积数据之后，经过10-15年才能实现。

数据是非常重要的。特斯拉在美国推出了一个功能叫“过来接我”，它不是让这个车开到任何地方，只是如果这是我的特斯拉，我把它开到了停车场然后去购物，出来之前我就可以下指令到某一个出口来接我，当我走出去的时候车子就已经自己开过来了。一方面我不用走更多路去找它，另一方面有些人停了车也找不到，如果车子可以来找我，这两个问题就都解决了。 这个功能刚推出的时候一片混乱，因为它的技术做得不够好，很多人就会在视频网站上说，你看这个傻车子，开到哪里去了，你看速度这么慢等等。但两三个礼拜以后，因为收集了一些数据，又重新训练了一套模型，再来试用这个功能时，大家的留言就变了，“哇，好神奇，我的车居然能够来接我，像科幻小说一样”，这就是数据的力量。第一个版本数据不够所以开得不好，但不足够好的技术依然可以收集数据，到了第二个版本就可以完全解决这些问题，所以以后的发展也是跟着这样的原则走的。

d.

军事应用及智能威胁

俞敏洪：人工智能也会对人类命运产生重大影响，比如现代战争中，就有很多人工智能技术。从某种意义上说，未来的战争可能都不需要人打仗，而是人工智能之间的战争，如果哪个国家人工智能技术不到位，有可能被拥有人工智能武器的其他国家欺负，或者根本占不到优势。这样下去，其实人类的命运并不一定掌握在人类自己手里，因为人工智能有弱人工智能、强人工智能，强人工智能就能像人类一样可以思考、分辨等等，那未来会不会出现这样的情况，人类反而变成了人工智能的奴隶？ 李开复：首先讲一下人工智能在军事方面的应用。一个比较重要、也有一定危险性的技术就是自主武器，比如一个无人机能做得足够小，小到苍蝇那么小，它能够靠人脸识别找到一个人，然后射一点毒药或者炸药就能杀死这个人。这个技术其实离应用不远了，但这个技术面临好几个挑战，第一，它是机器在人的指使下去主动地杀人，第二，它可能可以被一个邪恶的国家或者恐怖组织利用，然后有组织性地去杀人。人类能够控制得住生化武器，核武器虽然用过几次，但也基本可控，所以我们也应该花点时间去了解AI武器、自主武器，怎样让它不对人类造成特别大的伤害，甚至灭绝的可能性，这是其一。 第二个问题是，AI到底有多聪明，会不会把我们当奴隶？我觉得20年之内是不会的，我们看到的AI之所以会越来越聪明，主要还是因为它们是我们的工具，是听我们使唤的。人类有一个很大的特点，是我们有自我意识，这个自我意识到底是什么，其实并没有被了解。但只有有了自我意识，人才会想活下去，才会有七情六欲，才会有感情。 我们在很多科幻小说和电影里看到的机器人和AI，跟我们一样有自我意识的，有欲望，是想要控制别人的，所以才会有《终结者》这样的电影，但这是怎么产生的，我们现在完全不了解，我们也不了解人的自我意识来自哪里，更不知道怎么赋予AI自我意识。 AI今天是一个工具，20年以后还是一个工具，作为工具，它的特性就是人告诉它做什么，它就做什么，它自己不会因为做得好而高兴，也不会因为做得不好而伤心，它不会有什么生存欲望，人把机器关了就关了，也不会希望能控制人类。现在我们既不懂人类是如何拥有这些能力或者意识这种特性，我们更不懂怎么将其赋予给AI，这被称为奇点（singularity）或是超级智能（super-intelligence），所以这些在20年之内是看不到的。 那到底要多久才能看到？这其实是一个突破性的科学发展。未来我们会逐渐了解人的大脑构造，我们的自我意识、感情和创造力来自哪里，了解这些以后，我们又该怎么把它赋予给AI。这里面至少有10个诺贝尔奖，当这10个诺贝尔奖都颁发了，相应的东西也都被发明了，那天可能就会来临。但究竟要多少年，20年、50年，还是100年、1000年，还是永远不会？这我们没办法预测。 所以我这本书之所以写的是20年以后的技术，是因为到那时，我们能做的事情是相对清楚的，哪怕最难的一个预测，即量子计算，也有80、90%的可能做出来。但是在20年之内做出来奇点（singularity）、超级智能（super-intelligence）的概率应该很低，可能1%都不到，100年之内能否做出来也很难说。

俞敏洪：按照这个说法，霍金和马斯克他们到底在担忧什么？他们都是比较强力担忧人工智能会给人类带来的负面影响。 李开复：对。他们毕竟不是人工智能专家，他们比较简化地认为，人工智能今年比五年前强了一千倍，五年前比十年前强了1万倍，按照这个速度人工智能迟早要超过我们，或者今天AI的算力是人脑的1/10，再推进10年就会超过人了，一超过人就比人厉害多了等等。但这些都是非常简化的思维，他们没有考虑到其实很多重大的科学的题目并没有被解决。 虽然今天我们谈的算力、数据都很重要，但算法的突破还是非常核心的，也就是说在深度学习之上，我们可能还需要10个诺贝尔奖、10个图灵奖才能达到那个地步，他们忽略了这一点，以为算力真的是一切。相信今天人工智能顶级专家中，应该有60、70%以上会同意我的观点，所以这还是一个相对比较主流的观点。当然也有少数人认为奇点（singularity）和超级智能（super-intelligence）会在20年之内到来，所以我们也不一定对，只是不同人有不同的观点，但大部分AI专家认为还是需要比较长的时间。 我们发现那些最担心灾难发生的人，可能都是相对比较外行的，包括牛津大学有一位教授写了一本很有名的书就叫《Super Intelligence》，他的研究有一定的价值，但其实他是一个文科生。从我的角度来说，超级智能（super-intelligence）还很远，但是有一天可能发生，到快要发生的时候，如何做一些研究来尽可能规避、减少它对人类的毁灭性作用，是我们今天需要去研究的，这几句话我是同意的。 牛津大学有一个实验室在专门研究超级智能（super-intelligence）来之前，人类应该做什么事情来降低它对人类的毁灭性的作用，一些大学做这种科研没什么问题，但如果把它说成必然会来，10年以后会来，20年以后一定会来，这样的话就不负责任了。 俞敏洪：马斯克做了脑机接口，这和人工智能应该没有特别大的关系，他做脑机接口的目的是什么？如果未来人脑的信息能通过脑机接口百分之百地储存起来，到最后我们肉体消灭了，但我们的脑子还在，是这样吗？ 李开复：这是一个书中没有预测的现象，因为今天没有足够多的证据证明这件事有80%的概率在20年内发生。它有可能发生，但大概率还是很难。 它研究的是在人或动物脑与外部设备间，建立的直接连接通路，以实时翻译意识，最终做到人类与人类之间、人类与机器之间自由传输思想、下载思维。这个理念本身没有问题，只是里面有太多未被解决的问题，我们大脑里的信号下载出来到底是什么？怎么去理解？下载出的信号怎么能转译为语言？怎么转译成为知识？这些都是未知的。 很多脑科学专家也认为，这个技术不是一个10-20年之内能真正做到的。当然还有很多医学上的问题，比如每次接入大脑的时候都会伤害到脑细胞，就会有一些脑细胞死掉，常常插管的话，可能还没有增强大脑，大脑就已经死掉了。相对来说，这个领域比奇点（singularity）和超级智能（super-intelligence）更加可触及，也更值得做科研，但还是不能有比较高的信心来预测它能在20年之内发生。 “ 06. 尾声” 俞敏洪：谢谢开复，我最后还有三个问题。在《AI未来进行式》的最后两篇，《幸福岛》和《丰饶之梦》中，讲述了人工智能可能跟人的幸福的关系，以及通过现代技术的发展，人工智能实现人类的丰饶之梦，让大家丰衣足食，人们则去做创造性的工作，各取所需，甚至货币都变得不太重要了，因为想要有的东西就能有，世界整体处于一个丰饶的状态。坦率地说，我个人认为这是一个乌托邦的思想，我也认为这很难发生。我想问的是，技术真的能给人类带来幸福吗？技术真的能解决人类的贫穷、不公平，以及差距吗？我在这方面抱不太乐观的态度。

李开复：这两篇故事里客观的事实是，技术会让未来所有需要买的东西变得越来越便宜，因为任何一个产品，手机也好，杯子也好，都有三个成本，一是物料材料，二是制造过程和人工，三是能源。这三个成本在未来10-20年内可能会降低10倍左右，所以理论上来说，科技会给我们带来一个丰衣足食的机会。 AI帮我们做了很多工作后，我们的GDP是一样的，那人类就可以做更多更高级的事情，可能能创造更多价值，这个看来也是可实现的，但这是不是一定会带来丰衣足食？因为有些公司可能很自私，还是想赚钱，即使成本下降了10倍，但还是想卖得更贵来赚钱，创造一个虚假的奢侈品，这也是不可控的、可能会发生的事情。 整个股票市场等都有很多历史原因，也许我们会觉得当大家都丰衣足食了，也许货币就没有那么重要了。过去货币让我们得到安全，得到温饱，现在我们有了安全，有了温饱，我们应该用一些货币的概念去追求更重要的事情，比如获得尊重、给人帮助，或是自我实现。有没有可能用货币作为一个方法来推动改变马斯洛的金字塔？这可能是一个比较大胆的臆测，未必会那么容易发生。 如果大家都把自己当作地球人，都理性地去帮助人类做得更好，在这样的前提下，这些未来的梦是很可能可以被技术推动的。当然，今天我们可以看到，世界并没有达到那个前提，这可能正是俞敏洪老师所说的乌托邦的部分。如果我们最后达不到这些状态，也只能怪自己。 俞敏洪：当下很多人都说，我们现在还不如古代人幸福，当然在我看来古代人并不一定比现代人幸福，因为古代大部分人都是在生死存亡线上挣扎的。现代人生活的不幸福也是可以看到的，比如现在年轻人不敢生孩子，自己的工资在支付房租、吃饭以后就已经所剩无几，而且每天差不多是“996”的状态，也就是说技术的进步到今天为止并没有给人带来更加轻松的状态。尽管我们的生命变长了，医疗条件变好了，吃饭变好了，但其实睡觉变坏了，心态变坏了，心灵不再宁静了，而且事实证明现在年轻人得抑郁症的情况越来越多。面对未来竞争的加剧，所有科技包括人工智能也推动了人类竞争的加剧，这种情况下，作为一个技术专家和人文专家，你对现在的年轻人有什么建议？ 李开复：我们看这杯水，如果认为它是半满的而不去看它是半空的，我们就会觉得人工智能会带来特别巨大的价值，因为它可以降低所有产品未来的生产成本，创造更好的时间利用，可以取代重复性的、我们不想做的劳动，让我们做我们擅长的、想做的事。所以如果我们把一杯水当作半满，作为年轻人首先应该尽快去掌握人工智能作为工具的使用方法，比如做记者的可以学会用AI工具来工作，律师也是一样。我们要更了解AI能做得很好的事情，不要再在那上面花那么多时间学习，我们更要做的是AI不能做的事，这样在未来的世界里才有竞争力。未来我们也会有更多时间去做我们爱做的事，这其实还是一个很美好的世界。 在书中的最后几段提到，如果我们放弃自己，觉得这个社会很糟糕，觉得AI要取代我们的工作，觉得奇点（singularity）和超级智能（super-intelligence）要来临了，要把我们控制住了，我们肯定就颓废了。最后无论这些不好的担忧是否成真，我们未来都完蛋了。如果我们要掌握未来，把握每个机会往前推进自己，看到的一杯水是半满的，这样一定会有机会让人类变得更好。 这些技术最大的阻碍是人们的悲观，人们的不相信，人们的不合作，人们的贪婪，人们的自私。我们如果能够在这么好的技术来临的今天，控制住这些不好的习惯和欲望，变得更积极主动向上，未来一定会是充满希望的。

俞敏洪：到今天为止，你的一生算是比较有承接的、丰富的一生，经历了大风大浪，你还生过病，这反而使你更珍惜时间，更珍惜生命，更愿意去奋斗坚持。你会正向地对自己鼓励，也对其他人鼓励，而且还在不断地创作像《AI未来进行式》这样普及科学技术知识、人工智能知识的书籍，让人类为未来社会做好准备。 那么，面向这样一个竞争社会，中国的年轻人如果想过跟你一样丰富的生活，或者生命体验，对他们来说最重要的两到三点应该是什么？ 李开复：每一个人都要活出适合自己的未来，而不是去重复别人的方向。但我可以谈谈几个我认为比较好的优点： 第一，我总是乐观，选择相信的力量，相信技术，相信朋友，相信员工，相信人类。 第二，积极主动，看到好的机会、好的事情就应该去做，无论是一个工作、一个技术、一次跳槽，还是创立一个公司、一个学习新科技的机会，我都会非常积极主动地推动自己，不会让自己缠缚在一个从众的心态里面。 第三，永远充满好奇心，特别喜欢学习新的事物。从当年选择计算机作为我的专业，到创办微软亚洲研究院，再到建立创新工场，这些选择都是好奇心的力量。我建议年轻人们要保持对世界的好奇，有好奇心才有思考，才有探索的欲望，才会产生创新。 俞敏洪：特别感谢开复老师今天和我们畅谈AI人工智能，深入浅出讲述了人工智能在未来的岁月里对我们每一个人可能带来的影响。不管我们愿不愿意，我们的未来一定离不开技术对我们的影响。也许，我们要思考的不是如何阻挡技术进入我们的日常，而是技术如何能够让人类的生活以及我们自己的生活更加美好！ 再次感谢开复，感谢大家的聆听。今天的直播到此结束，晚安！

---

推荐阅读