什么是第三代人工智能，其发展趋势是什么？( 二 )

这不能不考虑到人工智能的特点，我们说深度学习根本不是AI的通用机。现在大家在寻找通用的人工智能，到底有没有，还有争论，不去管它，但至少深度学习不是人工智能。这个非常明显，第一代人工智能也好，第二代人工智能也好，它的应用场景必须满足以下五个条件。
从正面来讲，所有的应用场景，如果满足以下五个条件，计算机绝对能够战胜人类，不管这个问题多么复杂：具有丰富的数据或知识，完全信息，确定性信息，静态，单领域和单任务。
最明显的例子是围棋，围棋多么复杂，但是围棋满足这五个条件，所以计算机战胜在围棋上战胜人类是早晚的事情。所以从正面来讲，如果你满足这五个条件，不管多复杂，计算机绝对战胜人类。长远来看，如果你的应用场景不完全满足这五个条件，其中有些条件不满足，你这个工作就变成困难。自动驾驶为什么如此困难？根本的原因在这里。为什么我们难以做出来廉价、可靠的自动驾驶呢？背后的原因就在这里，因为自动驾驶很多条件都不满足，它不是完全信息，它不是确定性信息，它不是静态的环境，或者是按照确定性规律演化的，它的很多东西是不可预测的，它也不是单领域的，里面有人驾驶的车、行人、其它车辆。所以刚刚李院士提出来专用道，就是把这些东西弄干净，变成单领域。所以我们一直说，如果有些条件是不符合这五条，你就需要下功夫。
现在人工智能能够在这些领域里面得到应用，换句话说，这些领域里面有很多应用产品符合刚才讲的五个条件。如果这些领域里面的应用场景符合五个条件，大家大胆去做，绝对会超过人。根据现在计算机强大的力量，是可以做到这一点的。但是，这些应用里面，也有大量不符合那五个条件的，大家必须下功夫，不能指望靠现在的第一代、第二代人工智能去解决它。
举个简单的例子，复合场景下的决策，完全信息条件下的决策或者完全信息下的博弈，计算机战胜人类是绝对的。下面一个问题，不完全信息的博弈及打牌，大家都知道，今年5月份对扑克牌这个问题也解决了。换句话说，6人无限注的德州扑克，计算机能战胜人类，这就意味着概率意义下的不确定性，机器也可以战胜人类。但是人类的决策环境都不符合前面两个条件。所以在复合环境下的博弈或者复杂环境下的决策，机器跟人类还差得比较远。从这里来讲，应用场景是极为重要的。
这是阿尔卑斯山图片，人起来是，机器看起来也是，只要给它加上噪声，右边这个图和左边那个图，唯一的区别是噪声多一点，人看起来还是阿尔卑斯山，机器看起来是一条狗，而且它的置信度是99.99%，它99.99%认为这是一条狗，非常容易受欺骗，这就说明机器跟人的认知差异非常大。
语音也是同样的道理，前面的英文说的是一句话，我们加上一点点噪声，人听起来还是一样的，机器听起来就是另外的内容，这就非常危险。
搞军事的人说，过去你语音传过去，它进行干扰，你听不见而已。现在语音传过去，它说进攻，可以让你听成退却，加一点噪声就行了，这就是AI的安全性。
另外，缺少自我知识，这是非常重要的。你说我用这个话，让它翻译，「说你行的人行」，这句话计算机怎么翻呢？「说你专业的人行道」，瞎翻，为什么瞎翻？它不知道自己不知道，没有任何自知之明。这是很危险的。为什么翻译成人行道呢？「人行」，它以为是人行道。为什么翻译成「你的专业」呢？「你行」。这是非常危险的。大家想想，我带了一个翻译，翻译水平挺高的，大多数翻译是很准确的，但是他会瞎说，你敢用吗？人类不会，因为他知道这句话如果没有听明白会再问是什么意思，计算机没有自知之明，人贵有自知之明，这是人类智慧的一个部分。怎么让机器有自知之明？这是很困难的事。