当前，由人工智能(néng)引领的新(xīn)一轮科(kē)技革命和产业变革方兴未艾。在移动互联网、大数据、超级计算、传感网、脑科(kē)學(xué)等新(xīn)理(lǐ)论新(xīn)技术驱动下，人工智能(néng)呈现深度學(xué)习、跨界融合、人机协同、群智开放、自主操控等新(xīn)特征，正在对经济发展、社会进步、全球治理(lǐ)等方面产生重大而深遠(yuǎn)的影响。

近年来，中央在多(duō)次重要会议中对人工智能(néng)的重要性和发展前景进行阐述。加快发展新(xīn)一代人工智能(néng)是我们赢得全球科(kē)技竞争主动权的重要战略抓手。

当前，我國(guó)人工智能(néng)产业发展处于什么阶段？如何看待当前的发展态势？未来应如何引导产业安全有(yǒu)序健康发展？围绕这些问题，近日，人民(mín)网科(kē)技频道专访了中國(guó)科(kē)學(xué)院院士、清华大學(xué)人工智能(néng)研究院院長(cháng)张钹。

张钹表示，当前中國(guó)在人工智能(néng)产业发展方面与國(guó)际先进水平的差距并不是很(hěn)大，但企业质量有(yǒu)待与数量“看齐”，在拓宽应用(yòng)场景、加强数据安全和算法安全等方面加大功夫。

他(tā)提出“第三代人工智能(néng)”的概念，并表示希望通过政策和法规之外的技术途径解决人工智能(néng)的安全问题。

以下為(wèi)专访实录：

人民(mín)网科(kē)技：人工智能(néng)是新(xīn)一轮科(kē)技革命和产业变革的重要驱动力量，加快发展新(xīn)一代人工智能(néng)是事关我國(guó)能(néng)否抓住新(xīn)一轮科(kē)技革命和产业变革机遇的战略问题。对于当前我國(guó)人工智能(néng)产业发展进程，您怎么看？

张钹：业界普遍认為(wèi)，人工智能(néng)到目前為(wèi)止经历了两代。“第一代人工智能(néng)”是知识驱动型的，也被称作“符号主义”；“第二代人工智能(néng)”是数据驱动型的，就是大家现在非常熟悉的“大数据”“深度學(xué)习”。

人工智能(néng)最早于1956年起步于國(guó)外，而在中國(guó)则起步于1978年。不过这60年中，前面40年左右，也就是“第一代人工智能(néng)”，其进展较小(xiǎo)。真正的进展主要是在近20年里取得的，也就是“第二代人工智能(néng)”。就目前来看，中國(guó)和國(guó)际上的发展差距并不是很(hěn)大。

聚焦产业领域，我们所说的人工智能(néng)产业实际上分(fēn)為(wèi)两个大类：一类是传统信息产业的智能(néng)化，典型的就是如BAT、字节跳动这样的互联网公司。他(tā)们在发展过程中积累了大量用(yòng)户，然后根据这些用(yòng)户数据建立了相应的模型或画像，也就是建立所谓的用(yòng)户“知识图谱”。以物(wù)品配送為(wèi)例，由用(yòng)户位置、商(shāng)家位置、以及骑手的位置等信息组成的几千万甚至上亿的数据，建立成库，再通过人工智能(néng)的算法将其匹配、优化，可(kě)以大大提升配送效率。通过这种方式升级传统产业，已经取得了非常大的效益。在这方面，中國(guó)是做得不错的。

人民(mín)网科(kē)技：人脸识别、智能(néng)音箱、智能(néng)客服……近年来，不仅越来越多(duō)的企业开始涉足人工智能(néng)，“人工智能(néng)”也成為(wèi)高考考生最关注的专业方向之一。在您看来，当前人工智能(néng)是否“过热”？

张钹：据统计，全球10亿美金估值以上的人工智能(néng)企业一共有(yǒu)40家，其中美國(guó)20家，中國(guó)15家。从数量上来说，中國(guó)稳处于第二位。然而需要注意的是，这些企业虽然估值很(hěn)高，但盈利能(néng)力还很(hěn)有(yǒu)限，大部分(fēn)可(kě)能(néng)还在亏本。这是不容过度乐观的。

我认為(wèi)，人工智能(néng)核心产业应该是独立于信息产业的，像智能(néng)交通、智慧医疗、智慧城市、自动驾驶这样由人工智能(néng)技术发展出来的产业。这方面的产业我们现在还处于发展初期。

人民(mín)网科(kē)技：最近，“戴头盔看房”的新(xīn)闻上了热搜，也由此引发了人脸识别技术是否被滥用(yòng)的讨论。我们的人工智能(néng)产业要想健康发展，还面临着哪些挑战？应该如何突破？

张钹：刚才我提到，全世界人工智能(néng)的“明星”初创企业，中國(guó)占了超过三分(fēn)之一。数量虽然多(duō)，但质量仍有(yǒu)待提升。这些企业除了盈利能(néng)力有(yǒu)限之外，还存在严重的“同质化”现象。

為(wèi)什么会出现这种现象？首先，应用(yòng)场景有(yǒu)限。除了人脸识别、安防等，别的领域不好用(yòng)。第二，不安全。包括数据的不安全和算法的不安全。我认為(wèi)这两方面是当前制约我们人工智能(néng)产业发展的主要因素。

首先是数据的不安全。我们知道，现在人工智能(néng)应用(yòng)效果很(hěn)大程度上依赖数据质量，但由此会带来隐私泄漏等安全问题，如果解决不好隐私保护的问题，人工智能(néng)产业不可(kě)能(néng)健康发展。

第二是算法的不安全。所谓算法的不安全，就是在一定条件下训练出来的模型，如果用(yòng)到条件不大一样的地方就行不通了。术语也叫做算法对于测试环境的脆弱性，或者叫“不鲁棒性”。以无人驾驶為(wèi)例，人工智能(néng)训练的时候不可(kě)能(néng)穷尽所有(yǒu)的情境，当遇到新(xīn)的突发事件便无法处理(lǐ)了。同时，这种脆弱性还使得人工智能(néng)系统容易被攻击、被欺骗。

对于人工智能(néng)的安全问题，我们不仅需要从政策、法规等方面进行治理(lǐ)，也要尽可(kě)能(néng)地从技术层面来解决，这也是我们提出“第三代人工智能(néng)”的初衷。

所谓的“第三代人工智能(néng)”，其发展路径融合了第一代的知识驱动和第二代的数据驱动的人工智能(néng)，利用(yòng)知识、数据、算法和算力4个要素，建立新(xīn)的可(kě)解释和鲁棒的AI理(lǐ)论与方法，发展安全、可(kě)信、可(kě)靠和可(kě)扩展的AI技术。

人民(mín)网科(kē)技：当前，以深度學(xué)习為(wèi)特征的“第二代人工智能(néng)”还处于方兴未艾的阶段，业界能(néng)否接受“第三代人工智能(néng)”的概念？

张钹：人工智能(néng)经历了60多(duō)年的发展，现在看来，前面这些年的发展基本上还只是“序幕”。尽管现在我们看到人工智能(néng)的各种应用(yòng)很(hěn)多(duō)，但实际上用(yòng)到的技术基本上还是传统的信息处理(lǐ)，人工智能(néng)真正的问题还没有(yǒu)被深入研究。

此前，大多(duō)数人还不太能(néng)接受“第三代人工智能(néng)”的概念，因為(wèi)大家对“第二代人工智能(néng)”的期望特别高，觉得靠深度學(xué)习，人工智能(néng)就可(kě)以不断发展下去。但后来发现并非如此。

我们是在2015年左右较早提出“第三代人工智能(néng)”这一观点的，后来有(yǒu)國(guó)外學(xué)者在2018年也提出了类似的观点。

人民(mín)网科(kē)技：“第三代人工智能(néng)”要从技术层面出发来解决人工智能(néng)的安全问题，具體(tǐ)该如何发展？

张钹：发展“第三代人工智能(néng)”，我们提出要建立可(kě)解释和鲁棒性人工智能(néng)理(lǐ)论；然后在此基础上，发展安全、可(kě)信、可(kě)靠和可(kě)扩展的人工智能(néng)技术；最后，推动创新(xīn)应用(yòng)。也就是说，要创新(xīn)应用(yòng)、发展产业，必须先解决前面两个问题。

具體(tǐ)来说，我们的方法是把知识和数据结合起来。在这四、五年里，我们做了一些相关的工作，部分(fēn)成果也已经实现了产业化应用(yòng)。最近通过我们孵化的企业RealAI推出的数据安全平台RealSecure、算法安全平台RealSafe，就是这些成果的直接體(tǐ)现。

需要指出的是，这些工作目前也只能(néng)在特定情况下“就事论事”地去解决一些安全性问题。也就是说，人工智能(néng)的安全问题目前还没有(yǒu)找到根本的解法，而且很(hěn)可(kě)能(néng)会成為(wèi)永恒的话题。正所谓“道高一尺，魔高一丈”。人工智能(néng)安全领域未来将会处于一种攻防不断对抗的状态，因此算法也必须不断更新(xīn)。

发展“第三代人工智能(néng)”将是一个長(cháng)期的过程。我们现在还处于摸索阶段。但好在人工智能(néng)有(yǒu)个特点，就是每个阶段性成果都会有(yǒu)很(hěn)大的应用(yòng)价值。这也是為(wèi)什么各國(guó)目前都很(hěn)重视发展人工智能(néng)的重要原因之一。