人生就是博

【美国《时代》周刊网站11月5日报道】题：亨利·基辛格最后的神圣战争：阻止危险的人工智能(记者贝琳达·勒斯科姆)

美国前国务卿亨利·基辛格在98岁高龄之际，有了全新的兴趣点：人工智能。在2016年召开的比尔德贝赫集会期间，时任谷歌公司执行董事长埃里克·施密特说服他加入了一场关于人工智能主题的讲座，让他对此爆发了浓厚的兴趣。两人与麻省理工学院苏世民盘算机学院院长丹尼尔·胡滕洛赫尔相助，撰写了一本令人振奋的新书——《人工智能时代》。书中探讨了人工智能迅速崛起并投入使用所带来的影响，用他们的话说，这“预示着人类事务的一场革命”。这本书提出的看法是，人工智能的进程如此势不可挡，如此天衣无缝地嵌入人类事务，并且如此不可预知，如果没有一定的深谋远虑与妥善治理，它们将带来的“划时代转型”可能让人类历史走向危险的偏向。

基辛格与施密特一同坐下来接受了《时代》周刊记者的采访，讲述了他们所展望的未来。

技术缺乏哲学引导

问：基辛格博士，您是一位资历深厚的政治家。您为什么认为人工智能对您来说是一个足够重要的主题？

基辛格：我在读大学本科时，写了一篇300页的论文，题为《历史的意义》。历史的意义和我们向那边去的主题一直占据着我的生活。技术奇迹并没有让我如此着迷；真正让我着迷的是，我们正在进入人类意识的新时期。对此，我们理解得还不敷透彻。

说到人类意识的新时期，我们指的是，对世界的认知会有差别，至少像启蒙运动时期与中世纪之间的差别那么明显，其时西方世界在从宗教角度认知世界转向基于理性认知世界，这个进程是非�；郝�。这次，转变的速度会快一些。

其中有一个重要的差别。启蒙运动时期，保存一个基于信仰的看法世界。因此，伽利略和已故的启蒙运动先驱们拥有一套其时盛行的哲学，他们要在这种配景下检验自己的思想。你可以追踪这种思想的生长演变。事实上，我们如今生活的世界没有哲学，也没有占主导的哲学观。因此，技术专家可以为所欲为。他们可以研发改变世界的工具，但没有人会说，“我们要把它融入某个工具当中”。

问：您遇到埃里克·施密特后，他邀请您对谷歌员工宣布讲话，您说您认为谷歌是对文明的威胁。您为什么会这样想？

基辛格：我不希望哪一个组织垄断信息的供应。我认为，一家公司能够提供信息，并且能够凭据它对民众想要什么信息或认为什么样的信息可信所做的研究来调解它所供应的信息，这是极其危险的。这样一来，真相酿成相对而言的看法。我其时就是这样认为的。而他之所以邀请我与他的算法团队见面，是为了让我明白，这并非专断之举，在为泛起哪些内容所做的选择背后，有思考和剖析。这并没有取消我对一个私人机构拥有这种权力的担心。不过，我正是这样进入这一领域的。

施密特：旅行谷歌的这次经历让他思考。等我们开始谈论这件事时，基辛格博士说，他很是担心这批技术给人类及其生存带来的影响，而技术专家在运用这些技术时却没有弄明白它们的影响或历史。我认为，这样的担心是完全正确的。

问：许多人觉得您现在或者已往针对技术公司所做的事情——让人感受它们并不是真的值得信任，它们为了改善自身经营而接纳的许多做法对社会来说未必是好事�？悸堑秸庖坏�，您认为技术行业领袖在这个新体系中饰演什么角色？

基辛格：我认为，技术公司引领各人进入了人类意识的新时期，就像启蒙运动时期的几代人在从宗教转向理性时所发挥的作用，而技术专家正在向我们展示如何将理性与人工智能关联起来。这在某种意义上是一门差别的学问，因为说到理性，也就是我生长的情况，证据是相互印证的。说到人工智能，最令人震惊的地方在于，你得出了一个正确结论，可是你不知道其中的原因。这是一个全新的挑战。因此，从某些方面讲，他们创立的工具是危险的。但它让我们的文化向前迈进。如果历来没有创立出这种技术，我们会不会过得更好？我不知道谜底。不过既然它已经保存，我们就必须了解它。并且也不可将它根除。我们已经在这上面消耗太多的精力。

人类失去思考能力

问：您认为人工智能兴起所带来的主要地悦魅政治影响是什么？

基辛格：我认为我们还没有深入研究过这个问题。想象一下，中美之间爆发战争，你拥有人工智能武器。和所有人工智能技术一样，这种武器对你计划好的目标能够实施更有效的攻击。但它们攻击自己所认定的目标时可能也很有效。因此，如果你说，“A目标是我要攻击的目标”，它们可能会认为别的什么目标更切合这样的标准。因此，你身处一个有点不确定的世界。其次，因为历来没有人真正在大规模军事行动中测试过这些工具，你无法确切地知道双方的人工智能战斗机爆发互动时会泛起什么情形。这样一来，你所处的世界可能具有彻底的扑灭性，你的做法也保存极大的不确定性。

问：所以您担心的是人工智能过于有效吗？另有我们不可确切知道它们的行为的原因？

基辛格：我这一生大部分时间在研究我所谈论的那些问题；在人工智能这个领域，我只研究了四年。“深度思考”盘算机通过和自己对弈，只用四个小时就学会了下棋。它还下了一盘人类从未见过的棋局。我们目前最好的盘算机也执偾偶尔能击败它。如果这种情况爆发在其他领域，而这是一种一定，同时也是现实，那可是一件大事，而我们的世界基础没有为此做好准备。

问：这本书提出，由于人工智能进程的推进速度极快，有人担心人类有可能失去思考、构想和反思的能力。怎么来看待这种担心？

施密特：我们已经从念书转酿成听书，再到既没时间看，也没时闻思考、没时间讨论的田地，因为别的工具正应运而生。因此，我认为这种时间和信息的加速简直凌驾了人类的能力。这是势不可挡的，各人在诉苦这一点；他们着迷其中，他们无法思考，连单独用饭都做不到了。我认为人类不是生来就可以应对这样的局面。这让压力激素水平之类的工具激增。所以，在极端情况下，信息过载很可能逾越我们处理正在爆发的种种事情的能力。

我一直谈到，在这本书中也提到的一点是，你会需要一名助手。就你而言，你是一名记者，有一大堆事情要做，你会需要一台盘算机助手，它会对你说：“这些是当下要做的重要事项。这些是需要思考的问题，搜索一下历史纪录，会让你越发高效。”现在的问题是，你已经很是依烂魅这种人工智能系统。我们在书中也说了，谁来控制人工智能系统的所作所为？它有偏见怎么办？如何对泛起的情况加以调控？尤其是对年轻人而言，这是个很是令人担心的地方。

假如武器自动发射

问：您在书中谈到的一点是，人工智能有好的一面和坏的一面。这要表达什么意思？

基辛格：我们要说的是，它可能确实会带来很是大的收益。它可能也是可以管控的。但在对某些方面加以治理上，还保存我们尚未开展研究或者研究得不敷透彻的地方。我仍然感应担心。我阻挡因为这个原因就说我们必须除掉这种技术。它现在已经保存了。重点之一是，我们认为应该创立某种哲学来引导这方面的研究。

问：您会建议由谁来形成这种哲学？下一步要做什么？

基辛格：我们需要由一些规模不大的团体来提出问题。我在读研究生时，核武器是新生事物。其时，哈佛大学、麻省理工学院和加州理工学院一些忧心忡忡的教授会在许多个周六下午碰头，表达自己心中的疑问：谜底是什么？我们该如何应对？最后他们有了军备控制的想法。

问：这些团体需不需要在规模上做到国际化？需不需要在联合国的支持下做这项事情，照旧在其他什么人的支持下？

施密特：这些事情通常的运作方法是，有规模相对较小、相对精英的群体一直在思考这个问题，他们需要实现对接。好比，目前有牛津大学的人工智能与伦理战略团队，这是很好的实验。世界各地零星保存这类小规模团体。我了解到中国也有一定命量的此类团体。但这些团体没有实现对接；这只是个开始。所以，如果你相信我们所相信的工具，也就是说十年后，人工智能技术会变得异常强大，那么我们最好从现在就开始考虑这种技术所带来的影响。

我给你举个我最喜欢的例子，与军事准则有关。一切都变得更快了。我们不希望看到的局面是，武器会基于它们自己对局势的剖析而自动发射。

基辛格：因为实施攻击的武器可能比人脑的剖析速度更快，于是泛起了恶性循环。你很想让武器变得自动，但你又不想让它过于自动，自动到可以凭据你或许无法做出的判断来接纳行动。

施密特：所以，目今各个大国之间没有就这一点展开讨论。不过，这是显而易见的问题。我们围绕人类速度可及的事物展开了大宗讨论�？墒�，当一切爆发得太快，凌驾了人类的速度时，该怎么办？我们需要就某种上限，相互的设限告竣一致，需要就这些系统的最高运行速度告竣一致，因为不这样的话，我们会陷入极其不稳定的局面。

制止技术遭到滥用

问：可以想见人们会觉得很难接受您会有这样的看法。因为谷歌之所以这么乐成，就是因为它能够提供那么多信息，并且速度那么快。许多人会说，你们其实对这个问题的泛起起了推波助澜的作用。

施密特：是的，我感应内疚。我们建立了很是非�？斓钠教�。有时它们的速度凌驾了人类能够理解的领域。这是问题所在。

问：我们有过领先技术一步的时候吗？我们不是向来都在新技术到来后才有反应吗？诚然，我们不睬解正在爆发的事情�？墒侨嗣堑背跻膊徊墙馕裁捶�，灯会亮起来。出于同样的原理，许多人并不担心人工智能的到来。

施密特：我很是担心所有这些技术遭到滥用。我当初没有料到政府会利用互联网来干预选举。我从未想过会有这种事。我错了。我没想到互联网会如此糟糕地被用来推动反疫苗运动。我没有实时行动。我们下一次不会错过。我们会事先有所行动。

基辛格：如果你提前知道会是这种情况，你会怎么做？

施密特：我不知道。我原来可以接纳差别的做法。如果我十年前就知道，我原来可以打造差别的产品。我可以用差别的方法游说。我可以用差别的方法发演出讲。我可以在事情爆发之前给人们敲响警钟。

本文摘自于参考消息