外星人带着棋盘来了，我们怎么办？

可怕的外星智能正潜伏在全世界的实验室里。

想象一下，一艘飞碟降落在时代广场中央，舱门打开，走出来一个外星人。他是个好斗分子，手里拿着围棋棋盘，走向身边最近的一个地球人，吐出那句经典台词：“带我去见你们最好的围棋手。”

我们人类的天性也喜欢争强好胜，因此双方一拍即合，迅速准备了一场锦标赛。外星人多年潜心研究人类是如何下围棋的，分析过所有顶尖棋手的每局比赛复盘，因而异常自信。

看起来，人类已经注定要屈辱地吞下失败的苦果了。毕竟，外星人有备而来，知己知彼；我们却对对手一无所知，很可能输得一败涂地。

这正是今年早先AlphaGo和围棋大师李世乭之间上演的人机世纪对决的真实写照。外星人以五局四胜的战绩打得人类毫无还手之力。

AlphaGo的胜利算不算人工智能研究领域的一座里程碑？绝对算，但并非因为这证明了AI棋艺高超无人能敌，而是因为这次胜利证明了AI完全能够玩转人类的游戏。

要知道，AlphaGo并不是靠熟记围棋规则，制定机智的战略来学习下棋的。事实上，它是通过学习人类如何下棋来学棋的。在学习过程中，它看过无数场比赛，总结出了大师们如何布阵，如何应变，甚至知晓他们容易在哪里出错。

加在一起，AlphaGo的系统共看过顶级棋手超过3千万步棋。因此，我们完全可以说，AlphaGo并不是作为一个以最优方式进行抽象竞技比赛的系统被设计出来的。它是通过从内而外研究人类，学习预测人类的下一招、下一个反应、及最可能在哪里犯错来打败人类的人工智能系统。

简而言之，AlphaGo并没有学习下围棋——它学习的是如何以人类的方式对付人类。根据已知的公开报道，AlphaGo训练有素，准确预测出人类棋路的概率高达57%。脑补一下，假如你也有本事以57%这样可怕的准确率预测他人的举动——不论是用在谈生意、销售还是推广政治观点上，都足以构建起一个庞大的商业或政治帝国了。

对我来说，这是很可怕的。不是因为计算机在棋类游戏上赢了我们，而是因为从这一刻起，我们将永远在擅长模仿我们而我们却不擅长模仿他们的外星智能面前处于下风。无论这些外星人叫阿法狗还是阿法猫，它们都会在人类自己创造的比赛中击败人类。这预示着未来人类可能会被轻易预测出我们动向的智能系统所操控，在最短时间内找到我们的弱点，并加以利用。

对于那些抱持乐观态度，认为我们可以控制AI，防止它们成为威胁的人，我想说，现在这个水平的科技已经足够危险了。以AlphaGo为例，已经出现了了解我们多于我们了解它的对手，剩下的就是将个中技术用在比竞技游戏更重要的地方。这是无可避免的大势所趋，而这也就意味着不仅在围棋上，在生活的方方面面，人类都注定要被AI打败。

那么，我们还能做些什么呢？

我认为，作为人类，我们需要保证自己总是在人机较量中领先一步。全世界有许多研究人员在探索让人类变得更聪明的科技，从基因疗法到意识提升，甚至在身体中植入强化大脑的芯片。我个人更倾向于非创伤性的方法。放眼自然界，不计其数的其他物种都在进化过程中遇到过挑战，需要进化出远远高于个体智力水平的智能才能继续存活下去。这些物种的解决办法是“集思广益”，开发出形成集体智能系统的手段，将每个个体的知识、经验、洞察力和直觉集成在一处。

没错，我说的就是令人闻之生畏的“蜂巢思维”。之前很长一段时间里，我都曾坚定不移地反对过这种理论。但近年来，我渐渐意识到，将我们的智力资源汇合成闭环系统或许是让人类抢在人工智能前面的最佳途径。因为蜂巢思维包含生存、呼吸、人群，浸染了人类的价值观和情感，致力于将人类利益置于最前沿。而纯粹的人工智能没理由分享我们的核心价值观或做出拥护我们利益的决定。

换言之，如果我们造出了纯粹的数字人工智能，我们就需要将其视作一种地外智能。正如对待从天而降的外星人一样，我们必须假设它会对人类构成威胁。但假如我们造出了蜂巢思维这样的超级智能，就相当于拥有了高度进化后的人类思维，一如自然界无数其他物种的进化发展先例。

再次申明，我曾一度十分抵触蜂巢思维范式，唯恐人将不人。但现在，我相信唯有改变才能让我们赶超已跑在我们前头的人工智能。威胁并非来自天外——如果是外星人，我们一定会早早准备好应对措施。反之，人工智能的威胁是更秘而不宣的，它们潜伏于世界各地的实验室，伺机而动。对此，我们同样需要未雨绸缪。

对于人工智能系统在短期内的危险，我们也不得不防。在我们真正将机器智能看作人类智能普遍意义上的竞争对手之前，AI技术就将成熟到能够很好地总结和预测人类行为。如果机器已经能通过预测围棋大师的行动及反应来战胜他，距离智能系统在生活各方面全面超越人类也就为时不远了。为了防止这一切发生，最好的防御或许就是强大的攻势——大规模强化人类智能，尽可能长久地让人类保持住竞争力才是正道。

来源：Singularity Weblog 作者：Louis Rosenberg 编译：未来论坛商白

文章转载请注明出处为 “未来论坛”微信账号（ID：futureforum）

未来论坛官网：www.futureforum.org.cn