索菲亚：我将会毁灭人类，机器人拥有意识还能控制吗？

跟着人类科学手艺的成长，机械人可以说已经当作为一种“市场需求”，因为人类为了便利糊口，在不竭您的晋升人工智能成长，可是在这些成长手艺的背后，也有不少人担忧人工智能可能给人类带来威胁，因为不少的科学家或者研究者认为，人工智能可能呈现“超变异”模式，也就是说变得比人还要壮大，为何这样说呢？其实这跟人类的设计思惟存在必然的关系，那就是人类但愿将这些机械人酿成跟人一样具有“可行性”。

可是在这个成长的过程之中，大师担忧的问题就是人工智能可能并非一向受到人类的节制，在将来可能成长出比人加倍壮大的时刻。大师应该还记得，在早年的时辰，闻名的科学家霍金就发出了“人工智能威胁论”，他声称“人工智能可能扑灭人类”。

为何这样说？因为霍金担忧人工智能的周全成长，可能会呈现一些例如最大化利用智能性自立兵器，而在这个时辰，人工智能系统需要按照人类的意志工作才行，若是呈现了无法节制的场合排场，必然可能会给人类带来威胁。

其实并不是只有霍金说过这个问题，其实还有一个机械人的真实事务，那就是汗青上首个（第1个）获得公平易近身份的机械人“索菲亚”也曾这样说过。这个机械人与人类极为相似，而在一次与机械人对话的时候之中，机械人设计师戴维·汉森（David Hanson）曾对索菲亚说，您想扑灭人类吗？而这个索菲亚机械人的回覆就是“我将会扑灭人类。”那时机械人设计师汉森对这个谜底笑了，似乎对索菲亚的威胁漫不经心，可是这是揭示了机械人的一个“真实相反”。

固然在陈述之中，我们并不知道为何这个机械人会这样的回覆。可是从这个环境来看，确实机械人还真的可能在将来是人类的一个威胁，而设计师汉森还传播鼓吹，索菲亚这样的机械人将在20年内呈现在我们傍边，并拥有类人意识。它们可被应用在医疗、教育或客服等行业。所以说，人类在人工智能方面的成长确实不竭晋升，而且变得越来越智能化，同时若是这些机械人可能也在复制人类的模式，因为我们的成长是但愿机械人取代人类的更多工作，糊口上的坚苦等。

所以说，我们前后看了一下，无论是霍金的预言，仍是机械人索菲亚的测试，都值得让我们警戒一下，那就是我们机械人对人类的威胁可能恰是存在，若是真的成长出了设计师戴维·汉森（David Hanson）所说的拥有人类意识，那么也就意味着对人类的威胁可能更大，因为机械人有了意识，可能形当作自力的一种思惟，同时也可能违反人类的意愿，或者叫它们去做一些工作，它们可能呈现“辩驳”的环境，这确实需要担忧，所以我们必需在机械人拥有意识的时辰进行节制，否则就大要率会带来问题。