当人与AI共生，谁为意外负责？

科技大佬马斯克曾口出“大言”，流露他建立脑机接口（BCI）公司Neuralink的野心是“让人与AI共生，达到超等智能”。这看起来像是《攻壳灵活队》和《黑客帝国》里才会呈现的场景，可是BCI成长敏捷，植入式设备现已能让瘫痪人士节制义肢，非植入式的意念鼠标、耳机也初具贸易雏形。智妙手机的呈现也不外短短二十几年，谁都不克不及包管此刻的90后、00后就不会在有生之年看到人与AI“喜结连理”。在这之前，经由过程BCI，让AI辅助人类出产糊口，就仿佛成婚前的爱情一样，是必经的磨合阶段。利用BCI与AI相连，您只需发出少量的指令，即可完当作驾驶、工业操作等复杂使命，这可能是将来人的日常。

—Illustrationby Alex Castro / Th

可是，AI可否当作为“贤浑家”，还要先面对拷问：假如在人类利用BCI与AI合作中呈现了变乱，责任到底是该人类，仍是AI（或其开辟者）来负呢？

现有的人机交互界面中，人、机是物理上分手的，利用者和AI进行的指令操作可以经由过程空间、时候的距离进行切割，是以区分人类、AI的掉误，归责相对轻易；但当引入了BCI这个圈外人，贵圈就乱了。这一切还得从BCI的性质说起。

BCI是脑与外部设备的桥梁，大脑可以经由过程电极等装配与机械、计较机中的AI交流。外部设备除了接管大脑旌旗灯号以外，也可以反标的目的对大脑进行必然刺激。这可能会导致利用者恍惚人机之间的边界，分不清经由过程BCI做出的步履事实是源自自身意志，仍是AI的影响。在一项2016年的研究中，一名接管深度脑刺激（DBS）治疗抑郁症的患者就曾陈述说他思疑本身的行为体例受到了装配刺激的影响，而非完全出自小我意志。将来跟着人机之间旌旗灯号传输率上升、延迟性削减、节制和反馈的复杂性增添，这样的影响可能会加深。

在人类利用BCI与AI协同操作机械时，机械领受的指令可能来自于两边。当它执行了导致变乱的错误步履时，分歧于传统的人机交互，因为人机间的慎密联系，就可能难以区分导致该步履的指令来历。就算能追踪每一条旌旗灯号的来历，问题仍然存在：利用BCI的体例自己就可能影响人类的大脑，不妨理解为在做决议的过程中，AI一向在给您吹枕边风。若是无法分手二者的本家儿动性和步履，又该若何区分责任呢？这可能就需要借助哲学上的能动性（Agency）概念了。

本家儿要/次要步履者理论

想象一下，您开着新条目智能车过年回家，若是选择手动驾驶，把握偏向盘的您此时就是一名步履者（Agent）。您按照肉眼所见的道路状况，在脑入彀划出接下来的步履，经由过程动弹偏向盘的体例使车辆朝目标地行驶，就是哲学上能动性的表现。

能动性是指某一实体对外界或内部刺激做出的反映。分歧于简单做出行为，步履者的能动性表示出目标性和打算性。同理，假如您开车途中，俄然很想跟家人在线视个频——道路万万条，平安第一条，此时就要选择无人驾驶模式，将对车辆的操控权交给AI。AI按照摄像头反馈的道路状况进行路线规划后，把持车辆按方针路线行驶，也是其能动性的表现。

然而在利用BCI辅助驾驶时，能动性很难在二者之间界定。这是因为人和AI对车辆进行配合节制，无法经由过程直接不雅察车辆的动作，回溯二者发出的步履指令，并对其简单分手。假如在这种环境下呈现交通变乱，将很难进行责任界定。

为解决这一难题，慕尼黑大学医史研究所的研究员安德烈亚斯·沃肯斯坦（Andreas Wolkenstein）提出，不消由下至上追踪每一条指令的路径，而是由上至下，从“能做出的步履”入手，区分本家儿要和次要步履者（primary and secondary agents）。两者均不要求具有自由意志，其区别仅在于具有分歧水平的能力：（1）有能力肇端、赞成和终止步履；（2）在步履过程中，可以或许自力接管和调整复杂的步履步调。本家儿要步履者的步履自由度更大，有能力按照打算和感知到的情况身分做出判定，调整选择；而次要步履者只能在前者许可的规模内采纳步履。

假设您驾驶着智能车去接女神下班，经由过程BCI授权车载AI按路线行驶。在您启动汽车后，因为AI只能按照您所想的路线，让汽车执行有限的转标的目的、直行等动作，此时您是本家儿要步履者，而AI是次要步履者。

此刻您从后视镜发现情敌追上来了，怎么能让他跨越您？于是您把车辆切换到手动驾驶，正想化身秋名山车神时，却被AI强行阻止了。本来它的系统里设置有平安限速程序，而且监测到了您想超速的危险设法。因为您只能做出AI许可的平安驾驶操作，任何超速的行为城市被AI禁止，此刻，AI进级为本家儿要步履者，步履受限的您只能退居次要了。

考虑能动性可以帮忙我们更好地分化步履。当一项最终的步履变成变乱时，就可以按照发生时刻的本家儿要/次要步履者关系——包罗这项步履的倡议者是谁，谁又该当“查核”这个步履——来确定因果关系。这有助于将步履及其造当作的后果与责任联系起来。

确定步履-步履后果后，就可以进步至后果-责任究查了。法令上要求究查责任的对象需要具有本家儿体资格，同时还需要具有本家儿不雅过错，包罗居心和过掉。固然AI已经越来越多地揭示出智能行为，但今朝法令上仍未付与其本家儿体资格；同时其也还未达到具有自由意志的水平，故也不存在本家儿不雅过错。

既然如斯，当步履后果归于AI时，其最终发生的责任就只能由背后的天然人或法人来承担。那么，利用者从开辟者处采办BCI装配，经由过程BCI与AI协作完当作使命，利用中呈现变乱时，责任就将按照步履者-能动性-步履-直接后果-责任的对应，在消费者、BCI和AI的开辟者中进行分派。

问题瞻望

但即使我们可以或许将步履与后果一一对应起来，工作的复杂水平仍在其之上。除了居心造当作的外，责任还包罗过掉责任，即该当预见风险却没有预见，或是已预见但相信会避免。

那么，对于科技公司为代表的开辟者来说，这种“该当预见”的风险包罗哪些呢？同时还有利用者与AI之间的授权关系，例如利用者授权AI主动驾驶出了交通变乱，利用者作为授权者，是否具有必然的监视责任？仍是该当推定其对AI具有百分百的信赖，从而可以削减责任？将来现实案例的复杂水平可能远超我们的想象。

即使上述问题都可以顺遂解决，跟着科技的成长，另一个问题不成避免：是否付与强AI必然的本家儿体资格，让它自身也能承担一部门责任？例如，2016年谷歌无人驾驶汽车与一辆大巴发生擦碰变乱时，美国高速公路平安办理局（NHTSA）就认为节制汽车的AI可以被视为“司机”。此刻进一步考虑何种智能水平的AI可以获得本家儿体资格，又能获得什么水平的本家儿体资格——唯可叹路漫漫其修远兮。

法令的成长当然有其滞后性，尤其是科技迅猛成长的今天；但尽可预见之力对科技风险提前做出的考虑，大要就是人类标的目的前方斩开荆棘之路时，那把达摩克里斯之剑的剑鞘吧。

参考文献

【1】WolkensteinA. Brain-Computer Interfaces: Agency and the Transition from Ethics to Politics[C]//International Conference on Human-Computer Interaction. Springer, Cham, 2017: 103-118.

【2】Klein E, Goering S, Gagne J, et al. Brain-computer interface-based control of closed-loop brain stimulation: attitudes and ethical considerations[J]. Brain-Computer Interfaces, 2016, 3(3): 140-148.

【3】YusteR, Goering S, Bi G, et al. Four ethical priorities forneurotechnologiesand AI[J]. Nature News, 2017, 551(7679): 159.

编纂：EON

排版：Dianna

封面：coco

作者：狼顾