9CaKrnK5wTg uav.huanqiu.comarticle保车主还是保路人?“道德表盘”有望解决无人驾驶的困境/e3pn5tffs/e3pn6156o原标题:保车主还是保路人?“道德表盘”有望解决无人驾驶的困境近日,意大利博洛尼亚大学的团队开发了一个名为“道德表盘”的装置,可以让无人车的车主选择自己的汽车道德设置:你可以设定为牺牲自己保全他人,也可以设定为自己的生命优先。无人车如何应对道德困境,这是无人驾驶面临的主要问题之一。当人类驾驶汽车时,本能就是对我们对危险的反应。当致命的事故发生时,通常不会有什么责任纠纷。但如果汽车要自动驾驶,汽车就不能依赖司机的本能,而必须依靠代码。这时候就很糟糕了。是谁应该为事故负责呢?软件工程师、制造商还是车主? 人们对这个问题的态度也很复杂。2015年的一项研究发现,大多数人认为无人驾驶的汽车应该是功利主义的,应该尽量减少总体危害的数量,这可能意味着在某些情况下牺牲自己的乘客。但是,虽然人们原则上同意这一点,但他们也表示,他们决不会乘坐准备杀死他们的汽车。“充分利他”意大利博洛尼亚大学的Guiseppe Contissa博士说:“我们想探讨,如果将控制权和汽车行为的责任归咎于车主,会发生什么事情。他同时也提出了一个解决方案。该团队设计了一个表盘,可以将汽车设置为从“完全利他主义”到“完全自我主义”中的任意道德维度,表盘的最中间则是“完全中立”。他们认为,这种的道德手段不仅适用于无人车,也适用于自动化程度越来越高的所有领域。Contissa说:“这个旋钮可以让无人车拥有车主本人的道德判断。汽车将利用这些信息来计算它将执行的行动,充分考虑事故发生时乘客或他人受到伤害的可能性。”公地悲剧但这个想法有问题。麻省理工学院媒体实验室的首席研究员埃德蒙·阿瓦德(Edmond Awad)说:“如果人们对汽车所造成的相对风险进行过多的控制,我们可能会遇到公地悲剧(Tragedy of the commons),即每个人都选择极端的自我保护模式。另一个担心是人们可能不愿承担道德责任,因此根本不会有人愿意动那个表盘。如果每个人都选择“完全中立”,道德表盘就不会对现有的困境有所帮助。Awad说:“现在判定这个方案是好是坏还为时太早。”但他表示,新的想法总是好的。期刊参考:Artificial Intelligence and Law, DOI: 10.1007/s10506-017-9211-z1508201340000责编:赵汗青36氪150820134000011["9CaKrnK5w8D","9CaKrnK5w72","9CaKrnK5uoS","9CaKrnK5hVs","9CaKrnK4NDG"]//himg2.huanqiucdn.cn/attachment2010/2017/1017/20171017085042809.jpg
原标题:保车主还是保路人?“道德表盘”有望解决无人驾驶的困境近日,意大利博洛尼亚大学的团队开发了一个名为“道德表盘”的装置,可以让无人车的车主选择自己的汽车道德设置:你可以设定为牺牲自己保全他人,也可以设定为自己的生命优先。无人车如何应对道德困境,这是无人驾驶面临的主要问题之一。当人类驾驶汽车时,本能就是对我们对危险的反应。当致命的事故发生时,通常不会有什么责任纠纷。但如果汽车要自动驾驶,汽车就不能依赖司机的本能,而必须依靠代码。这时候就很糟糕了。是谁应该为事故负责呢?软件工程师、制造商还是车主? 人们对这个问题的态度也很复杂。2015年的一项研究发现,大多数人认为无人驾驶的汽车应该是功利主义的,应该尽量减少总体危害的数量,这可能意味着在某些情况下牺牲自己的乘客。但是,虽然人们原则上同意这一点,但他们也表示,他们决不会乘坐准备杀死他们的汽车。“充分利他”意大利博洛尼亚大学的Guiseppe Contissa博士说:“我们想探讨,如果将控制权和汽车行为的责任归咎于车主,会发生什么事情。他同时也提出了一个解决方案。该团队设计了一个表盘,可以将汽车设置为从“完全利他主义”到“完全自我主义”中的任意道德维度,表盘的最中间则是“完全中立”。他们认为,这种的道德手段不仅适用于无人车,也适用于自动化程度越来越高的所有领域。Contissa说:“这个旋钮可以让无人车拥有车主本人的道德判断。汽车将利用这些信息来计算它将执行的行动,充分考虑事故发生时乘客或他人受到伤害的可能性。”公地悲剧但这个想法有问题。麻省理工学院媒体实验室的首席研究员埃德蒙·阿瓦德(Edmond Awad)说:“如果人们对汽车所造成的相对风险进行过多的控制,我们可能会遇到公地悲剧(Tragedy of the commons),即每个人都选择极端的自我保护模式。另一个担心是人们可能不愿承担道德责任,因此根本不会有人愿意动那个表盘。如果每个人都选择“完全中立”,道德表盘就不会对现有的困境有所帮助。Awad说:“现在判定这个方案是好是坏还为时太早。”但他表示,新的想法总是好的。期刊参考:Artificial Intelligence and Law, DOI: 10.1007/s10506-017-9211-z