为AI设立道德:在无法避免的事故中,该先救谁?

Tips:点击图片进入下一页

科技日报北京10月29日电 (记者张梦然)英国《自然》杂志近日在线发表了一项人工智能(AI)研究:美国麻省理工学院(MIT)报告了全球道德偏好调查,调查内容为:在无法避免的事故中,无人驾驶汽车应如何作出决定拯救哪一方。研究结果结合了全球参与者贡献的约4000万个决策,为制定社会普遍接受的人工智能(AI)道德标准提供了重要借鉴。

无人驾驶汽车不仅要能导航路线,还要在不可避免的事故中自行应对道德困境,因此,需要制定一套道德准则来指导AI系统处理这类场景。如果无人驾驶汽车大量投入使用,就必须先确定社会普遍接受的道德准则。

MIT研究团队此次搭建了一个名为“道德机器”的大型在线调查平台,用来统计全球公民的道德偏好。实验将参与者置身于一个不可避免的事故场景中,事发时一辆无人驾驶汽车正行驶在双行道上。每个场景都会让行人和乘客身处不同的危险,而汽车可以选择不变道,或急转到另一条道上。参与者必须选择救谁,并决定汽车的前进路线。这项实验共记录了约4000万个此类决定。

研究人员识别出了许多共同的道德偏好,诸如救多数不救少数、救年纪小的不救年纪大的、救人不救动物。同时还发现了不同文化之间的道德偏好差异,例如,来自中美洲和南美洲国家、法国以及前法属海外领地和现法属领地的参与者,呈现出先救女性和强壮个体的强烈偏好;而来自收入差距较大国家的参与者在决定救谁时,往往会考虑其社会地位。

科学家最后指出,放手让汽车进行道德抉择之前,有必要进行全球性的对话,将我们的偏好告知那些道德算法设计公司以及执行监管的政策制定者。

总编辑圈点

曾经有过一个现实的例子,一辆无法减速的货车为了躲避路边的工人,撞进了咖啡馆,杀死了一名服务员。人工智能面临各种道德困境,必须要有一个选项。选择哪种伦理,何种价值优先,是人类仍未解决的疑难。技术的发展迟早逼迫我们直面这些终极问题。



网友评论:
感觉很简单啊 遵循让速不让道原则即可
小孩子才选择,成熟的ai当然是双杀
先救信用分高的吧
现在国内的保险业都在研究给自动驾驶上保险了,按赔偿得少的来就行。
AI无线连接,道路天网系统,阿里信用评价,三位一体,Trinity!!!可以在500毫秒这个人类正常反应时间内做出最佳抉择
先救火!


这个问题值得讨论,但最后的例子不适用ai环境。不躲避撞死工人是必然的,躲避撞死服务员是概率的(局限在那个时间节点上,传感器所能搜集的数据中)。
而撞死多的还是撞死少的是在传感器搜集数据完备,只要作出相应选择就会得到相应结果的“无偏”伦理课题。
AI应该能意识到党员都是舍已为人的道德楷模,在这种时候还是优先满足党员吧,撞党员,都是党员级别高的优先
最终肯定是按钱来算,要调整的参数就是计算多长时间内的相关损失。

ai模块化,哪个ai做的错误判断,就格式化他
AI:保证系统运行优先,碳基生命不重要
ai撞人前怎么识别社会地位,每个人戴着一个二维码,摄像头扫以后识别芝麻信用积分吗
@卫宫切嗣
轮到你出场了。

一个阿里信用,一个京东信用,你确定百度自动驾驶车不会产生一个大胆的想法?
按照乘客偏好选择咯
成熟的ai会立刻最大音量外放deja vu!

  -
美国车:谁掏钱救谁。

中国车:不做不错,多做多错。

漂移两个全撞

你想多了
网友:小度小度,去公司
小度:好的,已为您规划去男科医院的最近路线
网友:小度小度 去!!公!!司!!
小度:抱歉,我没有听清你在说什么
kill then all!
就是扯蛋的,这根本不是该用哪个准则/算法来计算优先度的问题
而是法理上人是可以承担责任的最终个体,人可以无论遵循哪一套逻辑、理念、世界观,以及基本信息判断、在行使决策权力的同时为决策造成后果做最终负责,而AI是没有办法追责的。
建议AI自爆。
人类解决不了火车拉闸题,只好造了个AI来试图解决

你这个是先有鸡还是先有蛋的问题。

如果人类决定让ai掌握运载生命体这种出了事故必须追责的情况,就说明这种职责分担的问题已经解决了(无论是怎么解决的,是汽车公司追责还是怎样),如果没解决就不能大规模应用,永远停在路试。

所以自动驾驶上线之前,肯定有个立法过程,和全民签订如何追责的契约。
又到蹭热点时间

行车AI首先不违反交规,如果结果民众不满,走交规修改流程
前段时间泥潭不是还有个科幻小说作者转了自己的文就说是主角被ai车撞了吗?
所以先救女友还是你妈,这个问题有标准答案了?
ai讲道德不讲规矩?扯犊子玩意儿,ai只有规矩哪来的道德,这实质上是要用自己的规矩去对抗社会秩序。ai开车那就只有按交规开这一种选择

我只看到有人在试图申明这种问题可通过法律改进+技术改进解决,技术负责出科学模型公式变成逻辑,法律最终负责把逻辑变成大家都听得懂还能接受的文本
能被遵守交规的ai撞到的就认栽吧

人脸识别啊
“先救领导”
先减速。

—— 来自 smartisan O05, Android 7.1.1上的 v2.0.4-alpha
其实按交规开就是了,什么紧急避险之类都容易出问题,该刹车就刹车,不打方向不压线,刹不住就算对方倒霉,无责
如果杀死车主能救路上更多的人,ai会选择自爆吗

intel:为客户提供了智能超频的功能。