为何特斯拉侧撞卡车Bug再次致死无法避免

Tips:点击图片进入下一页



原帖 http://zhuanlan.zhihu.com/p/66362276

“只要发生事故的可能性存在,不管可能性多么小,这个事故迟早会发生的。”——墨菲定律
本周,美国NTSB(国家运输安全委员会)公布了2019年3月1日美国佛罗里达州发生的特斯拉自动驾驶致死事故的初步调查结果[1]。事故中,该特斯拉Model 3以110公里每小时(限速90公里每小时)的速度从侧向撞击了一辆正在穿过马路的白色拖挂卡车:撞击当时车辆处于自动驾驶模式,但司机以及特斯拉的Autopilot系统都未作出任何回避动作,导致车子撞击并从卡车下方穿过,车子上半部分被切掉(如图),50岁男性司机当场毙命,该车滑行了约500m后停在了路中间的绿化带里。







网友评论:
辅助驾驶就辅助驾驶,不要脸的天天宣传自己自动驾驶,透支无人自动驾驶概念

  -
牛逼,那么有哪家打算把激光雷达用在量产车上呢?现有成本下这根本不可能,机扫激光雷达长期可靠性也难以保证,固态激光只听见吹没见实际量产,只能绝望啦。
马路上全部联网自动驾驶的话就该没事了吧

5g d2d可以解决,不过公路网覆盖成本太大了。
永远禁止白色拖挂车呗

—— 来自 OnePlus ONEPLUS A3000, Android 8.0.0上的 v2.1.0-play
model s钻出卡车变成roadster
马斯克:我们把自动驾驶带到了兰博基尼,这下你能从卡车下面穿过了,再也不用担心变成敞篷车了1

—— 来自 Google Pixel 3, Android 9上的 v2.1.2

那么不用雷达而是用摄像头呢,现在的AI能胜任吗
信任AI的人才会被AI害死,有点像之前看过的一个讽刺漫画

摄像头是主流啊,比如文中提到的大陆,mobileye(特斯拉的ap就是mobileye方案基础上开发的)都是摄像头为主要传感器的方案,毫米波和超声波雷达也是有容易受天气影响的缺点在的,当然还是因为视觉方案便宜。
可以给车前面安装个番茄酱发射器,随时发射番茄酱,以便检测正面物体
eyesight怎么样
只要发生事故的可能性存在,不管可能性多么小,在大样本量反复尝试的情况下这个事故迟早会发生的,并且会反复发生

这不是统计学基本定律么,啥时候成了墨菲

突然不知道从哪儿钻出来个开电动轮椅的老头,就问你怕未

有人驾驶也怕啊,无人驾驶至少反应速度比人类还快点
其实我觉得在评价无人驾驶安全性上一直有个很大的问题,为什么评价无人驾驶安全性的基准是绝对安全?难道不应该是比有人驾驶安全就可以了么

每年机动车事故那么多起,是不是因为这种安全性隐患大家就不买车了?

这个倒不一定,有的驾驶员没看到窜出行人和飞机,也会预想(臆想)到这里会发生突发状况,在险情出险前已经减速到很低并随时准备制动了。感觉像是料敌机先
不说激光雷达要1K美元,google waymo号称激光雷达的成本只有7000美元,如果以TESLA这种级别公司量产的话成本还要低,三五千美元成本对自动驾驶来说,真的不可承受么?激光雷达可以直接测3D,辅助摄像头的话,算力要求可以下降一个数量 级
快和准往往是矛盾的另外,万一老头穿了个反AI学习衬衫呢 让AI误以为他其实只是个背景,和本文的白色大卡原理类似

  -

认出来有东西逼近是快,制定避让的策略又是另一回事了。

Ford Pinto当年也是这么评估自己的油箱的

有人驾驶出了问题自己负责,无人驾驶的话当然就要索赔了

制定避让策略必然也是AI快,这个不能质疑

电脑至少不会踩着油门尖叫

一个老头,穿反AI衣,开电动轮椅,突然横穿。
这已经是蓄意碰瓷而且生怕自己不死了啊。成全了他吧

—— 来自 Xiaomi MIX 2, Android 8.0.0上的 v2.1.2

踩油门尖叫这种事,人类驾驶员里会这么干的也不多吧,不然上不了新闻啊。
至于策略是否快而正确,这不正在质疑嘛~毕竟人脑在判断复杂情况上目前还是有优势的。
这种事放传统车企会不会因为设计漏洞被告赔他几十亿?

—— 来自 HUAWEI ALP-AL00, Android 9上的 v2.1.2

人类是不多,电脑是完全不会发生,这已经说明其优势了

至于判断之类的,我坚信随着技术的进步,人造之物总是胜过天然生成的东西——包括人类

eyesight在我看来是最顶尖的辅助驾驶系统,没有之一
奥迪和通用的自动驾驶不算辅助驾驶



因为有人驾驶容易区分责任(和稀泥或者乱来的情况不算),无人驾驶就不行了,有人驾驶撞死人,如果司机违规那就司机背锅,该赔钱赔钱该坐牢坐牢,死者违规司机无责那就死者活该;无人驾驶的特斯拉系统出错误撞死人,你是打算让马一龙背锅呢还是让研发算法的程序员背锅呢还是让组装汽车的工人背锅呢?总不能让汽车来背锅吧?“法庭宣判这辆无人车全责,来人啊,把它拉去废车场压碎咯!”这样?

  -

现在讨论的不就是电脑会发生的独特的问题嘛,电脑当然有它的优势,然而它的胜出不是现在。

换句话说就是:我现在不当小白鼠。

开过多久,感受如何
这种路口得监控侧面了吧。。。
转弯让直行,货车全责。至于自动驾驶的bug,多加几个摄像头嘛。

—— 来自 Essential Products PH-1, Android 9上的 v2.1.2

明明是nt
反正本来就是机动驾驶员证

那出个黑客就真的好莱坞大片了

给驾驶员多加几个头,管够

“一个坐着电动轮椅的老人突然冲出来”并不是只有电脑需要面对的独特问题

电脑在未来具有全面的、巨大的优势。至于现在,也没有人要你当小白鼠,以后要你当小白鼠的时候(比如自动驾驶全面铺开,人工驾驶被立法禁止)你也没那个力量反抗
电动环保杀人车

你高估人脑了


你要现在当小白鼠别拉上别人就好啦。不过如果你真的会尖叫着踩油门,那确实ap更靠谱点。

我反正是很乐意见到这些方便人类的新技术进入社会的

但是不管你们这些反对派如何破口大骂、在地上打滚、撕扯自己的头发,这些新技术进入社会的速度也不会放慢一天。与其去做历史的小丑,不如放正心态,试着拥抱这些新技术。至少以后在你尖叫着踩死油门的时候,还可能有电脑来救你一条命
马一龙刚刚才嘲讽过lidar...给点面子。


不过这也体现了深度学习系算法的一个弱点,就是你对算法调整只能影响到整体预测的概率分布,没法完全断绝一个独立事件发生的可能性,除非导入集成学习体系,加入规则判断(但这东西很难形式化描述,人工规则不好写,最后只能做fall back处理)。但是如果是传感器上出问题就没得救。

马粉信仰感人

这个“马”是指的谁?如果你说的是马伯庸的话,我还真不是他的粉,最多只是路人而已;如果你是指的马克思的话,(点头)我还真是马克思的粉
小马:用雷达的都是弱鸡

为什么你会觉得无人车出事故找不到责任主体?
车辆零部件质量问题导致事故那么责任归零部件供应商,车辆设计缺陷导致事故那么责任归汽车生产商,驾驶人违章操作或操作失误造成事故责任归驾驶人。无人车只不过没有了驾驶人,怎么会找不到人负责?

马斯克信徒装傻什么呢。
一个道理,面对的情况要简单很多的民用航空,自动驾驶也没能取代人类。
上面某位需要读一下最基本的社会学和交通工程学

— from Sony G8142, Android 9 of Next Goose v2.1.0-play



因为世界上不存在完美的系统,哪怕车辆没有质量问题,没有设计缺陷,没有违规操作,一切的一切都没问题,出现BUG也是必然,BUG出现的几率再低也不可能等于零,一旦BUG导致人员伤亡财产损失怎么办,这种情况下你难道要追究程序员的责任?追究制造商的责任?全天下有程序员敢拍胸口保证自己的代码绝对不会出BUG?有制造商敢拍胸口保证自己的产品绝对不会出现故障?如果有,不是傻子就是骗子。


这也是为什么“路况”复杂程度比汽车低得多的民用航空、轨道交通领域现阶段都没能完全用自动驾驶取代人类的原因,哪怕很多民航客机或者地铁列车运行起来绝大部分的时间都是在自动驾驶的状态,驾驶人员的操作用机器取代也完全没有难度,但驾驶舱里还是必须有人,就是为了在一旦系统出现BUG的时候手动介入救场或者事后背锅所以说啥时候波音空客都改生产不要飞行员的全自动客机再来扯自动驾驶私家车的蛋吧



你讲错了,马一龙是我男神,不过这不阻碍我对他的ap还是有疑问,现在我开的老王家的电车好多年了。您先学会开车吧,然后,哪怕您去马家试驾一下呢。

—— 来自 Xiaomi MI 9 Transparent Edition, Android 9上的 v2.1.2

马斯克我到还真没想到……
躺着不就刮不到了?

反正自称无人驾驶

  -
任何时候都对可能致死的机械或者电子流一道心理防线,它们都是不可靠的
以后开自动驾驶时候躺下不就可以了?
强制大货车两侧安装防撞带呀

人眼分割识别物体效率非常高。对计算机而言,128X128的RGB马赛克图像就是三万个点,多快好省的分割图像本来就是个难题。随便找一个图像识别网络都是上百层网络运算,1G的CPU大约能1ms跑个128X128的训练过的网络,没有好的优化比正常人反应慢太正常了

单说责任划分的话,ai司机和出租车司机区别不大吧。该找谁找谁呗。



出租车司机本身就是一个可以视作责任主体的正常人类啊,一旦出事,无论出租车公司会不会帮司机出赔偿,对司机本人的责任追究是跑不掉的,哪怕司机在事故中挂了都不影响这一步;AI司机怎么充当责任主体?把车里的AI主机砸了?如果你说全部都归运营公司赔偿的话,这思路不就和当年福特发现汽车油箱有设计缺陷还照卖的逻辑一样咯,反正只要成本划算赔钱了事就好,你觉得这种运营逻辑真的不会被口水淹死么......

当然可能大家都知道,资本家大概是不在乎道德谴责的,但我觉得他们肯定不想像当年福特一样被人打上门来索赔然后大出血一波

斯巴鲁车主路过 eyesight是我用过最好的辅助驾驶系统 包括全方向的sensor都非常灵敏 目前5万多公里下来感觉已经人车一体了
唯一的不满就是斯巴鲁那个破后置摄像头 妈的全车都一堆sensor了 摄像头能不能换个分辨率高点的...

反AI衣服不见得要很离谱。比如白色(什么鬼屏蔽字)老头衫在白色建筑物背景下就具有反AI效果。我国很多街道都喜欢整齐划一刷一个涂装,穿个纯色衬衫就识别不了也是有可能的。

你这不是典型的机械僵化思维么。
如果全自动驾驶
驾驶员横躺在后座撸管是不是能躲过一劫


  -

然而每个人的出事概率并不等同。假设你开车水平高,出事的概率比平均概率低很多,也比无人驾驶的概率要低。那么现在要你去放弃自己的优势改无人驾驶,真出了什么事儿你去问责公司,人家用一句“出事的概率已经比以前要低了”,你觉得你能不能服气?

想多了 允许责任传导的话车企永远不缺背锅的

—— 来自 HUAWEI EML-AL00, Android 9上的 v2.1.0-play

起码等技术成熟了再来讨论吧,车道保持定速巡航之类的辅助驾驶还是可以的

只是现在不看好而已,真要可以了就用呗,你最多没驾照的朋友开心点而已

如果一个人觉得自己水平比自动驾驶高,那么他可以自己开车降低事故率,这够不成他反对无人驾驶的理由,因为等到强制必须无人驾驶才能上路或者商业行为已经购买不到可人类操控的新车的地步,无人驾驶技术早就非常成熟了

而因为其他无人驾驶车辆的危险行为导致他事故率上升其实说不通,因为现在也没法禁止马路杀手上路,提高平均驾驶水平反而提高了车神的安全率,至少不用提防遇到小概率刷新的一边尖叫一边踩油门的司机