三张贴纸就能让特斯拉“跑偏”?——全自动驾驶梦何日...

Tips:点击图片进入下一页



三个圆点代表三张贴纸,有可能引导特斯拉驶入左侧的反向车道。 图片来自网络

今日视点

本报记者 李宏策

现实版“钢铁侠”马斯克曾在2016年写道:“你将能够从几乎任何地方召唤你的特斯拉。一旦它载上你,你就可以在前往目的地的过程中睡觉、阅读或做任何其他事情。”

3年过去了,理想总是很美好,现实也总是很骨感,马斯克的全自动驾驶梦更近了吗?

可惜,梦想总被冷水泼。近日,腾讯科恩实验室发布最新研究报告,对准特斯拉自动驾驶系统“三炮齐射”,宣称特斯拉Model S的雨刷识别系统、车道判断系统和车辆控制系统存在漏洞,再次将自动驾驶的安全问题置于聚光灯下。

科恩实验室提出的三项漏洞中,雨刷错误启动所幸还无大碍;利用系统漏洞实现游戏手柄遥控,把特斯拉变成大号玩具车是骇客们玩出的新花样;最抓人眼球的要数道路识别系统漏洞,在路面贴上难以注意到的三个小贴纸,假扮行驶路线,成功“忽悠”经过的特斯拉错误判断并驶入反向车道。逆向走位,画面激烈犹如电影大片,后果让人不敢想象。

三张纸条真能“封印”特斯拉?

科恩实验室研究认为,特斯拉AutoPilot的道路识别系统性能强大,在测试过程中使用了很多不规则道路,让测试车辆系统能够有效识别复杂的道路标识。然而,Autopilot识别不完美道路标志的能力使其对某些错误信息更为敏感,导致不显眼的贴纸成功“得手”。

科恩发布报告后,特斯拉随即给出回应:“驾驶员可以随时通过使用方向盘或刹车轻松覆盖自动驾驶,驾驶员也应该随时准备应对突发情况,现实世界不存在这一担忧。”

贴纸的风波刚起,特斯拉又信心满满地宣布更新美国用户系统,增添最新版本“无缝导航”功能,可实现在默认许可下车辆自动改变车道。此前,特斯拉自动驾驶系统在进行操作前会主动要求司机手动确认执行车道变化。新的软件更新改变了这一点,驾驶员设定目的地后,可选择在无需转弯杆确认情况下汽车自动改变车道。系统在执行自动变道前,将通过铃声、视觉信号等方式通知司机,为驾驶员观察环境及取消变道操作留有时间。当然,特斯拉也补充道,驾驶员仍必须始终对汽车负责,并且必须始终控制汽车。

特斯拉通告中写道,自2018年推出AutoPilot功能以来,全球用户已经使用该功能行驶超过1亿公里,并根据系统建议执行超过900万次车道变更。客户反馈该功能让公路旅行和高速驾驶更加轻松、愉快。有美国媒体认为,三张贴纸似乎并未对其造成严重影响,特斯拉此次更新是向全自动驾驶方向再迈进一步。

其实,科恩实验室的东家腾讯早在2017年就已成为特斯拉的第五大股东,科恩发布“黑材料”、特斯拉针锋相对“正面刚”也远不是第一次,科恩和特斯拉的“相爱相杀”都是为了自动驾驶能够走得更远。

全自动驾驶离我们还有多远

按照马斯克的说法,特斯拉将在2019年年底实现完全自动驾驶。类似的话马斯克在2016年也说过,不过那会儿说是2018年就能实现。到底什么时候才能做到上车、睡觉、到家?

对此,西蒙顾和上海办公室执行总监陆盛赟在接受科技日报记者采访时给出详细解读。目前,各大车企最新量产汽车主要在L2级(部分自动化)上下功夫,也有车型已经率先进入L3(有条件自动化)阶段,如最新配置自动驾驶功能的奥迪A8、特斯拉等。

陆盛赟表示,那种驾驶员可以睡觉、完全脱手的全自动驾驶在现有技术上还无法实现。目前的主流研发方向是一种“人技结合”的自动驾驶,司机仍需要在行驶中发挥作用,自动驾驶不等于无人驾驶。而马斯克所说于今年年底实现的全自动驾驶,可能需要附加很多特定条件,如制定与之相适应的交通和监管规则;在一定封闭的环境内,车辆均采用相同的自动驾驶系统等,其商业落地场景具有局限性。

“此前,百度等已经在封闭园区内实现了这种有附加条件的全自动驾驶,但离全社会的完全自动驾驶还是很遥远的。”

开车睡到家,技术和社会都得加把劲

法国自动驾驶技术专家李铀对科技日报记者表示,目前的自动驾驶系统主要包含感知、定位、高精地图、导航与控制五大块。其中,感知模块通过处理摄像头、毫米波雷达、激光雷达、超声波雷达等各种传感器的数据,来获取障碍物、行道线、路面等信息,再结合定位、地图生成驾驶路径,最后再由控制器执行。由此可以看出,感知系统在自动驾驶系统中占据重要位置,也是主要难点。

李铀说:“机器学习被视为实现自动驾驶的重要核心技术,其通过在已标记的数据集上进行统计学习,来模拟人的认知能力。”

目前机器学习集中应用在感知系统当中,包括图像识别、点云识别等。最近几年的深度学习因为深层神经网络能够处理海量数据,在各大数据集上达到甚至超越人类的认知能力,使得该技术快速产业化,其中自动驾驶是其最火的应用领域。

“然而其本质上是在已知、过去的空间中采样学习,面对未知、未来的开放空间,并不能很好地认识到其自身的局限性,会把未知划入到已知范畴加以处理,从而给出错误的结果,这给开放道路下完全自动驾驶带来严重的安全隐患。面对科恩实验室的贴纸等特别设计的对抗样本,除了将其纳入学习样本,并不能保证面对新的对抗样本时不出错误。”

李铀认为,只有在人工智能技术取得突破,激光雷达等传感器技术进一步发展,同时在社会层面,需要交通规划、道路设计、车联网、安全标准、法律法规等基础设施取得长足发展之后,完全自动驾驶才会变得可行。

在此之前,配有自动驾驶系统功能的汽车可以在某些情况、某些路段下实现无人驾驶。但由于边界不清,还将继续在人的监控下实现自动驾驶,比如特斯拉要求司机必须将双手放在方向盘上,随之带来因驾驶员走神、无聊等心态变化而产生的新的安全隐患。

目前汽车行业可落地的自动驾驶主要还是自适应巡航、自主紧急刹车、车道线保持、自主泊车、堵车辅助驾驶等L2至L3自动驾驶技术。

现阶段,所谓的全自动驾驶系统更多的是汽车厂商的宣传,车还得我们自己开。可喜的是,L3级别自动驾驶技术正逐步走向成熟。未来,开车将会更轻松。



网友评论:
我现在就是,上车,睡觉,到家的节奏啊。外国人把事情想的太复杂,我们中国早就实现了。省下的钱请个司机就好,还不贵。比如我










天天坐公交上下班
自动驾驶解决不了碰瓷的问题吧

哈哈哈,会坐过站的
自2018年推出AutoPilot功能以来,全球用户已经使用该功能行驶超过1亿公里,并根据系统建议执行超过900万次车道变更。

吹吧……
国外还是人太少,上车睡到家花那么多钱
对抗性样本的问题17年还是很早就提出了吧
纯cv的方案在这方面天生劣势
联动之前卡车司机即将失业的帖子
我是不是穿越了不同的世界线?

百度和卡车司机谁先死还不知道呢

可以用手机app叫醒功能。
感觉车联网没起来之前大规模的自动驾驶不可能单独实现
很正常,实际上高速路地面上画的字、别的车出事故在地面上留下的轮胎印都可以让车跑偏

—— 来自 HUAWEI LYA-AL10, Android 9上的 v2.1.2
真要这样讲,在路上撒钉子也能让手控的车出事啊……

碰上道具赛你还要不要走了啊?
特斯拉这个AP和无人驾驶经常被混淆概念,舆论层面也是一种营销误导。
这是在给电子路埋伏笔么...?

家和公司正好是两边终点站的多幸福

—— 来自 vivo V1813BT, Android 8.1.0上的 v2.0.4-play


平均每公里变0.09次道。车真少。
特斯拉不吹早死了,以前是有同行衬托,现在FF半死不活,国产那一票初创不敢乱吹/没东西可吹,剩下的就都盯着扒特斯拉皮了

这几年我觉得是集中见证一大批牛从吹到天到楼榻的过程
特斯拉是故意在宣传的时候让你把他家技术跟无人驾驶混淆,一旦出事就马上撇清



—— 来自 HUAWEI VTR-AL00, Android 8.0.0上的 v2.1.2
我也在想了,男人喜欢开车算是一种浪漫,那你都自己不开了,干嘛不去坐公共
泥潭有没有特斯拉车主现身说法一下这个AP系统在日常行驶中到底有多大的实用价值来自: iPhone客户端
自动驾驶系统学开车学了有好几年了吧,跑的距离可以绕地球几圈了,还拿不到驾照是不是可以证明是个弱智,终生禁止驾驶了?

—— 来自 Xiaomi Redmi Note 7, Android 9上的 v2.1.2
限号的时候坐公交上下班真的挺爽 不过也真的睡过站好几次

我坐过有钱人的特斯拉
号称上了高速基本上不用碰方向盘
但是在全车人的恐慌之下
有钱人还是抓住了方向盘

挺好的啊 清明来回高速上都是开AP
平常高架上也是开AP
手还是要扶着方向盘 不然系统会停止
不过脚可以愉快的盘着了
并不,只能说明公司离家太远……

  -

不是特斯拉车主,不过我的车跟特斯拉那个差不多,只不过摄像头精度差些
跑高速路挺好的,全程手搭方向盘别的不用管,市区内太容易被加塞没办法用

—— 来自 HUAWEI MHA-AL00, Android 9上的 v2.1.2
前阵子看到一个国内特斯拉自动驾驶出事的gif?谁有?

平均10多公里1次变道,这根本不实用…
全自动驾驶永远有这样的风险:ai无法识别收到的是真实的信息还是精心构筑的代码

----发送自 App for Android.
现在所有人工智能的原理决定了这种问题无法避免,实际上悲观的来说,这可能是智能本身的缺陷,人类都可以在偶然的或者精心构筑的场景下被欺骗。人类不会被这种愚蠢的场面骗了主要是因为人有大量的常识信息,任何决断都会被常识筛一遍,但目前的ai没常识
之前不是有个帖子说某地路口的墙被画成街景于是车祸频发么
tesla 哪里说过自己是level 3了,还是level 2吧