关于自动驾驶汽车，人类担忧的事情终于发生了。6月21日据国外媒体报道，特斯拉刚刚对公司前员工马丁·特里普提起了诉讼，称后者入侵了公司的电脑系统窃取了机密文件，并且有可能对公司和消费者造成伤害。在特斯拉内部有人可以恶意篡改汽车电池测试过程中使用的软件系统，这正是美国立法者之前所担忧在自动驾驶技术发展过程中面临最糟糕的状况之一。今年5月，美国众议院金融服务委员会讨论了自动驾驶技术对保险行业会产生怎样的影响。这是在过去的一年里举办第三次关于自动驾驶汽车安全性讨论的国会听证会。2017年7月，交通运输部推出了一项“驾驶系统网络安全顾问委员会”法案，旨在为自动驾驶汽车的测试和部署制定标准以及相应的控制措施。这是目前国会正在讨论的四项法案之一，以此应对联邦缺乏关于自动驾驶系统安全措施的状况。在最近的一次听证会上，威斯康星州参议员肖恩·达菲表示，很多人都对自动驾驶技术有很大的抵触情绪，对这种新趋势并不信任。特斯拉首席执行官埃隆·马斯克在公司邮件中对这起前员工盗取机密的事件进行了介绍。通过这次事件可以看到，如果公司内部人士对关键系统的访问权以及还可以对测试汽车的代码进行更改，是一件多么危险的事情。

写这种文章这的无知让我无言以对
如果对Deep Learning和Neural Network有基本理解的话，就知道一旦framework建立后，想要修改代码基本上是只能改framework，相当于推到重来。所以很难从代码上控制，这也是AI为什么可怕的原因。
另外自动驾驶系统这种用户终端级的软件在安全系统上要比尽内部使用的生产控制软件要高的多得多。

Posted by: smartisan OS105
问题是远程遥控，车子跑高速时突然转向会发生什么TGFC·NG

速度与激情8上映之前出这个新闻倒是不错的宣传手段

买手动挡呀

所以政府会允许一个结果都无法预测的程序开车么

自动化电子化发展到最后会有两种结局吧，要么是天网，要么就是废土，到时候还是得靠纯机械的

手动挡拯救人类？这样

自动驾驶更适合货车和客车，有预算上激光雷达，特斯拉这种低成本跑量的高级买菜车摄像头自动驾驶只能哄尼玛鬼

自动驾驶只适合物流，不适合载人

再怎么出错，也比人手动驾驶靠谱。有什么好纠结的，两害相权取其轻

生命只有一次，不止是司机的，包括路人的，让无法预测的程序去接管么》？
还有就是出错之后产生的结果谁去负责？

这公司，下限真就这样了。找内鬼背锅
微软那么大，咋没内鬼给源代码中中木马？

你让别人开车也一样啊，我特么周六一早叫了辆滴滴，从后视镜里看到司机眼睛都快闭起来了。吓得我赶紧和司机搭话，让他别睡着了。人也同样无法预测好不好

这是个例。特斯拉这破代码管理水平，一旦出事，就是大范围普及型事件。还是有本质区别

那也是特斯拉这公司的问题，自动驾驶是个趋势，人类驾驶每天车祸也很多，看看10分钟车祸视频，那只是凤毛麟角

目前DL应该只应用在自动驾驶的模式识别中吧，决策应该还是专家库规则吧。专家库还是比较好改的。

以上都是我猜的

特斯拉所有行驶车辆事故率比美国整体水平低

其实路上很大数目的死机都是眯着眼睛瞎比开，支持自动驾驶，其实自动驾驶均速不用很快，道路规划好，能很快到达目的地。

233max估计皮毛都不懂还装得挺专业的

根本不需要进行任何对已经训练好的CNN中的任何结构的改动（加res block，etc）

只需要给雷达和摄像头输入的数据的固定channel中加入非随机的噪音，识别物体的CNN马上就会garbage in garbage out

或者在数据预处理进行快速傅里叶的时候加人工加一个filter，预处理的classifier马上嗝屁

基于最小二乘的伪AI最大的弊病就是对输入数据的敏感性，因为loss function是基于训练数据，进行随机梯度下降的优化之后，只有很小一部分的样本被穷尽了，你根本就不知道是不是最优了；对于人为输入数据篡改根本毫无办法。

庄总还是老老实实的搞你的数学吧，别轻易串专业，你想妄图通过怼几个数学词汇就秒二楼心情我可以理解，但隔行如隔山

汽车安全的话前几年确实堪忧，美系尤甚，特斯拉目前不管是公开的还是未公开的基本上还都是驾驶员人为失误造成的事故，更早的话jeep和通用都明确被黑进去过，但以后不会了，为毛？我也来个专业词吧，装逼呗，automotive spice，不往深了说，这套标准就是防止大家害怕的被黑，出错这些，其实汽车控制早就用上电脑了，别家的不说，欧洲车你们听说过电脑有问题的新闻么？有说过电脑死机么？为毛没有呢？这里面深了，不是你家电脑那种用用就挂了，各种规则和设置保证它安全的运行，所以为毛奉劝大家不要轻易刷ecu，只是改改数也不靠谱，除非原厂改。这套标准美国据说也在用了(之前用的是fmea，以后可能要一起用)。这也是为毛到现在欧洲车都很安全的原因，当然了，他们对这个很谨慎，所以说不是坊间流传的bba之类的不想弄，人家各种工作要提前做好，马斯克呢没有包袱，冲在最前帮助趟雷，所以大家乐的后面看而已

ps: 友情提示，automotive spice别查百度，别查中文，目前中文所有的翻译，解释都滞后，最新一版框架还是我同事翻译的，培训资料目前只在内部传阅，网上不可能有，因为我们是专门做这个的^_^

我只是从纯神经网络的角度出发，说明如下一个公认的论断：

目前所有基于最小二乘的loss function+CNN+SGD训练的图形识别技术，都无法避免对于输入数据的不稳定性，稍微人工改动一点点输入数据，输出可以变得很搞笑；不需要对已有的CNN结构进行任何改变。

尽管我听不懂你说的是啥，但我明白你的意思，另外我喜欢用简单的话把复杂的事说清楚，举个简单的栗子:问黑掉一台服务器应该怎么做，最简单有效的方法就是拿着笔记本进机房插上一根网线跳过所有安全措施直接怼对吧？这话一点没毛病，跟你说的一样，但问题就在于机房是tm有门的，有人的，服务器是有软件管着的啊亲，你说加入什么噪音什么数据，说加就加了？没错，任何软件都有可能被黑，这个我不抬杠，但我们要做的就是尽量避免，另外数字签名，身份认证，系统一致性麻烦了解一下，用主机举例子，p4和x1到现在还没有被皮角对吧？即使低版本有问题，后台也可以马上升级，汽车也一样，当然汽车的软件安全环境更高，高的多。所以你说的这些也就是理论上存在。针对特斯拉这种内部有人捣乱的怎么弄，这就是我说的软件成熟度审批的重要性了，还是我之前说的，欧洲汽车很早就用上电脑控制了，你听说过类似的新闻么？因为人家从源头制止了这种事，不可能发生，特斯拉愣头青第一次搞，当然有他的好处，比如不用考虑传统汽车过度问题，一切以电车为目的设计和制造，所以续航高，这个直到现在其他厂商才慢慢赶上来，而且目前没有超过的，但缺点也有，那就是没有传统的积累导致了流程不对，毛豆3量产慢，这个有机会单说。另外整体内饰偏低端，100万的车内饰像30万的等等。还是那句话，这次毛豆3的问题特斯拉解决了勉强还能续命，解决不了就挂了，但不论生死，确实为后来的主机厂做了很大的贡献，值得尊敬

你的搞笑神经数据网络
完善的神经数据网络在framework建立后对于数据输入肯定要有严密的安全规范。否则很容易被垃圾数据污染整个网络。
自动驾驶这方面很容易做到，因为几个感应器数据规范很容易控制。