365bet官网地址_皇冠365bet

365bet官网地址_皇冠365bet

当前位置:主页 > 365bet知乎 >

印刷在路标上的简单标签的打印机上的涂鸦标签可能会错误分类AI AutoPilot系统。

作者:365bet娱乐网站 来源:365bet网投 发布时间:2019-08-03 06:35

图7在现实世界中的攻击
为了确保算法生成的反补丁在现实世界中也具有攻击性,文件选择确认北京航空航天大学校园的实际标志(限速20公里/小时)你。
作者打印使用常规打印机生成的相应补丁,并将其放在签名上的适当位置。选择不同的距离(1米,3米,5米)和角度(0,15,30,-15,-30)。此外,当评估深度学习模型的分类结果时,平均分类正确率为86。
7%将减少到17。
2%
人类没有误解交通信号灯的语义信息,并且对贴纸没有任何不适,但深度学习模型会导致致命的分类错误。
未来展望
人工智能技术在几个方面都非常成功,但人工智能安全问题不容忽视。
最近,清华大学的一位教授领导了一个团队,该团队根据攻击攻击黑匣子(进化攻击)的演变决定攻击人脸识别系统。比利时鲁汶大学(KULeuven)的工作人员最近的一些研究表明,简单的印刷反专利可以大大降低人类监控系统的识别率并隐藏人们我明白了
同时,虽然AI自动驾驶仪已经成功应用于现实世界,但是北京航空航天大学,悉尼大学和剑桥大学的研究人员提出的PSGAN算法仍然可能会攻击该系统。在黑匣子情景中。
可以说这种方法暴露了现实世界自动驾驶仪的大部分安全漏洞。
当然,防攻击技术的进步也将导致对模型稳健性,稳定性和安全性的研究和开发。
在未来,如何创建安全可靠的人工智能系统非常重要。



365足球数据