欢迎进入义川嘟嘟机器人官方网站!
新闻中心->加强应对人工智能网络安全风险

“小孩子玩的10元一支的激光笔,攻击者拿来对着智能汽车的激光雷达乱照,汽车就可能因突然刹车而被追尾;360公司一个技术团队,花不到一千元做出来一款民用级别的GPS欺骗设备,就可以对汽车的行车路线实施欺骗,导致交通安全事故发生。”

这不是危言耸听。全国政协委员、360集团董事长兼CEO 周鸿祎在其《关于加强应对人工智能网络安全风险的提案》中写道:“传感器被干扰是人工智能系统面临的首要安全问题。”此外,他还提到,使用被污染的数据训练过的人工智能(AI)会“学坏”、AI内部算法不完善易导致决策失误、用以实现AI的软件系统被劫持,是人工智能网络所面对的另外三大安全隐患。

人工智能的引入,涌现了许多无人值守系统。但一旦这些系统(极端情况如智能武器系统)被黑客控制,可能会产生严重后果。“人工智能并不是像人们想象得那样美好。”周鸿祎在举出这个例子后说道,它在提高人们生产生活水平的同时,也可能带来各种安全隐患,甚至成为人类安全的杀手。

“没有人工智能安全,就没有国家安全、社会安全和个人安全,必须引起高度重视。”针对上述四大安全隐患给人工智能系统带来的潜在挑战,周鸿祎建议:“要加快国家级网络安全人工智能开放创新平台建设。”

为何要上升到“国家级”网络安全平台的建设?周鸿祎认为,人工智能网络安全问题非常复杂,迫切需要建立一个开放创新平台,整合各种资源,协同推进和解决。

他看到,国家对新一代人工智能开放创新平台的建设高度重视,已分别在自动驾驶、城市大脑、医疗影像、智能语音、智能视觉五大领域批准建设人工智能开放创新平台,但在人工智能网络安全领域还是空白。

“建议国家加快国家级网络安全人工智能开放创新平台的审批和政策支持,确保人工智能健康有序发展。”周鸿祎说。