中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”
原标题:中国工程院院士方滨兴:内生安全问题可能成为人工智能“死穴”
从自动驾驶到智能家居,近两年,人工智能技术和应用发展迅速,科幻电影中曾经描绘的“人机共存”时代,似乎离人类越来越近。然而,人工智能足够安全吗?4月20日,在2019西湖论剑·网络安全大会上,中国工程院院士倪光南、邬江兴、方滨兴和杨小牛,表达了他们对人工智能潜在风险的思考和隐忧。
中国工程院院士共话网络安全。
25年前的今年,中国全功能接入国际互联网,就此拉开中国互联网的发展序幕,全社会的经济、文化、生活方式迎来深刻变革。
中国工程院院士邬江兴仍然记得当年的场景。他说,大家感到“欢新鼓舞”,各行各业都在倡导“互联网+”。但在发展伊始,网络安全问题没有得到足够重视,导致了现在的很多遗留问题。
2014年,中共中央总书记习近平在中央网络安全和信息化领导小组第一次会议上强调,网络安全和信息化是一体之两翼、驱动之双轮,必须统一谋划、统一部署、统一推进、统一实施。做好网络安全和信息化工作,要处理好安全和发展的关系,做到协调一致、齐头并进,以安全保发展、以发展促安全,努力建久安之势、成长治之业。
邬江兴深以为然。但他也坦言,同步安全和发展,对于全人类而言都是挑战。如今,人工智能应用正像互联网一样进入日常生活,各行各业须及早考虑人工智能的安全问题,否则就会重走当年的老路。“不管是什么问题都会有副作用,必须在发展的初期来解决。”他说。
中国工程院院士杨小牛,也有类似担忧:“人工智能会不会又像互联网一样,刚开始不考虑它自身的安全,最后发现存在各种各样的问题,面临相当大的风险?”他认为,将来,如何让算法更加安全、可靠,是一个突出问题。
中国工程院院士方滨兴提出,人工智能的内生安全问题,可能成为其“死穴”。例如,一个被贴上几张小广告的停车标志牌,人看到标志牌会觉得毫无差别,但算法识别就会出现错误。
方滨兴介绍,这样的错误,与人工智能的内生原理有关。人工智能靠大量的数据和神经网络学习,人能够看到人工智能的处理结果,但神经网络中还有很多人看不到的隐含层。因此,几个小广告,甚至是像素点的改变,都会导致人工智能处理错误。
“现在要关注网络安全的新挑战”,中国工程院院士倪光南说,新技术带来了许多传统安全领域没有的新问题、新现象,必须予以重视。以自动驾驶汽车为例,如果黑客通过网络攻击获得了控制权,自动驾驶汽车就会变得非常危险。
采写:南都记者冯群星 蒋琳
作者:冯群星 蒋琳
(责任编辑:葛兰)
-
此前根据越南最高人民检察院递交的公诉书表示,张美兰利用行贿等违法手段,获取西贡商业银行85%至91.5%的股份,给该行造成了约498万亿越南盾(约合1423亿元人民币)的损失。...[详细]
-
明树数据科技CEO肖光睿判断,地方政府或者地方融资平台未来数据资产化会加速发展。...[详细]
-
在加沙问题上,斯塔默的态度几乎与保守党政府一致,尽管他今年屈服于压力呼吁持久停火(有些批评人士敦促他对以色列采取更强硬的立场),但工党在少数议会中的席位仍然受到了影响。...[详细]
-
回看近期的政策,各大城市的政策也逐渐呈现出应放尽放的态势。...[详细]
-
安徽石台牯牛降 皖南小九寨,冷门又美爆 五一小长假来这里准没错!
也有人质疑,女方怀孕三月来相亲,剧本的可能性很大。...[详细] -
有丈夫,有妻子的,别来这凑热闹了,把时间留给真正需要的人。...[详细]
-
酸奶还可以这样吃,我这也是在挪威食堂学来的,快试试吧,更香更醇
同样是在2021年,张伟丽两次输给一位风格独特的选手罗斯,失去冠军金腰带,也在2022年拾回状态夺回了金腰带,并在2023年战胜挑战者,成功卫冕。...[详细] -
从视频画面来看,事发当晚,河道水面几乎与街道路面齐平,水不断从河道中溢出。...[详细]
-
郭台铭陈赫疑似曝光iPhone11真机!网友吐槽:真的很丑!
(总台记者 姚瑞昕) ©2024中央广播电视总台版权所有。...[详细] -
现实版“盲井”!接连杀死矿工骗取近百万赔偿金,骨灰让人随便扔了就行
不仅如此,在选片时,多选一张还要多交150元。...[详细]