人工智能安全

方滨兴 主编
丛书编委会 主任:高文(院士) 方滨兴(院士) 常务副主任:黄河燕 副主任(按姓氏笔画排序):王宏安 朱小燕 刘九如 杨健 陈熙霖 郑庆华 俞栋 黄铁军 委员(按姓氏笔画排序):邓力 史树敏 冯超 吕金虎 朱文武 朱军 刘继红 李侃 李波 吴飞 吴枫 张民 张重生 张新钰 陆建峰 范向民 周沫 赵丽松 赵耀 胡斌 顾钊铨 钱建军 黄民烈 崔翔 前言 无论何时,只要人们谈及网络空间安全的形势,一定会有“形势严峻”、“应对能力不足”等悲观的说法,这往往会让决策者感到迷惑:网络空间安全领域为何总是缺少作为呢?到底该如何做才能让网络空间安全问题不再时刻困扰人们呢?其实这一切都是由于网络空间安全的动态属性所决定的。习近平总书记在2016年4月19日网络安全和信息化工作座谈会上指出:要树立正确的网络安全观,网络安全是动态的而不是静态的。也就是说,网络空间安全的形态是不断变化的,一个安全问题解决了,另一个安全问题又会冒出来。而在网络空间安全的动态属性中,新技术安全是导致网络空间安全具有动态特征的主要因素之一。这是因为新技术必然会带来新的安全问题,而各种新技术、新系统源源不断地出现,自然会引发各种新的安全问题与安全事件。如果我们有能力让各种新技术都停止出现,且五年内信息技术不更新,那么当前所有的信息安全问题可能将被全部解决掉,将会有一个十分安全的网络空间展现在人们的眼前。然而,社会不可能停滞不前,新技术也不可能从此销声匿迹,网络空间安全将伴随着新技术的出现持续动态地变化。 新技术必然会带来新的安全问题,这是新技术在安全方面的伴生效应。这种伴生效应会产生两方面的安全问题:一是由于新技术的出现,其自身的脆弱性会导致新技术系统出现不稳定或者不安全的情况,这方面的问题是新技术的内生安全问题;另一方面是新技术的自身缺陷可能并不影响新技术系统自身的运行,但这种缺陷却给其他领域带来了问题,导致其他…