机器人拥有自我意识警惕暗藏安全风险

来历：经济参考报

记者：翟永冠、宋瑞

智能机器人自傲地“走上”舞台担纲掌管；无人车在测验道路上完结一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显现测验者“睡觉”“心情”“皮肤”等一系列健康方针系数……

曾经在科幻电影中才干看到的炫酷片段现已在日子中得以完成，种种“黑科技”被广泛运用，人工智能的开展深刻地影响着社会日子。

但一起，跟着人工智能技能运用越来越广泛，人工智能“软弱面”也逐步露出，机器人“自我意识”、技能乱用等安全缝隙引起业界更多重视。

催生新进犯方式

当今，世界各国纷繁布局人工智能，国际竞争日趋激烈。但是，人工智能的快速开展也使得网络安全的危险点和进犯方式呈现新变化，从而引发更深层次的网络安全危险。

2018年4月，欧盟委员会方案2018年至2020年在人工智能范畴出资240亿美元。2018年5月，法国发布《法国人工智能战略》，意图是使法国成为人工智能强国。2018年6月，日本《未来出资战略》要点推动物联网建造和人工智能的运用。

关于人工智能，我国相同高度重视。2017年，政府先后发布了《新一代人工智能开展规划》和《促进新一代人工智能工业开展三年行动方案（2018—2020年）》。

北京邮电大学教授李小勇标明，我国是遭到网络进犯最严峻的国家之一，也是遭受物联网进犯最严峻的国家之一，网络进犯手法和进犯方式越来越多。从作业来看，经济、教育、政府等部分成为进犯的首要方针。

360公司董事长兼CEO周鸿祎说，网络进犯每天都在发作。现在网络黑客的进犯方针十分清晰，便是动力、交通等根底设施，因为这样发作的影响是最大的。未来在万物互联的情况下，每个集装箱、每辆货车，乃至城市里的每个井盖都完成互联，虚拟层面的进犯或许引发物理空间的危害。

现实上，绑架智能设备现已成为网络进犯的重要手法。网络安全专家标明，许多无人值守系统运用人工智能技能，一旦遭网络绑架，将带来严峻的安全问题。例如，智能轿车可与车厂服务器衔接，经过手机长途操控，车主需求定时更新软件保证轿车的驾驭形式，如此一来就或许被网络绑架。

天津大学法学院院长孙佑海称，网络进犯者可经过缝隙操控人工智能算法，完成物理硬件操作、施行言辞引导、制作虚伪图画或影响、制作信息噪音等，构成安全隐患。

此外，图画、声响组成繁殖新的危险。国家互联网应急中心的相关专家称，跟着技能的开展，现在的组成图画、语音越来越传神。如果把该技能用于网络欺诈，虚拟人脸和语音，是十分可怕的作业。

杨幂“换脸”

露出安全软肋

因为人工智能技能依托的算法、大数据等能够很低的本钱进行仿制和分散，其传达途径广，监管难度大，封控几率低。

现在，人工智能技能正由“弱人工智能”向“强人工智能”阶段跃进，能够依据其所把握的算法、数据，在短时刻内快速打破人类传承多年的经历堆集。

2016年，由谷歌旗下“深度思想”（DeepMind）公司开发的AlphaGo横空出世，经深度学习后横扫人类围棋界俊彦。一年后，零根底起步的新程序AlphaGo Zero，经过自我练习，在三天内与本身对弈490万局后，以100：0的成果打败“长辈”AlphaGo。

2017年，美国交际媒体渠道脸书公司实验室中的两个人工智能机器人运用机器学习彼此对话，并不断进行对话战略迭代晋级，逐步开展出了一种机器之间能了解但人类无法了解的言语。

“现实标明，人工智能经过算法和大数据进行深度学习，不扫除演化出‘自我意识’的或许，辅佐乃至替代人类做出剖析和决议计划，这易于发作反噬危险。”孙佑海说。

当时，人工智能研讨高度敞开顺便源代码的海量论文可免费下载，即使编写一种折型算法的时刻本钱也只需几天，人工智能技能的乱用危险激增。此外，人工智能既有多学科归纳、高度杂乱等特性，带有天然的技能壁垒，给监管部分的监督办理和危险防备提出了不小的应战。

除技能开展外，人工智能带来的社会影响不容小觑。经过特定算法全方位了解用户偏好和需求，为顾客“量身定制”的“精准推送”正成为商家引导消费的新途径。

近年来，北京、上海、重庆、济南等地的商圈开端试水“才智商圈”形式，能够依据顾客的特征更精准地推送优惠券产品信息，让用户更有消费动力。比方，给年青的未婚白领女人推送化妆品和奢侈品的品牌商券；给妈妈们引荐婴儿用品店；给男性推送运动品牌门店活动，等等。

“才智商圈”带来日子快捷却简略引发“信息打扰”问题。顾客的一个简略操作就有或许露出想要购买某件产品的主意，后续会不断收到同类产品的广告宣传，发作困扰。

久而久之，商场导购等从事决议计划剖析、艺术创作等作业也有被机器人替代的或许，人工智能技能的日臻老练将打碎传统作业集体的“饭碗”，从而引发新工业革新和经济结构调整，构成“去劳动力”倾向，终究发作赋闲危险。

不仅如此，人工智能发作的品德道德隐忧不断。

有专家标明，人工智能规划者的价值导向和行为偏好易于被有意或无意地反映到算法、数据傍边，并经过机器学习被人工智能所继承，从而演进为算法轻视。而在详细适用过程中，简略遭到对立样本的搅扰或污染，被运用者二次形塑，做出违背规划初衷的过错决议计划。

2016年3月，美国微软公司发布了名为Tay的最新版别人工智能机器人。但是，上线不到24小时，Tay就“学坏”了：狗血喷头、脏话不断，言语乃至触及种族主义、色情、纳粹，充溢轻视、仇视和成见。微软只得不断删去Tay的不妥言辞，进行下线调整。

用好“双刃剑”

专家标明，在人工智能飞速开展的年代，安全问题日益凸显，需求咱们加强对潜在危险的研判和防备，实在保护好人民利益和国家安全，保证人工智能安全可靠、可控。

南开大学周恩来政府办理学院教授吴晓林以为，数字化、网络化、智能化现已是年代的主题，智能让日子变得更夸姣，但安全问题无处不在、无时不在。互联网下半场是工业互联网，今后国家的根底设施安全、工业互联网安全十分要害，仍是要把人工智能的双刃剑用好，趋利避害，让科技的智能与人类的才智并存、调和。

在网络安全防护上，应加强技能研讨，树立有用安全防护，抵挡网络进犯。专家主张，能够树立自动免疫的核算架构，对核算进行安全防护，使核算全程可测可控，不被搅扰。使用人工智能应对网络进犯，“免疫系统”中不论哪个系统遭到进犯，都有一致的人工智能系统宣布指令，采纳相应措施。

在法治建造保证上，我国法学会副会长兼秘书长张鸣起主张高度重视立法作业，当令组织微观立法，人工智能的开展离不开一部反映年代需求的《人工智能法》以及配套法规组成的法令法规系统。

孙佑海主张，全国人大宜进行立法上的一些预备，主张有关部分优先对无人机的办理、自动驾驭、图画识别相对老练的技能运用拟定法令规章，以刚性的法规条款引领次序。

一起，要进一步健全精准务实的方针支撑系统，构建方针集群。孙佑海说，要进一步晋级全流程的安全防控系统，并拟定作业安全规范，做好应急防备的预案，加大要点范畴的防控，加大对代码数据、算法等要点范畴的归纳管控力度，保证技能安全、产品安全、数据安全和运用安全。

针对新一代人工智能或许引发的结构性赋闲等危险，吴晓林主张，由劳动部分牵头加强与人工智能工业需求配套的在职训练和再就业训练系统，打好劳动力转型的自动仗。