网站首页 > 汽车 > 正文

数据也能“投毒”?它会不知不觉威胁我们的安全

2019-08-19 12:16:01来 源:鼓场尚洋网      评论:0 点击:2569

在屈军涛和大家的共同努力下,2010年国家质检总局确定洛川县为第一个国家出口优质苹果质量安全示范区,2015年洛川苹果50万亩基地整县通过国家第一个绿色食品(苹果)原料生产示范县认证。

这种欺骗式网络攻击在人工智能出现前就已经非常普遍,但对于人工智能来说,这种攻击更加危险。人类有较长的反射弧和道德意识,能够觉察出明显异常信息所蕴含的风险。人工智能则相反,机器学习反应速度极快,不受道德和心理限制,因此会根据错误的信息立刻做出错误反应。此外,由于人工智能的运算过程并不透明,一旦其所依靠的学习模型被污染,用户很难第一时间发现问题,直至这种问题造成灾难性影响。

六是要加强行政指导。对违规倾向或轻微违规行为,工商部门将综合运用行政提示、行政告诫、行政约见、行政建议、责令改正等行政指导方式,及时提醒、警告和纠正,切实解决以罚代管的问题。

当人工智能成为了城市的大脑和我们生活中必不可少的工具,“数据投毒”所产生的影响不亚于一次大规模恐怖袭击和真实的投毒。在人工智能技术飞速发展的同时,该产业相关的法律约束和行为规则却明显滞后,这就像一个快速长大的孩子,却没人注意他每天都看了些什么。(文/李峥中国现代国际关系研究院学者)

通常来说,针对人工智能“数据投毒”有以下两种方式:第一种攻击模式是采用“模型倾斜”的方式,主要攻击目标是人工智能的学习训练的数据样本。在这种攻击情况下,黑客会通过对人工智能程序采集的一系列数据和网站展开系统性攻击,篡改相关数据和参数,使得人工智能程序所抓取的数据出现偏差。由于这种偏差,人工智能所依靠的学习模型就会出现“倾斜”,不能得到正确的学习认知结果。这种做法就像是给人观看大量伪造的彩票中奖的案例,从而让这个人误认为这种小概率事件是一种普遍现象。攻击者可通过操纵这种倾斜的方向来实现对人工智能的操弄。

问:据报道,上周日,印度尼西亚总统佐科参访牛街清真寺时,感谢中国政府对印尼在华穆斯林的照料,中方对此有何回应?

据报道,日前,在英国皇家天文学会于威尔士召开的国家天文会议上,有科学家警告称,太阳将在2030年“休眠”,这将导致地球气温大幅度下降、使得地球步入“小冰河期”。

在企业日常经营中,供应商先交货、企业后付款是很常见的。付款企业签发商业汇票,承诺在指定日期前付款,但供货方往往要求银行担保,这一担保行为就是所谓“银行承兑”,商业汇票也就成了银行承兑汇票。

对于人类来说,计算机所存储的数据只是一堆难以理解的数字,但对于计算机来说,这是它学习、判断、行动的唯一标准。数据的价值在于其完整性、隐私性和可用性。如果数据不完整或相互矛盾,计算机将在运算中出现错误、宕机或系统混乱。“数据投毒”就是主要针对数据的完整性开展攻击,试图通过在数据里“掺沙子”、加入“有毒”数据等方式实施网络攻击行为。

第三,中央希望这次香港行政长官选举能够依法、依规、顺利进行,选出符合中央要求的行政长官人选。

日前,针对当前移动互联网应用中存在的超范围收集、强制授权、过度索权等个人信息收集安全问题,全国信息安全标准化技术委员会在其官网发布了《网络安全实践指南——移动互联网应用基本业务功能必要信息规范》(以下简称《规范》),为移动互联网应用收集个人信息提供实践指引。

这种难以消除风险的存在,是为什么一批科学界人士对人工智能一直持有谨慎态度的主要原因。在无法从技术本身根除这种风险的情况下,大规模应用人工智能将把这种风险深深植入社会,滋养出一个网络黑客新的运作平台。尤其在军事领域,自主性武器最容易成为“数据投毒”攻击的主要目标,也会带来最具毁灭性的风险。

参考消息网11月14日报道在今年的乌镇互联网大会上,某互联网大佬表示人工智能产业发展需要警惕“数据投毒”的风险。对于普通民众来说,“数据投毒”还是一个新鲜的概念。但是对于网络安全从业者来说,数据投毒已经是一种现实的威胁。一旦数据投毒导致人工智能程序发生了致命性的误判,那么所带来的伤害甚至会带来比现实投毒更大的风险。

“政事儿”(微信ID:gcxxjgzh):大同市委书记张吉福穿着T恤衫上台,赢得了亲民的评价。对于官员录节目时的着装,有什么要求?

淡泊名利,宁静致远。照说一个功勋卓著、桃李满天下的校长,退下来后,在人大或政协安排个位置;到大城市的民营教育集团当高管,都是没问题的,但姜校长从来不争不要不做。枣阳二中语文老师李传顺谈起姜校长“走”那天的情景,眼角泛起泪花,哽咽着说:“我得知噩耗,已是晚上9点多了,出于对他无比的敬重,我立即赶到了他家恳请参加治丧工作,家属告诉我老校长生前已要求,不发讣告,不搞告别仪式,丧事从简。姜校长才60多岁呀,我惋惜,我舍不得他。”熟悉姜校长的老师们知道,这是他坚守了一生的原则,永远“无我”!

随着人工智能辅助的产品走进千家万户,“数据投毒”所带来的问题也会更加显现。例如,攻击者可以通过在交通标示上做手脚的方式影响自动驾驶汽车的判断,使其违反交通规则并造成事故。攻击者也可以通过提供大量错误的学习案例来影响人工智能翻译软件,使其运作失灵。在金融领域,攻击者可通过虚假申报交易单的方式,影响人工智能投资系统的决策,制造大规模股市波动。在军事安全领域,恐怖分子或极端人士也可通过信息伪装的方式诱导自主性武器启动或攻击,从而造成安全危机。

虽然人工智能能够通过提升识别、纠错能力的方式减少被“数据投毒”侵犯的几率,但是人工智能的机器学习模式使得从学习样本这个环节发动网络攻击是最直接有效的方法。更加可怕的是,攻击者可以通过购买相关产品或盗取类似人工智能决策模型,用实际检验来测试攻击方式是否有效。

第二种攻击模式是采取反馈武器化的方式,主要攻击目标是人工智能的学习模型本身。在这种情况下,黑客会直接向人工智能程序“注入”数据或信息,将数据和信息进行伪装,从而误导人工智能做出错误判断。例如,攻击者会将正常的电子邮件“污染成”垃圾邮件,导致人工智能系统对更多正常邮件产生错误的反馈,将其误认为是垃圾邮件。这种做法就像是让人长期生活在一个目无法纪的社会,这个人即便回到了正常社会,也会有强烈的自我防备心理,无法正常与他人交流。

图说天下

    72小时排行

    整站最新

    图片新闻