您的位置 首页 智能

AI时代如何守护信息安全?百度安全总经理马杰:时刻保持安全意识

每经记者:刘春山 每经编辑:张海妮

AI时代如何守护信息安全?百度安全总经理马杰:时刻保持安全意识

10月15日,百度安全总经理马杰在介绍AI安全相关情况

图片来源:每经记者 刘春山 摄

“2017年底百度就发表过一篇论文。当年市场上8款旗舰机,拿一个小小的指纹印章就打开。通过拍照、玻璃杯提取指纹就能做到,虽然这些手机没有被做过任何手脚,也能被轻松骗过。”百度安全总经理马杰曾表示。近期,拍照就能提取指纹的传言让大家有所担忧。10月15日,马杰表示,外界所说的该情形从技术上是能够在一定程度上实现的。其同时表示,在5G以及AI时代,网络信息环境或将暴露出更多危险因素,而新的AI技术能轻松篡改各种传感器,安全人员需要花更多精力去研究防治策略。

实际上,面对新的技术威胁,马杰对未来的信息安全环境表示看好。马杰在接受《每日经济新闻》采访时表示,做信息安全永远是跟着时代步伐走的,当初百度全面去做AI储备时,就开始在做AI安全这件事情,“其实很多时候问题只要被提出来了,解决方案还是比较好办的。如果发现不了(问题),反而是最大的问题。”

谈信息安全:可从攻击者角度去思考问题

拍照“比V”就能被提取指纹,换脸软件是否保存面部信息,近来一系列关于个人生物识别信息泄漏的话题在网络上被热烈讨论。除了个人隐私信息之外,大家更担心随之而来的资金风险。

据马杰介绍,之前的互联网时代,最主要的安全风险以病毒为核心,包含一些网络的DDos攻击。到了移动互联网时代,随着手机越做越安全,病毒不再是问题的时候,电信欺诈、伪基站的问题又出来了。现在到了人工智能时代,以前的这些风险会继续存在,但也出现了一些新的风险。在过去的工业革命中,往往都是人类去适应新的机器,人类学着怎么安全驾驶,学习怎样安全用电。而在AI时代,第一次人类发明的事物要先来“适应人”,这个变化是巨大的,带来了包括模型安全在内的新问题,衍生出不同的信息安全挑战。

马杰表示,机器深度学习需要大量的数据作为原料让它们变得聪明,这同时就带来了数据安全和隐私的问题,如何去度量中间的“尺度”尤为重要。此外,AIoT设备全面覆盖,数量还会爆发式增长。AI正在渗透到社会和经济的方方面面,在AI时代,可能一个小的风险就会造成一个更大的问题,会因为量变而产生质变。

展开全文

AI技术的复杂性,呼唤安全技术进行升级。马杰介绍,AI时代的安全威胁主要来自模型安全、数据安全与隐私、系统与网络安全、安全生态四个方面。

在AI时代,如何更好地解决安全问题?马杰同时强调,从攻击者角度去思考,是提升安全防护能力和效率的一大途径。比如,百度自己的AI技术可以生成“假脸”,同步也在研究如何识别“假脸”。

“你给我若干句话,我可以把你的声音创造出来。”稍早之前,人工智能系统微软小冰的负责人李笛在接受《每日经济新闻》记者专访时介绍,微软小冰一直有这种“黑科技”能力,但没有对普通用户开放。李笛还表示,人类对于AI的了解还是知之甚少,人工智能企业将这些AI技术产品化时,应当保持克制。

谈安全企业生存:要让安全公司活下去

在人工智能时代,信息安全更加重要,而百度对于安全一直高度重视,并在该方面持续投入。

《每日经济新闻》记者从百度相关人士处了解到,百度安全部门在百度内部属于基础技术体系(TG),从而作为百度全部业务底层安全技术的重要支撑。目前,百度安全大致分为AI安全、移动安全、云安全、数据安全、业务安全,AI安全是其中最主要的工作和最主要的研究方向。

网络黑产打击也一直是百度的持久战。马杰介绍,少数网站通过篡改页面信息、甚至植入恶意代码来侵犯用户利益,黑产也是所有互联网公司、AI公司共同的敌人,百度以往跟各地公安合作侦破了很多案件。

马杰在沟通会上演示了一个视频片段,车间里前面一批人走过时没有红框,而后面一批人出现时,却出现了红框提醒。马杰介绍,红框提醒是因为AI识别出后面的人没有戴安全帽,若在工厂运营能提升工人的安全程度。而在工厂之外,还有非常多的小场景能够实现,对很多AI大牛来说在算法上毫无挑战性。

“对内全面覆盖百度的业务场景,对外是向个人用户和商业伙伴输出研究、技术方案,甚至包括很多开放开源的代码。”马杰介绍,“开放”是百度安全在AI时代的聚焦方向,百度推出的AIoT安全解决方案,也已引入华为、TCL、创维等50余家生态合作伙伴,覆盖超过1.5亿部设备。

但目前,大多数信息安全公司的处境并不是很好。有数据显示,我国所有的安全公司加起来一年销售额只有三四百亿元,可能还不及一款游戏的收入。而跟其他发达国家相比,国内在信息安全上的投入还是要小得多。

对此,马杰表示,百度虽然不以安全为挣钱目标,但外界需要让这些以安全为生意的公司能活下去,要让他们做更重要的事情。“如果我们企业的CEO、负责人不能理解安全在其中的重要性,他们一定不会把钱放到安全维护里面去。”马杰说,业界要共同把AI安全这个事情做好,这比互相抢生意重要得多,“大家把蛋糕做大是首要的事情”。

对于个人如何守护信息安全,马杰向《每日经济新闻》记者表示,给予普通用户具体的一个技巧是很难的,因为也有太多信息安全场景,核心是时刻保持安全意识。

每日经济新闻

为您推荐

联系我们

联系我们

00852-3069 7890

在线咨询: QQ交谈

邮箱: 2123848581@qq.com

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部