企业新(xīn)闻—关于我们—亚信安(ān)全—护航产(chǎn)业互联安(ān)全数字世界

2021世界人工(gōng)智能(néng)大会(WAIC2021)

今日，“2021世界人工(gōng)智能(néng)大会(WAIC2021) ”在上海盛大启幕。大会以“智联世界众智成城”為(wèi)主题，围绕“AI赋能(néng)城市数字化转型”的内容，探讨人工(gōng)智能(néng)技(jì )术发展、产(chǎn)业赋能(néng)以及治理(lǐ)相关命题。

图：亚信安(ān)全总裁陆光明出席“构建AI产(chǎn)融新(xīn)生态”论坛

亚信安(ān)全作(zuò)為(wèi)“懂网、懂云”的安(ān)全企业，以及中(zhōng)國(guó)网络安(ān)全软件领域的领跑者，受邀参加本次大会，亚信安(ān)全总裁陆光明出席并在“构建AI产(chǎn)融新(xīn)生态”论坛，以《保护AI系统—让AI安(ān)全可(kě)信》為(wèi)主题发表精(jīng)彩演讲，从安(ān)全视角切入，看新(xīn)时代AI应用(yòng)和发展所面临的新(xīn)威胁、新(xīn)挑战，以及对应的安(ān)全新(xīn)举措。此外，在WAIC会客厅線(xiàn)上直播环节，陆光明还与中(zhōng)國(guó)互联网投资基金管理(lǐ)有(yǒu)限公(gōng)司董事長(cháng)吴海、中(zhōng)國(guó)信息通信研究院副院長(cháng)魏亮一同，针对智能(néng)化相关的应用(yòng)场景不断增加、行业与产(chǎn)业进一步释放AI价值的发展方向进行深入探讨。

图：亚信安(ān)全总裁陆光明论坛演讲

AI时代崛起，网络威胁成為(wèi)绊脚石

时至今日，AI已经无处不在，已成為(wèi)现代数字系统基础能(néng)力，它不仅改变我们生活，也正在改变整个行业。然而，在AI越来越為(wèi)大众所接受，使我们感受更人性化关怀的过程中(zhōng)，新(xīn)的威胁与风险也随即而来。

图：Gartner 2019 AI技(jì )术相关调查结果

陆光明表示：“任何新(xīn)技(jì )术的出现往往都有(yǒu)一个无法解决的对立面，如同硬币的两面，AI也是同样。特别是因為(wèi)当前的机器學(xué)习和人工(gōng)智能(néng)平台，市场上还没有(yǒu)提供一致或全面的安(ān)全工(gōng)具(jù)来保护企业组织和个人的权益。鉴于此，根据Gartner的一项调查显示，在AI技(jì )术实施的阻碍中(zhōng)，客户最担心AI的安(ān)全性与隐私问题，这一比例高达30%。”

安(ān)全、责任、社会，三大威胁伴随AI进入企业

显然，AI已经渗透到日常生活的方方面面，就企业而言，引入AI将面临三种风险：

安(ān)全

随着AI越来越普及并嵌入到关键的企业运营中(zhōng)，在核心业務(wù)更依赖人工(gōng)智能(néng)的同时，安(ān)全风险也正在上升。例如，自动驾驶汽車(chē)的AI模型中(zhōng)可(kě)能(néng)存在导致致命事故的错误。

责任

由于使用(yòng)敏感客户数据的AI模型越来越多(duō)地影响着影响客户的决策，因此责任风险正在增加。例如，错误的AI信用(yòng)评分(fēn)会阻碍消费者获得贷款，从而导致财務(wù)和声誉损失。

社会

“不负责任的AI”通过做出既不透明也不容易理(lǐ)解的偏见决策，给消费者带来不利和不公(gōng)平的后果，会导致社会风险增加。例如，即使是轻微的偏差也会导致算法的严重错误行為(wèi)，这涉及到数据权、人权、伦理(lǐ)道德(dé) 、透明度、问责制等等一系列社会影响。

陆光明指出，AI有(yǒu)巨大的潜能(néng)改变人类命运，但同样存在巨大的安(ān)全风险。当AI系统被攻破，在工(gōng)业、医(yī)疗、交通、监控等关键领域，安(ān)全危害尤為(wèi)巨大，轻则造成财产(chǎn)损失，重则威胁人身安(ān)全。為(wèi)此，我们可(kě)从威胁向量、攻击类型、安(ān)全措施这三个方面，对比引入AI前后的变化，发现新(xīn)增威胁与风险。

图：引入AI前后的威胁对比分(fēn)析

通过前后对比可(kě)以发现，AI和机器學(xué)习(ML)提供了与早期技(jì )术进步相同的漏洞和错误配置的机会，而且还有(yǒu)其特有(yǒu)的风险。而新(xīn)的攻击面和威胁向量往往超过传统安(ān)全防御系统的感知范围、处理(lǐ)能(néng)力和响应速度。

剖析常见攻击手段，构建AI四大安(ān)全支柱

安(ān)全和隐私问题是采用(yòng)人工(gōng)智能(néng)的最大障碍，这是有(yǒu)充分(fēn)的理(lǐ)由。这是因為(wèi)，误操作(zuò)的用(yòng)户和恶意攻击者都可(kě)以威胁AI模型和数据的性能(néng)、公(gōng)平、安(ān)全与隐私。以导致AI模型偏离的三种恶意输入与干扰為(wèi)例，攻击者可(kě)以采取对抗性AI输入、操纵数字输入或操作(zuò)物(wù)理(lǐ)输入的形式，扰乱甚至是毁掉系统。

图：导致AI模型偏离的三种恶意输入与干扰

图：AI查询攻击的两种方式

此外，常见AI风险还包括查询攻击，这主要是分(fēn)為(wèi)白盒黑盒攻击。白盒攻击需要获取机器學(xué)习模型内部的所有(yǒu)信息，然后直接计算得到对抗样本；黑盒攻击则只需要知道模型的输入和输出，通过观察模型输出的变化来生成对抗样本。

图：AI安(ān)全的四个支柱

亚信安(ān)全认為(wèi)：认识到恶意和良性攻击者对组织中(zhōng)的AI构成威胁至关重要，以便评估和支持用(yòng)户原有(yǒu)的安(ān)全支柱（以人為(wèi)中(zhōng)心和企业安(ān)全控制）和新(xīn)的安(ān)全支柱（AI模型的完整性和AI数据完整性）。针对新(xīn)支柱，应组织对员工(gōng)的对抗培训，并通过企业安(ān)全控制来减少攻击面，而企业应将AI数据完整性侧重于数据异常分(fēn)析以及数据保护的实践研究，以应对AI的威胁。同时，亚信安(ān)全还建议各行业行动起来，制定AI安(ān)全行业标准，保护AI系统，让AI安(ān)全可(kě)信。

AI发展已实现量变和质(zhì)变指向“产(chǎn)业智能(néng)化”

当前，人工(gōng)智能(néng)正在进入供需融合创新(xīn)的发展期，在技(jì )术、市场、平台、数据和资本等领域不断成熟。AI与云计算、區(qū)块链、物(wù)联网、5G等新(xīn)技(jì )术的相互融合，以及新(xīn)技(jì )术带来海量的物(wù)联和移动等数据，正在进一步激发人工(gōng)智能(néng)技(jì )术应用(yòng)的广度和深度，驱动人工(gōng)智能(néng)“质(zhì)变”，真正成為(wèi)经济社会发展的重要新(xīn)型基础设施。

在WAIC会客厅線(xiàn)上直播中(zhōng)，陆光明表示，人工(gōng)智能(néng)的高速发展正是产(chǎn)业融合推动的，其发展标志(zhì)就是产(chǎn)业智能(néng)化。语音处理(lǐ)、计算机视觉、自然语言处理(lǐ)……过去早已被反复提出的典型技(jì )术到现在正被物(wù)流、工(gōng)业机器人、银行、金融、医(yī)疗、智慧城市、智慧智造等产(chǎn)业全面而主动地融合。另外，AI与产(chǎn)业融合是長(cháng)期而漫長(cháng)的过程，这与消费互联网爆发式成長(cháng)存在一定區(qū)别，是多(duō)维度、多(duō)节点的推进过程，是用(yòng)户、平台、资源与运营不断磨合的过程。

图：亚信安(ān)全总裁陆光明参加WAIC会客厅访谈直播

图：亚信安(ān)全总裁陆光明（右一）在WAIC会客厅接受访谈

产(chǎn)品全景图 >

安(ān)全服務(wù) >

安(ān)全运营 >

首页(yè)

产(chǎn)品与服務(wù)

云安(ān)全

终端安(ān)全

数据安(ān)全

身份安(ān)全

高级威胁治理(lǐ)

网络与通信安(ān)全

安(ān)全管理(lǐ)

SaaS服務(wù)

一體(tǐ)化智能(néng)安(ān)全运营平台

网络管理(lǐ)

信息技(jì )术应用(yòng)创新(xīn)

工(gōng)业安(ān)全

解决方案与案例

客户支持

合作(zuò)共赢

安(ān)全通告

C3安(ān)全大会

投资者关系

关于我们

新(xīn)闻与活动

亚信安(ān)全最新(xīn)资讯与活动。