数（shù）字时代是人工智（zhì）能（néng）（AI）深（shēn）度应用（yòng）和（hé）发（fā）展的时（shí）代。AI的发展，正在以一日千里的速度改变着这（zhè）个世界，并在交通、医疗、环境保护、城市管（guǎn）理等多个领域中，发挥着越来越不可替代的作用。但同时，AI的安全性问题，也成为了数字化发展进程中（zhōng）不可回避的问（wèn）题。在数字（zì）经（jīng）济欣欣向荣的发展态势下，安全被许多业内（nèi）人士视为木桶上的那一块“短板”。

如何让（ràng）安全为数字化发（fā）展“保驾护航”？8月6日，2021新京报贝（bèi）壳财经（jīng）夏季峰会——数字经（jīng）济时代的风险防控线上论坛举行（háng），蚂蚁集团副总裁，蚂蚁集团安全事业群总（zǒng）裁（cái）赵闻飙表示，可信人工（gōng）智能的研究和落地（dì）或是抵御“数字化（huà）”风险的关键能（néng）力。

用可信AI解决智能化风险

伴随着数字化经（jīng）济的发（fā）展，用（yòng）户（hù）在享受数字化带（dài）来的便捷与普惠的同（tóng）时，也面（miàn）临数字（zì）化（huà）背后的风（fēng）险，如羊毛党通（tōng）过操纵多账（zhàng）户（hù）套取（qǔ）商户营销资金、个人用户（hù）遭遇网络欺（qī）诈、账（zhàng）户盗用（yòng）等。“过去，我们一直重点谈的是‘数字化’背后的风险和应对，而（ér）对（duì）‘智能化’背（bèi）后的风险（xiǎn）讲得很少。因（yīn）为（wéi）当时行业普遍（biàn）认（rèn）为，人工智能（néng）技术的落地应用（yòng）还相对有限。但事实上，早（zǎo）在六七年前，我（wǒ）们（men）就在（zài）平常应对（duì）黑产攻击中，发（fā）现了AI的痕迹（jì）。”赵闻飙表示。

新京（jīng）报贝（bèi）壳财（cái）经记者注（zhù）意到，当下的确有越来越多的（de）黑灰产团伙将AI等新技术投入到了薅羊毛、诈骗等非法活动中。如使用AI工（gōng）具操（cāo）控大量账号进行违规操（cāo）作、使用（yòng）AI换脸技术试图绕过人（rén）脸识（shí）别认证等。

这意味着伴随人工智能（néng）技术的高速发展和加持，数（shù）字化背后（hòu）的风险将持续加剧，并（bìng）且演变为“智能化”背后的（de）风险挑战（zhàn）。

据了解，目（mù）前黑产作案越来（lái）越趋于多平台、多链路（lù）、团队化和智能化。这（zhè）对行业协同、风险响应机（jī）制的速度和准（zhǔn）确（què）性提出了更高的要求（qiú），而且（qiě）还需要切合“数字化浪潮”下社会对（duì）于（yú）隐私保护（hù）、技术伦理治理等多方面的需求。

在赵闻飙看来，要（yào）对抗“智能化”的风险，就需要“智（zhì）能化”的手段，这也是（shì）“可信AI”技术进入快速发展阶（jiē）段的核（hé）心驱动力。可（kě）信（xìn）AI技术要求人工智能技术（shù）应当具备可（kě）解释性（xìng），以帮助人类理解（jiě）和信赖他们的决策；具备鲁棒性（xìng）（robustness），以抵御黑产的攻击，以保障计算和决策（cè）的稳定性和效（xiào）能；具备隐私保护的能力，以满足社会（huì）和民（mín）众对于（yú）个人数（shù）据（jù）资产保护的需求（qiú）；具（jù）备公平（píng）性，强（qiáng）调决（jué）策结果（guǒ）的公平（píng）性，同（tóng）时（shí）关（guān）注技术背后的社（shè）会责任和伦理治（zhì）理。

“数字时代，安全是（shì）AI与AI的博弈，而可信（xìn）AI，则是（shì）抵御风（fēng）险的关（guān）键（jiàn）能力。”

面向可信AI技术的下（xià）一（yī）代风控体系“IMAGE”

据了解（jiě），蚂蚁（yǐ）集（jí）团自2015年起（qǐ）投入（rù）可信AI技术（shù）的研究。2016年，全面启（qǐ）动了人工智能风控（kòng）防御战略。目前，可信AI技术（shù）已在包括反欺诈、反洗钱（qián）、反盗用、企业联合风控（kòng）、数（shù）据隐私保护在内的多个风（fēng）控场（chǎng）景下落（luò）地（dì），支撑着其全（quán）风险域的防（fáng）御需求。根据今（jīn）年6月全球专利权威机构（gòu）IPR Daily发布的（de）报（bào）告（gào），蚂蚁集（jí）团目前（qián）拥有全球范（fàn）围内（nèi）数量最多的“AI安（ān）全可信关键技术（shù）”专利，并上线部署了以（yǐ）“IMAGE”命名的下一代风控体系。它（tā）包含着“交互式风控”、“多方（fāng）安全风控”、“智能决策（cè）”、“全图风控”、“端云协同风控”五大组成部分。

赵闻飙表示，“全（quán）图风控”技术（shù）能够以“图”的形态，聚（jù）合“动态发展变化的风险（xiǎn）信息”，解决（jué）了传统风（fēng）控中只（zhī）能（néng）依靠单一或静（jìng）态（tài）信（xìn）息维度追踪风险的困境，实现对风（fēng）险变化（huà）趋势的预测，提前遏制（zhì）风（fēng）险的发生（shēng）。在反电诈等风控场（chǎng）景，对于（yú）打击团伙（huǒ）型、多链路作案，具有重要意义。而“全图式”的风险分析和追踪形式（shì），也对人工智能的（de）“可解（jiě）释性”发展提供了更广（guǎng）泛的空间。

而“多方安（ān）全风控（kòng）”和“端（duān）云（yún）协同风（fēng）控”则是“智（zhì）能（néng）化”趋势下，实现风控与隐（yǐn）私（sī）保（bǎo）护平衡发展的实践（jiàn）探索。“多方安全风控”实现了在数（shù）据（jù）不交（jiāo）换的前提（tí）下，多企（qǐ）业、多（duō）平台之间的联合风控（kòng）协作。“端云（yún）协同风控”的价值则是（shì）保障数（shù）据的使（shǐ）用和（hé）保有（yǒu）权（quán）真正属于用户。通过将风控模型部署在智能终端，如手机上（shàng），蚂蚁（yǐ）的技术团队建立起了一套“终端进行数据计算和（hé）决（jué）策、云端仅获（huò）取决策结果”的风控模式。终端计算，意味着（zhe）敏感（gǎn）信息（xī）被保留在用户手中，规避了信息传输过程中可能出现的（de）被攻（gōng）击风险。云端仅获取（qǔ）决策，不仅保障了安（ān）全防御和风险控制不（bú）受影响，还节约了云端的计算（suàn）资源（yuán）。目前，“端云协同（tóng）风控（kòng）”已经被广泛用于支付宝的日（rì）常风控（kòng）中，在去年的双十一期间，98%的风控（kòng）决策都是在用户智能（néng）终端上完成的。

赵闻飙在分享中强调，传统风控受制于技术成本、数据规模和（hé）算法效能（néng），许多场景（jǐng）还是专家经验（yàn）驱（qū）动，而不是数据智能驱动。“支付宝每天有数亿笔交易，面对如此庞大的计算量，一（yī）旦决策产生延（yán）迟（chí），就给了黑（hēi）产可乘之（zhī）机。” 通过人工（gōng）智能与金融风控的深度融合，蚂蚁安全实验室打（dǎ）造（zào）了能够（gòu）实现“智能决策”的AI大脑——AlphaRisk。其能够（gòu）在零人工干预的（de）全自动模式下，对风险进行（háng）毫秒级的响（xiǎng）应。但更（gèng）重要的（de）是——AlphaRisk具备的自（zì）学习、自适（shì）应的能（néng）力，将极大地提升人工智（zhì）能的抗打击能（néng）力。AI大脑通过对每一（yī）次黑产攻击行为的学习和研究，不断提升防御（yù）手段，进行（háng）高效的（de）自我（wǒ）进（jìn）化。

在（zài）技术（shù）快速发展的同时，可（kě）信AI的公平性（xìng）也考验着（zhe）研究者对社会（huì）责任的坚守。赵闻飙提到，早在2016年，蚂蚁就成（chéng）立（lì）了针对电（diàn）信网（wǎng）络诈骗的技术研究小（xiǎo）组，借助包括“图神经网络”“博（bó）弈（yì）攻防”在内的一系列（liè）创新技术应用，极（jí）大地遏制了平台电诈发生率。但许多骗子引导受害人（rén）转而使（shǐ）用其他的（de）支付渠道，社会欺诈（zhà）问题（tí）仍旧严峻。如何依靠技术（shù）力量（liàng），真正将诈骗罪（zuì）案止（zhǐ）步于支付环节，成（chéng）为研究的重点，“交（jiāo）互式（shì）风控”也因（yīn）此应（yīng）运而生。

贝壳财经记者注意到，区别（bié）于以往的安全风控模式，交互式（shì）主动（dòng）风控（kòng）的关键在（zài）于“主动”二字——传统的（de）安（ān）全往（wǎng）往依赖于已知风险模式，只有风险发生过，才（cái）知道如何预防，这也使得安全（quán）风控往（wǎng）往（wǎng）处于“被（bèi）动防守”的态势。

对（duì）此，赵闻飙表示，安全必须（xū）从静态的被动（dòng）防守，转变为动态的主（zhǔ）动（dòng）对（duì）抗，特别是金融安全（quán）。“以交互式风控产品（pǐn）‘叫醒热线’为例，当用户被骗子诱（yòu）导转账时，AI机（jī）器人将向（xiàng）用（yòng）户发出（chū）来电（diàn）提醒。充分学习了欺（qī）诈罪案分（fèn）析的AI机器人，能（néng）够捕捉用户交流中的关键信息，采取恰当有效（xiào）的反诈（zhà）劝阻话术和措施（shī）。为了跟骗（piàn）子拼速度（dù），目前蚂蚁（yǐ）的（de）反（fǎn）诈骗（piàn）叫醒热线中，有超9成电话是由AI打出的（de），叫醒成功率超过了人工客服。除了事（shì）中的防护，如果用户（hù）深度受骗、执意支付，技术人（rén）员还开发了（le）‘延迟到账’和‘资金截留’的功（gōng）能，让欺诈者没有办（bàn）法支取赃款。”

“人工智能（néng）技术的快速发展，引领了第四次工业（yè）革命的浪（làng）潮。而（ér）可信（xìn）人工智能（néng）的研（yán）究（jiū）和落（luò）地，则代（dài）表了人工智能技术（shù）发展的新阶段。在未来，与人类社会深度耦合的（de）人工智（zhì）能技（jì）术，如何在安全、可（kě）信（xìn）、公平的原则下，持续发展和进（jìn）步？这是每一位从业者和研究者，为推动科技（jì）有序、健康发展都不应回（huí）避的命题。”赵闻（wén）飙表示。