站长之家 - 业界 2021-11-23T11:27:48 +08:00

蚂蚁集团顾鸣:人工智能前三十年谈发展 后三十年谈可信

“蚂蚁集团基于可信AI技术自研的、IMAGE智能风控体系中的“E”——“端云协同风控”能力已经覆盖了99%的业务场景。”蚂蚁集团机器智能部总经理、蚂蚁安全实验室学术带头人顾鸣,在前不久刚刚结束的2021年国际信息与通信安全会议(ICICS2021)中,首次对外宣布。

(配图1:ICICS2021蚂蚁集团机器智能部总经理顾鸣分享)

作为本次会议的特邀嘉宾,顾鸣就蚂蚁集团在可信AI技术领域的研究实践“IMAGE智能风控体系”做了专题报告。

他在报告中指出, “互联网金融风控场景是天然的对抗博弈场,支付宝从未停止过与黑产及黑产背后的AI做斗争”。在内容安全、反洗钱、反欺诈等领域中,蚂蚁集团对AI模型决策过程及结果的可解释性要求、对抵御黑产攻击的鲁棒性(Robustness)要求,已经达到了空前的高度。与此同时,随着隐私保护和公平性诉求越来越成为社会发展中的主流思潮,相关领域的技术研发已经不仅仅停留在企业社会责任层面,而成为了企业发展的生命线。

尽管可信AI技术体系在整个蚂蚁集团生态版图中的应用极为广泛,但作为支付宝最核心的智能风控中枢,“IMAGE智能风控体系”是蚂蚁集团基于可信AI技术体系最完整的应用和实践案例,全面践行着隐私保护、可解释性、鲁棒性和公平性的技术理念。

以“IMAGE”中的“E”端云协同风控为例,该技术通过在用户的智能终端上部署安全能力,实现隐私数据本地计算,在保护用户隐私权益的前提下,为用户提供数据及资金安全的有效防御。目前,该技术已经在支付宝99%的场景中上线。在刚刚过去的双十一中,支付宝资损仅为百余元,资损率创下历史新低;其中,端云协同风控能力覆盖交易笔数近九成,立下汗马功劳。

隐私保护的第三视角:端云协同

著名的人工智能研究学者吴恩达曾指出“AI=Data+Code”(人工智能=数据+代码)。数据一直是人工智能发展中不可回避的话题。数据的使用,推动着机器学习等人工智能技术的迅速发展、为人类提供了优质服务和决策支持,但数据的不当使用也引发了社会各界对隐私保护的担忧。

为促进人工智能技术的有序、良性发展,一方面,学术界和工业界积极研发了包括“多方安全计算”在内的、多种隐私计算相关技术,以帮助人工智能实现数据的“可用而不可见”,从而实现对数据的合理、合法、合规使用。另一方面,研究者们从未放弃对人工智能“如何减少数据依赖”的研究。

顾鸣在分享中指出,“IMAGE”智能风控系统中的“E”——“端云协同风控”(Edge to Cloud),则是隐私保护中的第三视角。“端云协同风控”将需求隐私数据计算在用户智能终端(如手机)中进行计算,将不含隐私信息的决策结果输送到云端,以实现“端云协同”的风控保障。“可信AI中的隐私保护是一个比隐私计算更大的概念,持续创新视角和解决方案,是践行隐私保护的重点。将数据放在“端”上计算,却不影响“云”提供的安全保障服务,这是对用户隐私最有效的保护。”顾鸣强调。

目标与实现之间 隔着“八十一难”

其实早在2015年,蚂蚁集团内部就已经启动了首个“端特征”的研究项目,迈出了端云协同风控研究的第一步,但研发过程面临着诸多挑战。

例如,最初在智能终端(如手机)上,机器学习技术的研发及应用并不成熟,需要技术团队打破传统的建模方式,来解决诸如“端数据表征”等技术问题。同时,由于智能终端之间的巨大差异,能在苹果手机上跑的模型,低端机却未必跑得了。蚂蚁安全实验室的技术团队就此提出了“动态千机千模”的方案,通过对模型的有效简化和适配,选择匹配用户智能终端的风控模型下载计算;2021年创新了“AI算力网络”,以实现“端”和“云”之间算力的全局化调配。

解决了计算能力的问题,还需要应对安全挑战。毕竟,风控的核心是保护用户的数据及资金安全。在端云协同的过程中,模型和信息的加密在智能终端上、决策也在智能终端上,一旦“端”被攻破,如果“云”不能及时获知,风险控制将无从谈起。

自2018端云协同风控上线以来,不仅为用户提供了基于隐私保护的安全防御能力;也帮助支付宝在大促等流量高并发期,极大地缓解了风控计算压力——计算压力分流至“端”;更为“云”上风控模型提供了更大的响应和计算空间,为进一步降低资损率,提供了可能,可谓“三赢”。

    (配图2:ICICS2021上顾鸣分享端云协同风控架构图)

起于应用、兴于应用的可信AI

麦肯锡相关报告曾指出,人工智能技术的快速发展和应用落地,为人类社会带来的生产力变革已经超越了历次科技革命。而人工智能在推动和改变人类社会的同时,其安全和可信性也进一步引发了人们对AI的担忧。

顾鸣强调,“作为制约AI技术发展的瓶颈,安全和可信性研究无疑将成为未来三十年人工智能技术的关键环节。”伴随着人工智能的广泛应用而兴起的“可信”问题,将是人工智能发展中突破瓶颈的“应用型命题”,只有坚持应用探索、充分实践,才能将技术理念真正变成科技发展的护城河。

推荐关键词

24小时热搜

查看更多内容

大家正在看