Loading… 蚂蚁集团首席AI科学家:可信AI之智能对抗技术已进入支付宝风控部署_TOM科技
首页 > 科技 > 正文
Qzone
微博
微信

蚂蚁集团首席AI科学家:可信AI之智能对抗技术已进入支付宝风控部署

雷锋网    2021-07-10 16:34

“2021世界人工智能大会-可信AI论坛”今日在上海召开,来自美、英、澳等多国院士、学者,共同探讨可信AI从认知演进,到理论研究,再到产业探索等多个的议题。蚂蚁集团副总裁、首席AI科学家漆远教授在会上透露,继“隐私计算”和“图学习”技术取得实践成果后,蚂蚁集团在可信AI技术体系中的又一项重要技术——“智能对抗”技术现已正式上线部署,支持反欺诈等多个风控场景。

漆远在会上分享了蚂蚁集团在可信AI技术领域的多项技术和应用成果。他表示,融入经济学“博弈理论”的“智能对抗”技术,能够借助“双手互博”的演习机制,让AI模拟黑产发起对自身的攻击演练,从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉,该技术应用于金融风控领域,在业内尚属首次。

“未来的风控将不再是人和人的斗争,而是AI与AI的博弈,”漆远在演讲中表示,“在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。”

为了应对复杂多变的黑产攻击,如何持续加强风控模型的抗打击能力,做到“魔高一尺,道高一丈”成为摆在蚂蚁集团技术团队面前的难题。

2018年,漆远带领着蚂蚁集团AI技术骨干,在人工智能模型算法中融入经济学“博弈理论”,开发了一项业界全新的技术——“智能对抗”,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型更加鲁棒(robust),处理结果更加准确。

就像金庸小说里的“双手互博”,借助“智能对抗”技术,用更智能的 “攻”,实现更安全的“防”。 “智能对抗”技术在权威机构Gartner发表的白皮书中被列为2021年十大金融科技趋势之一。因该技术具有对风险知识形成感知、分析和预测的能力,未来将成为可信AI领域的核心安全技术。

记者了解到,自2018年起,蚂蚁集团“智能对抗”技术的相关研究成果已陆续在包括ICML、ICLR在内的全球技术顶会上发表,拥有全球专利8项。2020年,“智能对抗”技术正式应用于支付宝反欺诈,目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景,对AI模型的鲁棒性(robustness)有明显提升。

随着数字化进程的不断加速,AI在推进传统产业数字化升级的过程中作用显著。在借助AI防御数字经济风险的同时,如何确保AI的安全、可信和公平成为全行业关注的重要课题。

今年6月,蚂蚁集团首次向外界发布了蚂蚁可信AI技术架构体系,具体来看:拓展数据价值的隐私计算技术,实现「数据不动价值动」的重要命题;“博弈与鲁棒性”是保障AI可信及稳定运营的关键,“可解释性与因果分析”和“公平性”的研究能够帮助人类更好地信任及依赖AI做出正确决策。

全球专利权威机构IPR Daily在6月发布报告显示,蚂蚁集团目前拥有全球范围内数量最多的“AI安全可信关键技术”专利。

作为数字经济中“抵御风险”的关键,可信AI技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地,支撑着支付宝全风险域的防御需求,也是“蚂蚁反欺诈智能风险感知与响应系统”的核心技术。

除金融风控场景外,可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。前不久,采用可信AI技术的网商银行“大山雀” 卫星遥感风控系统项目获评农业部农村部农村金融十佳创新实践。

同时,围绕AI公平性的建设和发展,蚂蚁先后启动了针对不发达地区的“AI豆计划”、针对视障碍人群的“空中手势”验证码方案等项目。通过可信AI技术的研究和投入,促进相对落后地区的经济发展,帮扶弱势群体,弥合数字鸿沟。

雷锋网版权文章,未经授权禁止转载。详情见转载须知。

【以上内容转自“雷锋网”,不代表本网站观点。未经授权不得转载】

 

广告
责任编辑: 4126TJ

责任编辑: 4126TJ
人家也是有底线的啦~
广告