-
当AI被用于诈骗,反诈只能靠AI
-
李焕宇力量与荣耀 个人邮箱[email protected],欢迎各路朋友
像中科院声学所团队创立的声智科技开发了AI反诈外呼数字人,每天能拨出去六七万通劝阻电话;搜索巨头百度推出基于AI技术的深伪检测平台,对于各种人脸识别、语音识别有99%以上的准确率。
移动支付巨头支付宝最近也有大动作。在本月的世界人工智能大会上,蚂蚁集团的“智能风险感知与响应联合反诈系统”拿下大会最高奖项。蚂蚁方面的人员向观察者网表示,他们这套系统每天会用电话、弹窗提示、防诈骗答题等方法联系到40万被认为是电诈受害者的用户,牵扯的金额达2千万,其中有8万用户会收到系统拨出的AI电话,这种AI电话有着20%-30%的完播率,收到电话后,七八成的人会放弃当前的转账、付款行为,如果是老年人,放弃转账的几率可以提升到90%。
这套反诈系统目前已应用于支付宝及其合作伙伴。根据蚂蚁集团发布《2021反诈骗治理年度报告》,过去一年,支付宝平台内诈骗案件量及欺诈资损下降约4成,其中“注销校园贷”等新兴骗局治理效果显著,资损下降85%;AI系统已能自动识别50余种诈骗手法,通过技术支持,向公安机关移交高危预警线索79万条,协助全国一线反诈民警劝阻保护潜在被骗资金9.9亿元。
反诈AI可信吗?
但是,将AI投入反诈“战场”也带来了另一个问题——如何确保这个AI可信?
通常来讲,评估AI是否可信有四点,即稳定性(也叫鲁棒性)、可解释性、隐私保护和公平性。在月初世界人工智能大会的可信AI论坛上,京东探索研究院院长陶大程对此做了简单的介绍,稳定性强调的是AI系统要能够对抗各类环境噪声以及外部的攻击;可解释性指的是AI系统的预测决策是否透明,能否被人们总结出来;隐私保护考虑的是AI系统在运作的同时能否有效保护用户隐私不会被泄露;公平性则是指AI在不断区分、评判各种事物的时候是否会形成对某种标签甚至是人的歧视。
主办方供图
在反欺诈这种场景下,AI想让自己可信无疑更加复杂。
清华大学网络研究院特别研究员邱寒在一篇文章中指出,仅仅从支付操作本身,很难区分出是否被骗,因为支付操作往往是账户本人在操作;另外,诈骗和反诈骗是一个斗智斗勇的过程,如果碰上骗子们量身定制的“剧本洗脑”,即使能够识别与拦截单笔交易支付,受骗方往往会选择换其他的方式继续转账;不仅如此,虚拟货币、远程操控、云语音呼叫等一系列新技术的加入,往往会使反诈超越AI范畴,成为一场全方位的技术对决。
蚂蚁集团风控总监王维强给出了评判一个AI模型可信性的三个标准——首先看它的打扰率和准确率,即不能把正常用户判断为风险用户,把他们正常的交易行为给否掉;其次看它的鲁棒性,也就是抗打击能力,因为骗子在诈骗过程中会不断变换手法,所以一个可信AI的识别率必须要保持一个比较高的精准度;最后就是可解释性,因为只有AI的决策能够被大家理解,那些风险用户们才会愿意同AI系统进行沟通,从而为接下来的“唤醒”做准备。
王维强
在本届可信AI论坛上,王维强再次强调了可解释性的重要性,并表示除了让人更好地理解模型,让模型更好地理解人也是条不错的技术路径。除此之外,他还提到蚂蚁正在尝试探索让AI去学习一些逻辑,从而对用户的交流做出一些判断。另外,作为一家已经将可信AI投入应用的企业,王维强表示除了鲁棒性、可解释性、隐私保护和公平性,在实际应用落地的过程中可信AI同样离不开数据、平台和运营。
公开信息显示,蚂蚁集团自2015年起投入可信AI技术的研究,从2016年起搭建“可信AI”技术框架,并在同一年全面启动了人工智能风控防御战略。在本届大会上,蚂蚁集团副总裁、首席技术安全官韦韬表示:“只有人工智能技术的发展和安全达到有机融合,才能以高水平安全助力高质量发展。从蚂蚁的实践来看,推动AI智能+专家智能的融合协同,是实现人工智能在高安全对抗领域实现安全可信的关键路径,”
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 李焕宇 
-
外地人在苏州六区购首套房不再需要出示社保或个税证明
2022-09-14 19:16 观网财经-房产 -
被版权拖累的腾讯音乐,要去港股上市了
2022-09-14 18:29 -
通胀数据引美股大跌经济堪忧,中国稳住就能胜出
2022-09-14 16:40 -
“中国制造业竞争力不仅没有减弱,而且越来越强”
2022-09-14 14:58 观网财经-科创 -
9月游戏版号发放 腾讯、网易时隔一年再获批
2022-09-14 14:22 观网财经-互联网 -
美8月通胀率高于预期,美股创两年多来最大单日跌幅
2022-09-14 07:14 美国经济 -
沪东中华交付第二艘24000TEU级超大型集装箱船
2022-09-13 21:46 中国精造 -
想再创54亿票房奇迹?这个中秋档连"妈"也救不了
2022-09-13 17:40 -
美国蓝色起源公司“新谢泼德”火箭发射失败坠毁
2022-09-13 15:58 航空航天 -
本周国家将投放今年第二批中央猪肉储备
2022-09-13 15:29 观网财经-消费 -
讲个笑话:“600759”被脱口秀吐槽坑,开盘一字涨停
2022-09-13 14:13 观网财经-金融 -
基金经理伙同兄弟搞老鼠仓获利2355万元,为从宽处理还行贿
2022-09-12 18:28 观网财经-金融 -
台媒:台积电2纳米预计2025年量产
2022-09-12 17:01 观网财经-科创 -
抗议物价飙升,欧洲又一国爆发集会
2022-09-11 22:20 欧洲乱局 -
19家银行被认定为2022年我国系统重要性银行
2022-09-11 08:43 -
中餐做不好标准化?
2022-09-10 08:33 -
包头举行政商恳谈早餐会,市委书记:城市与企业荣辱与共
2022-09-10 07:51 -
如何化解贵州高风险地方债?财政部发文
2022-09-09 22:06 地方债 -
媒体:今年新增专项债支出延期至10月底前使用完毕
2022-09-09 20:03 观网财经-宏观 -
内涵欧美?印度财长:买俄油是为了管理通胀
2022-09-09 19:27 印度惊奇
相关推荐 -
-
最新闻 Hot