【独家】“AI换脸”调查:“丢脸”同时暗藏“丢钱”风险 券商提示警惕高仿真诈骗手段
证券日报 2023-05-27 10:03:30

本报记者 李 冰 周尚伃

5月24日,中国互联网协会发布公告称,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为屡见不鲜。广大公众需提高警惕,加强防范。事实上,近段时间AI行业发展乱象引发关注,如何保障人工智能的健康、可持续发展正被业界广泛探讨。


【资料图】

《证券日报》记者连日来通过走访调查发现,“AI换脸”技术复杂度逐步降低且质量迅速提升,广大公众不容易辨别真假。同时,该类形式诈骗已蔓延至金融行业中,已有部分券商提示投资者谨防此类高仿真诈骗手段。

受访专家普遍认为,“AI换脸”技术的滥用给金融机构敲响了警钟,其复杂性、隐蔽性、突发性对机构的科技识别及运用提出了更高的要求。

“AI换脸”技术

成本不断下降

如今,打开搜索平台和社交媒体,各类“AI换脸”销售及教程比比皆是。《证券日报》记者以购买者身份咨询一位销售“AI换脸”服务的公司,该公司客服称,视频换脸的价格根据分辨率和视频长度来确定,按每30秒一条来计算价格。根据对方提供的清单,预充3000元可以获得6条视频、预充5000元可获得20条视频、预充3万元可获得3000条视频,充值越多单价越低。

在对方展示的教学视频中,使用者仅需要上传一张脸部照片,即可通过简单的步完成“一键换脸”。客服称,换脸后的视频可以绑定视频号等正规直播间。记者观察其提供的成片效果,已是真假难辨。

北京大成律师事务所高级合伙人、香港城市大学法律学院访问学者肖飒认为:“‘AI换脸’成本降低,会带来技术的滥用,各方应致力于规范技术发展。”

“‘AI换脸’技术相关成本涉及技术复杂度、所获取人脸质量和数量、算法和模型选择等。尽管‘AI换脸’技术成本有所差异,但总体而言呈下降趋势。其中,随着算法和模型等技术的进步,‘AI换脸’技术复杂度会进一步降低,且换脸质量随之提升。”中关村科金金融事业部技术专家张巍向《证券日报》记者解释道。

索信达控股AI创新中心主任邵俊告诉《证券日报》记者:“目前‘AI换脸’技术已较为成熟,且成本不断下降,容易被不法分子所使用。值得关注的是,被打包销售的个人信息是‘AI换脸’诈骗中所需投喂的‘原料’,这种侵犯个人隐私及售卖信息的行为需严厉打击。”

防范不法分子利用新技术

实施金融诈骗

记者在调查中了解到,当前“AI换脸”诈骗正向金融行业蔓延,已有券商发布了提示性公告。

例如,太平洋证券发布公告称,有不法分子利用“AI换脸”和声纹等新技术冒充金融机构从业人员实施诈骗。此类事件中,不法分子利用以假乱真的技术冒充与投资者有业务往来的金融机构从业人员或其他可信人员身份,通过直播加群引导,浏览假冒金融机构网站和下载仿冒的官方App等各类方式,获取投资者的信任、骗取投资者的钱财。

太平洋证券表示,投资者务必提高警惕,识别“AI换脸”等高仿真诈骗手段,切勿未经多方证实随意相信微信朋友视频救急、金融人员提供的稳赚新股申购或高收益理财产品机会等;更不要盲目支付会员费或授权他人代理操作账户管理及交易事项。

那么,应对“AI换脸”等新型诈骗手段,投资者该如何防范风险?易观分析金融行业高级咨询顾问苏筱芮对记者表示:“目前一些金融从业人员与金融客户借助企业微信、个人微信等社交渠道,通过一对一的方式建立联系、进行业务维护,容易被不法分子利用‘AI换脸’诈骗。建议个人与机构员工通过微信等软件联系时获取的信息,尤其是涉及投资、转账等资金类敏感信息,需要再通过机构官方App、官方热线等渠道进行交叉核实。”

“个人信息泄露是精准诈骗的根源。个人应保管好自身信息,不要随意向陌生人透露或授权;在使用社交平台时,要注意设置隐私权限;谨慎访问未知网址,谨慎安装不明来源App,谨慎打开可疑文件,保持手机系统和软件更新。”浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林告诉记者。

记者在调查过程中也发现,目前在证券开户、业务办理、银行贷款等方面,金融机构科技识别及运用较为全面,有助于进一步消除风险。

一位金融机构相关负责人表示:“当前金融系统人脸识别对于防范‘AI换脸’做得较为全面,但凡是人脸识别的场景,往往都需要视频者全方位展示,如面部、眨眼、张嘴等,这些是判断是否为‘AI换脸’较为有效的路径。”

另有金融机构相关负责人对《证券日报》记者表示:“‘AI换脸’技术并非是新生事物,此前机构在贷前审核时,也曾遇到过客户用‘换脸’技术骗贷。对于机构而言,在贷前生物识别中,人脸识别仅是一部分,审核流程中还有多重识别、交叉验证及多模态生物防伪等,均可验证其是否为AI脸或是被‘换脸’。”

业内人士普遍认为,“AI换脸”本身在机构放贷及其他业务方面不太容易蒙混过关,更多的是敲响警钟,提醒机构进一步提高科技识别及运用能力,防范相关风险。

【独家】“AI换脸”调查:“丢脸”同时暗藏“丢钱”风险 券商提示警惕高仿真诈骗手段

2023-05-27 10:03:30

天天快报!拼多多美股涨18.99%

2023-05-27 09:52:03

当前最新:涂鸦智能美股涨9.6%

2023-05-27 09:43:51

网易有道美股涨8.5%|环球热点

2023-05-27 09:54:38

淘宝天猫“618”预售开启 互联网电商板块如何布局?_天天快讯

2023-05-27 09:56:16

全球微速讯:年内已有17家ST公司成功“摘帽” 多家公司借破产重整消除危机

2023-05-27 10:00:54

一天等于多少秒?物理过程_一天等于多少秒-世界讯息

2023-05-27 10:06:48

孩子细菌性感染高烧40度_孩子细菌感染反复高烧40度如何处理

2023-05-27 10:02:29

近250亿!A股800亿巨头大动作 增强数字经济产业布局

2023-05-27 09:47:46

资讯:统计局:1-4月份全国规模以上工业企业利润下降20.6%

2023-05-27 09:31:27

【天天新视野】国家统计局:4月份工业企业利润降幅继续收窄

2023-05-27 09:36:23

【当前热闻】统计局:1—4月份汽车制造业利润总额同比增长2.5%

2023-05-27 09:29:44

全球观天下!《哆啦A梦:大雄与天空的理想乡》曝情感版预告, 五人组友情不散

2023-05-27 09:35:23

lol体验服要加速器吗(lol体验服加速器)

2023-05-27 09:05:42

邹润安透骨膏(邹润)_实时焦点

2023-05-27 09:15:04

刀削面卤的做法跟配方(刀削面卤的做法)|环球观点

2023-05-27 09:19:49

环球热点评!中国通信服务股份有限公司供应链公司(中国通信服务股份有限公司)

2023-05-27 09:10:01

qq被盗号了怎么办?(qq被盗号了怎么办)

2023-05-27 09:22:00

当前快播:绿地前高管“出轨门”事件3年后:当事人陷入抑郁,已两次状告发帖人

2023-05-27 09:14:43

今日要闻!江苏省监狱管理局财务处原处长、江苏方源集团有限公司原副总经理张如强接受纪律审查和监察调查

2023-05-27 09:07:13

招行信用卡透支利息,招行信用卡逾期利息怎么减免

2023-05-27 09:18:08

11年亏损35亿,比亚迪“赶走”奔驰后,腾势销量暴涨!|世界动态

2023-05-27 08:59:23

接到这类“退费电话”小心是诈骗!-全球观速讯

2023-05-27 08:43:24

亏空400亿被华润收购?出售20家购物中心?事关万达!最新回应来了|热推荐

2023-05-27 08:40:44

最“卷”电商节来袭!“猫狗”618促销战开启 直播电商受各方关注-每日快讯

2023-05-27 08:42:42

每日信息:讨论丨如何评价王楚钦孙颖莎组合夺冠?3-0日本组合,合作第二冠

2023-05-27 08:25:20

国家文物局、文化和旅游部等部门联合印发《三峡文物保护利用专项规划》

2023-05-27 08:19:35

二胡音色特点(音色最好的二胡琴弦) 天天报道

2023-05-27 08:26:49

二进制编码器的特点(二进制编码器)

2023-05-27 08:13:12

环球新资讯:北方图书网官网首页(北方图书网官网)

2023-05-27 08:20:13

北京到昌黎县的顺风车(北京到昌黎)

2023-05-27 08:05:48

excel数据绝对值引用(excel绝对值引用)

2023-05-27 08:06:54

微动态丨银行存款利息又降了,靠吃利息无法躺赢时我们该怎么办?

2023-05-27 08:10:25

世界热推荐:云南民族大学党委书记阮朝奇到新疆师范大学考察交流

2023-05-27 07:35:57

今日热闻!驴肉哪个部位最好吃

2023-05-27 07:18:45

纯黑色壁纸图片(纯黑色图) 世界快看点

2023-05-27 07:04:11

低gi是什么意思呢(低gi是什么意思)-环球新动态

2023-05-27 07:08:56

全球快报:株洲南站是城轨站吗(株洲南站)

2023-05-27 07:08:03

蒋依依图片高清壁纸哪吒(蒋依依图片)

2023-05-27 07:07:38

惠州楼盘大降价调查 天天快讯

2023-05-27 07:25:42

美股收盘:科技股上涨势头依旧火热 拼多多涨超18%扛起中概股大旗

2023-05-27 07:23:11

起拍价4.9亿元!平谷兴谷新消费综合体项目地块预申请

2023-05-27 07:13:16

模拟动物人生下载_模拟动物人生中文版-环球热消息

2023-05-27 07:00:58

碳普惠让生活更“绿”_天天时快讯

2023-05-27 06:40:52

美货币政策外溢危害全球——访对外经济贸易大学国际经济研究院教授竺彩华

2023-05-27 06:34:50

乡村迈上共富共美路

2023-05-27 06:39:03

今日播报!隔夜外盘:欧美股市全线收涨 纳指涨逾2% 拼多多大涨近19%

2023-05-27 06:46:03

天天快消息!荒野大镖客2郊狼位置在哪里 荒野大镖客2郊狼位置在哪里打

2023-05-27 06:46:57

全球观热点:2021 年的 5 大园艺趋势

2023-05-27 06:25:15

开发公司的材料公证费入哪个科目(公证费入哪个科目) 全球简讯

2023-05-27 06:07:10

通达信capital是什么意思(capital是什么意思) 全球今日报

2023-05-27 06:19:31

capital函数漂移吗(capital未来函数)

2023-05-27 06:09:33

世界视讯!客机飞行速度每小时多少公里(客机飞行速度)

2023-05-27 06:09:56

世界动态:单位代码是什么在哪里(单位代码是什么)

2023-05-27 06:14:04

新资讯:中金所批准3家期货公司由交易会员变更为交易结算会员

2023-05-27 05:45:23

天天新消息丨新疆阿克苏地区沙雅县5月27日发生3.1级地震

2023-05-27 05:39:31

头条焦点:香港同业拆借利率结束五连升 利好楼市

2023-05-27 05:38:03

广东力推新能源汽车 广汽集团坚定自主研发 环球时快讯

2023-05-27 05:49:51

全球观焦点:笑熬江湖(关于笑熬江湖的基本详情介绍)

2023-05-27 05:11:23

微头条丨青海专技天下学员登录入口(青海专技天下登录入口)

2023-05-27 05:05:46

type什么意思中文_type什么意思

2023-05-27 05:13:43

国内首个私募股权ESG倡议(CID)在陆家嘴金融城发布! 速读

2023-05-27 05:13:29

基蛋生物股东南京爱基减持467.15万股套现6316.05万2022年公司净利4.99亿|世界观天下

2023-05-27 04:48:08

【环球速看料】中炬高新:火炬集团及其一致行动人增持公司股份1%

2023-05-27 03:54:39

全球热文:中国太保总裁傅帆:将适当增加未上市公司股权等权益资产的配置

2023-05-27 03:47:29

光庭信息接待创金合信等多家机构调研 世界今热点

2023-05-27 03:45:55

今日讯!联络互动5月26日盘中涨幅达5%

2023-05-27 03:19:50

【全球快播报】迪普科技接待百年保险资管等多家机构调研

2023-05-27 03:25:12

天天短讯!白酒概念板块涨0.73% 白云山涨10.01%居首

2023-05-27 02:47:54

七大系列活动持续一周,沙溪镇非遗旅游文化周启动

2023-05-27 02:07:37

人民币怎么了?官方喊话:坚决抑制汇率大起大落_每日讯息

2023-05-27 02:03:05

唐山农妇袭警案丈夫获赔_并为其消除影响、恢复名誉,赔礼道歉

2023-05-27 01:37:14

简讯:胆固醇高能喝羊奶吗_胆固醇高能喝牛奶吗

2023-05-27 00:54:29

【世界聚看点】经期可以喝生姜水吗_孕妇可以喝生姜水吗

2023-05-27 01:03:20

陆家嘴收到上交所关于发行股份购买资产相关事宜的意见落实函 焦点热闻

2023-05-27 00:43:55

河北迁安:高质量党建促进医院高质量发展

2023-05-27 00:37:31

福州疾控:暂停服务

2023-05-27 00:51:58

作文思路怎么写出来范文(推荐50篇)

2023-05-26 23:51:30

巴姐爱跳舞(巴姐)

2023-05-26 23:20:01

全球简讯:自制无土栽培设备视频(自制无土栽培设备)

2023-05-26 23:12:35

当前信息:客厅灯怎么选择瓦数(客厅灯怎么选)

2023-05-26 23:07:10

左火上日下立念什么(上日下立念什么)_今日视点

2023-05-26 23:28:06

美图如何更换照片底色(如何用美图改照片底色)

2023-05-26 23:14:26

智力题25个圆圈有一个黑点绕过黑点把所有的圆圈连起来 有25个圆圈横竖五排第一排第二个是黑点不过黑点把所有的圆点_

2023-05-26 23:08:04

吊扇开关接线图_老式吊扇开关接线图 环球焦点

2023-05-26 23:01:01

一年收入近千亿,天津“云账户”啥来头_天天快资讯

2023-05-26 23:04:34

共享发展,广东茶亮相杭州茶博览会

2023-05-26 23:09:45

吴彤导演_关于吴彤导演的介绍 热闻

2023-05-26 23:05:20

完美世界:公司代理的《DOTA2》入选杭州亚运会电竞赛事项目 焦点快报

2023-05-26 22:35:57

海航控股适时启动非上市航司收购

2023-05-26 22:44:33

美克生能源董事长魏琼:储能行业价格竞争很难避免 须更关注核心技术攻坚

2023-05-26 22:46:11

A股又现天价离婚:140亿全归女方!

2023-05-26 22:33:51

中国船舶:子公司拟47亿元收购海运股份34.97%股权-快看点

2023-05-26 22:41:59

中国渤海湾首个千亿方大气田中心平台建造完成

2023-05-26 22:43:24

世界观天下!1183开头的电话千万别接(118312是什么号码)

2023-05-26 22:04:09

BP是什么单位经济学(bp是什么单位)

2023-05-26 22:19:15

october是几月份(october是几月)|天天百事通

2023-05-26 22:16:29

.exe是什么文件怎么打开(exe是什么文件用什么程序打开)-环球精选

2023-05-26 22:15:15

热资讯!序号顺序分类(序号顺序)

2023-05-26 22:25:32

曼联vs切尔西数据:曼联浪费4次破门良机,切尔西浪费3次|环球热资讯

2023-05-26 21:59:44