近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕
一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低
随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难
(资料图片)
近日,北方某地警方发布了一起利用“AI换脸”对当事人实施诈骗的案件。诈骗分子运用人工智能技术,通过微信视频通话与受害人进行了十多分钟交流,受害人转账数百万元。
引人关注的是,该案不仅是一起新型网络诈骗,更是一起涉政诈骗案件。
不法分子模拟伪造的,是受害人认识的一名领导干部。在微信视频聊天中,“换脸”后的骗子提出,其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。在视频画面中,骗子“换脸”后面部表情自然,声音逼真,受害人便放松了警惕,转账后打电话确认,才知道被骗。
“AI换脸”“AI拟声”、虚拟场景构建……随着设备性能提升和技术软件优化,利用“AI换脸”技术实施诈骗,已成为一种新型网络诈骗。近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕。
由于工作原因,一些领导干部的面部、声音等生物特征信息更易被获取,被人工智能学习利用后造成的潜在危害性也更大。接受《瞭望》新闻周刊采访的业内人士表示,社会各界都应提高识骗防骗意识,有关部门应依法加大对人工智能“辅助”诈骗案件的执法力度,严肃追究相关人员法律责任。
朱慧卿图/本刊
眼见不一定为实
近日,华北某地一名地方干部正为一件事犯愁。有人冒用他的名义,与他的亲朋好友大范围添加微信好友。
“和我的亲戚朋友加完好友后,骗子还给他们打了视频电话。通话时间只有几秒钟,朋友们感觉声音、画面都有点儿像。”这名干部说,直到许多朋友打电话询问具体情况,他才知道此事。
“估计下一步就要开始骗钱了。所以,最近几天我连续发了好几条朋友圈提醒大家。”这名干部说。
受访业内人士表示,只要有足够的图像、音频素材,不法分子就可以通过人工智能“换脸”软件、合成声音软件伪造虚拟形象,实施诈骗。“只需提取最少10个字、最多32个字,就可以合成其声音。”国网信息通信产业集团安全科研专家赵明明告诉记者。
一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低。
在一些案件中,不法分子通过“AI换脸”合成视频等方式,伪造与领导干部见面、合影等内容实施诈骗,增加了涉政类诈骗的欺骗性和危害性。
AI诈骗四大趋势
中国信息通信研究院相关负责人表示,当前,人工智能“辅助”诈骗存在四大趋势。随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。
——技术成本由高向低转变。腾讯安全玄武实验室负责人于旸告诉记者,随着技术发展,人工智能“深度伪造”“深度合成”已成为一种可以低成本实现的技术。
——技术应用由单一向多元转变。腾讯互联网安全专家杨建表示,实施人工智能“辅助”诈骗一般要满足多个要素,包括非法获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等,涉及多项技术手段。
——伪造身份从模糊向具体转变。传统电信诈骗往往只能以“某派出所工作人员”“某网站客服”等模糊虚指人设实施。但在人工智能“辅助”诈骗中,骗子可以以具体的人物形象出现。
——作案模式从“广撒网”向精准施骗转变。社交媒体平台往往设有视频验证环节,这在客观上增加了冒充熟人、领导干部等诈骗的“可信度”。受访专家分析,随着技术发展,精准盗号、分析关系网等有指向性的网络诈骗案件占比可能有所上升。
多层面约束规范
奇安信安全专家裴智勇表示,目前,专业级别的人工智能“深度伪造”仍需通过较强的硬件在实验室环境实现。这意味着,近期“AI换脸”诈骗形成系统性风险的可能性不大,但仍需未雨绸缪、预防打击。
在源头端,需要进一步加强公民个人信息保护。杨建等专家建议,加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。针对冒充领导干部等涉政诈骗风险,可通过规范领导干部个人社交账号管理,普及提升账号安全意识等方式进行规避。
在技术层面,数字水印鉴伪等技术有待进一步普及利用。赵明明表示,数字水印能将特定的信息嵌入音频、图片或是视频等数字信号中,进行版权保护,以防止未经授权的复制和拷贝。他建议,加强打入数字水印、开发真伪鉴别等技术治理手段,使其为数字内容生产商以及用户端等提供广泛服务,以科技手段制约不法分子利用人工智能技术实施犯罪。
瑞莱智慧高级产品经理张旭东建议,对涉及政务、安防、金融、消费等重要应用的人脸识别技术漏洞进行完善和升级,防范不法分子通过后台劫持手机摄像头权限。
“尤其是涉众、涉密、涉及公共利益的相关平台和技术服务提供商,需优先完成技术加固,对手机模拟器做好防范。同时,鼓励和引导更多手机厂商在系统升级时支持3D人脸识别技术。”张旭东说。
从法律制度方面看,反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。赵明明建议,进一步完善人工智能等领域相关法律,通过案例等指引,建立人工智能侵权纠纷法律框架、诉讼程序和赔偿标准等。
此外,还需通过完善相关制度进一步落实平台责任。新华三集团安全专家曹亮表示,对核心领域使用人脸识别技术的产品,监管部门应建立分级别、多层次的国家安全标准及行业安全标准;压实平台、企业主体责任,督促相关应用开发企业履行源头审查责任;建立健全用户注册、算法机制机理审核、数据安全个人信息保护、反电信网络诈骗、应急处置等管理制度。(记者吴帅帅 刘懿德 兰天鸣 《瞭望》2023年第27期)
标签:
-
即时看!瞭望 | 警惕!“AI换脸”诈骗出现涉政苗头
一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度
-
S11大潮高速新丰至三饶段恢复通行-全球资讯
受连续暴雨影响,S11大潮高速往潮州方向K57+500处边坡出现险情,该高速
-
新安股份:拟申请广期所工业硅指定交割厂库|每日短讯
新安股份公告,董事会同意公司向广州期货交易所申请工业硅指定交割厂库
-
沈阳周六福黄金多少钱一克(2023年7月3日) 环球今日讯
金投黄金网7月3日讯,沈阳黄金价格 沈阳周六福黄金现在多少钱一克
-
安逸花逾期一年让还本金可以不还吗?可以慢慢还吗? 环球新资讯
在借贷过程中,有时候借款人会出现逾期还款一年的情况,引发了人们对于
-
红魔电竞平板官宣,60 分钟《原神》极高画质 59.8 FPS 即时
7月3日消息,红魔游戏手机宣布,将于7月5日发布新品红魔电竞平板,这款
-
观察:无锡锡山经开产业园3亿元ABS获上交所受理
观点网讯:7月3日,据上海证券交易所披露,民生证券-无锡锡山经开产业
-
建设海上节能低碳示范区 全球观速讯
截止到6月30日,中国石油冀东油田南堡人工岛及其辖区节能低碳示范区项
-
浙江北仑农商银行办理首单手机线上代销保险业务
“想不到在宁波北仑农商银行还能通过智能手机购买保险。”近日,王女士
-
天天即时:ChatGPT访问量或现负增长 市场担忧“人工智能泡沫”
网站流量监测服务商Similarweb的数据显示,今年以来,ChatGPT访问量1月
-
恒生指数公司将于8月18日宣布2023年第二季度之恒生指数系列检讨结果
恒生指数公司将于2023年8月18日(星期五)宣布2023年第二季度之恒生指数
-
迈赫股份(301199):该股换手率大于8%(07-03)
摘要:2023年07月03日迈赫股份(301199)换手率大于8%,主力资金净流出
-
4消息!山东2人离队,杨瀚森亚洲之光,闫实续约,韩旭李梦赴美
4消息!山东2人离队,杨瀚森亚洲之光,闫实续约,韩旭李梦赴美,亚洲,闫
-
运机集团:唐山输送综合管廊工程项目未能达成合作
南方财经7月3日电,运机集团公告,公司于2022年9月1日披露《关于收到项
-
中国人民大学部分学生信息被非法获取,嫌疑人被刑拘
7月3日,@平安北京海淀发布情况通报:针对“中国人民大学部分学生信息
-
拜登被曝健康状况已到极限,可能撑不到年底?_世界视讯
关于美国总统拜登的身体晴雨表,又曝出一片乌云!据俄罗斯卫星通讯社报
-
2023中考查分南昌市教育考试院官网打不开怎么办?
20232023中考查分南昌市教育考试院官网打不开怎么办?打不开原因:由于
-
当前看点!2023年贵州省高校美术名师推介展首展开幕
贵阳网·甲秀新闻讯7月2日下午,“贵州省高校美术名师推介展——陈阜油
-
每日快讯!向境外汇款境外银行收取的手续费(向境外汇款手续费多少)
来为大家解答以下的问题,境外汇款境外银行收取的手续费,向境外汇款手
-
两部门加强非常规水源配置利用
据新华社北京7月1日电记者1日从水利部了解到,水利部、国家发展改革委
-
7月1日起兰州至西宁乘高铁最快59分钟可达
记者近日从中国国家铁路集团有限公司获悉,7月1日,兰新高铁兰州至西宁
-
170余项技术产品覆盖30余个场馆——科技创新为成都大运会添彩
170余项技术产品覆盖30余个场馆——科技创新为成都大运会添彩---第31届
-
施工破坏地下燃气管线被罚 北京市曝光4起典型事故案例
施工破坏地下燃气管线被罚北京市曝光4起典型事故案例
-
当前看点!毕业感言一句话_毕业感言有什么
欢迎观看本篇文章,小升来为大家解答以上问题。毕业感言一句话,毕业感
-
“小而美”的家庭托育点如何不负所“托”?_聚看点
利用居民住宅为3岁以下婴幼儿提供托育服务,收托人数不超过5人【解
-
心服口服!日本主帅:中国女篮是一支伟大的球队,值得我们学习 独家
2023女篮亚洲杯决赛,中国女篮以73-71击败日本女篮夺冠,时隔12年再度
-
山楂树是哪个电视剧的片尾曲_电视上关于巴西山楂的插曲是什么
想必现在有很多小伙伴对于电视上关于巴西山楂的插曲是什么方面的知识都
-
每日消息!彬州德志未来学校 彬州德志未来学校怎么样呢
1、郴州德志未来专门教育学校,地处湖南郴州资兴市,是一所由郴州、资
-
气液固三相高剪切反应器性能与模型放大研究 关于气液固三相高剪切反应器性能与模型放大研究介绍
1、《气液固三相高剪切反应器性能与模型放大研究》是依托天津大学。2、
-
快讯:2023年南宁经济技术开发区中小学招生简章
2023年秋季学期南宁经济技术开发区小学一年级招生简章一、招生对象(一