首页 -> 行业 > 正文

环球精选!眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

    来源: TechRadio  2023-05-24 11:22:09

人工智能带来了难以置信的机会,但任何技术都有可能被恶意使用。AI 工具的获取和使用变得越来越容易,也让网络犯罪分子能够以更加难以识破的方式进行诈骗。


(相关资料图)

文丨阿秋

编辑丨张飞

近日,网络安全公司 McAfee发布的一份报告显示,越来越多的人被人工智能(AI)诈骗。调查发现,10% 的成年人曾经被这种诈骗方式针对,另外 15% 的人认识有人被骗过。

亚利桑那州立大学AI领域的教授坎巴姆帕蒂称,只需获得某人3秒钟的原声,就能迅速复制出完全相同的声音。这给了不法分子利用该项技术诈骗的机会,即给受害者留下假的语音邮件,或者冒充他们的好友打电话给他们。据悉,在受害者中,有 77% 的人表示在诈骗中损失了钱财,其中三分之一的人损失超过 1000 美元,还有 7% 的人损失了5000 -15000 美元。

McAfee 首席技术官 Steve Grobman 称,“人工智能带来了难以置信的机会,但任何技术都有可能被恶意使用。AI 工具的获取和使用变得越来越容易,也让网络犯罪分子能够以更加难以识破的方式进行诈骗。”

AI助力骗子横行 

“最近ChatGPT引爆AI风潮,刷新了人们对AI的认知。AI技术是把双刃剑‘’,在给人们生活提供便利的同时,也给不法分子留下了可乘之机,眼见不一定为真,耳听也不一定为实。”

日前,据南通反诈消息,小刘的初中同学“小韩”通过QQ联系小刘,准备借6000元钱。小刘向来谨慎,担心“小韩”不是本人,没想到“小韩”发来一条声音很像本人的语音。后来“小韩”又给小刘打了一通视频电话,看到对方的脸后,小刘便相信了对方,于是给“小韩”提供的银行卡转了6000元。

不过,小刘转完钱后越想越不对劲,觉得“小韩”表情僵硬,于是拨打小韩的电话,没想到小韩的QQ账号被盗了,这才意识到被骗,随后立即报警。警方初步判断,通话的视频极有可能是诈骗分子通过AI技术“变声”“换脸”诈骗手段合成的。

这并非个例,4月2日,央视网报道称,加拿大犯罪分子利用AI合成亲人声音实施诈骗,3天时间内至少有8人上当,涉案金额约100万元。这些受害者多为老年人,他们表示,“电话里的声音简直和亲人一模一样”。

早在2019年,《华尔街日报》曾报道过一名诈骗犯用AI语音合成来冒充老板,让一家分公司的总经理给他打了22万欧元。但在当时,诈骗者还得准备被模仿者的语料进行训练打磨。而现在,AI让克隆声音几乎没什么门槛,连方言和语气的模仿都不在话下。

此外,以往被认为安全的“声纹”系统如今也能被轻易破解。

3月,《卫报》澳大利亚版记者尼克·伊夫赛德称,他用人工智能做出自己的声音,成功进入了自己的Centrelink自助服务账户。而就在两年前,澳大利亚服务局在一份报告中声称“声纹与指纹一样安全”。

提高警惕是自我防范的首要

据了解,当下不法分子利用AI主要通过AI合成声音、AI换脸展开诈骗活动。所谓AI合成声音,是指骗子通过拨打骚扰电话等方式,录音提取诈骗对象及其重要关系人的声音特征,然后利用AI技术进行语音合成,进而用伪造的声音实施诈骗。

因为人脸效果更易取得对方信任,所以不法分子还会利用AI换脸技术,即通过合成视频或照片“以假乱真”,冒充诈骗对象的亲人、朋友等重要关系人,扰乱诈骗对象的视线进而实施诈骗。

此外,不法分子还会使用AI技术筛选和锁定受骗人群。他们会分析诈骗对象在网络平台发布的个人信息,根据所要实施的骗术利用AI技术对人群进行筛选,从而选出目标对象,制定诈骗计策。

那么,面对如此强势的技术骗局,个人该如何保护自己不受诈骗的侵害呢?

南通反诈提示,一方面,在涉及钱款时,大家要提高安全意识,通过电话、视频等方式确认对方是否为本人,在不能确定真实身份时,要格外留意、不要着急汇款,避免上当受骗,建议将到账时间设定为“2小时到账”或“24小时到账”,以预留处理时间。

另一方面,个人应当加强个人信息保护意识,切勿接听任何陌生人邀请的视频验证或语音聊天,谨防骗子利用AI技术搜集人脸、声音等素材,掌握大量个人信息并对人物性格、需求倾向等进行刻画,从而有针对性地实施诈骗。

泰和泰律师事务所律师刘青在接受媒体采访时建议,若遭遇诈骗应第一时间报警寻求警方帮助,注意保留相关材料以供警方尽快掌握案情、严惩犯罪分子。

如发现自己的肖像被盗用或者“被换脸”,刘青建议,用户应当第一时间保留证据,以便后续维权。“同时,用户还可以向网络平台运营商提出投诉,要求强制下架侵权图片或视频,也可以提起人格权诉讼,用法律武器维护自己的合法权益。”

用魔法打败魔法? 

2018年,纽约州立大学曾开发出一款“反换脸”AI刑侦工具,通过预测眼睛是否眨动的状态来识别伪造人脸,准确率宣称能够达到99%,但这款工具很快便失效了,因为深度伪造技术的进化速度更快。

随着AI的技术演进,人们所听所见将越来越不可信,对了应对先进技术带来的负面影响,科技企业也在希冀使用技术手段拦截和防范AI带来的语言合成、AI换脸、内容虚假等深度伪造问题。

2019年,谷歌开始有意识地防御,先是招募了一群演员录制视频,然后利用网上的深度伪造技术进行换脸等操作,并对这些数据进行全面地分析,让开发者们研究深度伪造技术的算法和逻辑,在“知己知彼”的基础上,更准确地识别和防治深度伪造内容。

此后,微软推出了名为“Video Aunthenticator”的工具,其能够对画面中渲染边界和灰度等级进行逐帧的实时分析进而生成可靠指数,帮助用户鉴别内容真实性。

不久前,OpenAI 公司发布了一款AI分类器,可识别人工智能生成的文本。AI分类器基于一个语言模型,通过对同一话题的人类文稿和AI文稿数据集的大量学习和训练,以识别文本是否由AI生成。但博客数据显示,检测成功率只有26%,对英文以外的语言,检测效果要差很多。

在2022世界人工智能大会治理论坛上,上海交通大学凯原法学院院长、特聘教授彭诚信曾指出:“数字社会中伦理之治的根本还在于人,企业伦理、科技的可信向善,归根结底还是人的可信向善,因此需要完善法律监管、厘清法律基本责任,确立人们的行为规范。”

为对AI技术进行快速有效地监管,国际方面,白宫官员近日向美国科技公司发出邀请,希望与行业企业领导者共同探讨针对人工智能的监管问题。参加的科技公司包括谷歌、微软和OpenAI等公司高管。

上个月,欧洲数据保护委员会已经成立了一个专门针对ChatGPT的工作组,并朝着制定人工智能隐私规则的共同政策迈出的重要一步。

“我们希望人工智能的能力成为改善人类生活、促进人类文明发展的’助推器’,以及人类走向星际文明的’摆渡人’。”

上海交通大学安泰经济与管理学院教授史占中在近期一场媒体沙龙上表示,从国家的层面来讲,要加快AI相关领域的立法,特别在金融、安全、健康等领域严格监管,厘清AI的设计者、使用者、内容生成者的权责关系,完善AI决策的问责机制,保护大众合法权益;而从社会层面来讲,应加强AI技术的监管,推进AI研发者遵守伦理准则与规范AI的发展。

国内方面,相关监管政策也在细化落实中。为促进生成式人工智能技术健康发展和规范应用,国家网信办起草了《生成式人工智能服务管理办法(征求意见稿)》,并于4月11日向社会公开征求意见。

征求意见稿要求,利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人,承担该产品生成内容生产者的责任;利用生成式人工智能产品向公众提供服务前,应当向国家网信部门申报安全评估,履行算法备案和变更、注销备案手续等。

原文标题 : 眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

标签:

【免责声明】

1、凡本网注明出处非(巨潮财经网)的作品,均转载于自其它媒体,并不代表本网赞同其观点和对其真实性负责,目的在于信息的传递,本网不承担稿件侵权行为的连带责任,如对稿件有质疑请与本网客服联系。

2、刊发此文目的在于传递更多信息,文章内容仅供参考,不构成投资建议,投资者据此操作,风险自担。

3、如涉及作品内容、版权等其它问题,请在15日内联系本网客服。

阅读延展

环球精选!眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

环球精选!眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

人工智能带来了难以置信的机会,但任何技术都有可能被恶意使用。AI工具的获取和使用变得越来越容易,也让网

2023-05-24 11:22:09

震荡市机构乘机出击 超300亿元资金净流入ETF

震荡市机构乘机出击 超300亿元资金净流入ETF

作者:何漪5月以来,A股呈现持续震荡走势。但作为 "聪明资金 "的代表,机构投资者正瞄准入场机会,在市场调

2023-05-24 10:46:26

环球今日讯!威马汽车科技集团新增3则被执行人信息 执行标的合计1084万元

环球今日讯!威马汽车科技集团新增3则被执行人信息 执行标的合计1084万元

财经网汽车5月24日讯天眼查App显示,近日,威马汽车科技集团有限公司及其子公司威马汽车科技(四川)有限公

2023-05-24 10:55:41

快讯 | 昆明国资委:网传“昆明银行口专家路演要点”和《昆明城投专家会议纪要》不实 天天最资讯

快讯 | 昆明国资委:网传“昆明银行口专家路演要点”和《昆明城投专家会议纪要》不实 天天最资讯

财经网金融讯5月24日,昆明市人民政府国有资产监督管理委员会发布声明:近日,我们关注到部分微信群和网络

2023-05-24 10:44:41

本田宣布2026年重返F1 为阿斯顿·马丁车队提供引擎

本田宣布2026年重返F1 为阿斯顿·马丁车队提供引擎

财经网汽车5月24日讯,本田汽车24日发布声明,同意2026年重返世界一级方程式锦标赛(F1),为阿斯顿·马丁

2023-05-24 10:48:42

最近更新

环球精选!眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

环球精选!眼见和耳听或都不能为实!更多人正在被AI变声”“换脸”合成骗取钱财

人工智能带来了难以置信的机会,但任何技术都有可能被恶意使用。AI工具的获取和使用变得越来越容易,也让网

2023-05-24 11:22:09

天师执位张玄_天师执位漫画-快播

天师执位张玄_天师执位漫画-快播

1、第一部1-7第二部1番外2篇漫画已发送~。本文到此分享完毕,希望对大家有所帮助。

2023-05-24 10:37:23

环球快播:权益类基金发行降温 公募逆势布局中长期行情

环球快播:权益类基金发行降温 公募逆势布局中长期行情

作者:陈玥2023年行至近半,上证综指在3300点附近持续窄幅震荡,权益类基金发行也陷入 "冰点 "。与之相对的

2023-05-24 10:53:39

震荡市机构乘机出击 超300亿元资金净流入ETF

震荡市机构乘机出击 超300亿元资金净流入ETF

作者:何漪5月以来,A股呈现持续震荡走势。但作为 "聪明资金 "的代表,机构投资者正瞄准入场机会,在市场调

2023-05-24 10:46:26

环球观点:福特CEO:所有2024款福特、林肯车型将配置调幅广播电台

环球观点:福特CEO:所有2024款福特、林肯车型将配置调幅广播电台

财经网汽车5月24日讯福特首席执行官吉姆·法利(JimFarley)在推特发文称,在与政策领导人讨论了调幅广播电

2023-05-24 10:41:06

环球今日讯!威马汽车科技集团新增3则被执行人信息 执行标的合计1084万元

环球今日讯!威马汽车科技集团新增3则被执行人信息 执行标的合计1084万元

财经网汽车5月24日讯天眼查App显示,近日,威马汽车科技集团有限公司及其子公司威马汽车科技(四川)有限公

2023-05-24 10:55:41

快讯 | 昆明国资委:网传“昆明银行口专家路演要点”和《昆明城投专家会议纪要》不实 天天最资讯

快讯 | 昆明国资委:网传“昆明银行口专家路演要点”和《昆明城投专家会议纪要》不实 天天最资讯

财经网金融讯5月24日,昆明市人民政府国有资产监督管理委员会发布声明:近日,我们关注到部分微信群和网络

2023-05-24 10:44:41

亚马逊中国回应“关闭应用商店”

亚马逊中国回应“关闭应用商店”

财经网科技5月24日讯,亚马逊应用商店宣布自7月17日起将不再提供服务。针对此事,亚马逊中国今日进行了回应

2023-05-24 10:35:34

本田宣布2026年重返F1 为阿斯顿·马丁车队提供引擎

本田宣布2026年重返F1 为阿斯顿·马丁车队提供引擎

财经网汽车5月24日讯,本田汽车24日发布声明,同意2026年重返世界一级方程式锦标赛(F1),为阿斯顿·马丁

2023-05-24 10:48:42

菜鸟联手申通快递推出智选仓配次日达

菜鸟联手申通快递推出智选仓配次日达

5月24日,菜鸟联合申通快递宣布,启动全国重点经济圈物流升级计划,推出智选仓配次日达服务,目前已经覆盖

2023-05-24 10:42:39

保时捷在杭州成立销售公司  注册资本1亿元

保时捷在杭州成立销售公司 注册资本1亿元

财经网汽车5月24日讯天眼查App显示,杭州闲林捷骏汽车销售服务有限公司成立,法定代表人为KerstinNemeth,

2023-05-24 10:48:44

视角 | 阿斯利康王磊:本土化是提给我们的要求,做生态的重点是合作和补齐

视角 | 阿斯利康王磊:本土化是提给我们的要求,做生态的重点是合作和补齐

段静远 文 "折扇、布鞋、中山装 ",这是王磊在接受采访时的穿着。而 "本土化 "、 "接地气 "、 "甚至像一家

2023-05-24 10:33:10

持有银行股享受股息可以吗?银行股持股多久可以分红

持有银行股享受股息可以吗?银行股持股多久可以分红

持有银行股享受股息可以吗?持有银行股享受股息是非常可行的,因为银行股通常具有较高的股息收益率和稳定性。特别是在当今经济...

2023-05-24 10:49:55

st股票退市了该怎么办?一般股票停牌多久

st股票退市了该怎么办?一般股票停牌多久

st股票退市了该怎么办?1、退市整理期。st股票退市前,一般有30天左右的退市整理期,建议投资者在此期间,尽快将股票卖出。2、...

2023-05-24 10:46:59

st股票停牌了手里的股票怎么办?股票退市股民如何索赔

st股票停牌了手里的股票怎么办?股票退市股民如何索赔

st股票停牌了手里的股票怎么办?st股票停牌并不一定会退市,需结合个股停牌具体原因分析:1、st股票上涨幅度较多,异常波动被...

2023-05-24 10:44:56

股票价格变化跟公司有关系吗?股票价格越高公司越好吗

股票价格变化跟公司有关系吗?股票价格越高公司越好吗

股票价格变化跟公司有关系吗?公司的经营状况和财务状况是影响股价的重要因素,但其他因素,如市场情绪、宏观经济环境、政治环...

2023-05-24 10:42:40

上市公司分析的都需要哪些方面?怎么看公司是不是上市公司

上市公司分析的都需要哪些方面?怎么看公司是不是上市公司

上市公司分析的都需要哪些方面?一、了解行业分析一家上市公司,首先要了解上市公司所处的行业。对上市公司所处行业的认识主要...

2023-05-24 10:39:58

股票支撑位是什么?股票怎么看支撑点

股票支撑位是什么?股票怎么看支撑点

股票支撑位是什么?股票支撑位是指在股价下跌过程中,可能遇到的支撑价位,从而出现价格止跌回稳的现象。股票支撑位的判断需要...

2023-05-24 10:37:25

集中持股的优缺点有哪些?公司跟个人持股的差别是什么

集中持股的优缺点有哪些?公司跟个人持股的差别是什么

集中持股的优缺点有哪些?集中持股的优点包括:1 提高收益:集中持股可以增加投资组合的收益,因为投资于少数股票可以更好地掌...

2023-05-24 10:34:32

分散持股的优缺点有哪些?股权分散是什么意思

分散持股的优缺点有哪些?股权分散是什么意思

分散持股的优缺点有哪些?分散持股的优点包括:1 降低投资组合的整本风险:由于不同行业、公司或地区的股票之间存在差异,投资...

2023-05-24 10:32:10

分散持股好还是集中持股好?股权高度集中的股票好不好

分散持股好还是集中持股好?股权高度集中的股票好不好

分散持股好还是集中持股好?分散持股和集中持股都有其优缺点和适用场景,具体选择取决于个人的投资风格、投资目标和市场情况。...

2023-05-24 10:29:52

二类卡转出和转入有限额吗?二类卡可以解除限额吗

二类卡转出和转入有限额吗?二类卡可以解除限额吗

二类卡转出和转入有限额吗?二类卡转出转入是有额度限制的。通常情况下,二类卡非绑定账户转入资金、存入现金的日累计限额合计...

2023-05-24 10:27:31

银行卡限额对进账有影响吗?银行卡限额会限制转入吗

银行卡限额对进账有影响吗?银行卡限额会限制转入吗

银行卡限额对进账有影响吗?银行卡限额了一般情况还是可以进账的,通常银行卡限额是限制用户进行线上转账交易的额度,不会限制...

2023-05-24 10:24:38

股票交易和外汇交易有什么区别?股市和基金的区别是什么

股票交易和外汇交易有什么区别?股市和基金的区别是什么

股票交易和外汇交易有什么区别?股票交易和外汇交易是两种不同的金融市场行为,其主要区别在于交易对象、交易时间、风险和收益...

2023-05-24 10:22:09

国债逆回购未到期可以赎回吗?为什么不建议买国债逆回购

国债逆回购未到期可以赎回吗?为什么不建议买国债逆回购

国债逆回购未到期可以赎回吗?逆回购未到期无法提前购回,必须等到到期。到期后本金和利息自动到账可用,可以用来交易股票、理...

2023-05-24 10:19:40

永州市蓝山县肾阳果打粉套路|每日焦点

永州市蓝山县肾阳果打粉套路|每日焦点

永州市蓝山县肾阳果打粉套路投诉直通车是湖南日报、华声在线、新湖南主办的投诉维权类栏目,帮助解决网上投

2023-05-24 10:05:27

国债逆回购委托未成交需要手动撤单吗?为什么撤单后资金还被冻结

国债逆回购委托未成交需要手动撤单吗?为什么撤单后资金还被冻结

国债逆回购委托未成交需要手动撤单吗?国债逆回购委托未成交不用手动撤单,系统会主动撤单的。未成交的逆回购委托在交易时间内...

2023-05-24 10:17:06

股票短线一般看什么指标?股票短线是多少天

股票短线一般看什么指标?股票短线是多少天

股票短线一般看什么指标?股票短线交易通常需要关注一些技术指标,以便更好地判断市场趋势和股票价格的变化。这些技术指标可以...

2023-05-24 10:13:57