人工智能 绑架了我的声音 全球报资讯
「AI」是2023年开年来最热门的话题,当人们为人工智能的崛起而感到兴奋之时,一场危机也随之而来。
(资料图片仅供参考)
在过去几个月时间里,我们见识到了「AI问答」、「AI制图」和「AI换脸」,每一项技术的曝光,都引起不小的讨论。在设想「AI」成为我们的得力助手之前,这些工具已经率先成了不法之徒的「好伙伴」。
全球最大的专业安全技术公司McAfee不久前公开了一项调查数据,在受到电话诈骗的人群中,有超过77%的受害者被「AI语音」所欺骗。这些受害者难以辨别来电中的声音是否来自家人、朋友,于是,在陌生来电的请求下,向不法分子打去一笔又一笔钱款。
利用「AI」,人们可以轻松地克隆任何人的声音,除了行骗之外,还可能出现在任何场合、任何地点,乃至于网友们普遍认为,「AI语音」迟早会出现在法庭上,成为伪证的主要来源。
这听起来十分吓人,对吧?
01.声音是假的,诈骗是真的
经常在网上冲浪的朋友,近期一定在不同的社交平台中看到利用「AI」创作的歌曲,例如:
「AI孙燕姿《发如雪》Cover From周杰伦」
「AI霉霉《反方向的钟》Cover From周杰伦」
「AI周杰伦《普通朋友》Cover From陶喆」
这些利用「AI」创作的歌曲,成为网友们热捧的二次创作。
图源:bilibili
事实上,「AI」创作歌曲和「AI语音」诈骗案,手法是一样的。创作者通过某些工具,将语音素材导入其中,以高性能显卡进行训练,不需要花费太多时间,即可轻易地获得一段“以假乱真”的音频内容。
用「AI」创作歌曲,还需要调整音调,使这些音频与原曲的节奏、音高保持一致。当然,在最新版本的创作工具中,已经可以做到“一键处理”,效果不会太差。而「AI语音」的难点在于处理情绪,除了调整仿真音频的节奏之外,还需要加上因不同情绪而产生的内容变化。
图源:Veer
在McAfee提到的两个真实案例中,一位母亲接到诈骗团伙拨来的绑架电话,在电话那头,她的女儿正声嘶力竭地呼救。不仅声音相似,就连情绪也十分到位,这正是受害者“上钩”的重要原因。
今年3月,一款名为“Mocking Bird”的AI工具诞生,据开发者介绍,它能在电话、视频中提取人声,以AI算法进行模拟匹配,最后根据分析出来的内容,“拼凑”你所需要的语音内容。经网友实测,这款工具确实可以制作出「AI语音」,但要求并不算低。
制作「AI语音」,需要足量样本,最好是清晰的人声,因此想要在一通电话就提取到足够的声音素材,还是比较艰难的。不过,利用「AI语音」诈骗,或许并不需要逼真的声音。
02.「AI」能诈骗,未必全靠「科技与狠活」
当每个人都能轻而易举地「克隆」他人的声音,这个世界不就乱套了吗?「AI语音」,真的做到人人都能随手创作了吗?
为了了解「AI语音」现阶段的真实情况,我采访了一位在该领域比较资深的创作者明治老师,听听他对「AI语音」的看法。
小雷:明治老师,看您在「AI」领域的研究颇为深入,您如何看待「AI语音」诈骗案?
明治:目前来说,光靠一通电话、一段视频就能提取出足够用于语言训练的素材,难度很大,从被报道出来的案例看,大多数被骗的用户在当时是处于紧张的状态中,因为不知道对方是不是真的,大脑自动匹配想象对象的声音,这也是有可能的。
小雷:也就是说,现阶段还不能单纯依靠「AI」制作足以以假乱真的语音吗?
明治:我们看到网络上有很多AI翻唱的内容,还有很多主播整活的语音音频,但你有没有发现,这些二创内容都有一个共同点——“样本足量”。就像孙燕姿这类歌手,她能不断被作为AI创作对象,正是因为她有足够的声音素材。即便有了足量的声音素材,对硬件也有很高的要求,即便是最好的消费级显卡4090Ti,模型生成也需要耗费很多时间。
小雷:假如说,只用一段音频作为素材去制作「AI语音」,能实现以假乱真吗?
明治:上面也说过了,声音样本不够,是很难做出所谓的「AI语音」内容的,就算强行制作,得到的成果质量也不会很高。“以假乱真”,其实有很多判定标准,例如童声,大多数童声听起来都是差不多的,尤其是在电话中,不太清晰的语音加上比较普遍的声线,混淆视听也不足为奇。
图源:Veer
从简单的访谈中我们可以了解到一些关于「AI」内容创作者的想法,总体来说,「AI语音」除了技术加持之外,更多还是利用了人们对于未知事物的恐惧、慌张。而「AI」工具,只是让原本的电话诈骗提升了一点可信度。
在ChatGPT初代公开之时,所有人都没有预料到这样一个人工智能问答平台可以衍生出这么繁多且强大的功能。同样地「AI语音」现阶段还不算是全民化、普世化的工具,但即便是在这个阶段,已经足够让电话诈骗成功几率大大提升。很难想象,当「AI语音」工具简化后,这个领域会被「玩」成什么花样。
无论如何,「AI」确实正在对我们的安全造成威胁。
03.「AI」,实在太危险!
在相应的法规出台前,「AI」在任何领域里,都称不上是安全、可靠的工具。
不久前,一位全网拥有百万粉丝的女网红发布长文,痛斥「AI换脸」正在对她的名誉、精神造成伤害。文中,这名网红揭露,有不法分子通过这项技术,将其她的脸换在成人视频里,让她“成为”影片中的女主角。
图源:Veer
不仅是「AI换脸」,利用「AI」工具,用户可以随时输入相应的关键词,生成任何他们想要的内容,「18禁图片」、「名人」或是任何「没有发生的事情」,精制的图片难辨真伪,影响了用户们的判断力。
从前,“有图有真相”,是我们判断事情真伪的主要证据,再后来,配合动态视频、真人语音,衍生出“视频不能P”的判定标准。在「AI」蓬勃发展的今天,图片可以自制、真人可以被移花接木,甚至是语音,也能被「AI」克隆。尽管「AI语音」并不能完全被认定位电话诈骗成功的主因,但它提供的帮助,是被安全机构所认定为「具有风险」的。
目前,我国已经出台《网络音视频信息服务管理规定》,对于“非真实音视频信息”,应当予以标识,禁止利用大数据深度学习制作、发布虚拟新闻。而这仅仅只是一个开始,想要给「AI」戴上镣铐,任重道远。
McAfee出具的报告中提到,光是2022年这一年时间里,涉及「AI语音」诈骗的金额就达到了26亿美元,约合人民币180亿元。
面对「AI语音」诈骗,我们该如何防范呢?
图源:Veer
如前面提到的,「AI语音」的生成需要大量克隆对象的声音样本,减少在未知风险的社交平台中发送带有自己真实声音的视频、音频内容,其实是最保险的方案。另外,「AI语音」诈骗成功率高达77%,与人们的恐惧心理离不开关系,在没法确认对方的真实身份前,尽量不要接受对方的要求,尤其是转账。
无论如何,现阶段的「AI语音」并没有如同网上流传的那样神乎其神,我们普通网民也没必要过于着急自己的声音被克隆,在遇到有可能是诈骗的情况,先保持冷静,整理情绪,理清思路,才能更好地应对。
标签:
推荐文章
- 人工智能 绑架了我的声音 全球报资讯
- 跻身“寻路东坡”团体赛前十,惠州市博物馆:为大众传播东坡文化-焦点信息
- 环球动态:本溪电子“山城英才卡”上线,持卡人可享多项优惠政
- iQOO Neo8 Pro手机搭载天玑9200+处理器,性能高于安卓设备第一梯队 世界资讯
- 工银安盛人寿怎么样? 工银安盛人寿骗局揭秘
- 植田和男释放退出宽松言论 日债收益率回补上日跌幅
- 天天热消息:他说是情怀,你说是真爱 硬派越野车在国内缘何从冷门变热门?
- 宏跃集团于洪董事长会见万洋集团常务副总经理成国军一行
- 万元激光电视峰米C3发售:ALPD护眼技术 亮度达400nit
- 世界聚焦:2.2%!恒力石化PET薄膜赢得韩国反倾销税行业最低税率
- 商业重疾险险种哪种值得买?分享2023性价比高的重疾险|环球消息
- 期末冲刺演讲稿650字 期末冲刺演讲稿
- 一楼业主私自圈占草坪 合规吗?
- 人民日报:这7件事上,爸爸越用心,孩子越优秀,家庭越和睦
- 当前最新:施罗德更推大赞朗尼-沃克:第四节得了15分?简直太棒了
- 茂名怎么考大专读去哪里报一技招生简章-热议
- 探秘华龙一号:我国这张“核电名片”有多牛?
- 女子爱上奢侈生活向前夫、朋友等“借”180万元,还没怀孕就敢讨要“打胎费” 每日快看
- “5·19中国旅游日”文旅局长秀文旅丨伊美区文旅局长申请出战!
- 拉萨首次科技招商“开门红”,11个项目现场签约
- 热头条丨喜报频传!尚德电力中标、入围多家企业年度集采项目
- 每日速看!告别“3”时代!3家股份制商业银行下调定存利率
- 外汇百晓生:黄金等待CPI数据指引方向,日内2029继续空
- Pepino 甜瓜护理_自己生日送自己什么礼物好-环球最资讯
- 为什么肺癌都是右肺_环球观点
- 诺泰生物:5月8日融券卖出5.53万股,融资融券余额1.62亿元
- 魔兽世界橙斧任务流程7.0_魔兽世界橙斧任务流程
- 环球微资讯!迎来多重利好 A股黄金板块指数年内涨逾12%
- 皮蛋的糖量高不高? 每日消息
- 每日热议!做“配套文章” 强产业链条——重庆璧山这样打造新兴产业
- 天天热资讯!北京:做好购车补贴政策措施的公平竞争审查
- 5月8日基金净值:景顺长城先进智造混合A最新净值0.8202,涨1.1%
- 深圳领先杭州,苏州稳居第五,中国财力十强城市揭晓
- 环球要闻:如何从石头上去除混凝土_14岁弟弟生日送什么礼物
- 每日观点:南昌西湖区一小区门口“僵尸车”停了半年
- 杨步湘已婚男感情骗子_感情骗子麦词
- 【全球独家】宗校立:非农整体利好 美元不涨反跌何因
- 总决赛首战现场大名单出炉 郭艾伦继续因伤缺席-焦点讯息
- 你站在这里不要动我去买几个橘子怎么怼回去什么意思_我去买几个橘子你就站在此地不要走动-环球即时看
- 450分可以报考哪些大学450分能考上什么好大学_2023年参考-每日消息
- 速读:“天眼问政”4月热点榜单出炉,北站拉客、群租房上榜!
- 温州市区挂牌2宅1商共217亩地块! 环球播报
- 飞龙骑脸是什么意思_飞龙骑脸怎么输是什么梗
- 世界微资讯!遂宁蓬溪县城街面暴露种种不“文明”
- 世界热资讯!一季度全球黄金总供应量增至1174吨
- 环球最资讯丨客观地说,应该看一看Web3.0了
- 【环球快播报】以下哪个不是佛家三宝 以下哪个不是佛教四谛
- 承德一中录取分数线2022_承德一中
- 鹤壁市淇滨区九州路街道:持续推进“人人持证、技能河南”建设
- 完美客厅三部曲之时尚节拍:细部设计
- 《蜘蛛侠2》或增加可玩区域:小蜘蛛将前往皇后区
- 【全球新要闻】华西证券:银行基本面景气度有望向上改善
- 世界观察:Mysteel参考丨简述广东省建筑钢材市场资源格局
- 白菜黄叶病有哪些危害?怎么防治?白菜黄叶病的防治技巧!_焦点短讯
- 环球即时:赶快排查,网速越用越慢的原因找到了
- 江西一乡村小学女足斩获2023全国赛亚军
- 每日快讯!中国连锁经营协会发布指南推动减少食物浪费
- 美媒:“禁止中国公民购地”法案涉嫌歧视,可能违反《公平住房法》 精选
- 今日热议:中央广播电视总台正式受邀成为巴黎奥运会主转播机构
- 热门:肚子上长小红点有点痒_肚子上长小红点
- 每体:奥巴梅扬希望重返巴萨,他正在给切尔西施压获得自由身_环球热点评
- 离婚后父亲去世了孩子如何判断继承权 天天新资讯
- 双中锋战枪手!纽卡球员伊萨克与威尔逊首次同时在英超首发登场 全球滚动
- 每日焦点!平安证券:港股性价比逐渐显现 逢低优配三大板块
- 天天讯息:男子无证驾驶玛莎拉蒂扬言撞死交警具体是什么情况
- 中亚股份(300512.SZ):130.125万股限制性股票将解除限售、上市流通 世界快资讯
- 总资产净利率计算公式用什么表示-总资产净利率计算公式
- 在这条公路上行驶的最高速度不能超过多少? [单选题]_在这条公路上行驶的最高速度不能超过多少
- 肚子痛怎么缓解小妙招_减肥方法小妙招瘦肚子 当前视点
- 库里:不能被无法控制的事情分心 热头条
- 结晶氯化铝商品报价动态(2023-05-07) 当前热讯
- 有望年内亮相 全新凯美瑞谍照曝光 全球要闻
- 【世界快播报】纸箱机器人_纸箱机器人的做法 图解
- 山东卫健系统开展两项行动,解决群众看病就医急难愁盼问题
- 视焦点讯!国家医保局公布2023年一季度跨省异地就医直接结算情况
- Skip:当勇士被打爆时库里总喜欢咬牙套 这可不怎么可爱|最新资讯
- 【当前热闻】王阳又一新剧即将来袭,搭档演员全是实力派,网友:爆款预定
- 全球速递!cad中bylayer是什么意思(bylayer是什么意思)
- 乌军称首次击落俄军“匕首”导弹,高超声速导弹神话破灭?_世界播报
- 法甲朗斯2-1马赛 朗斯升至第二|焦点关注
- 史上最全:33个行业分析框架及180个公司案例详解 当前视讯
- 司索工是什么工种 司索工是什么
- 摩羯座女生和什么星座的男生相配 摩羯座女生和什么星座最配
- 即时看!长深高速是哪里到哪里的公路_长深高速是哪里到哪里
- 威联通 2023 新品发布会定档 5 月 9 日,将推次世代 NAS
- 谈恋爱时怎么找话题呢_谈恋爱时怎么找话题
- 【一线调研 】“共享停车场”带来的新机遇 当前快看
- 获受理!一天三家
- 女子陷入淤泥,民警扒开淤泥奋力一抱收获网友点赞
- 2023成都绿道畅游卡可以兑换哪些酒店的优惠?|焦点速讯
- Python游戏汇总:三十个pygame游戏代码!学中练,练中学-环球百事通
- 天天实时:今日立夏阵雨时至 白天最高气温在30℃左右
- 孟县文学艺术界联合会
- 【天天热闻】授信收购战投,三重加持助力WB更加稳健发展!
X 关闭
资讯
X 关闭