雷军“骂人”视频火了 用以假乱真的AI技术!

2024年10月11日 15:40 | 来源:中国派原创 | 作者:谢清野
  • 雷军
  • AI
大家需要时刻提防AI语音这把科技双刃剑,让它可以更好地服务社会。

【CN314智能生活】作为小米集团的创始人和掌舵者,雷军被广大群众所熟知,但除了企业家这层身份以外,雷军由于亲民的形象,也让他拥有了一个新身份,那就是网红,全网拥有几千万粉丝的他,那可是妥妥的互联网顶流网红,而自带流量的雷军,也被广大AI创作者们给盯上了。

雷军“骂人”视频火了 用以假乱真的AI技术!

就在国庆假期期间,不管是抖音、快手还是b站,雷军AI语音包做成的视频刷爆全网,有吐槽假期过得太快了的,也有吐槽游戏队友不给力的,可谓是谈遍各大领域的奇闻轶事,其中也不乏一些“儒雅随和”的粗口。可能由于整个吐槽语音太过于流畅和逼真,很多网友甚至以为就是雷军本人在吐槽,而雷军AI语音包的大火,再次把AI推上风口浪尖。

 “鬼畜常客”的雷军,自带反差萌感

其实雷军本人也并不是第一次被这样恶搞了,早些年利用雷军印度发布会制作的鬼畜歌曲“Are You OK”同样是火遍大江南北,甚至雷军本人还在公开场合演唱过这首歌曲。而这次的AI语音包大火,连雷军本人自己都忍不住了,直接在微博发了三个愤怒的表情包,来回应本次的AI语音包恶搞。

 

雷军“骂人”视频火了 用以假乱真的AI技术!

 

至于为什么一定要选择雷军,其实也很正常,毕竟相比于其他企业高管,雷军绝对是最亲民的一位,平时说话也是温文尔雅,不紧不慢,所以网友利用雷军的AI语音包去吐槽,就显得非常有反差感,就如同乔丹去打乒乓球一样,让整个过程节目效果拉满。

当然,另外一个重要的原因,那就是雷军的语音内容实在是太多了,此前的小米发布会一开就是好几个小时,并且还有直播等公开讲话,各种中高低音都有了,如果把这些公开的语音内容收集起来,投喂给GPT-SoVITS这样的声音克隆大模型,就可以复制一个人的声音了,同时语音越多,出来的效果就越自然,这也是为什么很多网友觉得雷军的AI语音这么自然的原因了。

 

雷军“骂人”视频火了 用以假乱真的AI技术!

并且,语音AI相比于此前大火的图片生成式AI,门槛更低,压根都不需要给电脑弄一张好显卡,有很多打开即用的TTS声音模拟网站,直接用手机打开就可以进行制作,在众多程序员“献祭”头发式的更新迭代下,如何让更多人玩上AI语音,已经是一件非常轻松且低门槛的事情了。

雷军“骂人”视频火了 用以假乱真的AI技术!

AI技术是把双刃剑,需警惕不法分子的利用

除了雷军以外,此前已经有不少的明星网红“中招”,相信此前有不少网友都刷到了很多的相关视频,不少还获得了相当不错的播放量。

如果大家只是把这项技术当做图一乐的话,其实大伙儿笑一笑也就过去了,但随着AI技术的普及,这项技术也逐渐处于失控的边缘。根据美国联邦贸易委员会(FTC)的数据报告来看,早在2022年,因为AI语音冒充亲友实施诈骗的案件,就造成了高达2.6亿美元的损失,诈骗分子往往只需要一个人几秒的语音,就可以轻松模仿他人的声音,对此进行诈骗,并且目标不光是针对老人,不少年轻人都惨遭毒手。

雷军“骂人”视频火了 用以假乱真的AI技术!

对于这样的危害,各国也开始针对性的推出应对措施,有不少的银行机构就针对性的强化了生化识别和短信验证,大幅度地减少了语音诈骗造成的金钱损失,同时还也结合AI验证,用“魔法打败魔法”,反馈的效果也很好。

当然,除了监管机构以外,我们普通用户也要警惕AI带来的类语音诈骗,比如收到语音内容之后,第一时间和亲友进行确认,以防不法分子得手。并且,我们在网上冲浪的时候,也要时刻注意,不要随意上传自己的语音和视频内容,以防AI诈骗者通过公开的渠道获取你的相关内容素材,进行生产诈骗内容。

雷军“骂人”视频火了 用以假乱真的AI技术!

伴随着AI语音的爆火以及迅猛发展,它确实给我们带来了诸多便利和乐趣,但也产生了很多的社会风险,就如同这次的雷军AI一样,需要时刻提防AI语音这把科技双刃剑,让它可以更好地服务社会,毕竟谁都不想一些别有用心的人,拿着自己的声音,去诈骗自家的亲朋好友吧?