AI换脸骗局频现 人工智能使用边界在哪儿

中国青年网

其实,模仿一个人的声音乃至外貌,对AI来说并不是新鲜事。此前,“AI孙燕姿”就曾在B站等网络平台走红,视频上传者通过使用AI音色替换技术(Sovits4.0),生成了高度还原孙燕姿音色的翻唱歌曲,其中原唱为周杰伦的歌曲《发如雪》播放量已超过200万次。近期也有媒体报道了一款网络上的付费AI换脸软件,其套餐价格从499元到2888元不等,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

诸如此类生成式人工智能(Generative Artificial Intelligence,简称GAI)的大量出现很大程度上得益于深度合成和机器学习的快速发展。而AI诈骗者正是通过这些先进的技术,训练出能够模拟人类语言和神态的AI。

苏州大学竞争政策与反垄断研究中心研究员方翔指出,近期的AI诈骗案件主要是人工智能技术在图像领域的应用,其可以将不同人脸图像中的面部特征相互替换。“拟声”则是借助深度学习模型,根据已有的语音样本(如通话录音、网络视频等)生成与其近似的声音,进而做到与人交谈。

5月24日,中国互联网协会发文提醒,伴随着深度合成技术的开放开源,深度合成产品和服务逐渐增多,利用“AI换脸”“AI换声”等虚假音视频,进行诈骗、诽谤的违法行为屡见不鲜。面对利用AI技术的新型骗局,广大公众需提高警惕,加强防范。业内人士普遍认为,“AI换脸”技术的滥用给人们敲响了警钟,其复杂性、隐蔽性也给科技识别及运用提出了更高的要求。

“对于生成式人工智能,正当适度使用,可以倍增工作效率,有力推动创意产业发展,促进消费者福祉增长。但同时,虚假使用可引发谣言泛滥、侵害权利、压榨利益,而过度使用可引发践踏人性、减少就业、贫富悬殊,而恶意滥用甚至成为歪曲真相、撕裂社会、政策干扰、祸乱宇内的罪恶之源。”中国互联网协会法工委副秘书长胡钢认为,要坚持依法崇德治理,使全社会形成法网大于互联网、国法高于算法、人工智能不能成为“人工制人”的共识。

探索构建完善的人工智能法律体系

“我国针对人工智能及数据安全、个人信息保护的立法虽然起步较晚,但日臻成熟。”方翔指出,早在2017年7月,国务院印发《新一代人工智能发展规划》,其作为我国AI发展的纲领性文件,提出了面向2030年我国新一代人工智能发展的指导思想、战略目标、重点任务和保障措施,其中特别提到“到2025年初步建立人工智能法律法规、伦理规范和政策体系,形成人工智能安全评估和管控能力”。

上一页 下一页
大家都在看
越南制造业火爆背后:外资带飞,可自己没有翅膀

相关

阅读39913

明星店餐饮凉了 推手却一年收割加盟商3.6亿

相关

阅读34459

挂号人脸识别要求不一 呼吁保护患者信息安全

相关

阅读31151

唐山发起雷霆风暴!又有多条大鱼深夜落网!

相关

阅读26113

欧美国家为什么禁止中国种水稻,用心何在?

相关

阅读24866

专家不建议多用空气炸锅 网友吵翻了!

相关

阅读22972

吴尊友发长文谈行程卡取消星号 引发网友热议

相关

阅读18644

番茄流感侵袭印度 这又是什么新鲜玩意儿

相关

阅读18269

特医食品可及性困境,如何破?

相关

阅读17110

重回一线城市,一些年轻人“回笼漂”

相关

阅读14044

热门评论
0
 条评论
登陆
 我来说两句
    更多精彩内容
    德方炸出西方真面目!中东风暴暗藏对华杀机?

    最热

    阅读15366

    2小时前

    火药桶彻底引爆!哈梅内伊“死亡宣言”震动白宫

    最热

    阅读12438

    以伊这一战,可能打出两大哥,伊朗放开手脚干

    最热

    阅读10110

    全球警报拉响!俄罗斯人交底,伊朗成败在此一举

    最热

    阅读5414

    火药桶引爆倒计时!中俄美三强撤侨行动暗藏玄机

    最热

    阅读3284

    白宫夜宴背后:特朗普屈尊宴请巴铁元帅棋局!

    最热

    阅读5858

    2小时前

    波斯湾核爆倒计时:特朗普勇气卡还剩48小时!

    最热

    阅读2851

    2小时前

    伊以生死大战正式启动,美国最后真会参战吗?

    最热

    阅读3850

    警报!埃及深夜急电北京:以色列刀锋已逼近开罗

    最热

    阅读24227

    连炸12轮,哈梅内伊凌晨发文:敌国领空被拿下

    最热

    阅读21896

    美防长摊牌:关键领域全面落后中国,差230倍

    最热

    阅读12974

    人民币超越欧元成第二,美专家:美元霸权快完

    最热

    阅读14548

    巧合!歼-10CE巴黎硬刚阵风,到底震动了谁?

    最热

    阅读10375

    4小时前

    东大微型变形金刚出世!血管特工改写未来规则

    最热

    阅读9122

    4小时前

    伊朗祭出高超音速导弹,砸穿以色列“金钟罩”!

    最热

    阅读6763

    4小时前

    无声硝烟:透视伊朗“击落F35”背后的认知攻防战

    最热

    阅读6253

    4小时前

    稀土之战:东大出招,西方军工跪求“合规”求生

    最热

    阅读5788

    俄放话“炸柏林”!欧洲火药桶就差这一根导火索

    最热

    阅读5561

    4小时前

    特朗普出手:航母堵门伊朗,头号靶心对准这里

    最热

    阅读7131

    法兰西摇摆术:从地中海“看戏”到阵风神话崩塌

    最热

    阅读2741

    伊朗醒了?导弹雨反击以色列!好好向中国学习吧

    最热

    阅读41990

    06-18

    G7三重暴击!莫迪大国梦碎,中国成特殊赢家

    最热

    阅读16496

    谍影屠龙:摩萨德百人特工队肢解伊朗内幕曝光

    最热

    阅读11444

    06-18

    特朗普炮口转向G7:这句话让美国成为最大笑话

    最热

    阅读8870

    特朗普引爆火药桶:德黑兰48小时,核扳机在谁手

    最热

    阅读8130

    五个月前精准预言!伊朗遭斩首打击,中东现杀招

    最热

    阅读6177

    钻地弹上膛!伊朗真扛得住美以联手终极绞杀?

    最热

    阅读6188

    今夜会开战?特朗普要求伊朗投降!中方严重关切

    最热

    阅读11427

    美军钻地弹锁定伊朗,哈梅内伊只剩最后选择!

    最热

    阅读6811

    中国又在世界屋脊玩超级工程,堪称基建天花板

    最热

    阅读19522

    06-18

    伊朗权力地震:革命卫队接权背后的致命裂痕

    最热

    阅读22943

    06-18

    摊牌!特朗普的“无条件投降”将伊朗逼入绝境

    最热

    阅读15782

    看到伊朗实战表现之后,庆幸歼-10CE没卖过去

    最热

    阅读13914

    东大双航母演武太平洋,九霄鹰啸直逼白头鹰!

    最热

    阅读6631

    马斯克离职遭清算?以权谋私获利超千亿美元?

    最热

    阅读5361

    中东火药桶上的火星,会引爆第三次世界大战吗

    最热

    阅读10264

    06-18

    “核威慑幻象”:伊朗为何沉迷“盟友空头支票”?

    最热

    阅读9611

    06-18

    美国积极备战中东!中、美、俄纷纷下达撤侨令

    最热

    阅读8662

    06-18

    霍尔木兹海峡告急!第六次中东战争或一触即发

    最热

    阅读5288

    06-18

    伊朗极其凶险,必须干3件大事,否则亡国不远

    最热

    阅读26437

    越南前线告急!美大棒逼“去中化”,越企悲鸣

    最热

    阅读18142

    06-17

    东风西渐:埃尔多安亮导弹獠牙,中东棋局惊变!

    最热

    阅读12958

    末日时钟:以色列15马赫审判日与西方大撤离!

    最热

    阅读18909

    特朗普G9阳谋:中俄双又拒绝,揭穿美式离间计

    最热

    阅读16087

    字少事大!东大传来好消息,美国围堵计划大溃败

    最热

    阅读11202

    德黑兰上空的以色列战机:一场悲壮困兽之斗!

    最热

    阅读8846

    06-17

    美阵营中,拼命找东大的国家出现,不惜硬刚美国

    最热

    阅读8752

    全球断油倒计时:以色列突袭,伊朗油阀杀招上膛

    最热

    阅读7732

    06-17

    太惨了,伊朗最高军事指挥官转眼又被杀了!

    最热

    阅读4732

    沙特公开力挺伊朗!东大和平筹码或改写棋局

    最热

    阅读25685

    06-17

    莫迪头大!印度被逼退群,美通牒引发金砖内讧

    最热

    阅读26438

    电磁巨龙出海,东大海疆的“定海神针”锋芒毕露

    最热

    阅读17202

    中方顶级战机亮相巴黎参展,歼10C只是“小弟”

    最热

    阅读11502

    伊朗地下核堡垒遇袭:福尔多蘑菇云背后的死局

    最热

    阅读10747

    打七寸!东大稀土锁喉山姆军工命门,F35断炊

    最热

    阅读9486

    06-17

    军力频繁向中东异动!揭开美国“未参战”真面目

    最热

    阅读6607

    特朗普突然发急令:所有人必须立刻离开德黑兰

    最热

    阅读12202

    伊朗15000台离心机灰飞烟灭,中东核平衡倾覆

    最热

    阅读12215

    波斯弯刀折戟:德黑兰告急背后大国博弈生死局

    最热

    阅读5750

    以军战机自由巡航德黑兰,巴铁核保护伞突然撑开

    最热

    阅读25977

    06-16

    内塔尼亚胡的豪赌!空袭伊朗背后,美国一石三鸟

    最热

    阅读32152

    关键时刻,中国出马!全世界仅东大能把这事干成

    最热

    阅读23596

    好牌打得稀烂,伊朗达到两个条件,可战胜美以

    最热

    阅读20905

    波斯铁穹成纸鸢:以色列捅到伊朗防空千疮百孔

    最热

    阅读7064

    一手好牌打稀烂:伊朗战略迷途的致命败笔曝光

    最热

    阅读5083

    06-16

    特朗普阅兵场外的四颗子弹比F-35更致命了!

    最热

    阅读11363

    惊天棋局!以色列空袭伊朗,竟帮美国下致命一步

    最热

    阅读10971

    波斯弯刀最后寒光:哈梅内伊底牌能否逼停以色列

    最热

    阅读6006

    06-16

    血色生日:特朗普的纸糊帝国与撕裂美国的枪声

    最热

    阅读3841

    06-16

    上合9国怒斥以色列,印度临阵脱逃撕碎伊朗幻梦

    最热

    阅读21181

    06-16

    泽连斯基公开控诉:北约国家想入侵乌克兰

    最热

    阅读9560

    伊朗导弹末段猛烈加速,美海军防空导弹拦不住

    最热

    阅读16800

    06-16

    美军基地深夜遇袭!特朗普下令航母急赴中东

    最热

    阅读16261

    以色列猛轰伊朗,或成为第六次中东大战导火索

    最热

    阅读5036

    印度“断供日本”闹剧,揭穿“去中国化”皇帝新衣

    最热

    阅读14254

    稀土锁喉:东大如何用“工业血脉”逼退美式霸权

    最热

    阅读9420

    马克龙突访格岛,北极寒风中一记响亮的耳光!

    最热

    阅读8146

    李在明的手术刀:韩国检察帝国末日与权力危局

    最热

    阅读7025

    伊朗2000枚导弹威胁未落,以军袭击最大炼油厂

    最热

    阅读5762

    伊朗错付两国,上餐桌不自知,打回去成唯一机会

    最热

    阅读24098

    血色旗帜下的战略溃败:摩萨德渗透瓦解波斯铁幕

    最热

    阅读8696

    美国盟友紧急访华有四大目的!早知今日何必当初

    最热

    阅读18988

    中国航母掀翻西太棋局,美日惊呼教科书被重写

    最热

    阅读12806

    双航母利刃出鞘!中国海军撕碎美国\"岛链枷锁\"

    最热

    阅读5797

    06-15

    伊朗太奇葩!美以或将伊朗灭国,中国应做好准备

    最热

    阅读38636

    复仇旗帜猎猎作响,以色列用内爆战术撕裂伊朗?

    最热

    阅读13927

    马斯克舰队遭白宫炮火覆盖!万亿帝国抛锚求生

    最热

    阅读12220

    一夜惊魂揭破伊朗!美以阴谋得逞,错一步被瓜分

    最热

    阅读11893

    特朗普的钢铁生日宴:阅兵与街头巷战同步上演

    最热

    阅读9078

    06-14

    普京该拉下脸了!巴铁扫货空警-500急哭俄国网友

    最热

    阅读34571

    以军“狮子的力量”斩首伊朗双雄,美国紧急抽梯

    最热

    阅读12073

    点评一下
    0
    0

    APP信息