对于滥用生成式人工智能技术的担忧在世界范围内都存在。不仅因为其超越一般技术的“创造能力”和“破坏性”，

更因为人们发现，生成式人工智能技术发展的速度极快。目前，世界各国对其风险的预判与防范均处于探索阶段，有赖于法律体系的进一步完善。

10分钟内被骗走430万元，近期，用AI技术兴风作浪的诈骗案件，引起了社会关注。

5月22日，包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜。福州市某科技公司法人代表郭先生在接到“好友”微信视频电话后，考虑到关系好又是真人视频通话，在10分钟内直接向对方账户汇款430万元。随后才意识到自己遭遇了“高端”骗局，“好友”是骗子通过AI换脸技术佯装而成的。

关于AI技术的争论不曾停止过。此前，ChatGPT就曾因编写假新闻而饱受诟病，而近期大量出现的AI诈骗更是令人不得不开始反思，AI生成的虚假信息或许潜藏着巨大的社会风险。

需警惕生成式人工智能技术的滥用

英国媒体《每日邮报》曾报道，2019年3月，英国警方逮捕了一名使用AI语音模仿软件的诈骗者。他将自己的声音改变成当地一家能源公司老板的声音，以“帮助公司避免拖欠罚款”为由要求一位高管向其汇款，通过电话骗取了22万欧元（约合人民币170万元）。据这名高管回忆，当时他也产生了疑心，但他的确听到了老板的德国口音。此案被认为是全球首例人工智能诈骗案。