从智能家居的语音助手到自动驾驶汽车，AI正以前所未有的方式改变着世界，但随着AI技术的不断发展和应用其双刃剑的特性也逐渐显现，深度伪造技术就带来了不小的隐患。

AI能够轻松换脸、模仿声音，能够做到让张文宏深夜带货，让雷军大骂网友，就连明星靳东都被AI硬塞代言。

张文宏深夜带货?

近日，有网友向媒体反映：家中老人在网络卖货视频中看到知名传染病学专家张文宏医生在卖一种蛋白类的产品，老人信以为真，不仅下了单还转发了很多群。

事实上，该视频并非张文宏医生本人发布的，而是有人利用AI技术合成的。在这段视频中，被合成的人像反复介绍一种产品，声音听起来也很像张文宏本人，商品橱窗内的某蛋白棒售卖链接显示已出售1200多件。目前，该账号已搜索不到。

对此，张文宏医生在回应媒体时表示，“我在发现这个事情后立即投诉过那个AI合成的视频，但他的账号一直在换，我最后也没有精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”

除了向平台方投诉，张文宏称自己也曾考虑过报警，但对方看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门加强监管。“报警总要有个对象对吧，现在报警报谁呢?他一天换一个账号，而且全是虚拟的，我向谁报警?所以我认为，他侵犯的是消费者的利益，我觉得相关部门应该处理。”张文宏说。

科技旋涡认为，当前AI技术飞速发展，特别是深度学习算法的不断成熟，使得换脸技术的门槛大大降低。在前面提到的假张文宏之前，已经出现过假靳东、假雷军、假于东来等。

AI雷军骂翻全网，AI靳东诈骗老人

国庆假期，短视频平台上出现了大量“雷军”的发言视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还常爆粗口。

对于很多熟悉网络环境的人来说，这些“雷军 AI 配音”视频可能是“一眼假”，但雷军的名气太大，影响力也很大，难免会有人当真。毕竟，在短视频平台上，那些甚至都没有用AI配音，只是用剪辑的影像配文字字幕的“假靳东”视频，都有不少人上当。

据报道，今年11月，江西一位65岁老人到银行办理业务，声称要贷款200万元给男朋友“靳东”拍戏。经调查发现，老人手机里的“靳东”出自AI合成的视频。

今年10月，老牌港星黄百鸣通过社交媒体郑重声明，有人盗用其过去影片，利用AI替换声音，代言一个不知名的药膏品牌。

科技旋涡认为，技术进步带来了信息的洪流，我们对于所谓的“名人信息”及吸睛信息，不可“听风就是雨”，盲目相信、轻易下单购买。AI换脸等新型侵权案件不断涌现，除了用户自身提高网络安全意识，对于AI换脸相关风险的预防与整治，需要从源头进行监管、司法形成多主体、全链条的治理。

科技进步，监管趋严

今年9月，国家网信办已经发布《人工智能生成合成内容标识办法(征求意见稿)》，要求从视频制作和发布的源头做好信息管理。其中明确提出两种人工智能生成合成内容标识的种类，即“显式标识”与“隐式标识”，还明确了两类标识所应当适用的场景，将《深度合成规定》第十七条所提出的“显著标识”与“显式标识”建立了直接的对应关系。

12月15日，“微信珊瑚安全”微信公众号发布关于打击利用AI仿冒知名人士进行营销宣传的公告，已处理532条内容，关闭账号209个。

今年3月份，抖音安全中心发布不当利用AI生成虚拟人物的治理公告，指出将严格处罚违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

除去监管部门和平台出台相关规定，AI工具的制作者也需遵守相关法律法规。今年5月，OpenAI在未经美国演员“寡姐”斯嘉丽·约翰逊的同意模仿其声音，已经收到律师函。

而在我国，也已经出现了第一例AI生成声音人格权侵权案，北京互联网法院在4月份对全国首例“AI声音侵权案”进行一审宣判。就此事，我们曾咨询北京鼎世律师事务所执行主任孙亮律师，他表示：“《民法典》第四编为人格权编，在该编中就涉及自然人的肖像权、名誉权、隐私权、声音权益等民事权利进行了专门的规定。相关主体在利用AI技术进行创作的过程中，要对此予以重视，避免侵犯自然人的民事权益。”

科技旋涡认为，人工智能技术是一把双刃剑，张文宏、雷军、靳东等案例不断提醒着我们正在直面AI带来的种种挑战。只有全社会共同努力，需要企业、学界、立法机构等各方携手，才能遏制技术飞速发展所带来的各种问题。

写在最后

迅猛发展的AI技术需要通过多方努力为其划定“底线”和“红线”才能大力降低AI生成的内容所隐藏的种种风险，从而真正享受新兴技术带来的便利，推动人工智能产业的良性健康发展。