近期，一系列涉及AI深度合成技术的滥用事件引起了广泛关注。据报道，从对企业家雷军的恶搞，到冒充张文宏医生音视频进行带货，不法分子正利用这一技术实施诈骗，社会影响恶劣。
据央视新闻报道，过去一年中，AI深度合成音视频侵权现象日益猖獗。例如，有网友曾利用AI技术合成刘德华的声音，以此吸引流量，刘德华的电影公司也不得不发布声明，警告公众警惕此类伪造声音的骗局。
调查发现，制作AI深度合成音视频并非难事。在一些购物平台上，AI深度合成技术已成为网店牟利的工具。消费者只需支付几十元，即可定制名人音视频，这一服务无疑加剧了侵权行为的蔓延。
在购物平台上搜索，可以发现AI技术还支持声音克隆定制，不仅在语言情感和语境上有操作空间，甚至还能模拟各种方言。这一技术的广泛应用，无疑为不法分子提供了更多可乘之机。
对此，专家指出，相关法律法规已明确规定，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频的行为，已构成侵权，并应承担相应的法律责任。事实上，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一名配音演员的声音被未经授权地AI生成并出售，法院最终认定被告行为构成侵权。
该案中，法院认为，根据我国的民法典，自然人的声音被视为一种人格权益，具有人身专属性。因此，任何未经授权的使用都构成侵权。这一判决无疑为打击AI深度合成技术的滥用行为提供了有力的法律支持。
随着AI技术的不断发展，其带来的潜在风险也日益凸显。如何平衡技术创新与法律保护，成为亟待解决的问题。社会各界应共同努力，加强监管和自律，确保技术的健康发展。
