真假难辨引争议，AI语音克隆的适用边界在哪？

近日，AI孙燕姿、AI周杰伦等二创作品走红网络，并迅速引起网友热议。AI声音因其拟真性，不仅能复现知名歌手的作品，同时也引发了一系列伦理和法律问题，甚至被不法分子利用，成为了提升电信诈骗成功率的重要手段。

据科技日报，在电信诈骗中，骗子用AI软件扫描语音记录并复制，准确率高达99%。其语料数据提取自社交媒体的视频和其他上传音频中的片段，输入AI软件后，可以生成声音并说出不同短语或句子。国外学者介绍，有些模型和算法只需1分钟甚至更短时间，就能合成一段相当高质量的克隆声音。若是采用更为先进的AI模型和算法，产出的声音更能让普通人难辨真假。

更令人担忧的是，当AI克隆声音、AI换脸与个人信息泄露等黑灰产全面合流，骗子不仅能通过合成的AI视频和语音形成电诈“组合拳”，还能通过已掌握的隐私信息、高度成熟的骗术剧本，生成深度定制化的对话文本，将电诈升级为难以防范、难以察觉、难以醒悟、无处可查的“平行世界”。

此外，将AI克隆声音应用于歌手、歌曲、乐曲等艺术创作领域，也是对版权界发起的一次猛烈冲击。生成的二创作品，既可能对原声作者构成侵权，同时其版权到底归AI还是归人同样模糊难定。

正如历史上不断重复的过程那样，技术先行、制度随后，中间这段规范和秩序的空白期内，不仅存在常规的“野蛮生长”，暗面的不择手段，传统亦会被进步所打破并取代。