近日,网络上涌现大量“雷军”配音短视频,这些内容以犀利言辞点评热点,甚至夹杂不雅用语,迅速吸引了公众目光。实际上,这些声音出自AI配音技术,非雷军本人发声。对于这一波AI模仿热潮,雷军本人仅在社交平台以三个愤怒表情回应,而小米集团公关部总经理王化则表态已将相关问题转交法务部处理。
AI技术突飞猛进,尤其是语音合成领域,这让模仿名人的声音变得轻而易举。西湖心辰CEO蓝振忠分析,AI通过深度学习能捕捉特定声音特征并复制,技术门槛降低,普通人也能轻易操作。平台“Reecho睿声”因提供“雷军”声音合成服务而成为焦点,其背后公司言域科技正与小米合作,处理不当内容,呼吁用户自律。言域科技CEO谢伟铎承认,虽然平台难以全面监控内容,但会参考其他UGC平台管理经验,适时介入处理违规情况。
AI滥用问题日益凸显,从娱乐恶搞到潜在诈骗,引发了对伦理与侵权的深思。专家指出,伴随技术进步,伪造内容的风险激增,需采取多重验证及检测工具来遏制。政策层面,国内外已开始出台相关规定,要求AI生成内容明确标识,明确了服务提供者的责任边界,试图为AI技术应用划定清晰的法律框架。尽管法律跟进与技术治理尚在路上,但多方合力下,AI滥用现象有望得到缓解。