（来源：法治日报）“如果你是温峥嵘，那我是谁？”
前不久，演员温峥嵘自曝遭遇直播间AI换脸盗用，上前质问反被对方拉黑。
该事件并非孤例，今年6月，北京市海淀区市场监管局查处了某公司利用AI技术冒用央视某知名主持人名义和形象的虚假广告案。
今年8月，在某社交平台上，有博主利用AI仿冒奥运冠军全红婵的语音卖土鸡蛋，孙颖莎、王楚钦等运动员的声音也被“克隆”后直播带货。
除公众人物形象遭非法盗用外，近期普通民众“AI整蛊”家人，“流浪汉进家门骗老公”“流浪汉骗姥爷”亦引发网民盲目跟风。有观点认为，AI技术的迭代和广泛应用，便利了人们创意表达。但令人担忧的是，技术门槛降低，助长了深度伪造、虚假信息、有害信息传播。
“以假乱真”门槛大幅降低
从早期引发社会广泛关注的“换脸”技术滥用，到利用AI合成语音实施的电信网络诈骗，再到“被压在废墟下的小男孩”等虚假热点事件，生成式AI大模型的多维度演进，使内容生成呈现“低门槛+高逼真”的特征，网络违法信息的演化路径更趋复杂。
新利18官方客服上海司法研究所讲师周陈介绍，为规避检测，新型AI伪造手段能实现对抗性攻击，即在生成内容中嵌入人眼难以察觉的噪声，专门用于欺骗检测模型，将其判断为“真实”，有的工具支持去除“AI生成内容”标识选项，为违法行为提供了便利。同时，借助AI多模态融合能力，使得AI伪造不仅能替换脸和声音，还能同步生成对应的身体动作和场景，使伪造内容难以辨别真伪。
