网信办近期宣布启动新一轮“清朗”专项行动，重点打击利用AI换脸技术制造谣言以及数据投毒等黑色产业链。这一举措直指当前网络空间中的新型技术乱象，引发广泛关注。
AI换脸造谣：技术门槛降低，危害急剧上升
过去，伪造一段视频需要专业后期团队和大量时间。如今，借助开源的AI换脸工具，普通网民只需几张照片就能生成以假乱真的动态影像。这种低成本、高迷惑性的技术被不法分子迅速滥用：有人将公众人物的头像嫁接到不雅视频中，恶意诽谤；有人伪造企业高管发言视频，操纵股市；更有甚者利用换脸冒充熟人实施诈骗。在某起典型案例中，诈骗者通过AI换脸技术模仿某公司老板的面孔和声音，在视频会议中指令财务人员转账，单笔损失就达数百万元。
数据投毒：看不见的“陷阱”
与换脸造谣相比，数据投毒更为隐蔽且破坏性持久。这种黑产主要通过向AI训练数据集中掺入错误标注或恶意样本，导致模型输出结果被扭曲。例如，在智能安防系统里，投毒者可能在人脸识别数据库中加入特定噪声，让系统对某个危险人物“视而不见”；在内容推荐算法中，通过大量刷虚假标签，使本应被屏蔽的色情暴恐内容获得正常推荐。更严重的是，自动驾驶、医疗诊断等关键领域若遭遇数据投毒，可能直接威胁人身安全。
黑产链条：从工具售卖到牟利分成
当前，AI换脸和数据投毒已形成完整的黑产链条。上游有人专门开发换脸软件、编写投毒脚本，并在暗网或加密聊天群中出售；中游有“代发商”接单制作特定谣言视频或定向投毒任务；下游则是利用这些技术实施诈骗、敲诈、诽谤的犯罪分子，甚至还有“账号贩子”提供批量生成的社交账号用于传播。整个链条分工明确，利润惊人。
“清朗”专项的精准打击
此次网信办专项治理，从技术、法律、平台三个层面同时发力。技术上，要求平台部署深度伪造检测模型，对视频、音频进行水印溯源和数字签名验证；法律上，明确AI换脸造谣、数据投毒等行为可依据刑法第二百四十六条诽谤罪、第二百八十六条破坏计算机信息系统罪定罪；平台责任方面，对未及时处置虚假信息的社交平台、视频网站将处以高额罚款甚至暂停运营资格。
长效机制比短期整治更重要
专项行动固然能迅速遏制乱象，但要真正铲除黑产土壤，还需建立长效机制。一方面，应推动AI生成内容强制标注，让用户明辨真伪；另一方面，加快《人工智能法》立法进程，对算法、数据流通设定合规红线。普通网民也需提高警惕，对反常视频、可疑链接保持怀疑，不轻易提供个人生物特征信息。
在技术加速迭代的今天，AI本应是服务社会的工具，不能沦为造谣牟利的帮凶。网信办的强力出手，向黑产传递了明确信号：任何利用新技术作恶的行为，都将面临法律最严厉的制裁。
