中央网信办正式启动为期4个月的“清朗·整治AI应用乱象”专项行动,这是其首次针对AI乱象开展清朗专项行动。其中,AI投毒、AI水军两大领域为重点打击方向,结合舆情工作实践,以下从企业公关、法务视角,拆解专项行动的核心关联点与实践影响。
一、核心整治重点:与企业公关、法务直接相关的两大方向
(一)AI投毒整治:直击黑公关核心手段,为企业维权提供支撑
此次专项行动将AI数据投毒作为重点整治内容,且界定极为细致明确,直接关联企业遭遇的黑公关、舆情侵扰问题,具体整治范围包括:
- 严打核心行为:通过篡改训练语料、伪造权威数据、使用GEO技术恶意营销等方式实施的AI数据投毒,此类行为已远超普通营销范畴,成为恶意打压竞争对手、实施黑公关的主要新手段,此前众多企业深受其害。
- 明确关联主体:一是大模型企业,需整改“模型生成回答时,引用信源缺乏交叉验证和风险提示、未标注引用链接”的问题,规范信源标注将大幅减少虚假信息传播,降低企业被恶意关联、抹黑的风险;二是违规培训主体,整治炒作、教授AI数据投毒方法,以及在电商平台兜售相关教程、工具的行为,从源头遏制黑公关技术的扩散。
- 重点打击帮凶:针对部分地级市媒体、县域融媒体,盲目发布虚假数据、虚假排名报告,成为GEO恶意营销、AI投毒帮凶的行为,这将有效切断虚假舆情的传播渠道,减轻企业舆情应对压力。
结合实践来看,此次AI投毒整治将推动GEO市场迎来重大变局,也为企业反击黑公关、应对自媒体舆情侵扰提供了政策支撑,企业可依托专项行动,收集相关黑公关证据,依法维权。
(二)AI水军整治:精准打击黑公关产业链,从源头遏制虚假舆论
专项行动再度重提AI水军整治,且新增“通过刷量制造虚假舆论热点”的整治内容,直击企业遭遇的虚假舆情、恶意抹黑痛点,具体整治重点包括:
- 核心违规行为:利用AI“托管”技术运营账号,模拟真人批量注册、运营社交账号,批量生成低质同质文案;使用AI群控软件、社交机器人刷量控评,生成虚假流量数据,制造虚假舆论热点(首次被明确纳入整治)。
- 关键整治环节:明确将“非法交易买卖账号”纳入整治范围,这一细节体现了监管部门的深度调研——实践中,水军团伙控制的数千、数万个账号,大多源于非法买卖,揪住这一环节,相当于从源头切断AI水军的运营基础,也为企业打击黑公关提供了新的突破思路。
结合舆情工作实践,在为30多家企业开展的黑公关挖掘调查中,几乎每次都能发现AI批量生成黑稿、AI水军刷量控评的痕迹,此次专项行动的整治力度,将有效遏制此类黑公关行为,降低企业舆情应对成本。
二、专项行动推进阶段:分层发力,筑牢企业AI合规防线
专项行动分两大阶段推进,从技术源头到内容终端层层管控,每一项整治要求都与企业公关、法务工作密切相关,直接影响企业生存发展,需重点关注:
第一阶段:掐住技术源头,给大模型套上“合规紧箍”
聚焦模型合规与技术安全,直击7大核心违规问题,均与企业法务、合规管理直接相关:
- 严查大模型备案:未按规定完成备案登记的无资质模型,将被重点整治、坚决清退,涉及大模型相关业务的企业,需尽快核查备案情况,避免合规风险。
- 严管训练数据合规:严禁未经授权使用图文音视频素材,同时整治高质量语料匮乏、数据审核不严等问题,企业在使用AI模型、训练数据时,需做好版权审核,避免侵权风险。
- 重拳打击AI数据投毒:重申篡改训练语料、伪造数据、GEO恶意营销、售卖投毒教程及工具等行为均被列入违规黑名单,企业可据此收集黑公关证据,依法追究相关主体责任。
- 严控技术滥用:未经授权换脸拟声、盗用他人形象开展数字人直播,利用智能体(Agent)技术窃取用户数据、账户密钥等新型违规行为,均被纳入监管,企业在AI技术应用中需坚守合规底线,避免侵权及违法风险。
- 规范AI生成内容标识:AI生成内容需规范添加标识,落实跨平台隐式标识互认,提供违规“去标识”工具的业务将被全面清理,这要求企业在使用AI生成内容开展营销、公关活动时,做好标识标注,避免虚假宣传嫌疑。
第二阶段:横扫内容乱象,斩断流量黑产链条
聚焦内容与流量生态痛点,7类违规行为被坚决叫停,直接影响企业公关营销行为的合规性:
- 严禁AI水军相关行为:利用AI“托管”从事网络水军、群控软件刷量、控评等行为,一律从严处置,企业需排查自身公关合作方,避免与水军团伙关联,防范合规风险。
- 叫停违规AI应用及营销:仿冒、套壳AI应用,AI算命、“一键脱衣”、色情陪聊等违规功能,以及为这些违规应用、相关课程开展营销炒作、推广引流的行为,均属于违规,企业需规避此类合作及营销行为。
- 清理AI生成乱象内容:批量生成的逻辑混乱、价值空洞的“数字泔水”,滥用AI“魔改”经典影视名著、不当使用AI“复活逝者”、生成未经科学验证的医疗金融信息,以及生成儿童“邪典”视频等乱象,均被纳入清理范围,企业在使用AI生成内容时,需做好内容审核,避免违规。
三、企业应对建议:AI合规已成生存必答题
目前,各地网信部门已启动督导工作,要求网站平台深入开展自查自纠。对于AI相关企业、MCN机构及操盘手而言,对照专项行动明确的14条红线,全面排查自身业务模式、数据来源与营销手段,已是当下最紧迫的任务。
从企业公关视角,需借助专项行动契机,梳理自身遭遇的AI黑公关、虚假舆情问题,收集相关证据,依托监管力量开展维权;从企业法务视角,需重点核查AI技术应用、数据使用、营销合作等环节的合规性,建立AI合规审查机制,防范违规风险。
此次专项行动整治力度空前,直击AI应用乱象核心痛点,也释放出明确信号:AI合规不再是选择题,而是企业生存发展的必答题,唯有坚守合规底线,才能避免监管处罚,实现可持续发展。