界面新闻记者 | 肖芳
界面新闻编辑 | 文姝琪
你最近是否被AI生成的虚假广告刷屏？今年，利用AI技术伪造名人代言、带货的假广告正让消费者防不胜防。
比如，北京市场监管局近日通报了查处某公司利用AI技术冒用央视知名主持人发布虚假广告的案件。通报显示，该公司在直播间销售的深海多烯鱼油产品，实际只是普通糖果，根本不具备疾病治疗功能。而直播间出现的央视主持人李梓萌形象，竟是AI伪造生成。
实际上，AIGC引发的广告乱象远不止于此。许多分辨能力较弱的群体，如老年人和未成年人，正成为这些乱象的直接受害者。
在抖音旗下营销服务平台巨量引擎举办的商业安全开放日上，巨量引擎商业安全治理标准负责人项韵对界面新闻表示，AI在广告领域带来的问题比想象中更复杂。“许多从业者原以为AI只涉及素材合规，但实际案例显示，AI与各行业结合后，都可能催生全新风险。”
通过分析抖音平台的违规广告案例，项韵指出，AIGC给广告营销带来的风险主要分为三类：违背公序良俗、侵权和虚假宣传。
这些风险虽非全新，但项韵强调，AIGC让素材创作变得极其简单，不仅加剧了风险严重性，还大幅提升了平台识别违规内容的难度。
类似挑战也出现在抖音内容生态治理中。面对AIGC导致的谣言激增和人工识别困境，抖音选择“以魔法打败魔法”，引入AI大模型技术进行违规内容研判和处置，成效显著。在广告营销领域，抖音同样借助AI大模型等手段展开治理。
据界面新闻了解，广告营销治理比内容治理更复杂。平台需综合研判广告内容、商家资质及后续履约环节是否违规。
抖音的治理策略双管齐下：一方面通过前置研判识别商家资质和违规素材。项韵介绍，平台从商家资质、广告内容和表达方式三层布防，并建立预警整改、限制新开、账户封停、主体清退等梯度化处置体系。
在开放日现场，抖音展示了自研交互式审核系统。该系统依托多模态大模型，审核效率较传统方式提升75%。对于违规广告，大模型能快速定位违规时间点或画面，并给出拒审理由。数据显示，今年第三季度，平台已前置拦截涉AI违规素材超84万条。
另一方面，抖音正探索用技术手段监控广告履约和后链路问题。巨量引擎商业安全治理策略负责人郭泽斌表示，广告履约涉及实物、虚拟物品及线下服务三类，易出现虚假宣传或不良暗示等违规行为。
这类问题关乎用户体验，但技术研判难以像素材审核那样依赖明确规则。抖音的创新方案是将用户评论和举报转化为治理依据，首创广告CCR指标（消费者抱怨指数），通过数字化整合负反馈，实现可视化监控。
郭泽斌透露，平台基于用户反馈梳理出4级风险标签，涵盖广告内容、履约、分发等问题，并通过CCR指标量化定性。针对履约环节，平台还派出广告监察员线下核验；对涉及后链路欺诈的客户，直接清退处理。
同时，抖音为老年人、未成年人等弱势群体提供专项保障服务。用户可通过抖音广告客服热线或APP内“广告客服”入口，直达人工服务反馈问题。
开放日活动传递的核心信息是：技术正成为治理引擎。巨量引擎商业安全产品负责人潘荻指出，过去平台治理常“宁可错杀一千”，而技术提升了精准治理能力，避免误伤广告主，最终推动平台变现效率提升。
相关问答
探秘品牌故事，那些有趣的企业传奇-ZOL问答
袁哥玩转AIGC你知道吗？每个大牌背后都藏着精彩故事。这些品牌常以创意广告出圈，比如某次热血沸腾的营销战役，虽不能亲身体验刺激感，但足以让人印象深刻……
