导语

广告系统的深度漏斗转化优化一直是工业界的核心难题,尤其是在稀疏交互、冷启动实体占比高的场景下,传统分散式的用户、物料嵌入方案很难实现跨实体的语义关联,导致高潜用户与合适广告的匹配效率偏低。近期Meta公开的分层兴趣表示(Hierarchical Interest Representation,以下简称HIR)研究,首次尝试从上游统一表示层的角度重构广告系统的嵌入体系,为全链路广告效果提升提供了全新的解法。

事实综述

本次Meta公开的HIR是一套专门面向广告场景设计的大规模图表示学习架构,核心目标是打通用户、广告主、商品/服务三类核心广告实体的语义空间,将用户的隐式、显式兴趣信号与广告主的供给内容做精准对齐,提升深度漏斗(比如加购、下单、留资等后端转化)的广告效果。

分层兴趣表示的核心目标是打通用户隐式兴趣与广告主供给的语义关联,解决稀疏信号下的深度漏斗优化难题。——Meta Engineering

从技术架构来看,HIR的底层是一张融合了多类实体与交互信号的异构图,节点覆盖用户、广告、广告主、投放活动、商品、转化像素六大类,边则对应不同类型的用户交互、广告主生产行为等,每条边都带有动作类型与时间戳,平衡用户短期意图与长期兴趣。为了支撑Meta百亿级用户、数十亿级广告实体的规模,HIR采用深度哈希嵌入方案控制ID类特征的内存占用,可支撑数百亿级节点的规模扩展。

上层的分层编码器基于Transformer架构实现,针对大规模图学习的痛点做了多项定制优化:首先是引入多模态世界知识增强,通过定制化大模型提取广告主、商品的文本、图片、视频等多模态语义特征,补充稀疏的交互信号,即便模型从未见过某类新的广告实体,也能通过语义特征判断其所属品类与受众;其次是将图结构信息作为注意力偏置注入Transformer的注意力计算过程,让模型能够感知节点之间的拓扑关联,避免传统消息传递图神经网络容易出现的过平滑问题;第三是采用FlexAttention内核实现内存高效的偏置注意力计算,不需要实例化完整的成对偏置矩阵,大幅降低了大规模训练的显存占用。

训练方面,HIR采用自监督跨视图蒸馏的师生训练方案:对每个锚点节点分别采样宽范围的教师视图与窄范围的学生视图,让学生模型学习预测教师模型输出的兴趣簇结果,提升模型对不完整交互信号的泛化能力。

目前HIR已经基于Meta全平台月度百亿级真实交互数据完成端到端训练,可直接输出三类实体的统一嵌入向量与多层级的“语义袋”兴趣token,能够对接Meta现有广告体系的GEM生成式广告模型、Andromeda推荐系统、自适应排序模型等多个模块,覆盖召回、粗排、精排、个性化等全链路广告场景。

解读与评价

技术层面的核心突破

HIR最核心的创新是跳出了传统广告系统中用户、物料嵌入分别训练的思路,从上游统一表示层的角度一次性解决跨实体的语义对齐问题。传统方案中,用户嵌入和广告嵌入往往在不同的模型中单独训练,只能通过召回、排序阶段的目标做弱对齐,很容易出现语义偏差,而HIR的统一嵌入空间可以直接计算不同类型实体之间的语义相似度,大幅提升匹配效率。

针对广告场景普遍存在的交互稀疏、冷启动实体多的痛点,HIR的多层级兴趣簇设计也提供了很好的解法:高层粗粒度兴趣簇对应稳定的长期兴趣,用来解决稀疏信号下的泛化问题,低层细粒度兴趣簇对应具体的短期转化意图,用来匹配精准的深度漏斗需求,两者结合可以在泛化与精准之间找到最优平衡。

对中国开发者的参考价值

对国内的广告、推荐算法开发者来说,HIR的多项技术设计都可以直接复用:比如将图结构信息作为注意力偏置注入Transformer的思路,解决了大规模图Transformer的训练效率问题;跨视图自监督蒸馏的训练策略,不需要大量的人工标注数据就能提升模型的泛化能力;多模态语义特征补充交互信号的方案,对于中小平台冷启动场景的效果提升尤其明显。

对于出海的广告主来说,随着HIR逐步接入Meta的广告系统,未来广告投放的效果会更加依赖物料本身的语义表达,提前优化商品标题、图片、视频等多模态物料的语义相关性,更容易被模型匹配到高潜的兴趣用户,获得更好的深度漏斗转化效果。

落地的注意事项

当然,HIR的落地也有明显的门槛:首先是数据门槛,训练统一表示层需要大量的跨实体交互数据与多模态物料数据,中小广告平台很难积累足够的数据量;其次是合规风险,更精准的用户兴趣刻画也意味着更高的用户隐私保护要求,在国内落地需要做充分的匿名化、去标识化处理,满足《个人信息保护法》的相关要求;第三是运维门槛,统一表示层作为上游核心模块,一旦出现问题会影响全链路的广告效果,需要配套完善的监控、排查机制。