广告点击率预估是怎么回事? - 知乎专栏

标签: | 发表时间:2017-07-31 09:47 | 作者:
出处:https://zhuanlan.zhihu.com
2016-11-08 欧阳辰 互联居

点击率预估是广告技术的核心算法之一,它是很多广告算法工程师喜爱的战场。一直想介绍一下点击率预估,但是涉及公式和模型理论太多,怕说不清楚,读者也不明白。所以,这段时间花了一些时间整理点击率预估的知识,希望在尽量不使用数据公式的情况下,把大道理讲清楚,给一些不愿意看公式的同学一个Cook Book。

点击率预测是什么?

  • 点击率预测是对每次广告的点击情况做出预测,可以判定这次为点击或不点击,也可以给出点击的概率,有时也称作pClick。

点击率预测和推荐算法的不同?

  • 广告中点击率预估需要给出精准的点击概率,A点击率0.3% , B点击率0.13%等,需要结合出价用于排序使用;推荐算法很多时候只需要得出一个最优的次序A>B>C即可;

搜索和非搜索广告点击率预测的区别

  • 搜索中有强搜索信号-“查询词(Query)”,查询词和广告内容的匹配程度很大程度影响了点击概率; 点击率也高,PC搜索能到达百分之几的点击率。

  • 非搜索广告(例如展示广告,信息流广告),点击率的计算很多来源于用户的兴趣和广告特征,上下文环境;移动信息流广告的屏幕比较大,用户关注度也比较集中,好位置也能到百分之几的点击率。对于很多文章底部的广告,点击率非常低,用户关注度也不高,常常是千分之几,甚至更低;


如何衡量点击率预测的准确性?

AUC是常常被用于衡量点击率预估的准确性的方法;理解AUC之前,需要理解一下Precision/Recall;对于一个分类器,我们通常将结果分为:TP,TN,FP,FN。


本来用Precision=TP/(TP+FP),Recall=TP/P,也可以用于评估点击率算法的好坏,毕竟这是一种监督学习,每一次预测都有正确答案。但是,这种方法对于测试数据样本的依赖性非常大,稍微不同的测试数据集合,结果差异非常大。那么,既然无法使用简单的单点Precision/Recall来描述,我们可以考虑使用一系列的点来描述准确性。做法如下:

  1. 找到一系列的测试数据,点击率预估分别会对每个测试数据给出点击/不点击,和Confidence Score。

  2. 按照给出的Score进行排序,那么考虑如果将Score作为一个Thresholds的话,考虑这个时候所有数据的 TP Rate 和 FP Rate; 当Thresholds分数非常高时,例如0.9,TP数很小,NP数很大,因此TP率不会太高;

  3. 当选用不同Threshold时候,画出来的ROC曲线,以及下方AUC面积

  4. 我们计算这个曲线下面的面积就是所谓的AUC值;AUC值越大,预测约准确。

为什么要使用AUC曲线

既然已经这么多评价标准,为什么还要使用ROC和AUC呢?因为ROC曲线有个很好的特性:当测试集中的正负样本的分布变化的时候,ROC曲线能够保持不变。在实际的数据集中经常会出现类不平衡(class imbalance)现象,即负样本比正样本多很多(或者相反),而且测试数据中的正负样本的分布也可能随着时间变化。AUC对样本的比例变化有一定的容忍性。AUC的值通常在0.6-0.85之间。

如何来进行点击率预测?

点击率预测可以考虑为一个黑盒,输入一堆信号,输出点击的概率。这些信号就包括如下信号

广告:历史点击率,文字,格式,图片等等

环境:手机型号,时间媒体,位置,尺寸,曝光时间,网络IP,上网方式,代理等

用户:基础属性(男女,年龄等),兴趣属性(游戏,旅游等),历史浏览,点击行为,电商行为

信号的粒度:

Low Level : 数据来自一些原始访问行为的记录,例如用户是否点击过Landing Page,流量IP等。这些特征可以用于粗选,模型简单,

High Level: 特征来自一些可解释的数据,例如兴趣标签,性别等

特征编码Feature Encoding:

  1. 特征离散化:把连续的数字,变成离散化,例如温度值可以办成多个温度区间。

  2. 特征交叉: 把多个特征进行叫交叉的出的值,用于训练,这种值可以表示一些非线性的关系。例如,点击率预估中应用最多的就是广告跟用户的交叉特征、广告跟性别的交叉特征,广告跟年龄的交叉特征,广告跟手机平台的交叉特征,广告跟地域的交叉特征等等。

特征选取(Feature Selection):

特征选择就是选择那些靠谱的Feature,去掉冗余的Feature,对于搜索广告Query和广告的匹配程度很关键;对于展示广告,广告本身的历史表现,往往是最重要的Feature。

独热编码(One-Hot encoding)

假设有三组特征,分别表示年龄,城市,设备;

["男", "女"]

["北京", "上海", "广州"]

["苹果", "小米", "华为", "微软"]

传统变化: 对每一组特征,使用枚举类型,从0开始;

["男“,”上海“,”小米“]=[ 0,1,1]

["女“,”北京“,”苹果“] =[1,0,0]

传统变化后的数据不是连续的,而是随机分配的,不容易应用在分类器中。

热独编码是一种经典编码,是使用N位状态寄存器来对N个状态进行编码,每个状态都由他独立的寄存器位,并且在任意时候,其中只有一位有效。

["男“,”上海“,”小米“]=[ 1,0,0,1,0,0,1,0,0]

["女“,”北京“,”苹果“] =[0,1,1,0,0,1,0,0,0]

经过热独编码,数据会变成稀疏的,方便分类器处理。

点击率预估整理过程:

三个基本过程:特征工程,模型训练,线上服务


特征工程:准备各种特征,编码,去掉冗余特征(用PCA等)

模型训练:选定训练,测试等数据集,计算AUC,如果AUC有提升,通常可以在进一步在线上分流实验。

线上服务:线上服务,需要实时计算CTR,实时计算相关特征和利用模型计算CTR,对于不同来源的CTR,可能需要一个Calibration的服务。

点击率预测的算法

-逻辑回归(Logic Regression):

Logistic回归是点击率预估必须入门的一种方法,使用简单,理论容易理解,甚至有些问题可以进行Debug,了解问题原因。它的核心想法就是通过Sigmoid函数,将Y值转化成0-1;其基本公式如下:


LR_SGD(随机梯度下降):

LR的模型有了,在训练过程中,为了提高训练的速度,常用的是SGD的优化方法。 SGD解决了梯度下降的两个问题: 收敛速度慢和陷入局部最优。梯度下降是一种常规的优化方法,但是SGD的S表示一定的随机性;梯度下降是每次都朝着全局优化方向前进,而SGD却由于随机性,有一定的曲折后,可能达到全局最优,也可能深陷于局部最优,但SGD的运行性能确实出色。


LR-FTRL

谷歌点击率预估在在线学习(Online Learning)积累好多年的经验,所谓在线学习就是通过线上实时处理数据而进行模型训练,而不是传统模式,把所有数据都放到一起处理(Batch Learning),得到离线的最优解。

LR-FTRL (Follow-the-regularized-Leader),Google在10年就提出了一些理论基础,在13年给出了Paper,并且带有FTRL的实现伪代码,在此之后,FTRL才大规模应用在工业界。


-FM(Factorization Machines):

Steffen Rendle于2010年提出Factorization Machines(FM),并发布开源工具libFM。凭借这单个模型,他在KDD Cup 2012上,取得Track1的第2名和Track2的第3名。在Kaggle的主流的点击率比赛中和实际广告系统的经验,factorization machine的效果完胜LR。FM的内核和LR也非常类似,但是多增加了一部分引入特征之间的交互因素,所以FM是非线性函数内核,它非常类似我们在特征工程中采用的特征交叉,但是FM是通过训练找到那些有用的特征叉值。


深度学习DNN

深度学习采用神经网络技术也在不断影响点击率技术的发展。特别是DNN的开发平台,更多的广告和用户数据,更大的计算资源(包括GPU),这都给深度学习解决点击率预估的问题,奠定了好的基础。

Google、百度等搜索引擎公司以 Logistic Regression(LR)作为预估模型。而从 2012 年开始,百度开始意识到模型的结构对广告 CTR 预估的重要性:使用扁平结构的 LR 严重限制了模型学习与抽象特征的能力。为了突破这样的限制,百度尝试将 DNN 作用于搜索广告,而这其中最大的挑战在于当前的计算能力还无法接受 10^11 级别的原始广告特征作为输入。作为解决,在百度的 DNN 系统里,特征数从10^11 数量级被降到了10^3,从而能被 DNN 正常地学习。这套深度学习系统已于 2013 年 5 月开始上线服务于百度搜索广告系统,初期与LR并存,后期通过组合方法共同提升点击准确率。

现在越来越多的深度学习的平台,例如谷歌的TensorFlow,使用起来也非常方便,大部分工程师1-2星期就可以上手实验,对于特征工程的要求没有LR高,DNN能够对特征进行自主的优取,但是对于大规模的计算,能够直接匹敌LR算法的,还需要一段长长的时间。

集成学习(Ensemble Learning)

集成学习通过训练多个分类器,然后把这些分类器组合起来使用,以达到更好效果。集成学习算法主要有Boosting和Bagging两种类型。

Boosting:通过迭代地训练一系列的分类器,每个分类器采用的样本的选择方式都和上一轮的学习结果有关。比如在一个年龄的预测器,第一个分类器的结果和真正答案间的距离(残差),这个残差的预测可以训练一个新的预测器进行预测。XGBoost是非常出色的Boosting工具,支持DT的快速实现。

Bagging:每个分类器的样本按这样的方式产生,每个分类器都随机从原样本中做有放回的采样,然后分别在这些采样后的样本上训练分类器,然后再把这些分类器组合起来。简单的多数投票一般就可以。这个类别有个非常著名的算法叫Random Forest,它的每个基分类器都是一棵决策树,最后用组合投票的方法获得最后的结果。


各大公司的一些点击率预估的算法:

  1. 微软 :微软在2010年曾经有一篇文章是关于使用《Web-Scale Bayesian Click-Through Rate Prediction for Sponsored Search Advertising in Microsoft’s Bing Search Engine 》,但这并不代表这是微软现在的技术,据说现在的技术也是Online-learning和一些组合技术的融合,另外也在尝试DNN的解决方案。

  2. 谷歌:谷歌是比较开放的公司,LR-FTRL对整个行业的online-learning都有整体的促进作用。《Ad Click Prediction: a View from the Trenches》,谷歌内部也在不断尝试引入深度学习方法解决点击率问题,也包括展示广告的点击率预估。

  3. Facebook:

  4. Facebook广告大部分情况下是没有关键词的,因此Facebook的点击率预估,其实是非常更难的问题。Facebook有一篇文章,《Practical Lessons from Predicting Clicks on Ads at Facebook》,其中介绍Facebook结合GBDT训练出一些feature,然后再传入LR进行分类;

    百度:基本全面使用DNN的训练和之前的一些LR;

    小米:小米使用过多种方法,包括LR-SGD, LR-FTRL, FM等,同时也在通过组合的方式提升综合效果,另外也在积极探索DNN的解决方案。

点击率预测的成功要素

点击率预估的成功来源于两面:一面是实力,一面是运气,加油和好运!

作者简介:

欧阳辰,互联网广告技术老兵,小米MIUI架构师/主管,负责广告平台架构和数据分析平台,曾负责微软移动Contexual Ads广告平台,参与Bing搜索引擎IndexServe的核心模块研发,有空也会在个人微信公众号“互联居”中,分享一些互联网技术心得,订阅“互联居”公众号,与作者直接交流。

我的文章列表:

数据分析

逆流而上,独辟蹊径的Oracle Exadata数据库

彪悍开源的分析数据库-ClickHouse

广告技术

“自由即奴役”的Google AMP

两分钟搞明白Beacon,iBeacon和EddyStone

预算平滑(Budget Smooth)是怎样花钱的?

互联网广告CPM,CPC,CPA的魔咒和圣杯

拒绝垄断,走向开放的Header Bidding

自由之设备,独立之人格:从设备识别到跨屏营销

DSP的繁华和伤心

移动DeepLink的前生今世

谈谈广告平台的竞价原理:GFP,GSP,VCG

聊一聊小米广告平台的构建、底层模块和坑

相关 [广告] 推荐:

计算广告——广告定向实践

- - CSDN博客综合推荐文章
计算广告学涉及到很多的不同的学科知识,包括大规模搜索,文本分析,机器学习,信息检索以及经济学等等. 在计算广告中,其核心问题是在给定的环境下,找到用户和广告之间的最佳匹配,在斯坦福大学的计算广告学中如下的定义:. Computational advertising = A principled way to find the “best match” between a user in a context and a suitable ad..

Pepsi创意广告

- Homer - 设计|生活|发现新鲜
怎么样,看出广告的创意来了木有…………只是广告和现实总是风马牛不相及. 「设计,生活,发现新鲜」在新浪微博,更即时地获读更新,更直接地交流沟通. © 设计|生活|发现新鲜 | 原文链接 | 投稿 ! | 新浪微博 | 逛逛我们的在线商店. Creat: 佳洁士的创意广告. TOYO TIRES 系列创意广告.

超雷人AV广告

- saiddy - 宅映像
由AV剪辑出来的视频片段,配上当前流行的各种广告的声音,要怎么YD就怎么荡漾,要怎么牛逼,就怎么花式……算了,我不解释了,大家自己看吧@. 一点小囧:今天我给电脑做体检了. 日剧山寨明星与范冰冰、刘德华、刘谦的那些事儿. 标签:AV, 囧, 广告, 恶搞, 搞笑, 艺术.

酷广告:对决[3P]

- Zoe - 煎蛋
这是来自英国维生素食品Berocca 的一则平面广告. Berocca 号称是一种营养食品,可帮助人们缓解紧张情绪. 而图片中,右侧这些家伙明显就是服用了Berocca 的效果,在他们眼里,对方都不是问题. 一起看广告(3p, 3p …). 酷广告:外星人也爱麦当劳[v]. © 煎蛋 / 随便看看 / 图片托管于又拍网.

APP内置广告凶猛!

- Zen - Tech2IPO
移动应用程序下载率和下载次数一再打破纪录已经成为常态. 应用程序越多,附着在其上的移动广告也就会越来越盛行,其中APP内置广告已经占据目前移动广告预算的5%,虽然有调查指出,18-34 岁的移动用户大部分都不喜欢APP内置广告,但是多数人有记忆、能够说出来的广告,大部份也都是APP内置广告型态,由此可以想见APP内置广告只会越来越多,不论你是喜欢还是不喜欢.

广告放肆—001—sea

- Kelvin - 广告放肆
#本文由独立设计师sea供稿,全文出自作者本人,感谢. 另:“广告放肆”题头将作为独立栏目,用来展示各位投来的飞机大炮枪子儿稿. 投稿邮箱:aye@adfuns.com  欢迎朋友们踊跃来搞一搞 :). 上面一副第五届中国元素创作大赛入围作品. 利用同一页的正面与背面来做文章,对应的是人的正面和背面,正面是端庄的穿旗袍的美女,背面是可以改装的新潮发型和露背装,广告语“从前美,往后更美”一语双关,你懂的.

给力广告创意赏

- 丰 - 有意思吧
公益:一根小小的烟头可以毁灭整片森林. 二手烟:当你在抽烟的时候你的孩子也在受害,如同他们自己抽烟的危害一样. 洗衣液:让你的衣服柔软芬芳,如同鲜花. 清洁剂:看一看厨师的手,是不是一切都明白了. 抽油烟机:你是否和你做的菜闻起来一个味道. 衣物柔顺剂:让你的衣服柔软得像没穿一样舒适. 空气清新剂:如此给力的P也困扰不到你.

Flash广告设计要素

- 二宝 - 所有文章 - UCD大社区
应上面要求,在内部做一个关于“banner“设计的分享. 搜了下,网上这类文章挺多,思来想去,决定这么干:1对前人的经验总结一下,2重点介绍一下flash 广告设计的要点. 投放在媒体的banner需要在最短的时间内给用户传递出最关键的信息,这就要求我们在设计之前一定要和需求方充分沟通,明确活动主题、重点、一定要求对方提交宣传文案、商品图.

了不起的广告

- easyer - 译言-每日精品译文推荐
来源The Best Of: Ad Campaigns.        广告业每天都充满新意和挑战,它们试图用尽可能的手段引起人们的注意,有时它们努力激发你的情感,有时它们制造笑话和激起想象. 无论是那一种方式,它们总是留给你一些视觉或者触觉上的信息.   下面是最成功和最具创意的广告的代表,他们会让你会心一笑或者激起你的好奇心.

坑爹的性感广告

- Homer - 设计|生活|发现新鲜
维多利亚的秘密最近在街头放置一组超性感的内衣海报,但最令人恼火的就是重要部位偏偏都被二维码遮挡啦. 重点来了,海报上写着“解开她的秘密……”,只需用手机扫描二维码即可. 如图所示,重点部位当然都是自家产品啦. 以后见到这种场面,一定要hold住hold住. 「设计,生活,发现新鲜」在新浪微博,更即时地获读更新,更直接地交流沟通.