【免费】从FM推演各深度CTR预估模型(附代码)1资源-CSDN文库

需积分: 0 157 浏览量 2022-08-04 00:27:34 上传评论收藏 3.65MB PDF 举报

资源详情

资源评论

资源推荐

从

推

演

各

深

度

CTR

预

估

模

型

(

附

代

码

)

多年以后，当资深算法专家们看着无缝对接用户需求的广告收入节节攀升时，他们可能会想起自己之前痛苦推导FM

与深度学习公式的某个夜晚……

——题记

引

言

点击率(click-through rate, CTR)是互联网公司进行流量分配的核心依据之一。比如互联网广告平台，为了精细化权衡

和保障用户、广告、平台三方的利益，准确的CTR预估是不可或缺的。CTR预估技术从传统的逻辑回归，到近两年大

火的深度学习，新的算法层出不穷：DeepFM, NFM, DIN, AFM, DCN…… 然而，相关的综述文章不少，但碎片罗列的

居多，模型之间内在的联系和演化思路如何揭示？怎样才能迅速get到新模型的创新点和适用场景，快速提高新论文

速度，节约理解、复现模型的成本？这些都是亟待解决的问题。

我们认为，从FM及其与神经网络的结合出发，能够迅速贯穿很多深度学习CTR预估网络的思路，从而更好地理解和

应用模型。

本

文

的

思

路

与

方

法

我们试图从原理上进行推导、理解各个深度CTR预估模型之间的相互关系，知其然也知其所以然。（以下的分析与拆

解角度，是一种我们尝试的理解视角，并不是唯一的理解方式）

推演的核心思路：“通过设计网络结构进行组合特征的挖掘。”

具体来说有两条：其一是从FM开始推演其在深度学习上的各种推广（对应下图的红线），另一条是从

embedding+MLP自身的演进特点结合CTR预估本身的业务场景进行推演（对应下图黑线部分）。

对比二阶多项式模型，FM模型中特征两两相乘（组合）的权重是相互不独立的，它是一种参数较少但表达力强的模

型。

此处附上FM的TensorFlow代码实现，完整数据和代码请

参

考

网

盘

。

网盘链接：

https://pan.baidu.com/s/1eDwOxweRDPurI2fF51EALQ

注意FM通过内积进行无重复项与特征平方项的特征组合过程使用了一个小trick，就是：

class FM(Model):

 def __init__(self, input_dim=None, output_dim=1, factor_order=10, init_path=None,

opt_algo='gd', learning_rate=1e-2,

        l2_w=0, l2_v=0, random_seed=None):

   Model.__init__(self)

   # 一次、二次交叉、偏置项

   init_vars = [('w', [input_dim, output_dim], 'xavier', dtype),

          ('v', [input_dim, factor_order], 'xavier', dtype),

          ('b', [output_dim], 'zero', dtype)]

   self.graph = tf.Graph()

   with self.graph.as_default():

     if random_seed is not None:

       tf.set_random_seed(random_seed)

     self.X = tf.sparse_placeholder(dtype)

     self.y = tf.placeholder(dtype)

     self.vars = init_var_map(init_vars, init_path)

     w = self.vars['w']

     v = self.vars['v']

     b = self.vars['b']

     # [(x1+x2+x3)^2 - (x1^2+x2^2+x3^2)]/2

     # 先计算所有的交叉项，再减去平方项(自己和自己相乘)

     X_square = tf.SparseTensor(self.X.indices, tf.square(self.X.values),

tf.to_int64(tf.shape(self.X)))

     xv = tf.square(tf.sparse_tensor_dense_matmul(self.X, v))

     p = 0.5 * tf.reshape(

       tf.reduce_sum(xv - tf.sparse_tensor_dense_matmul(X_square, tf.square(v)),

1),

       [-1, output_dim])

     xw = tf.sparse_tensor_dense_matmul(self.X, w)

     logits = tf.reshape(xw + b + p, [-1])

剩余23页未读，继续阅读

评论收藏

内容反馈

八位数花园

粉丝: 42
资源: 282

从FM推演各深度CTR预估模型(附代码)1

评论0

最新资源

从FM推演各深度CTR预估模型(附代码)1

评论0

CTR预估模型原文汇总

Python实现FM算法解析

CTR_NN:基于深度学习的CTR预估，从FM推演各深度学习CTR预估模型（附代码）

CTR prediction using Neural Network methods 基于深度学习的CTR预估，从FM推演各深

基于深度学习的CTR预估，从FM推演各深度学习CTR预估模型（附代码）.zip

基于深度学习的CTR预估，从FM推演各深度学习CTR预估模型

毕设&课程作业_基于深度学习的CTR预估，从FM推演各深度学习CTR预估模型.zip

CTR预估神器deepFM

深度学习在美团搜索广告排序的应用实践.pdf

DeepFM_with_PyTorch_deepfmpytorch_pytorch实现deepFM_ctr_Python推荐系统

CTR_DeepModel_Keras:CTR深度学习模型Keras实现

ctr_data.csv

CTR:CTR模型代码和学习笔记总结

DeepFM-IJCAI2017.pdf

DeepCTR-Torch：【PyTorch】基于深度学习的CTR模型的易于使用，模块化和可扩展的软件包

自学-CTR深度学习网络：FM、DeepFM、PNN、NFM、DCN、Wide&Deep等.zip

FM62429 电子音量IC驱动代码， PT2314音效IC驱动代码

射频卡文档及fm17550设备开发代码

FM25L04B(铁电存储器)源代码

android 收音机 FM 驱动 hal层 框架层以及应用层代码

FM 调频波调制解调 FPGA Verilog 代码 Xilinx Vivado 工程

第十五届蓝桥杯大赛软件赛省赛-PythonB组题目

YOLOV5口罩检测数据集+代码+模型 2000张标注好的数据+教学视频.zip

（免费）Chrome浏览器插件axure-chrome-extension

axure谷歌浏览器插件

免费插件-AI插件-illustrator插件集合-尺寸标注-智能填充-颜色自动处理-自动批处理-Windows安装包.zip

第十五届蓝桥杯大赛软件赛省赛-PythonA组题目

火狐Firefox浏览器的插件Video DownloadHelper 8.0 的合作应用VdhCoAppSetup2.0.19

最新版YS9082HC主控开卡工具 YS9082HC-MPToolV8.00.00.18.826-HCS1A25E2023062

最新资源

android 收音机 FM 驱动 hal层框架层以及应用层代码