怎
样
将
E
m
beddi
n
g
融
⼊
传
统
机
器
学
习
框架
？
⽂
|
⽯
塔
⻄
@
知
乎
本
⽂
已
获
作
者
转载
授
权
，
禁
⽌
⼆
次
转载
LR
本
身
是
⼀个
经
典
的
CTR
模
型
，
⼴
泛
应
⽤
于
推
荐
/
⼴
告
系统
。
输
⼊
的
特
征
⼤多
数
是
离
散
型
/
组
合
型
。
那
么
对
于
Embedding
技
术
，
如
何
在
不
使
⽤
深
度
学
习
模
型
的
情
况
下（
假
设
就
是
不
能
⽤
DNN
），
融
⼊到
LR
框架
中
呢
？
让
我
们
来
看看
清
华
⼤
学
的
博
⼠
⽯
塔
⻄
⼤
佬
是
如
何
解
答
的
。
问题
实
战意
义
其
实
这
个
问题
可
以
再
扩
展
⼀下，
即
，
如
何
在
传
统
机
器
学
习
算
法
（
LR/GBDT
）
中使
⽤
Embedding
信
息
。
这
个
问题
并
⾮
空⽳
来
⻛
，
⽽
是有
⼀
定
的
实
战
价
值
。
⽬
前
DNN
热
度
不
减
，
基
本
上
成
为
推
荐
、
搜
索系统
的
标
配
算
法
。
传
统
机
器
学
习
算
法
，
如
LR
、
GBDT
，
纷纷
被
打
⼊冷
宫
，
得
不
到关
注
。
⾄
于为什么
DNN
能
够
成
功
上
位
，
独
占各
位
打
⼯
⼈
的
欢
⼼
，
请
参
考
我
的
⽂
章
《
⽆
中
⽣
有
：
论
推
荐
算
法
中
的
Embedding
思
想
》
[1]
。
但
是
，
DNN
有
⼀个
致
命
缺
点
，
就
是
上
线
困
难
。
训
练
的
时
候
，
各
位
调
参
侠
，
把
各
种
酷
炫
的
结
构
，
什么
attention, transformer, capsule
，
能
加
上
的
都
给
它
加
上，
看着
离
线
指
标
⼀
路
上
涨
，
⼼
⾥
和
脸
上
都
乐
开
了
花
，
却
全
然
⽆
视
旁
边
的
后
端
⼯
程
师
恨得
咬
紧
了
⽛
根
。
模
型
越
复
杂
，
离
线
和
线
上
指
标未
必
就
更
好
，
但
是
线
上
的
时
间
开
销
肯
定
会
增
加
，
轻
则
影
响
算
法
与
后
端
的
同
事
关
系
（
打
⼯
⼈何
苦
为
难
打
⼯
⼈
），
重
则
你
那
离
线
指
标
完
美
的
模
型
压
根
没
有
上
线
的
机
会
。
虽
说
，
⽬
前
已
经
有
TF Serving
这
样
的
线
上
serving
框架
，
但
是
它
也
不
是
开
箱
即
⽤
的
，
也
需
要
⼀
系
列
的
性
能
调
优
，
才
能
满
⾜
线
上
的
实
时
性
要
求
。
所
以
，
如
果
你
身
处
⼀个
⼩
团
队
，
后
端
⼯
程
⼈
员
的
技
术
能
⼒
不
强
，
在
线
DNN
就
会
成
为
⼀个
难题
，
这
个
时
候
，
传
统
的
LR
、
GBDT
就
凸
显
出
优
势
。
如
果
全
部
使
⽤
ID
类
特
征
（
实
数
特
征
也
桶
化
成
ID
类
特
征
），
那
么
LR
在
线
上
就
简
化
成
“
查
表
取
权
重
，
再
累
加
“
，
连
乘
法
都
省
了
，
实
时
性
⾃
然
有
保
证
。
但
是
，
如
果
你
想
⻥
与
熊
掌
兼
得
，
既
不
得
不
使
⽤
简
单
的
传
统
机
器
学
习
算
法
，
⼜
想
利
⽤
Embedding
带
来
扩
展
能
⼒
上
的
提
升
，
你
该
怎
么
办
？
唉
，
费
了
半
天
⼝
⾆
，
只
是
解
了
题
⽽
已
，
⽬的
是
为了
说
明
这
⼀
问题
的
实
战意
义
，
引
起
⼤
家对
这
⼀
问题
的
重
视
。
不
推
荐
直
接
使
⽤
Embedding
本
身
⽯
塔
⻄
2020-12-19
22:00
原
创
夕
⼩
瑶
的
卖
萌
屋
