没有合适的资源?快使用搜索试试~ 我知道了~
微信亿级用户异常检测框架的设计与实践
1.该资源内容由用户上传,如若侵权请联系客服进行举报
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
2.虚拟产品一经售出概不退款(资源遇到问题,请及时私信上传者)
版权申诉
0 下载量 54 浏览量
2022-06-19
10:14:23
上传
评论
收藏 139KB DOCX 举报
温馨提示
试读
12页
微信亿级用户异常检测框架的设计与实践
资源推荐
资源详情
资源评论
异常检测框架设计目标及核心思路
设计目标为了满足在实际场景检测异常用户的要求,在设计初期,我们提出如
下设计目标:
主要用于检测恶意帐号可能存在的环境聚集和属性聚集;
方案需要易于融合现有画像信息等其他辅助信息;
方案需要具有较强的可扩展性,可直接用于亿级别用户基数下的异
常检测。
核心思路
通常基于聚类的异常用户检测思路是根据用户特征计算节点之间的相似度,并
基于节点间相似度构建节点相似度连接图,接着在得到的图上做聚类,以发现
恶意群体。然而,简单的分析就会发现上述方案在实际应用场景下并不现实,
若要对亿级别用户两两间计算相似度,其时间复杂度和空间消耗基本上是不可
接受的。为了解决这一问题,可将整个用户空间划分为若干子空间,子空间内
用户相似度较高,而子空间之间用户之间的相似度则较低,这样我们就只需要
在每个用户子空间上计算节点相似度,避免相似度较低的节点对之间的相似度
计算 (这些边对最终聚类结果影响较低),这样就能大大地降低计算所需的时间
和空间开销。
基于这一想法,同时考虑到恶意用户自然形成的环境聚集和属性聚集,我们可
以根据环境以及用户属性对整个用户空间进行划分,只在这些子空间上计算节
点之间的相似度,并基于得到的用户相似度图挖掘恶意用户群体。此外,直观
上来分析,如果两个用户聚集的维度越“可疑”,则该维度对恶意聚集的贡献度
应该越高,例如,如果两个用户同在一个“可疑”的 IP 下,相比一个正常的 IP
而言,他们之间存在恶意聚集的可能性更高。基于这一直觉,为了在每个用户
子空间内计算用户对之间的相似度,可根据用户聚集维度的可疑度给每个维度
赋予不同的权值,使用所有聚集维度的权值的加权和作为用户间的相似度度量。
注:依据上述思路,需要在属性划分后的子空间计算两两用户之间的相似度,
然而实际数据中特定属性值下的子空间会非常大,出于计算时间和空间开销的
考虑,实际实现上我们会将特别大的 group 按照一定大小 (如 5000) 进行拆
分,在拆分后的子空间计算节点相似度。(实际实验结果表明这种近似并不会对
结果造成较大影响)
异常检测框架设计方案
基于上述思路,异常检测方案需要解决如下几个问题:
如何根据用户特征 / 使用怎样的特征将整个用户空间划分为若干子
空间?
如何衡量用户特征是否“可疑”?
如何根据构建得到的用户相似度关系图找出异常用户群体?
为了解决以上三个问题,经过多轮的实验和迭代,我们形成了一个较为通用的
异常检测方案,具体异常检测方案框架图如图 1 所示:
图 1 异常用户检测框架
如图 1 所示,首先,用户空间划分模块根据“划分属性”将整个用户空间划分为
若干子空间,后续节点间相似度的计算均在这些子空间内部进行;恶意属性检
测模块则根据输入数据自动自适应地识别用户特征中的“可疑”值;用户空间划
分和恶意属性检测完成后,在每个用户子空间上,用户相似度计算模块基于恶
意属性检测得到的恶意属性库和相应的权重策略计算用户之间两两之间的相似
度,对于每个特征以及其对应的不同的可疑程度,权重策略模块会为其分配相
应的权重值,用户间边的权重即为节点所有聚集项权重的加权和,为了避免建
边可能带来的巨大空间开销,方案仅会保留权值大于一定阈值的边;得到上一
步构建得到的用户相似度关系图后,可使用常用的图聚类算法进行聚类,得到
可疑的恶意用户群体。
剩余11页未读,继续阅读
资源评论
码农.one
- 粉丝: 7
- 资源: 345
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 基于Vue的medical-vue医疗挂号系统设计源码
- Python解析网页.xmind
- PMV185XN-VB一款N-Channel沟道SOT23的MOSFET晶体管参数介绍与应用说明
- PMV170UN-VB一款N-Channel沟道SOT23的MOSFET晶体管参数介绍与应用说明
- 基于Java的长理教务管理系统设计源码
- PMV16UN-VB一款N-Channel沟道SOT23的MOSFET晶体管参数介绍与应用说明
- 永磁同步电机-用STM32F103C8T6实现PMSM矢量控制.rar
- PMV160UP-VB一款P-Channel沟道SOT23的MOSFET晶体管参数介绍与应用说明
- 3dmax超级弯曲 暴力弯曲插件
- candence原理图批量换网络的快捷操作
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功