# tansformer-
利用transformer对告警序列进行预测
### 一、原始数据
该数据来自于中国移动举办的基站退服告警预测。(网址:https://js.aiiaorg.cn/match/matchitem/85)
数据形式如下:
告警开始时间 基站名称 告警名称
2019/12/23 15:31 ACZDoAAEEAAAI1wAC8 BBU风扇堵转告警
2019/12/23 16:23 ACZDoAAEEAAAI1wAC8 BBU风扇堵转告警
2019/12/23 16:23 ACZDoAAEEAAAI1wAC8 BBU风扇堵转告警
2019/12/23 17:18 ACZDoAAEEAAAI1wAC8 BBU风扇堵转告警
2019/12/25 15:12 ACZDoAAEEAAAI1wAC8 X2接口故障告警
2019/12/31 7:00 ACZDoAAEEAAAI1wAC8 BBU风扇堵转告警
2019/12/31 10:18 ACZDoAAEEAAAI1wAC8 X2接口故障告警
2020/1/1 9:09 ACZDoAAEEAAAI1wAC8 小区接收通道干扰噪声功率不平衡告警
2020/1/1 16:56 ACZDoAAEEAAAI1wAC8 小区接收通道干扰噪声功率不平衡告警
2020/1/1 19:09 ACZDoAAEEAAAI1wAC8 小区接收通道干扰噪声功率不平衡告警
2020/1/3 9:12 ACZDoAAEEAAAI1wAC8 X2接口故障告警
2020/1/5 10:29 ACZDoAAEEAAAI1wAC8 网元连接中断
### 二、目的
预测未来1天是否会出现重要告警(重要告警有两类,分别是网元连接中断和小区服务中断。)
数据存在严重的样本不平衡现象(label1 : label0 = 0.07:1)。
### 三、transformer
将某个基站的前7天的告警名称作为文本序列,经过embedding(word2vector)后输入到transformer模型中。
因为数据存在样本不平衡现象,故在构建batch样本时,特意挑选50%的正样本,挑选50%的负样本,这样可以在
一定程度上缓解过拟合。当对loss函数根据样本比例去调整,模型效果并没有变好。不知道什么原因。
### 四、模型效果
模型验证集负的log交叉熵只能下降到0.44(前1000个iter即可),当训练集的loss继续下降时,验证机却下降不了。
提交线上的成绩最高0.5(f1 score)。
### 五、模型改进
如果以后有改进的方向,再加上来。
没有合适的资源?快使用搜索试试~ 我知道了~
优秀毕业设计:基于transformer的序列数据二分类完整代码+数据可直接运行
![preview](https://csdnimg.cn/release/downloadcmsfe/public/img/white-bg.ca8570fa.png)
共12个文件
json:6个
py:3个
rawdata:1个
![preview-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/scale.ab9e0183.png)
需积分: 0 100 下载量 92 浏览量
2023-11-16
13:09:11
上传
评论 7
收藏 492KB ZIP 举报
温馨提示
最近 Transformer 在统一建模方面表现出了很大的威力,是否可以将Transformer应用到时序异常检测上引起了很多学者的研究兴趣。 最近来自阿里达摩院、上海交通大学的几位学者就近年来针对时间序列场景中的Transformer模型进行了汇总,在Arxiv上发表了一篇综述。综述涵盖了Transformer针对时序问题下的具体设计,包含预测、异常检测、分类等诸多工业界常用场景,并开源了代码,是非常不错的学习资料。 优秀毕业设计:基于transformer的序列数据二分类完整代码+数据可直接运行
资源推荐
资源详情
资源评论
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
收起资源包目录
![package](https://csdnimg.cn/release/downloadcmsfe/public/img/package.f3fc750b.png)
![folder](https://csdnimg.cn/release/downloadcmsfe/public/img/folder.005fa2e5.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![folder](https://csdnimg.cn/release/downloadcmsfe/public/img/folder.005fa2e5.png)
![folder](https://csdnimg.cn/release/downloadcmsfe/public/img/folder.005fa2e5.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![folder](https://csdnimg.cn/release/downloadcmsfe/public/img/folder.005fa2e5.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
![folder](https://csdnimg.cn/release/downloadcmsfe/public/img/folder.005fa2e5.png)
![file-type](https://csdnimg.cn/release/download/static_files/pc/images/minetype/UNKNOWN.png)
共 12 条
- 1
资源评论
![avatar-default](https://csdnimg.cn/release/downloadcmsfe/public/img/lazyLogo2.1882d7f4.png)
![avatar](https://profile-avatar.csdnimg.cn/96efd2b2b4df4a6bb9342f939c910f99_2301_81159774.jpg!1)
twinkle222
- 粉丝: 955
- 资源: 115
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![voice](https://csdnimg.cn/release/downloadcmsfe/public/img/voice.245cc511.png)
![center-task](https://csdnimg.cn/release/downloadcmsfe/public/img/center-task.c2eda91a.png)
最新资源
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
![feedback](https://img-home.csdnimg.cn/images/20220527035711.png)
![feedback](https://img-home.csdnimg.cn/images/20220527035711.png)
![feedback-tip](https://img-home.csdnimg.cn/images/20220527035111.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![dialog-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/green-success.6a4acb44.png)