没有合适的资源?快使用搜索试试~ 我知道了~
基于用户注意力与视觉注意力的社交图像描述_褚晓亮1
需积分: 0 0 下载量 155 浏览量
2022-08-04
11:24:14
上传
评论
收藏 845KB PDF 举报
温馨提示
![preview](https://dl-preview.csdnimg.cn/86320736/0001-4cc487547c64872d77912518f443d0dc_thumbnail.jpeg)
![preview-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/scale.ab9e0183.png)
试读
5页
摘要:图像描述是机器学习和计算机视觉的重要研究领域,但现有方法对于视觉特征和模型架构之间存在的语义信息关联性探索还存在不足. 本文提出了一种基于用户标签、视觉特
资源详情
资源评论
资源推荐
![](https://csdnimg.cn/release/download_crawler_static/86320736/bg1.jpg)
基于用户注意力与视觉注意力的社交图像描述
①
褚晓亮,朱连章,吴春雷
(中国石油大学(华东)计算机与通信工程学院,青岛266000)
通讯作者:吴春雷,E-mail:wuchunlei06@163.com
摘 要:图像描述是机器学习和计算机视觉的重要研究领域,但现有方法对于视觉特征和模型架构之间存在的语义
信息关联性探索还存在不足.本文提出了一种基于用户标签、视觉特征的注意力模型架构,能够有效地结合社交图
像特征和图像中用户标签生成更加准确的描述.我们在MSCOCO数据集上进行了实验来验证算法性能,实验结果
表明本文提出的基于用户标签、视觉特征的注意力模型与传统方法相比具有明显的优越性.
关键词:社交图像描述;用户注意力;视觉注意力;用户标签;长短时记忆网络
引用格式:褚晓亮,朱连章,吴春雷.基于用户注意力与视觉注意力的社交图像描述.计算机系统应用,2018,27(8):209–213.http://www.c-s-
a.org.cn/1003-3254/6501.html
Social Image Caption with Visual Attention and User Attention
CHUXiao-Liang,ZHULian-Zhang,WUChun-Lei
(CollegeofComputer&CommunicationEngineering,ChinaUniversityofPetroleum,Qingdao266000,China)
Abstract:Imagecaptioninghasattractedmuchattentioninthefieldofmachinelearningandcomputervision.Itisnot
onlyanimportantpracticalapplication,butalsoachallengeforimageunderstandinginthefieldofcomputervision.
Nevertheless,existingmethodsaresimplyrelyonseveraldifferentvisualfeaturesandmodelarchitectures,thecorrelation
betweenvisualfeaturesandusertagshasnotbeenfullyexplored.Thisstudyproposesamultifacedattentionmodelbased
onusertagsandvisualfeatures.Thismodelcanautomaticallychoosemoresignificantimagefeaturesorcontaintheuser
semanticinformation.TheexperimentsareconductedonMSCOCOdataset,andtheresultsshowthattheproposed
algorithmoutperformsthepreviousmethods.
Key words:socialimagecaptioning;userattention;visualattention;usertags;LSTM
1引言
随着深度学习的兴起,图像描述
[1]
已成为计算机视
觉和机器学习领域的热门研究,它的具体任务是给定
一张图像产生针对该幅图像的描述.目前主流算法是
在生成的每个词与图像区域间建立对应关系来生成描
述.Facebook,Twitter等社交网站的兴起让社交图片已
成为人们展示自我的一种重要方式,社交图片与用户
的个人喜好、习惯等紧密相连,与传统的图片相比,它
更加个性化,用户可以通过标签对社交图片进行标记
来表明自己的关注点与个人喜好.然而现有的方法并
没有直接针对于社交图像来产生描述.因此,本文提出
一种基于图片视觉特征与用户标签的社交图像描述方
法,该方法利用图片的视觉特征与用户标签这两种模
态进行分析,然后利用注意力机制将图像特征和用户
标签的语义信息相结合来生成更加准确的描述.
2相关工作
2.1 基于注意力的图像描述模型
Vinyals等人采用了encoder-decoder架构进行图
计算机系统应用ISSN1003-3254,CODENCSAOBN E-mail:csa@iscas.ac.cn
ComputerSystems&Applications,2018,27(8):209−213[doi:10.15888/j.cnki.csa.006501] http://www.c-s-a.org.cn
©中国科学院软件研究所版权所有. Tel:+86-10-62661041
①基金项目:国家科技部创新方法工作专项(2015IM010300)
Foundationitem:SpecialProjectforInnovativeWorkMethodofMinistryofScienceandTechnology(2015IM010300)
收稿时间:2018-01-02;修改时间:2018-02-01;采用时间:2018-02-06;csa在线出版时间:2018-07-28
SoftwareTechnique•Algorithm软件技术•算法209
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083646.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![rar](https://img-home.csdnimg.cn/images/20210720083606.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083646.png)
![zip](https://img-home.csdnimg.cn/images/20210720083736.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![pdf](https://img-home.csdnimg.cn/images/20210720083512.png)
![avatar](https://profile-avatar.csdnimg.cn/90f9ba6c8ea6443db2d2bcc811adaf59_weixin_35834687.jpg!1)
本本纲目
- 粉丝: 27
- 资源: 293
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助
![voice](https://csdnimg.cn/release/downloadcmsfe/public/img/voice.245cc511.png)
![center-task](https://csdnimg.cn/release/downloadcmsfe/public/img/center-task.c2eda91a.png)
安全验证
文档复制为VIP权益,开通VIP直接复制
![dialog-icon](https://csdnimg.cn/release/downloadcmsfe/public/img/green-success.6a4acb44.png)
评论0