东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路

所需积分/C币:34 2017-11-12 15:17:18 2.37MB PDF
43
收藏 收藏
举报

解析多样性的应用和深度神经网络框架模型,建立问题统一、深度模型统一、算法统一和计算统一的基本框架,从本质上理解深度学习的基本原理,提高解决实际应用问题的能力。
长尾模式的需求、挑战和机遇 rc ntel lab 数据&智能实验室 互联网是去中心化的体系结构 联结人、物和信息 公平、正义、自由、开放 无法垄断的人工智能 现代开放学术体系和开放、融合的社会发展趋势 竞争和开源的计算体系结构、智能模型和理论解释 智能模型设计的工程性质和社会群体行为特性 智能模型的探索和通用人工智能的困难 去中心化技术的快速发展 小份额、高竞争、标准化、初级应用 语音识别、会话等应用 计算视觉:识别、场景、视觉智能 自然语言处理、自然语言理解 东南大学数据与智能实验室(D& nte lab) 应 用 1.工程问题 rc ntel lab ①索引在大规模学习中的应用(权更新的稀疏性) 数据&智能实验室 问②大规模认知计算(异步和SP模型以及在移动环境下的异步问题 题 ③深度学习可视化和调试策略 ④深度学习的模式设计(博弈架构、概率图架构、动态学习架构) 的⑤边缘设备的快速部署 多2.数据问题 样 ①动态性和结构性(图结构、组合结构和层次结构) ②稀疏性、非均衡性、长尾巴分布 性 ③数据+知识+规则的问题 ④数据稀缺问题(转移学习、半/弱监督学、 Distant Learning) ⑤复杂干扰噪声和自主不变性问题 3.任务问题:细粒度、场景、结构和推理 基于关注的视觉和文本处理问题(结构化 基于知识的细粒度方法(知识 boosting) 具体应用问题 ①大规模图结构数据 ·知识编码、基于神经网络的推理 ②深度学习&路径索引或语义索引 ③多模态QA问题 ④受限特征学习(慢特征、风格特征、可分离、可理解特征学习) 东南大学数据与智能实验室(D& nte lab) 长尾模式的需求、挑战和机遇 rc ntel lab 数据&智能实验室 Focusing on a small number Focusing on a large number of products with low volume of products with large volume number of products number of products 多样性和统 In other words, when some assumptions取 the model class e. g. deer composition of piecewise linear transformationsare approximately satisfied by the target function one can get verv good gene则k 玩 ion compared to methods whic喊rl assumption However, a recent paper (Zhang et al. 东南大学数据与智能实验室(D& nte lab) 应用场景的统一性 rc ntel lab 数据&智能实验室 数据 甚至都不能说清楚这些数据的结构、如何产生的 不知道价值目标 数据和价值目标 不知道如何实现目标 不知道怎么建模 数据、价值目标、方法 更快的算法 更好的用户体验 更深入的价值 东南大学数据与智能实验室(D& nte lab) 提纲 D'& ntel lab 数据&智能实验室 1.长尾模式的需求、挑战和机遇(多样性) 互联网、大数据、人工智能、去中心化 低频高价值的长尾需求模式 1.深度模型模式设计策略(统一性) 抽象、模块化、模式设计和重用 核心竞争力构建:数学、计算、工程、业务领域 学习力:学习动力、态度、能力、效率和创新、创造 工程模式(系统性和效率) 数据模型、结构模型、计算模型 东南大学数据与智能实验室(D8 nte lab) 应用问题的统一性 rc ntel lab 数据&智能实验室 What's Required Data Science requires a thorough blending of computational thinking and inferential thinking Computational thinking means (inter alia) abstraction, modularity, scalability, robustness, etc i Inferential thinking means (inter alia) considering the real-world phenomenon behind the data considering the sampling pattern that gave rise to the data developing procedures that will go "backwards from the i data to the underlying phenomenon 在什么地方?是什么?什么关系?什么场景? 解析分类结构化总体特征 图灵人工智能 东南大学数据与智能实验室(D8 nte lab) 模式设计策略-深度神经网络计算 高维复杂函数的逼近器学习优化 Image recognition: ·Y=F(X) Framework )=“cat 最简逼近形式 傅立叶级数展开 A set of Model GO cat A()= money function Better 演变 fc A() snake Y服从N(F(X),|)的分布 Goodness of function f P(Y X Supervised Learning Y=F(X,e)的样本 Training function input: e是服从标准正态分布 Data function output: "monkey cat"“dog 东南大学数据与智能实验室(D8 nte lab) 模式设计策略-深度神经网络计算 后验概率推理和重参数化技巧 PGH|V)=N(F(),|) H =F(V, e) EpGH|Yf(x,H)}≈1/L∑f(X,H) 概率分布比较 P1(X)≈=P2(X ·策略(关注->结构) amples Latent 回ae c。 trect Discriminator Generator Generated e amples Fineunefainmin N。ise 东南大学数据与智能实验室(D&lnte|Lab)

...展开详情
试读 33P 东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路
立即下载 身份认证后 购VIP低至7折
一个资源只可评论一次,评论内容不能少于5个字
您会向同学/朋友/同事推荐我们的CSDN下载吗?
谢谢参与!您的真实评价是我们改进的动力~
  • 分享宗师

关注 私信
上传资源赚钱or赚积分
最新推荐
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路 34积分/C币 立即下载
1/33
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第1页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第2页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第3页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第4页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第5页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第6页
东南大学崇志宏:长尾模式的深度学习实践——数据科学家、工程师成长之路第7页

试读结束, 可继续读3页

34积分/C币 立即下载