没有合适的资源?快使用搜索试试~ 我知道了~
藏经阁-Deep Dive_How Spark Uses Memory-79.pdf
需积分: 0 0 下载量 171 浏览量
2023-08-25
06:56:33
上传
评论
收藏 1.73MB PDF 举报
温馨提示
试读
79页
藏经阁-Deep Dive_How Spark Uses Memory-79.pdf
资源推荐
资源详情
资源评论
Deep Dive:
How Spark Uses Memory
Wenchen Fan
2017-5-19
Agenda
• Memory Usage Overview
• Memory Contention
• Tungsten Memory Format
• Cache-aware Computation
• Future Plans
Where Spark Uses Memory
• storage: memory used to cache data that will be used later.
(controlled by memory manager)
• execution: memory used for computation in shuffles, joins,
sorts and aggregations. (controlled by memory manager)
• others: user data structure, internal metadata, objects
created by UDF, etc.
Iterator
4, 3, 5, 1, 6,
2
Sort
1 2 3 4 5 6
Iterator
1, 2, 3, 4, 5,
6
take(3)
Execution
Memory
What if I want the sorted values again?
剩余78页未读,继续阅读
资源评论
weixin_40191861_zj
- 粉丝: 63
- 资源: 1万+
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功