7.1 与Hadoop生态集成:数据本地性的调度红利


文档摘要

7.1 与Hadoop生态集成:数据本地性的调度红利 本节摘要:Spark 与 Hadoop 的集成走两条线——HDFS 作为存储层提供块位置信息、Hive 仓库提供 metastore 元数据服务。块位置让调度器能优先派发本地任务,节省的是真实网络搬运。本节拆解这条红利链,并看 Hive 仓库表的读写路径。 最后一章从引擎与存储的握手开始。 会员。《7.1 与Hadoop生态集成:数据本地性的调度红利》收录于灏天文库文集《Spark大数据分析与处理实战》,原作者/来源:灏天文库,整理自「灏天文库」,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。本站整理收录,版权归原作者/开源协议所有。

该文档为会员专享,请先登录或注册后再查看


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U