Impala基本架构介绍

广告位

Impala最初是由Cloudera公司开发的,其最初设计动机是充分结合传统数据库与大数据系统Hadoop的优势,构造一个全新的、支持SQL与多租户、并具备良好的灵活性和扩展性的高性能查询引擎。

Impala采用了对等式架构,所有角色之间是对等的,没有主从之分。Impala主要由三类服务组件构成,分别为Catalogd、Statestored和Impalad。

Impala基本架构介绍

  • Catalogd:元信息管理服务。它从hive metastore中同步表信息,并将任何元信息的改变通过catalogd广播给各个Impalad服务。需要注意的是,在一个大数据数据仓库中,元数据一般很大,不同数据表的访问频度不同,为此,Catalogd仅仅载入每张表的概略信息,更为详细的信息将由后台进程从第三方存储中延迟载入。
  • Statestored:状态管理服务器。元数据订阅-发布服务,它是单一实例(存在单点故障问题),将集群元数据传播到所有的Impalad进程。MPP数据库设计的一大挑战是实现节点间协调和元数据同步,Impala对称的节点架构要求所有的节点必须都能够接收并执行查询,因此所有节点必须有系统目录结构的最新版本和集群成员关系的当前视图,而Statestored正是负责以上这些功能,即将所有元信息及其修改同步到各个Impalad。
  • Impalad,同时承担协调者和执行者双重角色。首先,对于某一查询,作为协调者,接收客户端查询请求并对其进行词法分析、语法分析、生成逻辑查询计划以及物理查询计划,之后将各个执行片段(segement)调度到Impalad上执行;其次,接收从其他Impalad发过来的单个执行片段,利用本地资源(CPU、内存等)处理这些片段,并进一步将查询结果返回给协调者。Impalad一般部署在集群中运行Datanode进程的所有机器上,进而利用数据本地化的特点而不必通过网络传输即可在文件系统中读取数据块。

Impala前端负责将SQL编译为可执行的查询计划,它由SQL解析器、基于成本(cost-based)的优化器组成。它的查询编译阶段遵循经典的实现方式:分为查询解析、语义分析、查询计划/优化等几个模块。最大挑战来自查询计划器,它将执行计划为两个阶段:单点计划;计划并行和分割。

第一阶段,将解析树转换为单点计划树,这包括如下内容:HDFS/HBase扫描、hashjoin、crossjoin、union、hash聚集、sort、top-n和分析评估等。它基于分析评估结果,进行谓词下推、相关列投影、分区剪枝、设置限制(limit)/偏移并完成一些基于成本的优化比如排序、合并分析窗口函数和join重排序等。

第二阶段,将单个节点的计划转换为分布式的执行计划,基本目标在于最小化数据移动和最大化本地数据扫描,它通过在计划节点间增加必要的交换节点实现分布式,通过增加额外的非交换节点最小化网络间的数据移动,在此阶段,生成物理的join策略。Impala支持两种分布式join方式,表广播(broadcast)和哈希重分布(parittioned):表广播方式保持一个表的数据不动,将另一个表广播到所有相关节点;哈希重分布的原理是根据join字段哈希值重新分布两张表数据。

在Impala中,分布式计划中的聚集函数会被分拆为两个阶段执行。第一阶段:针对本地数据进行本地分组聚合以降低数据量,并进行数据重分布;第二阶段:进一步汇总之前的局部聚集结果计算出最终结果。

本文来自网络,不代表技术学习分享_一航技术立场,转载请注明出处。

作者: 一航技术

上一篇
下一篇
广告位

发表回复

返回顶部