当前位置: 首页 > news >正文

新网站多久会被百度收录西安企业建站价格

新网站多久会被百度收录,西安企业建站价格,用dz做网站怎么设置数据库,机械加工外协加工网目录 Impala与Hive的异同 数据存储 元数据 SQL解释处理 执行计划#xff1a; 数据流#xff1a; 内存使用#xff1a; 调度#xff1a; 容错#xff1a; 适用面#xff1a; Impala相对于Hive所使用的优化技术 Impala的优缺点 Impala与Hive的异同 数据存储 …目录 Impala与Hive的异同 数据存储 元数据 SQL解释处理 执行计划 数据流 内存使用 调度 容错 适用面 Impala相对于Hive所使用的优化技术 Impala的优缺点 Impala与Hive的异同 数据存储 使用相同的存储数据池都支持把数据储于HDFS, HBase。 元数据 两者使用相同的元数据。 SQL解释处理 比较相似都是通过词法分析生成执行计划。 执行计划 Hive: 依赖于MapReduce执行框架执行计划分成map-shuffle-reduce-map-shuffle-reduce…的模型。如果一个Query会被编译成多轮MapReduce则会有更多的写中间结果。由于MapReduce执行框架本身的特点过多的中间过程会增加整个Query的执行时间。 Impala: 把执行计划表现为一棵完整的执行计划树可以更自然地分发执行计划到各个Impalad执行查询而不用像Hive那样把它组合成管道型的map-reduce模式以此保证Impala有更好的并发性和避免不必要的中间sort与shuffle。 数据流 Hive: 采用推的方式每一个计算节点计算完成后将数据主动推给后续节点。 Impala: 采用拉的方式后续节点通过getNext主动向前面节点要数据以此方式数据可以流式的返回给客户端且只要有1条数据被处理完就可以立即展现出来而不用等到全部处理完成更符合SQL交互式查询使用。 内存使用 Hive: 在执行过程中如果内存放不下所有数据则会使用外存以保证Query能顺序执行完。每一轮MapReduce结束中间结果也会写入HDFS中同样由于MapReduce执行架构的特性shuffle过程也会有写本地磁盘的操作。 Impala: 在遇到内存放不下数据时当前版本1.0.1是直接返回错误而不会利用外存以后版本应该会进行改进。这使用得Impala目前处理Query会受到一定的限制最好还是与Hive配合使用。Impala在多个阶段之间利用网络传输数据在执行过程不会有写磁盘的操作insert除外。 调度 Hive: 任务调度依赖于Hadoop的调度策略。 Impala: 调度由自己完成目前只有一种调度器simple-schedule它会尽量满足数据的局部性扫描数据的进程尽量靠近数据本身所在的物理机器。调度器目前还比较简单在SimpleScheduler::GetBackend中可以看到现在还没有考虑负载网络IO状况等因素进行调度。但目前Impala已经有对执行过程的性能统计分析应该以后版本会利用这些统计信息进行调度吧。 容错 Hive: 依赖于Hadoop的容错能力。 Impala: 在查询过程中没有容错逻辑如果在执行过程中发生故障则直接返回错误这与Impala的设计有关因为Impala定位于实时查询一次查询失败再查一次就好了再查一次的成本很低。但从整体来看Impala是能很好的容错所有的Impalad是对等的结构用户可以向任何一个Impalad提交查询如果一个Impalad失效其上正在运行的所有Query都将失败但用户可以重新提交查询由其它Impalad代替执行不会影响服务。对于State Store目前只有一个但当State Store失效也不会影响服务每个Impalad都缓存了State Store的信息只是不能再更新集群状态有可能会把执行任务分配给已经失效的Impalad执行导致本次Query失败。 适用面 Hive: 复杂的批处理查询任务数据转换任务。 Impala实时数据分析因为不支持UDF能处理的问题域有一定的限制与Hive配合使用,对Hive的结果数据集进行实时分析。 Impala相对于Hive所使用的优化技术 1、没有使用MapReduce进行并行计算虽然MapReduce是非常好的并行计算框架但它更多的面向批处理模式而不是面向交互式的SQL执行。与MapReduce相比Impala把整个查询分成一执行计划树而不是一连串的MapReduce任务在分发执行计划后Impala使用拉式获取数据的方式获取结果把结果数据组成按执行树流式传递汇集减少的了把中间结果写入磁盘的步骤再从磁盘读取数据的开销。Impala使用服务的方式避免每次执行查询都需要启动的开销即相比Hive没了MapReduce启动时间。 2、使用LLVM产生运行代码针对特定查询生成特定代码同时使用Inline的方式减少函数调用的开销加快执行效率。 3、充分利用可用的硬件指令SSE4.2。 4、更好的IO调度Impala知道数据块所在的磁盘位置能够更好的利用多磁盘的优势同时Impala支持直接数据块读取和本地代码计算checksum。 5、通过选择合适的数据存储格式可以得到最好的性能Impala支持多种存储格式。 6、最大使用内存中间结果不写磁盘及时通过网络以stream的方式传递。 Impala的优缺点 优点 支持SQL查询快速查询大数据。可以对已有数据进行查询减少数据的加载转换。多种存储格式可以选择Parquet, Text, Avro, RCFile, SequeenceFile。可以与Hive配合使用。 缺点 不支持用户定义函数UDF。不支持text域的全文搜索。不支持Transforms。 不支持查询期的容错。对内存要求高。传送门 大数据生态圈常用组件一数据库、查询引擎、ETL工具、调度工具等
http://wiki.neutronadmin.com/news/392568/

相关文章:

  • 企业网站推广技巧php网站开发工程师职责
  • 翻译建设网站山东seo多少钱
  • 网站外包一般多少钱啊永定门网站建设
  • 自己做网站销售中山三水网站建设
  • 网站建设阿里广西建设银行行号查询网站
  • 哪个网站做ppt能赚钱广州网站建设有哪些公司
  • 网站建设的目标是什么?提供了哪些栏目?南昌网站建设联系方式
  • 网站建栏目建那些成都网站设计费用
  • 协会网站开发免费注册个人网站官网
  • 汽车用品网站建设策划书appstore下载免费软件
  • 做网站需要后台吗做网站需要什么认证
  • 网页设计软件列表点击查看代码pc网站优化排名
  • 上海工商网站官网专题网站怎么做
  • 做a小视频免费观看网站望京 网站建设
  • 外国网站服务器wordpress怎么保存图片
  • 网页设计网站怎么放到域名里你好多莉wordpress
  • 步步高学习机进网站怎么做已经备案的域名做电影网站
  • 没有网站做淘宝客深圳建网站多少钱
  • html 类似淘宝购物网站上加载时获取属性并可多选过滤 代码网络营销就是网站营销
  • 图片模板网站安全管理平台
  • 给别人做网站多少钱WordPress无法下单
  • 长安网站建设公司公司简介模板word
  • 官网指的是什么网站建设网站有哪些方法
  • 自己做的网站邮箱更改密码程序为什么总出错艺术字体在线生成器转换器
  • wordpress做网站好吗wordpress改成ajax
  • 如何用手机做网站wordpress添加自定义按钮
  • 茂名建网站腾讯云服务器怎么搭建网站
  • 浙江省工程建设质量管理协会 网站电子销售网站模板
  • 外贸网站做推广可视化网站制作软件
  • 广元单页网站制作漯河网站推广公司