精华内容
下载资源
问答
  • hive严格模式

    万次阅读 2014-02-24 22:55:04
    hive严格模式
    hive严格模式 
             hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格
    模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止3中类型的查询。


    1)带有分区的表的查询
            如果在一个分区表执行hive,除非where语句中包含分区字段过滤条件来显示数据范围,否则不允许执行。换句话说,
    就是用户不允许扫描所有的分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。
           如果没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表:
           hive> SELECT DISTINCT(planner_id) FROM fracture_ins WHERE planner_id=5;
           FAILED: Error in semantic analysis: No Partition Predicate Found for Alias "fracture_ins" Table "fracture_ins


           如下这个语句在where语句中增加了一个分区过滤条件(也就是限制了表分区):
           hive> SELECT DISTINCT(planner_id) FROM fracture_ins
           > WHERE planner_id=5 AND hit_date=20120101;
           ... normal results ...


     2)带有orderby的查询
             对于使用了orderby的查询,要求必须有limit语句。因为orderby为了执行排序过程会讲所有的结果分发到同一个reducer中
      进行处理,强烈要求用户增加这个limit语句可以防止reducer额外执行很长一段时间:
    hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id;
    FAILED: Error in semantic analysis: line 1:56 In strict mode,
    limit must be specified if ORDER BY is present planner_id


            只需要增加limit语句就可以解决这个问题:
    hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id
            > LIMIT 100000;
            ... normal results ...


      3)限制笛卡尔积的查询
             对关系型数据库非常了解的用户可能期望在执行join查询的时候不使用on语句而是使用where语句,这样关系数据库的执行
      优化器就可以高效的将where语句转换成那个on语句。不幸的是,hive不会执行这种优化,因此,如果表足够大,那么这个查询就会
      出现不可控的情况:
      hive> SELECT * FROM fracture_act JOIN fracture_ads
    > WHERE fracture_act.planner_id = fracture_ads.planner_id;
    FAILED: Error in semantic analysis: In strict mode, cartesian product
    is not allowed. If you really want to perform the operation,
    +set hive.mapred.mode=nonstrict+


            下面这个才是正确的使用join和on语句的查询:
    hive> SELECT * FROM fracture_act JOIN fracture_ads
            > ON (fracture_act.planner_id = fracture_ads.planner_id);
            ... normal results ...
    展开全文
  • hive 严格模式

    2019-07-18 17:44:28
    1. hive严格模式 hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止3中类型的查询。 (1) 查询一...

    hive 严格模式的情况下,left join或join的on条件必须包含分区字段,记录一下

    下面附上hive的严格模式说明

    【转】

    1. hive严格模式
    hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止3中类型的查询。

    (1) 查询一个分区表时
    如果在一个分区表执行hive,除非where语句中包含分区字段过滤条件来显示数据范围,否则不允许执行。换句话说,就是用户不允许扫描所有的分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。 如果没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表:例如

     


    hive> select * from t_patition;
    FAILED: SemanticException [Error 10041]: No partition predicate found for Alias "t_patition" Table "t_patition"



    注意查询的时候加上分区:


    hive> select * from t_patition where country=’China’;


     

    (2)带有order by的查询
    对于使用了orderby的查询,要求必须有limit语句。因为orderby为了执行排序过程会讲所有的结果分发到同一个reducer中进行处理,强烈要求用户增加这个limit语句可以防止reducer额外执行很长一段时间:


    hive> select * from student order by id;

    FAILED: SemanticException 1:31 In strict mode, if ORDER BY is specified, LIMIT must also be specified. Error encountered near token 'id'



    注意查询的时候加上limit:


    select * from student order by id limit 10;


     

    (3) 限制笛卡尔积的查询
    对关系型数据库非常了解的用户可能期望在执行join查询的时候不使用on语句而是使用where语句,这样关系数据库的执行优化器就可以高效的将where语句转换成那个on语句。不幸的是,hive不会执行这种优化,因此,如果表足够大,那么这个查询就会出现不可控的情况:


    hive> SELECT * FROM fracture_act JOIN fracture_ads
    > WHERE fracture_act.planner_id = fracture_ads.planner_id;
    FAILED: Error in semantic analysis: In strict mode, cartesian product
    is not allowed. If you really want to perform the operation,
    +set hive.mapred.mode=nonstrict+



    注意查询的时候使用join和on语句的查询:


    hive> SELECT * FROM fracture_act JOIN fracture_ads
    > ON (fracture_act.planner_id = fracture_ads.planner_id);

    展开全文
  • Hive 严格模式

    2019-09-09 20:09:14
    Hive严格模式 严格模式阻挡5类查询: 1、笛卡尔积 set hive.mapred.mode=strict; select * from dy_part1 d1 join dy_part2 d2 ; 2、分区表没有分区字段过滤 set hive.mapred.mode=strict; select * from dy_part1 ...

    Hive严格模式

    严格模式阻挡5类查询:
    1、笛卡尔积

    set hive.mapred.mode=strict;
    select
    *
    from dy_part1 d1
    join dy_part2 d2
    ;
    

    2、分区表没有分区字段过滤

    set hive.mapred.mode=strict;
    select
    *
    from dy_part1 d1
    where d1.dt='2019-09-09'
    ;
    
    //不行
    select
    *
    from dy_part1 d1
    where d1.id > 2
    ;
    
    select
    *
    from dy_part2 d2
    where d2.year >= 2019
    ;
    
    

    3、order by不带limit查询

    select
    *
    from log3
    order by id desc
    ;
    

    4、(bigint和string比较)Comparing bigints and strings.

    5、(bigint和double比较)Comparing bigints and doubles.

    展开全文
  • Hive严格模式

    2019-07-09 21:47:47
    hive严格模式           hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格 模式下无法执行。通过设置hive.mapred.mode的值为...

    hive严格模式 

             hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格

    模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止3中类型的查询。



    1)带有分区的表的查询

            如果在一个分区表执行hive,除非where语句中包含分区字段过滤条件来显示数据范围,否则不允许执行。换句话说,

    就是用户不允许扫描所有的分区。进行这个限制的原因是,通常分区表都拥有非常大的数据集,而且数据增加迅速。

           如果没有进行分区限制的查询可能会消耗令人不可接受的巨大资源来处理这个表:

           hive> SELECT DISTINCT(planner_id) FROM fracture_ins WHERE planner_id=5;

           FAILED: Error in semantic analysis: No Partition Predicate Found for Alias “fracture_ins” Table "fracture_ins



           如下这个语句在where语句中增加了一个分区过滤条件(也就是限制了表分区):

           hive> SELECT DISTINCT(planner_id) FROM fracture_ins

           > WHERE planner_id=5 AND hit_date=20120101;

           … normal results …



     2)带有orderby的查询

             对于使用了orderby的查询,要求必须有limit语句。因为orderby为了执行排序过程会讲所有的结果分发到同一个reducer中

      进行处理,强烈要求用户增加这个limit语句可以防止reducer额外执行很长一段时间:
    hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id;
    FAILED: Error in semantic analysis: line 1:56 In strict mode,
    limit must be specified if ORDER BY is present planner_id



            只需要增加limit语句就可以解决这个问题:
    hive> SELECT * FROM fracture_ins WHERE hit_date>2012 ORDER BY planner_id

            > LIMIT 100000;

            … normal results …



      3)限制笛卡尔积的查询

             对关系型数据库非常了解的用户可能期望在执行join查询的时候不使用on语句而是使用where语句,这样关系数据库的执行

      优化器就可以高效的将where语句转换成那个on语句。不幸的是,hive不会执行这种优化,因此,如果表足够大,那么这个查询就会

      出现不可控的情况:

      hive> SELECT * FROM fracture_act JOIN fracture_ads
    > WHERE fracture_act.planner_id = fracture_ads.planner_id;
    FAILED: Error in semantic analysis: In strict mode, cartesian product
    is not allowed. If you really want to perform the operation,
    +set hive.mapred.mode=nonstrict+



            下面这个才是正确的使用join和on语句的查询:
    hive> SELECT * FROM fracture_act JOIN fracture_ads

            > ON (fracture_act.planner_id = fracture_ads.planner_id);

            … normal results …

    展开全文
  • HIVE严格模式

    2017-06-09 15:33:43
    一、启动nohup hive --service hiveserver2 --hiveconf hive.mapred.mode=strict & 二、作用严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格 模式下无法执行。通过设置hive....
  • hive严格模式和非严格模式的区别 hive严格模式 hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格 模式下无法执行。 1)带有分区的表的查询 如果在一个分区表...
  • hive严格模式strict

    2019-03-04 16:36:23
    hive严格模式 hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格 模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止3中类型的查询。 1)带有...
  • hive严格模式 :In strict mode hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好的效果的查询。即某些查询在严格 模式下无法执行。通过设置hive.mapred.mode的值为strict,可以禁止以下3种...
  • hive提数时出现了如下报错:Error while compiling statement: FAILED: ...这是因为hive提供了一个严格模式,可以防止用户执行那些可能产生意想不到的不好效果的查询。即某些查询在严格模式下无法执行。 sample 1...
  • Hive提供了一个严格模式,可以防止用户执行那些可能意向不到的不好的影响的查询。 通过设置属性hive.mapred.mode值为默认是非严格模式nonstrict 。开启严格模式需要修改hive.mapred.mode值为strict,开启严格模式...
  • hive中提供了一种“严格模式”的设置来阻止用户执行可能会带来未知不好影响的查询。   设置属性hive.mapred.mode 为strict能够阻止以下三种类型的查询: 1、 除非在where语段中包含了分区过滤,否则不...

空空如也

空空如也

1 2 3 4 5 ... 18
收藏数 353
精华内容 141
关键字:

hive严格模式