精华内容
下载资源
问答
  • UV统计

    2016-06-03 10:40:43
    2、统计方法,并将数据放到缓存中: public static void counts(HttpServletRequest request){  try{  VisitDto dto = new VisitDto();  String ip = IpUtil.getIpAddr(request);// ip地址  String ...

    1、访问对象(VisitDto):

         private String ip;          // 访问IP
        
        private String visitDate; // 访问时间
        
        private String visitMode; //访问方式:post get ...
        
        private String visitUrl;  //访问路径
        
        private String userBroset; //访问用户的浏览器
        
        private String userOs;     //访问用户的操作系统


    2、统计方法,并将数据放到缓存中:

    public static void counts(HttpServletRequest request){
            try{
                VisitDto dto = new VisitDto();
                String ip = IpUtil.getIpAddr(request);// ip地址
                String key = new SimpleDateFormat("yyyy-MM-dd").format(new Date());
                key = UP_COUNT_KEY + key;
                String date = new SimpleDateFormat("yyyy-MM-dd hh:mm:ss").format(new Date());// 访问时间
                String mode  = request.getMethod();// 访问方式 Post Get
                String agent = request.getHeader("user-agent").toLowerCase();
                //得到用户的浏览器名
                String userbrowser = getBrowserName(agent);
                //得到用户的操作系统名
                String useros = getOsName(agent);
                String url = request.getRequestURI();// 访问路径
                String id = request.getSession().getId();
                dto.setIp(ip);
                dto.setVisitDate(date);
                dto.setVisitMode(mode);
                dto.setVisitUrl(url);
                dto.setUserBroset(userbrowser);
                dto.setUserOs(useros);
                if(StringUtils.isNotBlank(id)){
                    JSONObject jsonObject = JSONObject.fromObject(dto);
                    mm.put(id, jsonObject.toString());
                    JedisSessionClient.hmset(key, mm, (int) TimeUnit.DAYS.toSeconds(30));
                }
            }catch(Exception e){
                log.error(e.getMessage(),e);
            }
        }


     
        /**
          * 获取浏览器版本信息
          * @Title: getBrowserName
          *  >>Browser:Chrome > FF > IE > ...
          * @param agent
          * @return
          */

        public static String getBrowserName(String agent) {
              if(StringUtils.isBlank(agent)) {  
                   return null;  
               }
              if(agent.indexOf("msie 7")>0){
               return "ie7";
              }else if(agent.indexOf("msie 8")>0){
               return "ie8";
              }else if(agent.indexOf("msie 9")>0){
               return "ie9";
              }else if(agent.indexOf("msie 10")>0){
               return "ie10";
              }else if(agent.indexOf("msie")>0){
               return "ie";
              }else if(agent.indexOf("opera")>0){
               return "opera";
              }else if(agent.indexOf("chrome")>0){
               return "chrome";
              }else if(agent.indexOf("firefox")>0){
               return "firefox";
              }else if(agent.indexOf("webkit")>0){
               return "webkit";
              }else if(agent.indexOf("gecko")>0 && agent.indexOf("rv:11")>0){
               return "ie11";
              }else{
               return "Others";
              }
         }
        
        /**
         * 获取操作系统信息
         * @Title: getOsName
         *  >>操作系统:Windows > 苹果 > 安卓 > Linux > ...
         * @param agent
         * @return
         */
        public static String getOsName(String userAgent){
           if (StringUtils.isBlank(userAgent)) {  
               return null;  
           }   
           if (userAgent.indexOf("windows")>0) {//主流应用靠前  
                   return "Windows";
           } else if (userAgent.indexOf("mac os x") >0) {  
               return "Mac OS X";
           }else if(userAgent.indexOf("android") >0){
               return "Android";
           }else if(userAgent.indexOf("liunx") >0){
               return "Liunx";
           }else{
               return "Others";
           }
       } 

    3、缓存方法:


     public class JedisSessionClient {
        private static JedisPool poolMaster;

        private JedisSessionClient() {

        }

      private static Logger log = LoggerFactory.getLogger(JedisSessionClient.class);
        static{
            try {
                Properties p = new Properties();
    //                String filePath = new JedisClient().getClass().getResource("/").getPath() + "redisConfig.properties";
    //                log.info("filePath:" + filePath);
    //                InputStream is = new BufferedInputStream(new FileInputStream(filePath));
                ClassLoader classloader = Thread.currentThread().getContextClassLoader();
                InputStream is = classloader.getResourceAsStream("/redisConfig.properties");
                p.load(is);
                String redisSession = p.getProperty("redisSession").trim();
                // password = p.getProperty("password");
                int redisPort = Integer.parseInt(p.getProperty("redisPort").trim());
                int timeout = Integer.parseInt(p.getProperty("timeout").trim());
                JedisPoolConfig configMaster = new JedisPoolConfig();
                configMaster.setMaxTotal(30000);// 设置最大连接数
                configMaster.setMaxIdle(100); // 设置最大空闲数
                configMaster.setMinIdle(10);
                configMaster.setMaxWaitMillis(10000);// 设置超时时间
                configMaster.setTestWhileIdle(false);
                configMaster.setTestOnBorrow(false);
                poolMaster = new JedisPool(configMaster, redisSession,redisPort, timeout);
                log.info(">>>>>>>>>redisSession ip:" + redisSession);
                log.info(">>>>>>>>>redisSession port:"+redisPort);
                log.info(">>>>>>>>>redisSession timeout:"+timeout);
                log.info(">>>>>>>>>会话管理redis master连接池初始化成功...");
            } catch (Exception e) {
                log.info(">>>>>>>>>会话管理redis master连接池初始化失败,系统无法正常使用!!!");
                e.printStackTrace();
            }
            }
        private static Jedis getJedis() throws Exception {
            return poolMaster.getResource();
        }

        private static void returnResource(Jedis jedis) {
            if (jedis != null) {
                jedis.disconnect();
                poolMaster.returnResourceObject(jedis);
            }
        }

     

        public static void hmset(String key,Map<String,String> map,int seconds) throws Exception {
            if (null == key || "".equals(key.trim())) {
                throw new Exception("the key can not be null.");
            }
            Jedis jedisMaster = null;
            try {
                jedisMaster = getJedis();
                jedisMaster.hmset(key, map);
                if(seconds > 0){
                    jedisMaster.expire(key, seconds);                
                }
            } finally {
                returnResource(jedisMaster);
            }
        }

      public static Set<String> hkeys(String key)throws Exception {
            if (null == key || "".equals(key.trim())) {
                throw new Exception("the key can not be null.");
            }
            Jedis jedisMaster = null;
            Set<String> set = null;
            try {
                jedisMaster = getJedis();
                set = jedisMaster.hkeys(key);
            } finally {
                returnResource(jedisMaster);
            }
            return set;
        }

     public static List<String> hvals(String key)throws Exception {
            if (null == key || "".equals(key.trim())) {
                throw new Exception("the key can not be null.");
            }
            Jedis jedisMaster = null;
            List<String> list = null;
            try {
                jedisMaster = getJedis();
                list = jedisMaster.hvals(key);
            } finally {
                returnResource(jedisMaster);
            }
            return list;
        }

    }

    4、从缓存中获取对应key,value:

    List<VisitDto> vList = new ArrayList<VisitDto>();

    List<String> list = new ArrayList<String>();

     Set<String> set = JedisSessionClient.hkeys(key);:获取所有key

     if(!set.isEmpty()){
                            for (String str : set) {  
                                VisitDto dto = new VisitDto();
                                dto.setIp(str);
                                dto.setVisitDate(date);
                                vList.add(dto);
                                }
                        }

      JedisSessionClient.hvals(kye) 获取所有value

      list = JedisSessionClient.hvals(key);
                        if(null !=list && list.size()>0){
                            for(int i=0;i<list.size();i++){
                                VisitDto dto = new VisitDto();
                                JSONObject jsonObj = JSONObject.fromObject(list.get(i));
                                dto = (VisitDto)JSONObject.toBean(jsonObj,VisitDto.class);
                                vList.add(dto);
                                }
                            }



    展开全文
  • 1.背景介绍PV/UV统计是流式分析一个常见的场景。通过PV可以对访问的网站做流量或热点分析,例如广告主可以通过PV值预估投放广告网页所带来的流量以及广告收入。另外一些场景需要对访问的用户作分析,比如分析用户的...

    1.背景介绍

    PV/UV统计是流式分析一个常见的场景。通过PV可以对访问的网站做流量或热点分析,例如广告主可以通过PV值预估投放广告网页所带来的流量以及广告收入。另外一些场景需要对访问的用户作分析,比如分析用户的网页点击行为,此时就需要对UV做统计。

    使用Spark Streaming SQL,并结合Redis可以很方便进行PV/UV的统计。本文将介绍通过Streaming SQL消费Loghub中存储的用户访问信息,对过去1分钟内的数据进行PV/UV统计,将结果存入Redis中。

    2.准备工作

    • 创建E-MapReduce 3.23.0以上版本的Hadoop集群。
    • 下载并编译E-MapReduce-SDK包
    git clone git@github.com:aliyun/aliyun-emapreduce-sdk.gitcd aliyun-emapreduce-sdkgit checkout -b master-2.x origin/master-2.xmvn clean package -DskipTests

    编译完后, assembly/target目录下会生成emr-datasources_shaded_${version}.jar,其中${version}为sdk的版本。

    • 数据源

    本文采用Loghub作为数据源,有关日志采集、日志解析请参考日志服务。

    3.统计PV/UV

    一般场景下需要将统计出的PV/UV以及相应的统计时间存入Redis。其他一些业务场景中,也会只保存最新结果,用新的结果不断覆盖更新旧的数据。以下首先介绍第一种情况的操作流程。

    3.1启动客户端

    命令行启动streaming-sql客户端

    streaming-sql --master yarn-client --num-executors 2 --executor-memory 2g --executor-cores 2 --jars emr-datasources_shaded_2.11-${version}.jar --driver-class-path emr-datasources_shaded_2.11-${version}.jar

    也可以创建SQL语句文件,通过streaming-sql -f的方式运行。

    3.1定义数据表

    数据源表定义如下

    CREATE TABLE loghub_source(user_ip STRING, __time__ TIMESTAMP) USING loghub OPTIONS(sls.project=${sls.project},sls.store=${sls.store},access.key.id=${access.key.id},access.key.secret=${access.key.secret},endpoint=${endpoint});

    其中,数据源表包含user_ip和__time__两个字段,分别代表用户的IP地址和loghub上的时间列。OPTIONS中配置项的值根据实际配置。

    结果表定义如下

    CREATE TABLE redis_sink USING redis OPTIONS(table='statistic_info',host=${redis_host},key.column='user_ip');

    其中,user_ip对应数据中的用户IP字段,配置项${redis_host}的值根据实际配置。

    3.2创建流作业

    CREATE SCAN loghub_scanON loghub_sourceUSING STREAMOPTIONS(watermark.column='__time__',watermark.delayThreshold='10 second');CREATE STREAM jobOPTIONS(checkpointLocation=${checkpoint_location})INSERT INTO redis_sinkSELECT COUNT(user_ip) AS pv, approx_count_distinct( user_ip) AS uv, window.end AS intervalFROM loghub_scanGROUP BY TUMBLING(__time__, interval 1 minute), window;

    4.3查看统计结果

    最终的统计结果如下图所示

    e3e672086a88de51429fba3030bc0782.png

    可以看到,每隔一分钟都会生成一条数据,key的形式为表名:interval,value为pv和uv的值。

    3.4实现覆盖更新

    将结果表的配置项key.column修改为一个固定的值,例如定义如下

    CREATE TABLE redis_sinkUSING redis OPTIONS(table='statistic_info',host=${redis_host},key.column='statistic_type');

    创建流作业的SQL改为

    CREATE STREAM jobOPTIONS(checkpointLocation='/tmp/spark-test/checkpoint')INSERT INTO redis_sinkSELECT "PV_UV" as statistic_type,COUNT(user_ip) AS pv, approx_count_distinct( user_ip) AS uv, window.end AS intervalFROM loghub_scanGROUP BY TUMBLING(__time__, interval 1 minute), window;

    最终的统计结果如下图所示

    f8da3e3d1caf3b2fc6baabc9e245f515.png

    可以看到,Redis中值保留了一个值,这个值每分钟都被更新,value包含pv、uv和interval的值。

    4.总结

    本文简要介绍了使用Streaming SQL结合Redis实现流式处理中统计PV/UV的需求。后续文章,我将介绍Spark Streaming SQL的更多内容

    作者:关文选,花名云魄,阿里云E-MapReduce 高级开发工程师,专注于流式计算,Spark Contributor

    本文为云栖社区内容,未经允许不得转载。

    展开全文
  • pvuv统计设计

    千次阅读 2018-04-29 23:28:42
    二、第一个版本一开始做的是统计唯品会的pvuv统计,观察流量。主要设计图如下:很简单,将每天唯品会的广告的pvuv统计好,然后写进excel。然后邮件定时发送给需求人员。三、第二个版本统计完唯品会之后,接到新的...
    一、背景
    在考拉先生公司做的第一个项目是进行统计pvuv。通过一定的规则提取nginx日志文件来进行统计。

    二、第一个版本
    一开始做的是统计唯品会的pvuv统计,观察流量。主要设计图如下:

    很简单,将每天唯品会的广告的pvuv统计好,然后写进excel。然后邮件定时发送给需求人员。

    三、第二个版本
    统计完唯品会之后,接到新的需求是统计小程序的pvuv。不废话,上流程图。

    跟第一个版本不同的是,所有的统计数据会先插入数据库。然后另一个脚本读取数据库数据写进excel发送邮件。
    为什么要写进数据库。需求需要,需求要求要时间段的统计,比如一个月或者一周的统计,为了方便操作,所以使用
    数据库操作。另一方面是,以后可能会做成一个系统,所以入库。

    四、第三个版本
    做完小程序的pvuv后,又来了新的pvuv统计需求。这时,上头提出了一个新的方案。

    因为当时的做法是,每次来一个新的pvuv统计,都要编写python脚本。现在改成将日志的元数据录入到mongodb里面。
    然后配置规则,python脚本进行统计。然后交给业务。这样,假如后面有pvuv或者其他关于日志的处理,直接更改
    查询规则就可以了,而不用从新开发。

    这次,学习到是是:想问题的时候,一定是从大的方面思考,而不是基于目前的业务。思维角度要开阔。





    https://blog.csdn.net/kelindame/article/details/73072603



    展开全文
  • Redis 实现 UV 统计

    2020-07-14 08:57:42
    本文学习在 Redis 中通过 HyperLogLog 实现 UV 统计。 1 概述 一般我们评估一个网站的访问量,有几个主要的参数:PV(Page View)网页的浏览量、UV(User View)访问的用户量。有很多第三方工具可以统计,如 cnzz,...


    本文学习在 Redis 中通过 HyperLogLog 实现 UV 统计。

    1 概述

    一般我们评估一个网站的访问量,有几个主要的参数:PV(Page View)网页的浏览量、UV(User View)访问的用户量。有很多第三方工具可以统计,如 cnzz,友盟等。如果自己实现的话,PV 比较简单,可以直接通过 Redis 计数器实现。但是 UV 就不一样,UV 涉及到去重的问题。

    常规思路:我们首先需要在前端给每一个用户生成一个唯一 id,无论是登录用户还是未登录用户都需要,这个 id 伴随着请求一起到达后端,在后端我们可以通过 Set 数据结构中的 sadd 命令来存储这个 id,最后通过 scard 统计集合大小,进而得出 UV 数据。

    按上述思路,如果是千万级别的 UV,需要的存储空间就非常惊人,用 Set 就不是很合适了。一般来说像 UV 统计这种,不需要特别精确,比如 800W 和 803W 的 UV,其实差别不大。因此,我们可以使用 HyperLogLog 来高效的实现。

    2 基本使用

    Redis 中提供的 HyperLogLog 就是专门用来解决上述问题的,HyperLogLog 提供了一套不怎么精确但是够用的去重方案,会有误差,官方给出的误差数据是 0.81%,这对于 UV 的统计够用了。

    HyperLogLog 主要提供了以下命令:

    • pfadd:用来添加记录,类似于 sadd ,添加过程中,重复的记录会自动去重。
    • pfcount:则用来统计数据。
    • pfmerge:合并多个统计结果,在合并的过程中,会自动去重多个集合中重复的元素。

    数据量少的时候看不出来误差,我们在 Java 中多添加几个元素:

    public class HyperLogLogTest {
        @Test
        public void testHyperLogLog() {
            Redis redis = new Redis();
            redis.execute(jedis -> {
                for (int i = 0; i < 1000; i++) {
                    // 重复加入数据,理论值上总数为 1001
                    jedis.pfadd("uv", "u" + i, "u" + (i + 1));
                }
                long uv = jedis.pfcount("uv");
                System.out.println(uv);
            });
        }
    }
    

    理论值上总数为 1001,实际打印出来 994,有误差,但是在可以接受的范围内。



    扫码关注微信公众号 程序员35 ,获取最新技术干货,畅聊 #程序员的35,35的程序员# 。独立站点:https://cxy35.com

    展开全文
  • 在数据统计中,UV统计是最常见的,也是最普遍的。有的场景要求实时性很高,有点场景要求准确性很高,有的场景比较在意计算过程中的内存。不同的场景使用不同的算法,下面我们从0到1简单介绍下UV统计领域。 什么是UV...
  • go pv uv 统计

    千次阅读 2018-07-13 17:44:52
    go pv uv 统计 更多干货 分布式实战(干货) spring cloud 实战(干货) mybatis 实战(干货) spring boot 实战(干货) React 入门实战(干货) 构建中小型互联网企业架构(干货) ...
  • 用来做关键日UV统计的测试数据
  • Hive做一个PV,UV统计的案例记录-附件资源
  • 原标题:使用Spark Streaming SQL进行PV/UV统计作者:关文选,花名云魄,阿里云E-MapReduce 高级开发工程师,专注于流式计算,Spark Contributor1.背景介绍PV/UV统计是流式分析一个常见的场景。通过PV可以对访问的...
  • 本文将介绍通过Streaming SQL消费Loghub中存储的用户访问信息,对过去1分钟内的数据进行PV/UV统计,将结果存入Redis中。作者:ligh-rain;来源:阿里云栖社区1.背景介绍PV/UV统计是流式分析一个常见的场景。通过PV...
  • 作者:关文选,花名云魄,阿里云E-MapReduce 高级开发工程师,专注于流式计算,Spark Contributor1.背景介绍PV/UV统计是流式分析一个常见的场景...
  • springboot项目下关于网站访问量UV统计 例,根据某篇文章的id,获取该文章一天内被浏览的次数,且不允许存在恶意刷新浏览次数 了解什么是UV统计 要想实现该功能,首先得了解什么是UV,PV,IP PV:页面访问量,即...
  • 渠道统计 和 UV统计

    千次阅读 2018-07-30 16:05:09
    项目中使用到了渠道统计 和 贷超点击(UV)统计,这里记录一下业务逻辑。 渠道统计  在项目中定义了很多渠道,除了类似xiaomi,360等一些市场渠道,还有其他一些自定义的A1,B1,C1,other等渠道。项目中使用到了渠道...
  • 背景:item的滑动窗口内的uv统计,item会有头部内容问题,即会引起数据倾斜。注释:实时统计,java语言。关键词:HyperLogLog、Redis、storm。一、uv统计1.对于大数据量的uv实时统计肯定不能使用set来实现,目前大多...
  • [Spark-内置函数使用]--spark实现UV统计

    千次阅读 2016-07-09 14:35:12
    spark实现UV统计
  • 背景介绍PV/UV统计是流式分析一个常见的场景。通过PV可以对访问的网站做流量或热点分析,例如广告主可以通过PV值预估投放广告网页所带来的流量以及广告收入。另外一些场景需要对访问的用户作分析,比如分析用户的...
  • https://blog.csdn.net/u010316188/article/details/79769862 Hive做一个PV,UV统计的案例记录
  • redis 实现uv统计

    2021-03-31 15:22:15
    一、通过 SET 结构实现 SADD 语法:SADD key member [member …] 将一个或多个 member 元素加入到集合 key 当中,已经存在于集合的 member 元素将被忽略 假如 key 不存在,则创建一个... sadd 'index.uv.20210331' 'us
  • 有很多第三方工具可以统计,如 cnzz,友盟等。如果自己实现的话,PV 比较简单,可以直接通过 Redis 计数器实现。但是 UV 就不一样,UV 涉及到去重的问题。常规思路:我们首先需要在前端给每一个用户生成一个唯一 id...
  • 定义PV是page view的缩写,即页面浏览量,通常是衡量一...通过以上的概念,可以清晰的看出pv是比较好设计的,网站的每一次被访问,pv都会增加,但是uv就不一定会增加了,uv本质上记录的是按照某个标准划分的自然人,...
  • uv统计案例 uv:user view,每天每个用户可能对网站会点击多次 此时,需要对用户进行去重,然后统计出每天有多少个用户访问了网站,而不是所有用户访问了网站多少次(pv) public class Distinct { public static ...
  • 每天分析日志的哥们实在伤不起,经常需要给出PV,UV,独立IP等一些统计值,使用C/C++,java都可以写,过程是这样的,先读取文件,逐行扫描,把能标记的值放入数据结构中,排重得出最终结果,其实Linux本身有很强大的...
  • Y总,咱们没有统计pv和uv的系统,预估大约有一千万uv吧写一个统计uv和pv的系统吧网上有现成的,直接接入一个不行吗?别人的不太放心,毕竟自己写的,自己拥有主动权。给你两天时间,系统性能不要太差呀好吧~~~定义PV...
  • 总PV量: grep "0[7-8]/Oct/2020" access.log | awk '{print $6}' | wc -l 独立IP: grep "0[7-8]/Oct/2020" ...UV统计: grep "0[7-8]/Oct/2020" access.log | awk '{print $10}' | sort -r |uniq -c |wc -l ...
  • spark-SQL综合练习每日关键字的UV统计-scala1. 开发环境说明2. 运行环境说明3. 实现的需求如下4. 实现代码如下5. 分步输出的结果如下6. 。。。。。。 1. 开发环境说明 因为我测试了不同的开发环境会出错误,所以可用...
  • SparkSteaming进行UV统计

    千次阅读 2017-06-29 17:17:37
    需求:每个一分钟统计一次最近一个小时UV  思考过程:由于UV是矢量数据,不能每分钟的UV最一个统计,在基于每分钟的计算结果进行累加计算出最近一个小时用户量的求和。 SparkStreaming提供的窗口函数,比较知名的...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 1,841
精华内容 736
关键字:

uv统计