精华内容
下载资源
问答
  • web日志分析总结

    2015-07-21 11:00:12
    面对大量日志时,我们该如何处理分析日志的一个大体思路
  • 为了解决海量新闻日志数据的存储问题,在新闻业务中得到实时的用户搜索内容的排行并进行可视化显示,得到公众关注的重点,从而达到针对用户关注的重点进行推送、广告的投放、及时消除不良的用户等目的。本文在对以上...
  • Tomcat日志分析

    千次阅读 2015-10-17 21:25:44
    tomcat日志分析

    目的:网站建成运行后,每访问一次tomcat都会生成一行访问记录,并保存到当天的日志中。我们通过自定义tomcat的日志参数,就可以分析出访问网站的各种数据。


    第一步:配置tomcat日志参数。

    找到tomcat文件夹下的server.xml文件,添加:

    <Host appBase="webapps" autoDeploy="true" name="localhost" unpackWARs="true">
        <Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs" pattern="%h %l %u %t &quot;%r&quot; %s %b" prefix="localhost_access_log." suffix=".txt"/>
    </Host>
    

    其中pattern中的参数就可以指定生成的日志中都包含什么参数,具体是什么参看

    http://blog.csdn.net/lk_cool/article/details/4561306/
    配置好了日志生成类型,就可以进行几次访问,使其生成指定数据,用以分析测试。

    第二步:编写文件访问代码

    其实这一步就是java访问txt文件的步骤,代码如下:

    try {
        String encoding = "GBK";
        File file = new File("文件的位置");
        int i = 0;
        if (file.isFile() && file.exists()) { // 判断文件是否存在
            InputStreamReader read = new InputStreamReader(
                    new FileInputStream(file), encoding);
            BufferedReader bufferedReader = new BufferedReader(read);
            String lineTxt = null;
            while ((lineTxt = bufferedReader.readLine()) != null) {
                //读取到文件后的执行逻辑
            }
            read.close();
        } else {
            System.out.println("找不到指定的文件");
        }
    } catch (Exception e) {
        System.out.println("读取文件内容出错");
        e.printStackTrace();
    }
    

    第三步:执行业务逻辑

    当你拿到每一行的日志后,就会有很多方式分析了,如正则匹配方式,contains字符串方式,根据特定字符拆分方式,等等。剩下一些细节问题,就要根据业务不同而各有异同了。

    展开全文
  • Tomcat日志分析(一)

    千次阅读 2014-02-20 20:08:57
    这样大日志看起来不方便,一次打开也花一分钟多,直接cat要滚掉好多屏,切割起来又麻烦.想办法用日期来分割日志,即每天新建一个日志文件.  查阅了下资料:   Cataline引擎的日志文件,文件名catalina.日期.log  ...

    最近发现公司新上项目中Tomcat下catlina.out日益增大,短短几天已有54M.这样大日志看起来不方便,一次打开也花一分钟多,直接cat要滚掉好多屏,切割起来又麻烦.想办法用日期来分割日志,即每天新建一个日志文件.


      查阅了下资料:

      Cataline引擎的日志文件,文件名catalina.日期.log 

    Tomcat下内部代码丢出的日志,文件名localhost.日期.log

    (jsp页面内部错误的异常,org.apache.jasper.runtime.HttpJspBase.service类丢出的,

    日志信息就在该文件!) 

    Tomcat下默认manager应用日志,文件名manager.日期.log 

    控制台输出的日志,Linux下默认重定向到catalina.out 

    Access日志(Servlet.xml配置) 

    应用程序通过log4j.properties:${catalina.base}/logs/probe.log重定向过来的日志 


      我最初的想法是用通过Log4j,想不通过在Class文件中手工调用infor(),warn()等方法来记录日志.假如应用程序发生异常,原本打印在控制台的异常信息会自动记录到日志.查理一天以后放弃了.查手册发现异常是在System.error里.日志是在System.out里.


     现在的需求变为使catalina.out按日志分割.这里需要借助一款工具cronolog


      使用SSH登录服务器,键入以下命令:



    #  wget http://cronolog.org/download/cronolog-1.6.2.tar.gz


    # tar zxvf cronolog-1.6.2.tar.gz


    # cd cronolog-1.6.2


    # ./configure


    # make


    # make install


    然后修改 catalina.sh

    org.apache.catalina.startup.Bootstrap “$@” start  /
    >> “$CATALINA_BASE”/logs/catalina.out 2>&1 &



    org.apache.catalina.startup.Bootstrap “$@” start 2>&1 /
    | /usr/local/sbin/cronolog “$CATALINA_BASE”/logs/catalina.%Y-%m-%d.out >> /dev/null &
    



    注释掉

    touch “$CATALINA_BASE”/logs/catalina.out

    这行.


    然后重启服务器就可以了.


    展开全文
  • 日志分析

    千次阅读 2021-03-22 10:54:23
    一.web日志分析 (一)、特征字符分析 1.sql注入 2. 数据库类型判断 有以上信息可以尝试判断是否为sql注入 (二)、访问频率分析 二.系统日志分析 (一)、Linux (二)、Windows 三.练习题 题目来源:墨者学院...

    总结——用于备忘和交流学习

    img

    一.web日志分析

    (一)、特征字符分析

    1.sql注入

    img
    2. 数据库类型判断
    img
    有以上信息可以尝试判断是否为sql注入

    (二)、访问频率分析
    img

    二.系统日志分析

    (一)、Linux

    img

    (二)、Windows

    img

    三.练习题

    题目来源:墨者学院

    1.分析谷歌爬虫IP

    img

    先标记404,观察到其密集存在于210.185.192.212这个IP,再同时标记上这个IP,确实是一直在爬取网站的图片。输入IP即得到key。

    我最先使用的是notepad++,后来想到用excal按空格分列显示,可以更直观和方便。

    img

    excal

    2.分析sql注入1

    筛选相应的关键词如union、select等,或者筛选可能存在的sql.php这样的关键词(实际中不可能出现)

    img

    3.分析sql注入2

    有两个文件:系统日志文件和sql日志文件

    先分析sql文件,搜索sql相关语句,我搜索的是admin,还有order by、information_schema,union、table_name、and 1=2、and 1=1即可

    再根据这条命令对应的时间,在系统日志中匹配IP地址就可得到key

    img

    4.中断web业务的IP

    根据http的状态码,500为web服务中断,直接搜索字符串500,找到在此之前有什么post之类的导致系统不能提供服务,得到key

    img

    5.境外IP攻击分析

    背景:某网站遭到境外ip攻击,请通过log,找到找到访问news.html最多的境外IP地址

    筛选访问了news.html的所有IP地址,发现很多404的界面,猜测存在注入,根据其次数大小进行尝试,找到目的IP。其实看IP的组成都能分析出137开头的IP为境外IP

    img

    在分析境外IP的时候还应该注意时区和时差

    6.更改管理员的密码

    背景:某公司安全工程师发现公司有黑客入侵的痕迹,并更改了admin账户的密码,你能帮忙找一下更改admin账户密码的IP地址吗?

    先对sql的日志搜索update,在16:37:06时出现的修改

    img

    对应时间查找日志

    img

    7.拖库溯源

    直接在sql日志里搜索“select *”,得到明显拖库痕迹

    img

    作者:Yilanere
    转载于:https://www.jianshu.com/p/bb5b4c31f4f5
    
    展开全文
  • 日志分析方法概述

    万次阅读 2016-08-22 11:31:24
    注:写得有点乱,但目前市面上这...日志在计算机系统中是一个非常广泛的概念,任何程序都有可能输出日志:操作系统内核、各种应用服务器等等。日志的内容、规模和用途也各不相同,很难一概而论。 本文讨论的日志处理方

    注:写得有点乱,但目前市面上这方面内容的确不多,mark一下~
    http://blog.csdn.net/pkueecser/article/details/9569251

    大数据应用--系统监控与日志分析

    http://wenku.baidu.com/link?url=8CJ-URMjVTVaw3GM1AZ2w9A7V0CIeRz3dx7xvysILLk6IdWpJGT889gQ7-824G4hAK-T2tdqZY1Lo6CEN1hgqHQNlHhVFykWJ_9XQW6EN5K
    大数据日志分析产品(电商方向)
    https://www.sensorsdata.cn/manual/event_ana.html

    =============

    日志在计算机系统中是一个非常广泛的概念,任何程序都有可能输出日志:操作系统内核、各种应用服务器等等。日志的内容、规模和用途也各不相同,很难一概而论。

    本文讨论的日志处理方法中的日志,仅指Web日志。其实并没有精确的定义,可能包括但不限于各种前端Web服务器——apache、lighttpd、tomcat等产生的用户访问日志,以及各种Web应用程序自己输出的日志。

    在Web日志中,每条日志通常代表着用户的一次访问行为,例如下面就是一条典型的apache日志:

    211.87.152.44 – - [18/Mar/2005:12:21:42 +0800] “GET / HTTP/1.1″ 200 899 “http://www.baidu.com/” “Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; Maxthon)”

    从上面这条日志中,我们可以得到很多有用的信息,例如访问者的IP、访问的时间、访问的目标网页、来源的地址以及访问者所使用的客户端的UserAgent信息等。如果需要更多的信息,则要用其它手段去获取:例如想得到用户屏幕的分辨率,一般需要使用js代码单独发送请求;而如果想得到诸如用户访问的具体新闻标题等信息,则可能需要Web应用程序在自己的代码里输出。

    为什么要分析日志

    毫无疑问,Web日志中包含了大量人们——主要是产品分析人员会感兴趣的信息,最简单的,我们可以从中获取网站每类页面的PV值(PageView,页面访问量)、独立IP数(即去重之后的IP数量)等;稍微复杂一些的,可以计算得出用户所检索的关键词排行榜、用户停留时间最高的页面等;更复杂的,构建广告点击模型、分析用户行为特征等等。

    既然这些数据是如此的有用,那么当然已经有无数现成的工具可以帮助我们来分析它们,例如awstats、Webalizer,都是专门用于统计分析Web服务器日志的免费程序。

    另外还有一类产品,它们不分析直接日志,而是通过让用户在页面中嵌入js代码的方式来直接进行数据统计,或者说我们可以认为它是直接让日志输出到了它们的服务器。典型的代表产品——大名鼎鼎的Google Analytics,另外还有国内的cnzz、百度统计等。

    很多人可能会说,既然如此,我们为什么还需要自己来分析日志,有必要吗?当然有。我们的用户(产品分析人员)需求是无穷尽的,上面说的这几类工具虽然很好很强大,但显然没办法满足全部的需求。

    无论是本地分析的工具,还是在线的分析服务,它们虽然提很丰富的的统计分析功能,可以做一定程度的配置,但是依然很有限的。要进行稍复杂点的分析,或者要做基于日志的数据挖掘,依然需要自己来完成。

    另外绝大多数日志分析工具都是只能用于单机的,数据量稍大就没辙了。同时那些提供在线分析的服务对于单个站点通常也都有最大流量的限制——这是很容易理解的,他们也需要考虑服务器的负载。

    所以,很多时候还是得靠自己。

    怎么进行日志分析

    这并不是一个简单的问题。即使我们把“日志”限定为Web日志,依然包含了成千上万种可能的格式和数据,而是“分析”更是难以定义,也许是简单的统计值的计算,也许是复杂的数据挖掘算法。

    下面并不打算讨论这些复杂的问题,而只是笼统的讨论如何构建进行日志分析工作的基础。有了这些基础会让基于日志的简单统计分析变得很简单,并让复杂的分析挖掘等变得可行。

    少量数据的情况

    先考虑最简单的情况,在数据规模比较小的时候,也许是几十MB、几百MB或者几十GB,总之就是在单机处理尚能忍受的时候。一切都很好办,现成的各种Unix/Linux工具——awk、grep、sort、join等都是日志分析的利器,如果仅仅是想知道某个页面的PV,一个wc+grep就能搞定。如果有稍复杂的逻辑,那就使用各种脚本语言,尤其是perl,配合伟大的正则表达式,基本就可以解决所有的问题。

    例如,我们想从上面提到的apache日志中得到访问量最高前100个IP,实现很简单:

    cat logfile | awk ‘{a[$1]++} END {for(b in a) print b”\t”a[b]}’|sort -k2 -r|head -n 100

    不过当我们需要频繁去分析日志的时候,上面的做法在一段时间之后可能就会让我们头疼如何进行各种日志文件、用于分析的脚本文件、crontab文件等等的维护,并且可能会存在大量重复的代码来做数据格式的解析和清洗,这个时候也许就需要更合适的东西,比如——数据库。

    当然,要使用数据库来进行日志分析还是需要一些代价的,最主要的就是如何将各种异构的日志文件导入的数据库中——这个过程通常称为ETL(Extraction-Transformation-Loading)。幸好依然有各种现成的开源、免费的工具来帮助我们做这件事情,并且在日志种类不太多的时候,自己写几个简单的脚本来完成这项工作也并不困难。例如可以将上面的日志去掉不必要的字段,然后导入如下的数据库中:

    现在需要考虑一下用什么数据库来存储这些数据。MySQL是一个很经典的开源数据库,它的传统引擎(MyISAM或者InnoDB,行存储)也许并不非常的适合日志数据的存储,但是在小数据量的时候还是很够用的。而且,在这方面现在已经有了更好的选择,例如开源且免费的Infobright、Infinidb,都是专门为数据仓库应用而进行了优化的数据引擎,采用列存储,有良好的数据压缩,处理几百GB的数据基本上不是问题。

    使用数据库的好处之一就是,伟大的SQL可以帮我们很简单的完成绝大部分的统计分析工作——PV只需要SELECT+COUNT,计算搜索词排行只需要SELECT+COUNT+GROUP+ORDER+LIMIT。此外,数据库本身的结构化存储模式也让日志数据的管理变的更简单,减少运维代价。

    同样还是上面的那个例子,简单的一个SQL就可以搞定:

    SELECT * FROM (SELECT ip, COUNT(*) AS ip_count FROM apache_log GROUP BY ip) a ORDER BY ip_count DESC LIMIT 100

    至于性能问题,数据库的索引和各种优化机制通常会让我们的统计分析工作变得更快,并且上面提到的Infobright和Infinidb都专门为类似SUM、COUNt之类的聚集应用做了优化。当然也不是绝对的会快,例如在数据库中进行LIKE操作,通常会比grep一个文件还要慢很多。

    更进一步的,使用基于数据库的存储,可以很容易的进行OLAP(联机分析处理)应用,从日志中挖掘价值会变的更加简单。

    更多的数据怎么办

    一个好的数据库似乎会让事情变的很简单,但是别忘了前面提到的都是单机数据库。一台单机在存储容量、并发性上毫无疑问都是有很大限制的。而日志数据的特点之一就是随时间持续增长,并且由于很多分析过程往往需要历史数据。短时间内的增长也许可以通过分库、分表或者数据压缩等来解决,不过很显然并不是长久之计。

    想要彻底解决数据规模增长带来的问题,很自然的会想到使用分布式技术,结合上面的结论,也许使用某个分布式数据库是一个好选择,那么对最终用户就可以完全透明了。这个的确是很理想的情况,不过现实往往是残酷的。

    首先,实现比较完美的分布式数据库(受限于CAP原则)是一个非常复杂的问题,因此在这里并不像单机数据库那样,有那么多开源的好东西可以用,甚至于商用的也并不是太多。当然,也并非绝对,如果有钱,还是可以考虑一下Oracle RAC、Greenplum之类东西。

    其次,绝大多数分布式数据库都是NoSQL的,所以想继续用上SQL的那些优点基本上是没指望,取而代之的都是一些简单、难以使用的接口。单从这点看来,使用这些数据库的价值已经降低很多了。

    所以,还是先现实一点,先退一步考虑如何解决的超大规模的日志的分析问题,而不是想如何让它变的像在小数据规模时那样简单。单单想做到这点,目前看来并不是太难,并且依然有免费的午餐可以吃。

    Hadoop是伟大的Apache基金会下面的一套分布式系统,包括分布式文件系统(HDFS)、MapReduce计算框架、HBase等很多组件——这些基本都是Google的GFS/MapReduce/BigTable的克隆产品。

    Hadoop经过数年的发展,目前已经很成熟了,尤其是其中的HDFS和MapReduce计算框架组件。数百台机器的集群已经被证明可以使用,可以承担PB级别的数据。

    Hadoop项目中的HBase是一个按列存储的NoSQL分布式数据库,它提供的功能和接口都非常简单,只能进行简单的K-V查询,因此并不直接适用于大多数日志分析应用。所以一般使用Hadoop来做日志分析,首先还是需要将日志存储在HDFS中,然后再使用它提供的MapReduce API编写日志分析程序。

    MapReduce是一种分布式编程模型,并不难学习,但是很显然使用它来处理日志的代价依然远大于单机脚本或者SQL。一个简单的词频统计计算可能都需要上百代码——SQL只需要一行,另外还有复杂的环境准备和启动脚本。

    例如同样还是上面的例子,实现就要复杂的多,通常需要两轮MapReduce来完成。首先要在第一轮的mapper中计算部分ip的访问次数之和,并以ip为key输出:

    //遍历输入,并聚合结果

    foreach(record in input) {

    ip = record.ip;

    dict[ip]++;

    }

    //用emit输出,第一个参数为key,用于reduce的分发

    foreach(<ip, count> in dict) {

    emit(ip, count);

    }

    然后在第一轮的reduce中就可以得到每个ip完整的计数,可以顺便排个序,并且只保留前100个。

    count = 0;

    //对于每个key(ip),遍历所有的values(count),并累加

    while(input.values.hasNext()) {

    count += input.values.next();

    }

    //插入到大小为100的堆中

    heap_insert(input.key, count);

    在reduce结束的时候输出:

    //输出当前reduce中count最高的100个ip

    foreach(<ip, count> in dict) {

    emit(ip, count);

    }

    由于reduce一般会有很多个,所以最后还需要将所有reduce的输出进行合并、再排序,并得到最终的前100个IP以及对应的访问量。

    所以,使用Hadoop来做日志分析很显然不是一件简单事情,它带来了很多的额外的学习和运维成本,但是至少,它让超大规模的日志分析变成了可能。

    怎样变得更简单

    在超大规模的数据上做任何事情都不是一件容易的事情,包括日志分析,但也并不是说分布式的日志分析就一定要去写MapReduce代码,总是可以去做进一步的抽象,在特定的应用下让事情变得更简单。

    也许有人会很自然的想到如果能用SQL来操作Hadoop上的数据该有多好。事实上,不仅仅只有你一个人会这么想,很多人都这么想,并且他们实现了这个想法,于是就有了Hive。

    Hive现在也是Hadoop项目下面的一个子项目,它可以让我们用SQL的接口来执行MapReduce,甚至提供了JDBC和ODBC的接口。有了这个之后,Hadoop基本上被包装成一个数据库。当然实际上Hive的SQL最终还是被翻译成了MapReduce代码来执行,因此即使最简单的SQL可能也要执行好几十秒。幸好在通常的离线日志分析中,这个时间还是可以接受的。更重要的是,对于上面提到的例子,我们又可以用一样的SQL来完成分析任务了。

    当然Hive并不是完全的兼容SQL语法,而且也不能做到完全的对用户屏蔽细节。很多时候为了执行性能的优化,依然需要用户去了解一些MapReduce的基本知识,根据自己的应用模式来设置一些参数,否则我们可能会发现一个查询执行很慢,或者压根执行不出来。

    另外,很显然Hive也并不能覆盖所有的需求,所以它依然保留插入原始MapReduce代码的接口,以便扩展。

    更多的问题

    即使有了Hive这样一个类似于数据库的东西,我们依然还有很多事情需要做。例如时间久了,可能会有越来越多的需要例行执行的SQL,而这些SQL中,也许有一些是做了重复的事情;也许有一些的执行效率非常低下,一个复杂的SQL就占满了所有的计算资源。这样的系统会变得越来越难以维护的,直到有一天例行的SQL终于跑不完了。而最终用户往往不会去关心这些事情,他们只关心自己提交的查询是不是能即时得到响应,怎么样才能尽快的拿到结果。

    举个简单的例子,如果发现在使用apache_log的所有查询中,几乎没有人用其中的user_agent字段,那么我们完全可以把这个字段去除掉,或者拆分成两张表,以减少多数查询的IO时间,提高执行的效率。

    为了系统化的解决这些问题,我们可能需要引入例行任务的调度机制,可能需要去分析所有的SQL来发现哪些是可以合并的、哪些的性能需要优化,使用的数据表是不是需要做水平或者垂直分表等等。根据实际情况的不同,这时事情可能是人工来完成,也可能是写程序来自动分析并调整。

    再者随着日志类型、分析需求的不断增长。用户会越来越多的抱怨很难找到想要的数据在哪份日志里,或者跑的好好的查询因为日志格式的变化而突然不能用了。另外上面提到的ETL过程也会变得复杂,简单的转换导入脚本很可能已经解决不了问题。这时候可能需要构建一个数据管理系统,或者干脆考虑建立一个所谓的数据仓库。

    总之,随着日志数据量、日志类型、用户数量、分析需求等等的不断增长,越来越多的问题会逐渐浮现出来,日志分析这件事情可能就不再像我们最初想的那么简单,会变得越来越有价值,也越来越有挑战。




    Web日志挖掘分析的方法

    日志文件的格式及其包含的信息
    ①2006-10-17 00:00:00②202.200.44.43 ③218.77.130.24 80 ④GET ⑤/favicon.ico 
    ⑥Mozilla/5.0+(Windows;+U;+Windows+NT+5.1;+zh-CN;+rv:1.8.0.3)+Gecko/20060426
    +Firefox/1.5.0.3。
    ①访问时间;②用户IP地址;③访问的URL,端口;④请求方法(“GET”、“POST”等);
    ⑤访问模式;⑥agent,即用户使用的操作系统类型和浏览器软件。

    一、日志的简单分析
    1、注意那些被频繁访问的资源
    2、注意那些你网站上不存在资源的请求。常见的扫描式攻击还包括传递恶意参数等:
    3、观察搜索引擎蜘蛛的来访情况
    4、观察访客行为
    应敌之策:
    1、封杀某个IP
    2、封杀某个浏览器类型(Agent)
    3、封杀某个来源(Referer)
    4、防盗链
    5、文件重命名
    作用:
    1.对访问时间进行统计,可以得到服务器在某些时间段的访问情况。
    2.对IP进行统计,可以得到用户的分布情况。
    3.对请求URL的统计,可以得到网站页面关注情况。
    4.对错误请求的统计,可以更正有问题的页面。

    二、Web挖掘
    根据所挖掘的Web 数据的类型,可以将Web 数据挖掘分为以下三类:Web 内容挖掘(Web Content Mining)、Web 结构挖掘(Web Structure Mining)、Web 使用挖掘(Web Usage Mining)(也称为Web日志挖掘)。
    ①Web内容挖掘。Web内容挖掘是指从文档的内容中提取知识。Web内容挖掘又分为文本挖掘和多媒体挖掘。目前多媒体数据的挖掘研究还处于探索阶段,Web文本挖掘已经有了比较实用的功能。Web文本挖掘可以对Web上大量文档集合的内容进行总结、分类、聚类、关联分析,以及利用Web文档进行趋势预测等。Web文档中的标记,例如<Title>和<Heading>等蕴含了额外的信息,可以利用这些信息来加强Web文本挖掘的作用。 
    ②Web结构挖掘。Web结构挖掘是从Web的组织结构和链接关系中推导知识。它不仅仅局限于文档之间的超链接结构,还包括文档内部的结构。文档中的URL目录路径的结构等。Web结构挖掘能够利用网页间的超链接信息对搜索引擎的检索结果进行相关度排序,寻找个人主页和相似网页,提高Web搜索蜘蛛在网上的爬行效率,沿着超链接优先爬行。Web结构挖掘还可以用于对Web页进行分类、预测用户的Web链接使用及Web链接属性的可视化。对各个商业搜索引擎索引用的页数量进行统计分析等。 
    ③Web使用记录挖掘。Web使用记录挖掘是指从Web的使用记录中提取感兴趣的模式,目前Web使用记录挖掘方面的研究较多,WWW中的每个服务器都保留了访问日志,记录了关于用户访问和交互的信息,可以通过分析和研究Web日志记录中的规律,来识别网站的潜在用户;可以用基于扩展有向树模型来识别用户浏览序列模式,从而进行Web日志挖掘;可以根据用户访问的Web记录挖掘用户的兴趣关联规则,存放在兴趣关联知识库中,作为对用户行为进行预测的依据,从而为用户预取一些Web页面,加快用户获取页面的速度,分析这些数据还可以帮助理解用户的行为,从而改进站点的结构,或为用户提供个性化的服务。
    通过对Web服务器日志中大量的用户访问记录深入分析,发现用户的访问模式和兴趣爱好等有趣、新颖、潜在有用的以及可理解的未知信息和知识,用于分析站点的使用情况,从而辅助管理和支持决策。当前,web日志挖掘主要被用于个性化服务与定制、改进系统性能和结构、站点修改、商业智能以及web特征描述等诸多领域。

    三、Web日志挖掘的方法
    (一)首先,进行数据的预处理。
    从学习者的访问日志中得到的原始日志记录并不适于挖掘,必须进行适当的处理才能进行挖掘。因此,需要通过日志清理,去除无用的记录;对于某些记录,我们还需要通过站点结构信息,把URL路径补充成完整的访问序列;然后划分学习者,并把学习者的会话划分成多个事务。
    (二)其次,进行模式发现
    一旦学习者会话和事务识别完成,就可以采用下面的技术进行模式发现。模式发现, 是对预处理后的数据用数据挖掘算法来分析数据。分有统计、分类、聚类、关等多种方法。
    ① 路径分析。它可以被用于判定在一个站点中最频繁访问的路径,还有一些其它的有关路径的信息通过路径分析可以得出。路径分析可以用来确定网站上的频繁访问路径, 从而调整和优化网站结构, 使得用户访问所需网页更加简单快捷, 还可以根据用户典型的浏览模式用于智能推荐和有针对性的电子商务活动。例如:70% 的学习者在访问/ E-Business /M2时,是从/EB开始,经过/ E-Business /SimpleDescription,/ E-Business /M1;65%的学习者在浏览4个或更少的页面内容后就离开了。利用这些信息就可以改进站点的设计结构。
    ② 关联规则。 使用关联规则发现方法,可以从Web的访问事务中找到的相关性。关联规则是寻找在同一个事件中出现的不同项的相关性,用数学模型来描述关联规则发现的问题:x=>y的蕴含式,其中x,y为属性——值对集(或称为项目集),且X∩Y空集。在数据库中若S%的包含属性——值对集X的事务也包含属性——值集Y,则关联规则X=>Y的置信度为C%。
    ③ 序列模式。在时间戳有序的事务集中,序列模式的发现就是指那些如“一些项跟随另一个项”这样的内部事务模式。它能发现数据库中如“在某一段时间内,客户购买商品A,接着会购买商品B,尔后又购买商品C,即序列A→B→C出现的频率高”之类的信息。序列模式描述的问题是:在给定的交易序列数据库中,每个序列按照交易的时间排列的一组交易集,挖掘序列函数作用是返回该数据库中高频率出现有序列。
    ④ 分类分析。发现分类规则可以给出识别一个特殊群体的公共属性的描述,这种描述可以用于分类学习者。分类包括的挖掘技术将找出定义了一个项或事件是否属于数据中某特定子集或类的规则。该类技术是最广泛应用于各类业务问题的一类挖掘技术。分类算法最知名的是决策树方法,此外还有神经元网络、Bayesian分类等。例如:在/ E-Business /M4学习过的学习者中有40%是20左右的女大学生。
    ⑤聚类分析。可以从Web访问信息数据中聚类出具有相似特性的学习者。在Web事务日志中,聚类学习者信息或数据项能够便于开发和设计未来的教学模式和学习群体。聚类是将数据集划分为多个类,使得在同一类中的数据之间有较高的相似度,而在不同类中的数据差别尽可能大。在聚类技术中,没有预先定义好的类别和训练样本存在,所有记录都根据彼此相似程度来加以归类。主要算法有k—means、DBSCAN等。聚类分析是把具有相似特征的用户或数据项归类,在网站管理中通过聚类具有相似浏览行为的用户。基于模糊理论的Web页面聚类算法与客户群体聚类算法的模糊聚类定义相同,客户访问情况可用URL(Uj)表示。有Suj={(Ci,fSuj(Ci))|Ci∈C},其中fSuj(Ci)→[0,1]是客户Ci和URL(Uj)间的关联度:式中m为客户的数量,hits(Ci)表示客户Ci访问URL(Uj)的次数。利用Suj和模糊理论中的相似度度量Sfij定义建立模糊相似矩阵,再根据相似类[Xi]R的定义构造相似类,合并相似类中的公共元素得到的等价类即为相关Web页面。
    ⑥统计。统计方法是从Web 站点中抽取知识的最常用方法, 它通过分析会话文件, 对浏览时间、浏览路径等进行频度、平均值等统计分析。虽然缺乏深度, 但仍可用于改进网站结构, 增强系统安全性, 提高网站访问的效率等。
    ⑦协同过滤。协同过滤技术采用最近邻技术,利用客户的历史、喜好信息计算用户之间的距离,目标客户对特点商品的喜好程度由最近邻居对商品的评价的加权平均值来计算。
    (三)最后,进行模式分析。
    模式分析。基于以上的所有过程,对原始数据进行进一步分析,找出用户的浏览模式规律,即用户的兴趣爱好及习惯,并使其可视化,为网页的规划及网站建设的决策提供具体理论依据。其主要方法有:采用SQL查询语句进行分析;将数据导入多维数据立方体中,用OLAP工具进行分析并给出可视化的结果输出。(分类模式挖掘、聚类模式挖掘、时间序列模式挖掘、序列模式挖掘、关联规则等)

    四、关联规则
    (一)关联规则
    顾名思义,关联规则(association rule)挖掘技术用于于发现数据库中属性之间的有趣联系。一般使用支持度(support)和置信度(confidence)两个参数来描述关联规则的属性。 
    (二)Apriori方法简介
    Apriori算法最先是由Agrawal等人于1993年提出的,它的基本思想是:首先找出所有具有超出最小支持度的支持度项集,用频繁的(k—1)-项集生成候选的频繁k-项集;其次利用大项集产生所需的规则;任何频繁项集的所有子集一定是频繁项集是其核心。
    Apriori算法需要两个步骤:第一个是生成条目集;第二个是使用生成的条目集创建一组关联规则。当我们把最小置信度设为85%,通过关联规则的形成以及对应置信度的计算,我们可以从中得到以下有用的信息:
    1.置信度大于最小置信度时:我们可以这样认为,用户群体在浏览相关网页时,所呈列的链接之间是有很大关联的,他们是用户群的共同爱好,通过网页布局的调整,从某种意义上,可以带来更高的点击率及潜在客户;
    2.置信度小于最小置信度时:我们可以这样认为,用户群体对所呈列链接之间没太多的关联,亦或关联规则中的链接在争夺用户。

    五、网站中Web日志挖掘内容
      (1)网站的概要统计。网站的概要统计包括分析覆盖的时间、总的页面数、访问数、会话数、惟一访问者、以及平均访问、最高访问、上周访问、昨日访问等结果集。
      (2)内容访问分析。内容访问分析包括最多及最少被访问的页面、最多访问路径、最多访问的新闻、最高访问的时间等。
      (3)客户信息分析。客户信息分析包括访问者的来源省份统计、访问者使用的浏览器及操作系统分析、访问来自的页面或者网站、来自的IP地址以及访问者使用的搜索引擎。
      (4)访问者活动周期行为分析。访问者活动周期行为分析包括一周7天的访问行为、一天24小时的访问行为、每周的最多的访问日、每天的最多访问时段等。
      (5)主要访问错误分析。主要访问错误分析包括服务端错误、页面找不到错误等。
      (6)网站栏目分析。网站栏目分析包括定制的频道和栏目设定,统计出各个栏目的访问情况,并进行分析。
    (7)商务网站扩展分析。商务网站扩展分析是专门针对专题或多媒体文件或下载等内容的访问分析。
    (8)有4个方向可以选择:①对用户点击行为的追踪,click stream研究;②对网页之间的关联规则的研究;③对网站中各个频道的浏览模式的研究;④根据用户浏览行为,对用户进行聚类,细分研究;(如果你能够结合现有的互联网产品和应用提出一些自己的建议和意见,那就更有价值了。)
    (9)发现用户访问模式。通过分析和探究Web日志记录中的规律,可以识别电子商务的潜在客户,提高对最终用户的服务质量,并改进Web服务器系统的性能。 
    (10)反竞争情报活动。反竞争情报是企业竞争情报活动的重要组成部分。

    六、相关软件及算法
    (一)相关软件:
    1.数据挖掘的专用软件wake。
    2.用OLAP工具
    3.已经有部分公司开发出了商用的网站用户访问分析系统,如WebTrends公司的CommerceTrends 3.0,它能够让电子商务网站更好地理解其网站访问者的行为,帮助网站采取一些行动来将这些访问者变为顾客。CommerceTrends主要由3部分组成:Report Generation Server、Campain Analyzer和Webhouse Builder。
    4.Accrue公司的Accrue Insight,它是一个综合性的Web分析工具,它能够对网站的运行状况有个深入、细致和准确的分析,通过分析顾客的行为模式,帮助网站采取措施来提高顾客对于网站的忠诚度,从而建立长期的顾客关系。
    (二)相关算法:
    1.运用各种算法进行数据挖掘:GSP算法, Prefixspana算法,
    2.关联规则分析:Apriori、FP-growth算法等。
    3.Apriori算法及其变种算法
    4.基于数据库投影的序列模式生长技术(database project based sequential pattern growth)
    5. Wake算法、MLC++等
    6. PageRank算法和HITS算法利用Web页面间的超链接信息计算“权威型”(Authorities)网页和“目录型”(Hubs)网页的权值。Web结构挖掘通常需要整个Web的全局数据,因此在个性化搜索引擎或主题搜索引擎研究领域得到了广泛的应用。
    7.参考检索引擎的挖掘算法,比如Apache的lucene等。

    七、日志分析的价值或应用
    ①在自己的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站上访客可看到的所有页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,例如某个图片被谁下载了。
    ②如果你的网站遭到了攻击、非法盗链和不良请求等,通过分析原始访问日志能大概分析出端倪来,例如:往主机上传了一个mp3,不幸被百度mp3收录,引来大量的盗链,导致我的主机流量猛增!通过分析日志,可以找出问题根源,删除了那个mp3,主机流量也降下来了。
    ③分析访客来源(Referer)。这一段是告诉我们访客是从哪里来到这一个网页。有可能是网站其他页,有可能是来自搜索引擎的搜索页等。通过这条来源信息,你可以揪出盗链者的网页。
    ④网站日志分析软件都能提供关于服务器的浏览量、统计网站所有页面和相关文件被显示的次数、访问最多的网页、客户端访问最频繁的文件、访问者的IP分布、每日访问统计、每周每月等的统计结果。1.访问者访问时段分析。结合IP地址和时段之间的关系可以将来访者大致的身份作一个基本的判断。如按上班前、工作期间、下班后、节假日等,可以针对访客的初步性质安排合适的内容,如产品信息和广告;2.访问者地区分布。分析通过将访问者的IP地址转换为地理区间可以分析出来访者的大致地理分布范围。
    ⑤相关产品推荐。通过以上的关联分析,有了用户频繁访问路径和链接之间的兴趣度,可以构建个性化推荐系统模型。对于实证例子,我们可以在置信度高于最低置信度的相关链接之间,建立某种信息快速互联的桥梁,亦或是在网页规划中,充分考虑链接之间的关联关系,从而为更人性化、合理化的网页设计提供决策依据。如:当客户浏览/newimg/num1.gif时,有0.91的概率会浏览/newimg/num4.gif,那么,在两者之间就存在很高的关联性,从而我们有必要对这两个链接建立某种跟紧密的联系。
    ⑥个性挖掘:针对单个用户的使用记录对该用户进行建模,结合该用户基本信息分析他的使用习惯、个人喜好,目的是在电子商务环境下为该用户提供与众不同的个性化服务。
    ⑦系统改进:Web服务(数据库、网络等)的性能和其他服务质量是衡量用户满意度的关键指标,Web 用法挖掘可以通过用户的拥塞记录发现站点的性能瓶颈,以提示站点管理者改进Web缓存策略、网络传输策略、流量负载平衡机制和数据的分布策略。此外,可以通过分析网络的非法入侵数据找到系统弱点,提高站点安全性,这在电子商务环境下尤为重要。
    ⑧站点修改:站点的结构和内容是吸引用户的关键。Web 用法挖掘通过挖掘用户的行为记录和反馈情况为站点设计者提供改进的依,比如页面连接情况应如何组织、那些页面应能够直接访问等。
    ⑨智能商务:用户怎样使用Web站点的信息无疑是电子商务销售商关心的重点,用户一次访问的周期可分为被吸引、驻留、购买和离开四个步骤,Web用法挖掘可以通过分析用户点击流等Web日志信息挖掘用户行为的动机,以帮助销售商合理安排销售策略。
    ⑩Web特征描述:这类研究跟关注这样通过用户对站点的访问情况统计各个用户在页面上的交互情况,对用户访问情况进行特征描述。


    展开全文
  • mapreduce 日志分析

    千次阅读 2018-11-04 21:17:18
    1. 需求  用户上报日志到多台日志收集服务器,日志落在不同的服务器上,flume扫描日志存储到hdfs,现在要根据日期按照域名、hour汇总数据压缩提供下载查看功能。... flink实时分析日志流存储hdfs,o...
  • python抓取并分析日志样本

    万次阅读 2019-02-23 11:07:52
    最近需要帮我哥做个python小功能,功能的目的就是分析现有的一堆access日志文件(不包含实时增量分析,仅针对固定样本日志,约400mb),从中查找出包含某一关键字的日志,并提取ip出来,统计同一ip出现的次数。...
  • 网站流量日志分析系统(一)概念

    千次阅读 2019-04-28 02:12:59
    网站流量日志分析系统 网站流量日志分析系统: 点击流数据模型 点击流:是指用户持续访问浏览网站的轨迹。 点击流数据是由散点状的点击日志数据梳理所得。点击流数据在数据建模时存在俩张模型表 Pageviews 和...
  • Android日志分析工具的开发介绍

    万次阅读 热门讨论 2017-04-20 14:14:46
    Android日志分析工具的开发介绍 一,软件下载地址: 技术交流QQ群:513138238(用于公布软件最新版本信息和相关技术交流) [V3.6.3] http://download.csdn.net/detail/u013662621/9945190 [V3.5.3] ...
  • audit审计日志分析

    千次阅读 2019-08-29 12:15:35
    日志类型 仅在audit.log文件中;它通知用户这是什么类型的审计日志类型。所以在我们的例子中,它是一个AVC日志条目 味精=审计(1363289005.532:184) 时间戳 自纪元以来以秒为单位的时间戳,表示自...
  • 网站流量日志数据分析系统

    千次阅读 2018-10-16 09:50:18
    1. 点击流数据模型1.1. 点击流概念 点击流(Click Stream)是...这个概念更注重用户浏览网站的整个流程。... 点击流和网站日志是两个不同的概念,点击流是从用户的角度出发,注重用户浏览网站的整个流程;而网站...
  • 基于大数据的网站日志分析系统

    千次阅读 2019-12-08 14:55:40
    基于大数据的网站日志分析系统的整个流程分为五个部分进行介绍。第一部分介绍日志数据格式。第二部分介绍负责采集日志记录的数据采集模块。第三部分介绍负责存储日志同时对数据进行清理的数据存储模块。第四部分介绍...
  • Linux日志分析与安全

    千次阅读 2020-12-11 19:16:04
    ** 在Linux系统中,有三个主要的日志子系统: ...进程统计的目的是为系统中的基本服务提供命令使用统计。 错误日志: 由rsyslog守护程序执行,各种系统守护进程、用户程序和内核通过rsyslog守护程序向文件/var/log/messa
  • 日志审计-apache攻击日志分析

    千次阅读 2016-06-01 16:21:16
    其中如果使用人工审阅这些消息,工作量实在太大了,另外还需要攥写日志分析报告和风险分析。故如果室纯粹人工完成这项工作,工作量实在非常大。 0x01 前期准备工作 我们可以用两种方式进行日志方式:一种是本地...
  • 电商日志流量分析

    千次阅读 2018-08-24 00:30:55
    1.1.1 WEB访问日志 即指用户访问网站时的所有访问、浏览、点击行为数据。比如点击了哪一个链接,在哪个网页停留时间最多,采用了哪个搜索项、总体浏览时间等。而所有这些信息都可被保存在网站日志中。通过分析这些...
  • Web日志安全分析浅谈

    千次阅读 2018-10-18 14:07:52
    一、为什么需要对日志进行分析? 随着Web技术不断发展,Web被应用得越来越广泛,所谓有价值的地方就有江湖,网站被恶意黑客攻击的频率和网站的价值一般成正比...此时对网站的日志分析就显得特别重要,作为网站管理...
  • 三种最常用的日志分析软件

    千次阅读 2021-01-22 08:15:37
    自由开放源代码软件社区提供了适用于各种网站以及几乎所有操作系统的日志设计,下面给大家推荐三种最常用也是最好用的日志分析软件 1、Graylog 2011年在德国创建的 Graylog现在可以作为开放源码工具或商业解决方案...
  • jvm GC日志分析详解

    千次阅读 2018-05-18 11:36:59
    首先对整个GC日志有一个大概的认知 2016-08-23T02:23:07.219-0200: 64.322: [GC (Allocation Failure) 64.322: [ParNew: 613404K->68068K(613440K), 0.1020465 secs] 10885349K->10880154K(12514816K), 0.1021309 ...
  • GC日志分析示例

    千次阅读 2019-02-19 00:35:47
    我们可以通过GCviewer对日志文件进行分析,从不同角度分析当前的GC情况。具体包括查询Chart图、查看GC类型、查看Event details信息、查询Memory信息、查询GC的Pause信息、查询概要信息等。 ​​​​​​​ 查询...
  • ELK实时日志分析平台(一)

    万次阅读 2018-07-17 16:40:28
    输出日志倒是可有可无,因为elasticsearch本就有log记录。也可以直接: nohup ./elasticsearch & 创建软链接: ln -s elasticsearch-6.1.3 elasticsearch 一个良好习惯, 生成一个elasticsearch来...
  • 5 个必备有用的开源日志分析工具

    千次阅读 2019-07-24 11:31:53
    监控网络活动可能是一项单调而乏味的工作,但你有充分的理由要这样做。首先,它可以帮助你查找和调查工作站、连网设备和服务器上的可疑登录,同时确定管理员滥用的源头。...日志记录(跟踪和分析)应该是任何监控基...
  • 基于系统日志分析进行异常检测

    万次阅读 多人点赞 2019-11-07 11:04:40
    日志解析:https://github.com/logpai/logparser 异常检测:https://github.com/logpai/loglizer 预备知识:需要对逻辑回归、决策树、SVM、PCA、聚类等有一些了解 论文原文:...
  • 收集web日志目的

    千次阅读 2015-03-07 15:05:43
    收集web日志目的 Web日志挖掘是指采用数据挖掘技术,对站点用户访问Web服务器过程中产生的日志数据进行分析处理,从而发现Web用户的访问模式和兴趣爱好等,这些信息对站点建设潜在有用的可理解的未知信息和知识...
  • 日志自动分析和解析开源工具

    千次阅读 2019-12-18 17:03:42
    论文原文 https://arxiv.org/pdf/1811.03509.pdf 翻译原文 ... GitHub 日志解析:https://github.com/logpai/logparser ...自动日志分析的工具和基准 Abstract——在许多软件系统的开发和维护过程中,日志是...
  • 网站流量日志分析流程及架构

    千次阅读 2018-02-06 20:13:32
    网站流量日志分析流程及架构 1.数据处理 2.系统架构 3.数据展现
  • 原文地址:https://blog.csdn.net/wishfly/article/details/660747Oracle LogMiner 是Oracle公司从产品8i以后提供的一个实际非常有用的分析工具,使用该工具可以轻松获得Oracle 重作日志文件(归档日志文件)中的...
  • 系统日志分析 之 日志的采集与查看

    千次阅读 2019-07-21 10:52:04
    系统日志的管理 日志是由进程生成 1.rsyslog 服务 此服务是用来采集系统日志的,他不产生日志,只是起到采集作用 2.rsyslog服务的管理 /var/log/messages 该文件储存服务信息日志...

空空如也

空空如也

1 2 3 4 5 ... 20
收藏数 172,355
精华内容 68,942
关键字:

日志分析的目的