pandas python 描述_python pandas计算 描述 - CSDN
精华内容
参与话题
  • pythonpandas用法详解

    万次阅读 多人点赞 2018-04-04 11:59:27
    pandas是基于numpy构建的,使得数据分析工作变得更快更简单的高级数据结构和操作工具。一、pandas数据结构两个主要的数据结构:Series和DataFrame。1.1 SeriesSeries是一种类似于一维数组的对象,它由一维数组(各种...

    pandas是基于numpy构建的,使得数据分析工作变得更快更简单的高级数据结构和操作工具。

    一、pandas数据结构

    两个主要的数据结构:Series和DataFrame。

    1.1 Series

    Series是一种类似于一维数组的对象,它由一维数组(各种numpy数据类型)以及一组与之相关的数据标签(即索引)组成,仅由一组数据即可产生最简单的Series.

    Series的字符串表现形式为:索引在左边,值在右边。如果没有为数据指定索引,于是会自动创建一个0到N-1(N为数据的长度)的整数型索引。可以通过Series的values和index属性获取其数组表现形式和索引对象:

    import numpy as np
    import pandas as pd
    from pandas import Series,DataFrame
    
    #**********************************Series*************************************
    obj=Series([2,4,7,8,9,3])
    """obj=
    0    2
    1    4
    2    7
    3    8
    4    9
    5    3
    dtype: int64
    """
    obj.values    #return:array([2, 4, 7, 8, 9, 3], dtype=int64)
    obj.index     #return: RangeIndex(start=0, stop=6, step=1)
    #创建对数据点进行标记的索引
    obj2=Series([2,4,7,8,9,3],index=['a','b','c','d','e','f'])
    """obj2=
    a    2
    b    4
    c    7
    d    8
    e    9
    f    3
    dtype: int64
    """
    obj2.index   #return:Index(['a', 'b', 'c', 'd', 'e', 'f'], dtype='object')
    #利用索引的方式选取Series的单个或一组值
    obj2['c']   #return:7
    obj2[['a','c','f']]
    """out:
    a    2
    c    7
    f    3
    dtype: int64
    """
    #numpy数组运算(布尔型数组进行过滤、标量乘法、应用数学函数等)都会保留索引和值之间的链接
    obj2[obj2>5]
    obj2*2
    np.exp(obj2)
    """
    obj2[obj2>5]:      obj2*2:       np.exp(obj2):
    c    7             a     4           a       7.389056
    d    8             b     8           b      54.598150
    e    9             c    14           c    1096.633158
    dtype: int64       d    16           d    2980.957987
                       e    18           e    8103.083928
                       f     6           f      20.085537
                       dtype: int64      dtype: float64
    """
    #可以将Series看成是一个有定长的有序字典,因为它是索引值到数据值的一个映射
    #因此,一些字典函数也可以在这里使用:
    'a' in obj2        #return:True
    'h' in obj2        #return:False
    2 in obj2.values   #return:True
    
    #利用字典创建Series
    dic={'l':1,'z':2,'h':3}
    obj3=Series(dic)
    """obj3=
    h    3
    l    1
    z    2
    dtype: int64
    """
    #若索引比字典的索引多,则与字典索引相匹配的则会被找到,并放置到相应的位置中
    #而对应字找不到的索引,其结果则为NaN(即非数字,Not a Number,在pandas中,用于表示缺失或NA值)
    ind=['l','z','h','a']
    obj4=Series(dic,index=ind)
    """obj4=
    l    1.0
    z    2.0
    h    3.0
    a    NaN
    dtype: float64
    """
    #pandas中isnull和notnull函数用于检测缺失数据:
    pd.isnull(obj4)    #等效于: obj4.isnull()
    pd.notnull(obj4)
    """
    pd.isnull(obj4):        pd.notnull(obj4)
    l    False              l     True
    z    False              z     True
    h    False              h     True
    a     True              a     False
    dtype: bool             dtype: bool
    """
    #算术运算中自动对齐不同索引的数据
    obj3+obj4
    """out:
    a    NaN
    h    6.0
    l    2.0
    z    4.0
    dtype: float64
    """
    #Series对象本身及其索引都有一个name属性
    obj4.name='myname'
    obj4.index.name='letter'
    """obj4=
    letter
    l    1.0
    z    2.0
    h    3.0
    a    NaN
    Name: myname, dtype: float64
    """
    #索引可以通过赋值的方式进行改变
    obj4.index=['li','zi','hua','a']
    """obj4=
    li     1.0
    zi     2.0
    hua    3.0
    a      NaN
    Name: myname, dtype: float64
    """

    1.2 DataFrame

    DataFrame是一个表格型的数据结构,它含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔值等)。DataFrame既有行索引也有列索引,它可以被看做由Series组成的字典(公用同一个索引)。跟其他类似的数据结构相比,DataFrame中面向行和面向列的操作基本是平衡的。其实,DataFrame中的数据是以一个或多个二维块存放的(而不是列表、字典或者别的一维数据结构)。

    其中,可以输入给DataFrame构造器的数据类型及相关说明:


    #*******************************DataFrame*************************************
    import numpy as np
    import pandas as pd
    from pandas import Series,DataFrame
    #构建DataFrame
    #最常用的一种是直接传入一个由等长列表或numpy数组组成的字典:
    data={'names':['Bob','Jane','Jack','Ann'],
           'sex':['M','F','M','F'],
           'age':[21,30,26,28]}
    frame=DataFrame(data)
    """没有指定索引,会自动加上索引,且全部列会被有序排列
    frame=
       age names sex
    0   21   Bob   M
    1   30  Jane   F
    2   26  Jack   M
    3   28   Ann   F
    """
    #若指定列序列,则会按照指定顺序排列
    frame=DataFrame(data,columns=['names','sex','age'])
    """frame=
      names sex  age
    0   Bob   M   21
    1  Jane   F   30
    2  Jack   M   26
    3   Ann   F   28
    """
    #若传入列在数据中找不到,会返回NA值
    frame1=DataFrame(data,columns=['names','sex','age','id'],index=['a','b','c','d'])
    """frame1=
      names sex  age   id
    a   Bob   M   21  NaN
    b  Jane   F   30  NaN
    c  Jack   M   26  NaN
    d   Ann   F   28  NaN
    """
    #通过类似字典标记或属性的方式,可以获取Series(列数据):
    frame1['sex']
    frame1.age
    """
    frame1['sex']:                           frame1.age:
    a    M                                    a      21
    b    F                                    b      30
    c    M                                    c      26
    d    F                                    d      28
    Name: sex, dtype: object                  Name: age, dtype: int64
    """
    #行也可以通过位置或名称获取
    #ix VS loc VS iloc
    #loc——通过行标签索引行数据
    frame1.loc('c')
    #等效于
    #iloc——通过行号获取行数据
    frame1.iloc[2]
    #ix--以上两种的混合,既可以用行号,也可以用行标签
    frame1.ix[2]
    frame1.ix['c']
    """result:
    names    Jack
    sex         M
    age        26
    id        NaN
    Name: c, dtype: object
    """
    #获取多行
    #注意:使用行标签时,:两边是全包括,使用行号时是左闭右开
    frame1.loc['b':'c']
    frame1.iloc[2:4]
    frame1.ix['b':'c']
    frame1.ix[2:4]
    """result:
     names sex  age   id
    c  Jack   M   26  NaN
    d   Ann   F   28  NaN
    """
    #利用ix、loc、iloc拓展获取列数据
    #获取单列,如下所示,或将['sex']写成'sex',将不显示columns名
    frame1.ix[:,['sex']]   #等效于frame1['sex']
    frame1.loc[:,['sex']] 
    frame1.ix[:,[1]] 
    """
    frame1.ix[:,['sex']]:      VS       frame1.ix[:,'sex'] :
      sex
    a   M                               a    M
    b   F                               b    F
    c   M                               c    M
    d   F                               d    F
    """
    #获取多列
    frame1.ix[:,'sex':]
    frame1.loc[:,'sex':]
    frame1.iloc[:,1:4]
    """result:
      sex  age   id
    a   M   21  NaN
    b   F   30  NaN
    c   M   26  NaN
    d   F   28  NaN
    """
    #给列赋值,赋值是列表或数组时,长度必须相匹配
    frame1['id']=np.arange(4)    
    """frame1=
      names sex  age  id
    a   Bob   M   21   0
    b  Jane   F   30   1
    c  Jack   M   26   2
    d   Ann   F   28   3
    """
    #若赋值的是一个Series,将精确匹配DataFrame的索引,空位将补上缺失值
    frame1['id']=Series([11,12],index=['a','c'])
    """frame1=
      names sex  age    id
    a   Bob   M   21  11.0
    b  Jane   F   30   NaN
    c  Jack   M   26  12.0
    d   Ann   F   28   NaN
    """
    #为不存在的列赋一个新列
    frame1['Female']=frame1.sex=='F'
    """frame1=
      names sex  age    id  Female
    a   Bob   M   21  11.0   False
    b  Jane   F   30   NaN    True
    c  Jack   M   26  12.0   False
    d   Ann   F   28   NaN    True
    """
    #删除列数据
    del frame1['Female']
    """frame1=
      names sex  age    id
    a   Bob   M   21  11.0
    b  Jane   F   30   NaN
    c  Jack   M   26  12.0
    d   Ann   F   28   NaN
    """
    #嵌套字典(字典的字典)作为参数,传入DataFrame
    #外层字典的键作为列(columns),内层键作为行索引(index)
    pop={'Nevada':{2001:2.4,2002:2.9},'Ohio':{2000:1.5,2001:1.7,2002:3.6}}
    frame2=DataFrame(pop)
    """frame2=
          Nevada  Ohio
    2000     NaN   1.5
    2001     2.4   1.7
    2002     2.9   3.6
    """
    #对结果进行转置
    frame2.T
    """result:
            2000  2001  2002
    Nevada   NaN   2.4   2.9
    Ohio     1.5   1.7   3.6
    """
    #显示指定索引
    DataFrame(pop,index=[2001,2002,2003])
    """result:
          Nevada  Ohio
    2001     2.4   1.7
    2002     2.9   3.6
    2003     NaN   NaN
    """
    #跟Series一样,values属性也会以二维ndarray的形式返回DataFrame中的数据
    frame2.values     #result:array([[ nan,  1.5],[ 2.4,  1.7],[ 2.9,  3.6]])
    

    二、基本功能

    2.1  重新索引-------reindex:创建一个适合新索引的新对象

    reindex函数的参数:


    Series中reindex方法:

    #Series中的reindex方法
    obj=Series([1.2,3.4,-7.8,5.6],index=['d','a','c','b'])
    #rreindex会根据新索引重新排列,若索引值不存在,则引入缺省值
    obj.reindex(['a','b','c','d','e'])
    #还可设置缺省项的值
    obj.reindex(['a','b','c','d','e'],fill_value=0)    #此时,上面结果中的NaN将变成0
    """
    obj:            obj.reindex(['a','b','c','d','e']):
    d    1.2             a    3.4
    a    3.4             b    5.6
    c   -7.8             c   -7.8
    b    5.6             d    1.2
    dtype: float64       e    NaN
                         dtype: float64
    """
    #插值处理
    #对于时间序列这样的有序序列,重新索引时需要做一些插值处理
    obj1=Series(['yellow','pink','blue'],index=[0,2,4])
    obj1.reindex(range(6),method='ffill')
    """obj1=
    0    yellow
    1    yellow
    2      pink
    3      pink
    4      blue
    5      blue
    dtype: object
    """

    DataFrame中reindex方法:

    reindex可以修改(行)索引、列,或两个都修改。如果仅传入一个序列,则会重新索引行:

    frame=DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['US','UK','CN'])
    """frame=
       US  UK  CN
    a   0   1   2
    b   3   4   5
    c   6   7   8
    """
    frame1=frame.reindex(['a','b','c','e'])
    #使用columns关键字即可重新索引列
    states=['US','HK','CN']
    frame.reindex(columns=states)
    """result:
       US  HK  CN
    a   0 NaN   2
    b   3 NaN   5
    c   6 NaN   8
    """
    #可以同时对行和列进行索引,但插值只能按照行(即轴0)应用
    frame.reindex(index=['a','b','c','e'],method='ffill',columns=states)
    """
       US  HK  CN
    a   0 NaN   2
    b   3 NaN   5
    c   6 NaN   8
    e   6 NaN   8
    """
    #利用ix索引功能,重新索引任务变得更加简洁
    frame.ix[['a','b','c','e'],states]
    """
        US  HK   CN
    a  0.0 NaN  2.0
    b  3.0 NaN  5.0
    c  6.0 NaN  8.0
    e  NaN NaN  NaN
    """

    2.2 丢弃指定轴上的项------drop方法

    由于需要执行一些数据整理和集合逻辑,所以drop方法返回的是一个在指定轴上删除了指定值的新对象。

    #对于Series对象
    obj=Series([1.2,3.4,-7.8,5.6],index=['d','a','c','b'])
    obj.drop('c')               #返回的是新对象,obj没变
    obj.drop(['a','d'])
    """
    obj:            obj.drop('c'):               obj.drop(['a','d']):
    d    1.2             d    1.2                      c   -7.8
    a    3.4             a    3.4                      b    5.6
    c   -7.8             b    5.6                      dtype: float64
    b    5.6             dtype: float64
    dtype: float64                        
    """
    #对于DataFrame,可以删除任意轴上的索引值:
    frame=DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['US','UK','CN'])
    frame.drop('a')   #默认axis=0
    frame.drop(['US','UK'],axis=1)
    """
    frame:              frame.drop('a'):        frame.drop(['US','UK'],axis=1):
       US  UK  CN          US  UK  CN                CN
    a   0   1   2       b   3   4   5            a    2
    b   3   4   5       c   6   7   8            b    5
    c   6   7   8                                c    8
    """

    2.3 算术运算和数据对齐

    pandas最重要的一个功能是,它可以对不同索引的对象进行算术运算。在将对象相加时,如果存在不同的索引对,则结果的索引就是索引对的并集。

    #对于Series对象
    s1=Series([1.2,3.4,-7.8,5.6],index=['d','a','c','b'])
    s2=Series([1.1,2.2,3.3,4.4.,5.5,6.6],index=['a','b','c','d','e','f'])
    s1+s2     #在不重叠的地方引入了NA值,且缺失值会在算术运算过程中传播
    """result:
    a    4.5
    b    7.8
    c   -4.5
    d    5.6
    e    NaN
    f    NaN
    dtype: float64
    """

    对于DataFrame对象,对齐操作会发生在列和行上,具体过程和Series一样。

    2.4 DataFrame和Series之间的运算

    跟Numpy数组一样,DataFrame和Series之间的算术运算也是有明确规定的,和不同形状的数组之间的运算类似,也具有广播效应。

    默认情况下,DataFrame和Series之间的算术运算会将Series的索引匹配到DataFrame的列,然后沿着行已知向下传播(行传播):

    frame=DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['US','UK','CN'])
    s=frame.ix['a']
    frame-s
    """
    frame:                 s:                     frame-s:
       US  UK  CN         US  0                      US  UK  CN
    a   0   1   2         UK  1                   a   0   0   0
    b   3   4   5         CN  2                   b   3   3   3
    c   6   7   8                                 c   6   6   6
    """

    如果你希望匹配行,且在列上广播(列传播),则必须使用算术运算方法:

    frame=DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['US','UK','CN'])
    s1=frame['CN']
    frame.sub(s1,axis=0)  #axis=0不能少,否则运算时,默认沿着行向下传播
    """
    frame:                 s1:                     frame.sub(s1,axis=0)
       US  UK  CN            CN                      US  UK  CN
    a   0   1   2         a   2                   a  -2  -1   0
    b   3   4   5         b   5                   b  -2  -1   0
    c   6   7   8         c   8                   c  -2  -1   0
    """
    frame-s1   #或frame.sub(s1)
    """result:
       CN  UK  US   a   b   c
    a NaN NaN NaN NaN NaN NaN
    b NaN NaN NaN NaN NaN NaN
    c NaN NaN NaN NaN NaN NaN
    """
    

    算术方法:

    2.5 函数应用和映射

    numpy中ufuncs(元素级数组方法)也可以用于pandas对象,例:

    np.exp(frame)
    """
               US           UK           CN
    a    1.000000     2.718282     7.389056
    b   20.085537    54.598150   148.413159
    c  403.428793  1096.633158  2980.957987
    """

    另一个常见的操作是,将函数应用到由各列或行所形成的一维数组上,DataFrame的apply方法即可实现该功能:

    f=lambda x:x.max()-x.min()
    frame.apply(f)           #函数应用到每列所形成一维数组
    frame.apply(f,axis=1)    #函数应用到每行所形成一维数组
    """
    frame:              
       US  UK  CN        frame.apply(f):         frame.apply(f,axis=1)
    a   0   1   2        US    6                       a    2
    b   3   4   5        UK    6                       b    2
    c   6   7   8        CN    6                       c    2
    """
    

    2.6 排序和排名

    根据条件对数据集排序,这是一个内置运算,要对行或列索引进行排序(按字典排序),可使用sort_index方法,它将返回一个已排序好的新对象。

    2.6.1 排序

    #排序
    obj=Series([1.2,3.4,-7.8,5.6],index=['d','a','c','b'])
    #索引排序
    obj.sort_index()
    #值排序
    obj.sort_values()
    """
    obj:             obj.sort_index():          obj.sort_values():
    d    1.2             a    3.4                   c   -7.8
    a    3.4             b    5.6                   d    1.2
    c   -7.8             c   -7.8                   a    3.4
    b    5.6             d    1.2                   b    5.6
    """
    frame=DataFrame(np.arange(9).reshape((3,3)),index=['a','b','c'],columns=['US','UK','CN'])
    #索引排序,分轴0和轴1,若需要按照哪行排序,可利用by='',锁定某行
    frame.sort_index(axis=1)
    #值排序
    #axis=0代表对列操作,by='CN'代表对name为'CN'的列处理,ascending默认为True,代表升序排
    frame.sort_values(by='CN',axis=0,ascending=False)
    """
    frame:              frame.sort_index(axis=1):   frame.sort_values(by='CN',axis=0,ascending=False):
       US  UK  CN          CN  UK  US                        US  UK  CN
    a   0   1   2       a   2   1   0                     c   6   7   8
    b   3   4   5       b   5   4   3                     b   3   4   5
    c   6   7   8       c   8   7   6                     a   0   1   2   
    """
    #在排序中,默认缺失值都会被放到最后
    obj1=Series([4,np.nan,7,np.nan,-3,5])
    """result:
    4   -3.0
    0    4.0
    5    5.0
    2    7.0
    1    NaN
    3    NaN
    dtype: float64
    """

    2.6.2 排名

    排名(ranking)跟排序关系密切,且它会增设一个排名值(从1开始,一直到数组中有效数据的数量)。它跟numpy.argsort产生的间接排序索引差不多,只不过它可以根据某种规则破坏平级关系。默认情况下,rank是通过”为各组分配一个平均排名“的方式破坏平级关系的。

    rank()函数中,用于破坏平级关系的method选项:


    #排名:
    obj=Series([7,-5,7,4,2,0,4])
    obj.rank()
    obj.rank(method='first')
    """
    obj:           obj.rank():            obj.rank(method='first'):
    0    7          0    6.5                  0    6.0
    1   -5          1    1.0                  1    1.0
    2    7          2    6.5                  2    7.0
    3    4          3    4.5                  3    4.0
    4    2          4    3.0                  4    3.0
    5    0          5    2.0                  5    2.0
    6    4          6    4.5                  6    5.0
    """
    frame=DataFrame({'b':[3,2,4,1],'a':[7,5,2,9],'c':[3,9,6,2]})
    frame.rank(axis=1)
    """
    frame:                  frame.rank(axis=1):
       a  b  c                      a    b    c
    0  7  3  3                 0  3.0  1.5  1.5
    1  5  2  9                 1  2.0  1.0  3.0
    2  2  4  6                 2  1.0  2.0  3.0
    3  9  1  2                 3  3.0  1.0  2.0
    """
    

    三、汇总和计算描述统计

    pandas对象拥有一组常用的数学和统计方法。它们大部分都属于简约和汇总统计,用于从Series中提取单个值(如sum或mean)或从DataFrame的行或列中提取一个Series。更对应的numpy数组方法,它们都是基于没有缺失数据的假设而构建的。

    3.1与描述统计相关的函数:


    3.2 函数中常见的选项:

    3.3部分代码示例:

    #汇总和统计
    df=DataFrame([[1.4,np.nan],[7.1,-4.5],[np.nan,np.nan],[0.75,-1.3]],columns=['one','two'])
    #计算每列的和,默认排除NaN
    df.sum()
    #计算每行的和,默认排除NaN
    df.sum(axis=1)
    #计算每行的和,设置skipna=False,NaN参与计算,结果仍为NaN
    df.sum(axis=1,skipna=False)
    """
    df:                    df.sum():       df.sum(axis=1):     df.sum(axis=1,skipna=False):
        one  two         one    9.25         0    1.40               0     NaN
    0  1.40  NaN         two   -5.80         1    2.60               1    2.60
    1  7.10 -4.5                             2    0.00               2     NaN
    2   NaN  NaN                             3   -0.55               3   -0.55
    3  0.75 -1.3
    """
    obj=Series(['a','b','a','d']*4)
    obj.describe()
    """
    count     16
    unique     3
    top        a
    freq       8
    dtype: object
    """
    

    3.4、唯一值、值计数以及成员资格

    常见方法:(对于Series对象

    相关代码:

    obj=Series(['a','d','a','b']*4)
    unique=obj.unique()    #结果未排序 return:array(['a', 'd', 'b'], dtype=object)
    obj.value_counts()     #结果按值频率降序排序
    #等效于   pd.value_counts(obj,sort=True)
    """result:
    a    8
    d    4
    b    4
    dtype: int64
    """  
    obj1=Series(['a','b','c','d'])
    #判断矢量化集合的成员资格
    obj1.isin(['b','d'])
    """
    0    False
    1     True
    2    False
    3     True
    dtype: bool
    """
    对于DataFrame对象,可以使用apply函数和以上函数联合使用。
    frame=DataFrame({'b':[3,2,4,1],'a':[3,5,2,1],'c':[3,3,2,2]})
    #fillna(0)将nan值的位置上填补0
    frame.apply(pd.value_counts).fillna(0)
    """
         a    b    c
    1  1.0  1.0  0.0
    2  1.0  1.0  2.0
    3  1.0  1.0  2.0
    4  0.0  1.0  0.0
    5  1.0  0.0  0.0
    """

    四、处理缺失数据

    缺失数据是大部分数据分析应用中都很常见。pandas的设计目标之一就是让缺失数据的处理任务尽量轻松。pandas使用浮点值(NaN)表示浮点和非浮点数据中的缺失数据。它只是一个便于被检测出来的标记而已。python中的内置none也会被当做NA处理。

    NA的处理方法:


    展开全文
  • 本文参考《利用Python进行数据分析》的第五章 pandas入门 pandas拥有一组常用的数学和统计方法。它们大部分属于约简和汇总统计,用于从Series中提取单个值(如sum和mean),或从DataFrame的行或列中提取一个...

    本文参考《利用Python进行数据分析》的第五章 pandas入门

    pandas拥有一组常用的数学和统计方法。它们大部分属于约简和汇总统计,用于从Series中提取单个值(如sum和mean),或从DataFrame的行或列中提取一个Series。跟对应的Numpy数组方法相比,它们都是基于没有缺失数据的假设而构建的。


    idxmin()/idxmax():返回最小值最大值的索引

    cumsum():返回列累积和

    describe():产生汇总统计


    相关系数和协方差corr(), cov()
    协方差cov():表示线性相关的方向,取值正无穷到负无穷。协方差为正值,说明一个变量变大另一个变量也变大;协方差取负值,说明一个变量变大另一个变量变小,取0说明两个变量咩有相关关系。
    相关系数corr():不仅表示线性相关的方向,还表示线性相关的程度,取值[-1,1]。也就是说,相关系数为正值,说明一个变量变大另一个变量也变大;取负值说明一个变量变大另一个变量变小,取0说明两个变量没有相关关系。同时,相关系数的绝对值越接近1,线性关系越显著。
    下图为计算a列和b列的相关系数corr()和协方差cov():

    corrwith():计算DataFrame的列(axis=0,默认)或行(axis=1)跟另外一个Series或DataFrame之间的相关系数:

    唯一值、值计数以及成员资格
    unique():得到Series中的唯一值数值:

    value_counts():计算一个Series中各值出现的频率(默认降序排列):

    isin():判断成员资格,用于选取Series中或DataFrame列中数据的子集:









    展开全文
  • python(pandas模块)

    千次阅读 2019-02-27 16:15:50
    1.什么是pandas? numpy模块和pandas模块都是用于处理数据的模块。 numpy主要用于针对数组进行统计计算,处理数字数据比较方便。 pandas除了可以处理数字数据,还可以处理字符串数据,再其模块中包含两种数据类型 ...

    1.什么是pandas?

    • numpy模块和pandas模块都是用于处理数据的模块。
    • numpy主要用于针对数组进行统计计算,处理数字数据比较方便。
    • pandas除了可以处理数字数据,还可以处理字符串数据,再其模块中包含两种数据类型
      • 一维数据类型:Series
      • 二维: DataFrame
      • 三维: Panel …
      • 四维: Panel4D …
      • N维: PanelND …
        最常用的数据类型是一维和二维

    pandas创建Series数据类型

    import pandas as pd
    # 查看pandas的版本号
    print(pd.__version__)
    

    在这里插入图片描述

    1. 通过列表创建Series对象

    # 通常将pandas模块名起作pd
    import pandas as pd
    li=['包子','馒头','煎饼']
    # 不指定索引,行号默认从0开始
    data1 = pd.Series(data=li)
    print(data1)
    # 指定索引
    data2=pd.Series(data=li,index=["A","B","C"])
    print(data2)
    print(type(data2))
    

    在这里插入图片描述

    2. 通过numpy的对象Ndarray创建Series

    import pandas as pd
    import numpy as np
    # 随机生成5个小数
    arry=np.random.randn(5)
    data=pd.Series(data=arry)
    print(data)
    # 修改元素的数据类型
    print(data.astype(np.int))
    # 修改元素保留三位小数
    print(data.round(3))
    print(type(data))
    

    在这里插入图片描述

    3. 通过字典创建Series对象

    import string
    import pandas as pd
    dict = {string.ascii_lowercase[i]:i for i in range(10)}
    # 数据的行号为字典的key值,数据的元素为字典的value值
    s3 = pd.Series(dict)
    print(s3)
    

    在这里插入图片描述

    Series基本操作

    1. 修改Series索引

    import pandas as pd
    import numpy as np
    import  string
    array = ["粉条", "粉丝", "粉带"]
    s1 = pd.Series(data=array)
    print(s1)
    # 修改Series索引
    s1.index=['A','B','C']
    print(s1)
    

    在这里插入图片描述

    2. Series纵向拼接

    array = ["粉条", "粉丝", "粉带"]
    s2 = pd.Series(data=array)
    # Series竖直拼接
    s3=s1.append(s2)
    print(s3)
    

    在这里插入图片描述

    3. 删除指定索引对应的元素

    # 3). 删除指定索引对应的元素;
    s3 = s3.drop('C')  # 删除索引为‘C’对应的值;
    print(s3)
    

    在这里插入图片描述

    4. 根据指定的索引查找元素

    print(s3['B'])
    # 根据指定索引修改元素
    s3['B'] = np.nan
    print(s3)
    

    在这里插入图片描述

    5. 切片操作 — 同列表

    print(s3[:2])   # 显示前两个元素
    print(s3[::-1]) # 显示除最后一个元素外的所有元素
    print(s3[-2:])  # 显示最后两个元素
    

    在这里插入图片描述

    Series的基本运算

    按照对应的索引进行计算, 如果索引不同,则填充为Nan

    import pandas as pd
    import numpy as np
    import  string
    # 创建两个Series对象
    s1  = pd.Series(np.arange(5), index=list(string.ascii_lowercase[:5]))
    s2  = pd.Series(np.arange(2, 8), index=list(string.ascii_lowercase[2:8]))
    
    print(s1)
    print(s2)
    

    在这里插入图片描述

    # 加法
    print(s1 + s2)
    print(s1.add(s2))
    
    
    # 减法
    print(s1 - s2)
    print(s1.sub(s2))
    
    
    # 乘法
    print(s1 * s2)
    print(s1.mul(s2))
    
    
    # 除法
    print(s1 / s2)
    print(s1.div(s2))
    
    
    
    # 求中位数
    print(s1)
    print(s1.median())
    
    
    # 求和
    print(s1.sum())
    
    
    # 求最大值
    print(s1.max())
    
    # 求最小值
    print(s1.min())
    

    在这里插入图片描述

    特殊的where方法

    series中的where方法运行结果和numpy中完全不同

    • numpy中的where方法可以用来查找数据中符合不等式的索引,也可以将数据中符合不等式的元素重新赋值
    • pandas的series中的where方法只能将数据中符合不等式的元素重新赋值
    import pandas as pd
    import numpy as np
    import  string
    
    s1 = pd.Series(np.arange(5), index=list(string.ascii_lowercase[:5]))
    # s1中小于3的元素赋值为缺失值
    print(s1.where(s1 > 3))
    
    # 对象中小于3的元素赋值为10;
    print(s1.where(s1 > 3, 10))
    
    # 对象中大于3的元素赋值为10;
    print(s1.mask(s1 > 3, 10))
    

    在这里插入图片描述

    创建DataFrame数据类型

    方法1: 通过列表创建

    import pandas as pd
    li = [
        [1, 2, 3, 4],
        [2, 3, 4, 5]
    ]
    
    # DataFRame对象里面包含两个索引, 行索引(0轴, axis=0), 列索引(1轴, axis=1)
    d1 = pd.DataFrame(data=li, index=['A', 'B'], columns=['views', 'loves', 'comments', 'tranfers'])
    print(d1)
    

    在这里插入图片描述

    方法2: 通过numpy对象创建

    import pandas as pd
    import numpy as np
    narr = np.arange(8).reshape(2, 4)
    # DataFRame对象里面包含两个索引, 行索引(0轴, axis=0), 列索引(1轴, axis=1)
    d2 = pd.DataFrame(data=narr, index=['A', 'B'], columns=['views', 'loves', 'comments', 'tranfers'])
    print(d2)
    

    在这里插入图片描述

    方法三: 通过字典的方式创建

    import pandas as pd
    # 字典中的key值为数据中的列索引
    # 字典中的value值为数据中的元素
    dict = {
        'views': [1, 2, ],
        'loves': [2, 3, ],
        'comments': [3, 4, ]
    
    }
    # index中的行索引必须和字典中key-value值个数相对应
    d3 = pd.DataFrame(data=dict, index=['粉条', "粉丝"])
    print(d3)
    
    

    在这里插入图片描述

    4.日期操作的特例:

    # date_range() :生成日期索引值对象的函数
    # start表示起始日期;end表示截至日期;
    # freq表示按xx间隔将起始到截至日期分隔开(默认以一天为间隔);periods表示xx个分组
    dates = pd.date_range(start='1/1/2018', end='1/08/2018')
    print(dates)
    

    在这里插入图片描述

    # 行索引
    dates = pd.date_range(start='today', periods=6)
    # 数据
    data_arr = np.random.randn(6, 4)
    # 列索引
    columns = ['A', 'B', 'C', 'D']
    d4 = pd.DataFrame(data_arr, index=dates, columns=columns)
    print(d4)
    

    在这里插入图片描述

    练习:

    一维对象: 建立一个以2019年每一天作为索引, 值为随机数;

    import pandas as pd
    import numpy as np
    
    dates=pd.date_range(start='1/01/2019',end='12/31/2019',freq='D')
    data=np.random.randn(len(dates))
    s=pd.Series(data=data,index=dates)
    # 查看前5行
    print(s.head())
    # 查看后5行
    print(s.tail())
    

    在这里插入图片描述

    DataFrame的基本操作

    # 先创建一个DataFrame对象用于测试
    import pandas as pd
    import numpy as np
    
    narr = np.arange(8).reshape(2, 4)
    # DataFRame对象里面包含两个索引, 行索引(0轴, axis=0), 列索引(1轴, axis=1)
    d2 = pd.DataFrame(data=narr, index=['A', 'B'], columns=['views', 'loves', 'comments', 'tranfers'])
    print(d2)
    

    在这里插入图片描述

    1. 查看基础属性

    print(d2.shape)  # 获取行数和列数;
    print('*'*30)
    print(d2.dtypes)  # 列数据类型
    print('*'*30)
    print(d2.ndim)  # 获取数据的维度
    print('*'*30)
    print(d2.index) # 行索引
    print('*'*30)
    print(d2.columns) # 列索引
    print('*'*30)
    print(d2.values, type(d2.values))   # 对象的值, 二维ndarray数组;
    

    在这里插入图片描述

    2. 数据整体状况的查询

    # 相关信息的预览: 行数, 列数, 列类型, 内存占用
    print("info:", d2.info())
    
    print("统计".center(50, '*'))
    # 快速综合用计结果: 计数, 均值, 标准差, 最小值, 1/4位数, 中位数, 3/4位数, 最大值;
    print(d2.describe())
    

    在这里插入图片描述

    3.转置及按列排序

    # 3). 转置操作
    print(d2.T)
    print('*'*30)
    # 4). 按列进行排序
    print(d2)
    # 按照指定列进行排序, 默认是升序, 如果需要降序显示,设置ascending=False;
    print(d2.sort_values(by="views", ascending=False))
    

    在这里插入图片描述

    4.切片及查询

    print(d2[:1])   # 可以实现切片, 但是不能索引;
    print('*'*30)
    print('1:\n', d2['views'])   # 通过标签查询, 获取单列信息
    print('2:\n', d2.views)   # 和上面是等价的;
    print('*'*30)
    print(d2[['views', 'comments']])  # 通过标签查询多列信息
    

    在这里插入图片描述

    5.通过类似索引的方式查询

    • iloc(通过位置进行行数据的获取),
    • loc(t通过标签索引行数据)
    print(d2)
    print('第一行元素:\n')
    # iloc查询
    print(d2.iloc[0])
    # loc查询
    print(d2.loc['A'])
    print('第二行元素:\n')
    # iloc查询
    print(d2.iloc[-1:])
    # loc查询
    print(d2.loc['B'])
    

    在这里插入图片描述
    在这里插入图片描述

    6. 更改pandas的值

    类似于列表根据索引修改值,通过iloc或loc方法进行修改pandas的值

    print(d2)
    d2.loc['A'] = np.nan
    print(d2)
    

    在这里插入图片描述

    从文件中读取数据

    1. csv文件的写入

    df = pd.DataFrame(
        {'province': ['陕西', '陕西', '四川', '四川', '陕西'],
         'city': ['咸阳', '宝鸡', '成都', '成都', '宝鸡'],
         'count1': [1, 2, 3, 4, 5],
         'count2': [1, 2, 33, 4, 5]
         }
    )
    
    df.to_csv('doc/csvFile.csv')
    print("csv文件保存成功")
    
    

    在这里插入图片描述

    2. csv文件的读取

    # 在读取的过程中,会将csv文件中行索引读取出来,另起一列Unnamed: 0
    df2 = pd.read_csv('doc/csvFile.csv')
    print(df2)
    

    在这里插入图片描述

    3. excel文件的写入

    df2.pop('Unnamed: 0')
    df2.to_excel("/tmp/excelFile.xlsx", sheet_name="省份统计")
    print("excel文件保存成功")
    
    

    在这里插入图片描述

    分组与聚合操作之groupby

    pandas提供了一个灵活高效的groupby功能,

    • 它使你能以一种自然的方式对数据集进行切片、切块、摘要等操作。
    • 根据一个或多个键(可以是函数、数组或DataFrame列>名)拆分pandas对象。
    • 计算分组摘要统计,如计数、平均值、标准差,或用户自定义函数。
    import pandas as pd
    
    df = pd.DataFrame(
        {'province': ['陕西', '陕西', '四川', '四川', '陕西'],
         'city': ['咸阳', '宝鸡', '成都', '成都', '宝鸡'],
         'count1': [1, 2, 3, 4, 5],
         'count2': [1, 2, 33, 4, 5]
         }
    )
    
    # 根据某一列的key值进行统计分析;
    # 根据province这一列进行对count1这一列的统计分析
    # 将province中的相同元素分为一组
    grouped = df['count1'].groupby(df['province'])
    print(grouped.describe())
    # 将每一组的count1中的元素取中值
    print(grouped.median())
    

    在这里插入图片描述

    import pandas as pd
    
    df = pd.DataFrame(
        {'province': ['陕西', '陕西', '四川', '四川', '陕西'],
         'city': ['咸阳', '宝鸡', '成都', '成都', '宝鸡'],
         'count1': [1, 2, 3, 4, 5],
         'count2': [1, 2, 33, 4, 5]
         }
    )
    print(df)
    # 根据城市统计分析cpunt1的信息;
    grouped = df['count1'].groupby(df['city'])
    print(grouped.max())
    
    

    在这里插入图片描述

    import pandas as pd
    
    df = pd.DataFrame(
        {'province': ['陕西', '陕西', '四川', '四川', '陕西'],
         'city': ['咸阳', '宝鸡', '成都', '成都', '宝鸡'],
         'count1': [1, 2, 3, 4, 5],
         'count2': [1, 2, 33, 4, 5]
         }
    )
    print(df)
    # 指定多个key值进行分类聚合;
    grouped = df['count1'].groupby([df['province'], df['city']])
    print(grouped)
    print(grouped.max())
    # 统计各个城市的count1的总和
    print(grouped.sum())
    # 统计各个城市出现的次数
    print(grouped.count())
    #  通过unstack方法, 实现层次化的索引;
    # 将province这个大分组当作行索引,city这个小分组当作列索引
    print(grouped.max().unstack())
    

    在这里插入图片描述
    在这里插入图片描述

    案例1_商品数据分析

    • 文件名称: doc/chipo.csv
    • 文件描述: 每列数据分别代表如下: 订单编号, 订单数量, 商品名称, 商品详细选择项, 商品单价
    需求1:
    • 从文件中读取所有的数据;
    • 获取数据中所有的商品名称;
    • 跟据商品的价格进行排序, 降序,将价格最高的20件产品信息写入mosthighPrice.xlsx文件中;
    import pandas as pd
    import numpy as np
    """
    需求1:
        1). 从文件中读取所有的数据;
        2). 获取数据中所有的商品名称;
    """
    # 读取文件信息
    df=pd.read_csv('doc/chipo.csv')
    # 去掉索引列
    df.pop('Unnamed: 0')
    # 取出所有商品名称
    itemName=df['item_name'].values
    print(itemName)
    

    在这里插入图片描述

    # 3).跟据商品的价格进行排序, 降序,将价格最高的20件产品信息写入mosthighPrice.xlsx文件中;
    # 取出商品单价,并去掉$符号,再转成浮点型
    price=df['item_price'].str.strip('$').astype(np.float)
    # 添加一列处理好的单价信息
    df['price']=price
    # 将商品按添加的一列单价信息进行降序排序,并取前20行
    df=df.sort_values('price',ascending=False).head(20)
    # 去掉添加的一列单价信息
    df.pop('price')
    df.to_excel('/tmp/item.xlsx')
    

    在这里插入图片描述

    需求2:
    • 统计列[item_name]中每种商品出现的频率,绘制柱状图
      (购买次数最多的商品排名-绘制前5条记录)
    • 根据列 [odrder_id] 分组,求出每个订单花费的总金额。
    • 根据每笔订单的总金额和其商品的总数量画出散点图。
    # 1). 统计列[item_name]中每种商品出现的频率,绘制柱状图(购买次数最多的商品排名-绘制前5条记录)
    import pandas as pd
    from pyecharts import Bar
    df=pd.read_csv('doc/chipo.csv')
    df.pop('Unnamed: 0')
    # 将数据按商品名称分组,并求每组商品数量的总和
    count=df['quantity'].groupby(by=df['item_name']).sum()
    # 将数据降序排序,并取前5行
    data=count.sort_values(ascending=False).head()
    bar=Bar('柱状图')
    bar.add('',data.index,data.values)
    bar.render('bar.html')
    

    在这里插入图片描述

    # 2). 根据列 [odrder_id] 分组,求出每个订单花费的总金额。
    import pandas as pd
    import numpy as np
    df=pd.read_csv('doc/chipo.csv')
    df.pop('Unnamed: 0')
    # 取出商品单价,并去掉$符号,再转成浮点型
    price=df['item_price'].str.strip('$').astype(np.float)
    # 添加一列处理好的单价信息
    df['price']=price
    # 将数据的quantity列和price列相乘得到每一行总价
    all_price=df['quantity']*df['price']
    # 将总价信息添加到数据的一列中
    df['all_price']=all_price
    # 按订单号进行分组,求每个订单号的总价
    data=df['all_price'].groupby(by=df['order_id']).sum()
    print(data)
    # 3). 根据每笔订单的总金额和其商品的总数量画出散点图。
    # 按订单号进行分组,求每个订单号的商品总数
    count=df['quantity'].groupby(by=df['order_id']).sum()
    sc=Scatter('散点图')
    sc.add('',data,count)
    sc.render('scatter.html')
    

    在这里插入图片描述
    在这里插入图片描述

    字符串的操作

    在一维数组Series中有.str方法,可以对数组内的元素进行字符串操作

    import pandas as pd
    import numpy as np
    
    series1= pd.Series(['$A:1', '$B:2', '$C:3', np.nan, '$cat:3'])
    print(series1)
    
    # 将所有的字母转换为小写字母, 除了缺失值
    print(series1.str.lower())
    
    
    # 将所有的字母转换为大写字母, 除了缺失值
    print(series1.str.upper())
    
    # 分离
    print(series1.str.split(":"))
    
    # 去掉左右两端的某个字符
    print(series1.str.strip('$'))
    

    在这里插入图片描述
    在这里插入图片描述

    案例2_消费金额和小费之间的关联与性别和吸烟与否的关系

    • 文件名称: doc/tips.csv
    • 文件内容: 总消费金额, 小费金额, 性别, 是否抽烟, 日期, 时间, 星期
    需求:
    • 分别吸烟顾客与不吸烟顾客的消费金额与小费之间的散点图;
    • 女性与男性中吸烟与不吸烟顾客的消费金额与小费之间的散点图关系;
    # 分别吸烟顾客与不吸烟顾客的消费金额与小费之间的散点图;
    import numpy as np
    from matplotlib import pyplot as plt
    import pandas as pd
    from pyecharts import EffectScatter
    df=pd.read_csv('doc/tips.csv')
    smoker=df[df.smoker=='Yes']
    noSmoker=df[df.smoker=='No']
    smoker_y=smoker.total_bill
    smoker_x=smoker.tip
    noSmoker_x=noSmoker.tip
    noSmoker_y=noSmoker.total_bill
    es=EffectScatter('消费金额于小费之间的关系')
    es.add('吸烟者',smoker_x,smoker_y)
    es.add('不吸烟者',noSmoker_x,noSmoker_y)
    es.render()
    

    在这里插入图片描述

    # 女性与男性中吸烟与不吸烟顾客的消费金额与小费之间的散点图关系;
    import numpy as np
    from matplotlib import pyplot as plt
    import pandas as pd
    from pyecharts import EffectScatter
    df=pd.read_csv('doc/tips.csv')
    male=df[df.sex=='Male']
    female=df[df.sex=='Female']
    male_smoker=male[male.smoker=='Yes']
    male_noSmoker=male[male.smoker=='No']
    male_smoker_x=male_smoker.tip
    male_smoker_y=male_smoker.total_bill
    male_noSmoker_x=male_noSmoker.tip
    male_noSmoker_y=male_noSmoker.total_bill
    female_smoker=female[female.smoker=='Yes']
    female_noSmoker=female[female.smoker=='No']
    female_smoker_x=female_smoker.tip
    female_smoker_y=female_smoker.total_bill
    female_noSmoker_x=female_noSmoker.tip
    female_noSmoker_y=female_noSmoker.total_bill
    es=EffectScatter('男女吸烟与不吸烟的消费金额和小费关系图')
    es.add('男性吸烟',male_smoker_x,male_smoker_y)
    es.add('男性不吸烟',male_noSmoker_x,male_noSmoker_y)
    es.add('女性吸烟',female_smoker_x,female_smoker_y)
    es.add('女性不吸烟',female_noSmoker_x,female_noSmoker_y)
    es.render()
    

    在这里插入图片描述

    展开全文
  • pandas用法总结

    万次阅读 多人点赞 2020-06-11 16:11:25
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....

    一、生成数据表

    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用:

    import numpy as np
    import pandas as pd
    

    2、导入CSV或者xlsx文件:

    df = pd.DataFrame(pd.read_csv('name.csv',header=1))
    df = pd.DataFrame(pd.read_excel('name.xlsx'))
    

    或者

    import pandas as pd
    from collections import namedtuple
    
    Item = namedtuple('Item', 'reply pv')
    items = []
    
    with codecs.open('reply.pv.07', 'r', 'utf-8') as f: 
        for line in f:
            line_split = line.strip().split('\t')
            items.append(Item(line_split[0].strip(), line_split[1].strip()))
    
    df = pd.DataFrame.from_records(items, columns=['reply', 'pv'])
    

    3、用pandas创建数据表:

    df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
     "date":pd.date_range('20130102', periods=6),
      "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
     "age":[23,44,54,32,34,32],
     "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
      "price":[1200,np.nan,2133,5433,np.nan,4432]},
      columns =['id','date','city','category','age','price'])
    

    二、数据表信息查看

    1、维度查看:

    df.shape
    

    2、数据表基本信息(维度、列名称、数据格式、所占空间等):

    df.info()
    

    3、每一列数据的格式:

    df.dtypes
    

    4、某一列格式:

    df['B'].dtype
    

    5、空值:

    df.isnull()
    

    6、查看某一列空值:

    df.isnull()
    

    7、查看某一列的唯一值:

    df['B'].unique()
    

    8、查看数据表的值:

    df.values 
    

    9、查看列名称:

    df.columns
    

    10、查看前5行数据、后5行数据:

    df.head() #默认前5行数据
    df.tail()    #默认后5行数据
    

    三、数据表清洗

    1、用数字0填充空值:

    df.fillna(value=0)
    

    2、使用列prince的均值对NA进行填充:

    df['prince'].fillna(df['prince'].mean())
    

    3、清楚city字段的字符空格:

    df['city']=df['city'].map(str.strip)
    

    4、大小写转换:

    df['city']=df['city'].str.lower()
    

    5、更改数据格式:

    df['price'].astype('int')       
    

    6、更改列名称:

    df.rename(columns={'category': 'category-size'}) 
    

    7、删除后出现的重复值:

    df['city'].drop_duplicates()
    

    8 、删除先出现的重复值:

    df['city'].drop_duplicates(keep='last')
    

    9、数据替换:

    df['city'].replace('sh', 'shanghai')
    

    四、数据预处理

    df1=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008], 
    "gender":['male','female','male','female','male','female','male','female'],
    "pay":['Y','N','Y','Y','N','Y','N','Y',],
    "m-point":[10,12,20,40,40,40,30,20]})
    

    1、数据表合并

    1.1 merge

    df_inner=pd.merge(df,df1,how='inner')  # 匹配合并,交集
    df_left=pd.merge(df,df1,how='left')        #
    df_right=pd.merge(df,df1,how='right')
    df_outer=pd.merge(df,df1,how='outer')  #并集
    

    1.2 append

    result = df1.append(df2)
    

    这里写图片描述

    1.3 join

    result = left.join(right, on='key')
    

    这里写图片描述

    1.4 concat

    pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
    	          keys=None, levels=None, names=None, verify_integrity=False,
    	          copy=True)
    
    • objs︰ 一个序列或系列、 综合或面板对象的映射。如果字典中传递,将作为键参数,使用排序的键,除非它传递,在这种情况下的值将会选择
      (见下文)。任何没有任何反对将默默地被丢弃,除非他们都没有在这种情况下将引发 ValueError。
    • axis: {0,1,…},默认值为 0。要连接沿轴。
    • join: {‘内部’、 ‘外’},默认 ‘外’。如何处理其他 axis(es) 上的索引。联盟内、 外的交叉口。
    • ignore_index︰ 布尔值、 默认 False。如果为 True,则不要串联轴上使用的索引值。由此产生的轴将标记
      0,…,n-1。这是有用的如果你串联串联轴没有有意义的索引信息的对象。请注意在联接中仍然受到尊重的其他轴上的索引值。
    • join_axes︰ 索引对象的列表。具体的指标,用于其他 n-1 轴而不是执行内部/外部设置逻辑。 keys︰
      序列,默认为无。构建分层索引使用通过的键作为最外面的级别。如果多个级别获得通过,应包含元组。
    • levels︰ 列表的序列,默认为无。具体水平 (唯一值) 用于构建多重。否则,他们将推断钥匙。
    • names︰ 列表中,默认为无。由此产生的分层索引中的级的名称。
    • verify_integrity︰ 布尔值、 默认 False。检查是否新的串联的轴包含重复项。这可以是相对于实际数据串联非常昂贵。
    • 副本︰ 布尔值、 默认 True。如果为 False,请不要,不必要地复制数据。
    例子:1.frames = [df1, df2, df3]
              2.result = pd.concat(frames)
    

    这里写图片描述

    2、设置索引列

    df_inner.set_index('id')
    

    3、按照特定列的值排序:

    df_inner.sort_values(by=['age'])
    

    4、按照索引列排序:

    df_inner.sort_index()
    

    5、如果prince列的值>3000,group列显示high,否则显示low:

    df_inner['group'] = np.where(df_inner['price'] > 3000,'high','low')
    

    6、对复合多个条件的数据进行分组标记

    df_inner.loc[(df_inner['city'] == 'beijing') & (df_inner['price'] >= 4000), 'sign']=1
    

    7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size

    pd.DataFrame((x.split('-') for x in df_inner['category']),index=df_inner.index,columns=['category','size']))
    

    8、将完成分裂后的数据表和原df_inner数据表进行匹配

    df_inner=pd.merge(df_inner,split,right_index=True, left_index=True)
    

    五、数据提取

    主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。

    1、按索引提取单行的数值

    df_inner.loc[3]
    

    2、按索引提取区域行数值

    df_inner.iloc[0:5]
    

    3、重设索引

    df_inner.reset_index()
    

    4、设置日期为索引

    df_inner=df_inner.set_index('date') 
    

    5、提取4日之前的所有数据

    df_inner[:'2013-01-04']
    

    6、使用iloc按位置区域提取数据

    df_inner.iloc[:3,:2] #冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。
    

    7、适应iloc按位置单独提起数据

    df_inner.iloc[[0,2,5],[4,5]] #提取第0、2、5行,4、5列
    

    8、使用ix按索引标签和位置混合提取数据

    df_inner.ix[:'2013-01-03',:4] #2013-01-03号之前,前四列数据
    

    9、判断city列的值是否为北京

    df_inner['city'].isin(['beijing'])
    

    10、判断city列里是否包含beijing和shanghai,然后将符合条件的数据提取出来

    df_inner.loc[df_inner['city'].isin(['beijing','shanghai'])] 
    

    11、提取前三个字符,并生成数据表

    pd.DataFrame(category.str[:3])
    

    六、数据筛选

    使用与、或、非三个条件配合大于、小于、等于对数据进行筛选,并进行计数和求和。

    1、使用“与”进行筛选

    df_inner.loc[(df_inner['age'] > 25) & (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']]
    

    2、使用“或”进行筛选

    df_inner.loc[(df_inner['age'] > 25) | (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']].sort(['age']) 
    

    3、使用“非”条件进行筛选

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']) 
    

    4、对筛选后的数据按city列进行计数

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']).city.count()
    

    5、使用query函数进行筛选

    df_inner.query('city == ["beijing", "shanghai"]')
    

    6、对筛选后的结果按prince进行求和

    df_inner.query('city == ["beijing", "shanghai"]').price.sum()
    

    七、数据汇总

    主要函数是groupby和pivote_table

    1、对所有的列进行计数汇总

    df_inner.groupby('city').count()
    

    2、按城市对id字段进行计数

    df_inner.groupby('city')['id'].count()
    

    3、对两个字段进行汇总计数

    df_inner.groupby(['city','size'])['id'].count()
    

    4、对city字段进行汇总,并分别计算prince的合计和均值

    df_inner.groupby('city')['price'].agg([len,np.sum, np.mean]) 
    

    八、数据统计

    数据采样,计算标准差,协方差和相关系数

    1、简单的数据采样

    df_inner.sample(n=3) 
    

    2、手动设置采样权重

    weights = [0, 0, 0, 0, 0.5, 0.5]
    df_inner.sample(n=2, weights=weights) 
    

    3、采样后不放回

    df_inner.sample(n=6, replace=False) 
    

    4、采样后放回

    df_inner.sample(n=6, replace=True)
    

    5、 数据表描述性统计

    df_inner.describe().round(2).T #round函数设置显示小数位,T表示转置
    

    6、计算列的标准差

    df_inner['price'].std()
    

    7、计算两个字段间的协方差

    df_inner['price'].cov(df_inner['m-point']) 
    

    8、数据表中所有字段间的协方差

    df_inner.cov()
    

    9、两个字段的相关性分析

    df_inner['price'].corr(df_inner['m-point']) #相关系数在-1到1之间,接近1为正相关,接近-1为负相关,0为不相关
    

    10、数据表的相关性分析

    df_inner.corr()
    

    九、数据输出

    分析后的数据可以输出为xlsx格式和csv格式

    1、写入Excel

    df_inner.to_excel('excel_to_python.xlsx', sheet_name='bluewhale_cc') 
    

    2、写入到CSV

    df_inner.to_csv('excel_to_python.csv') 
    
    展开全文
  • 本博客为《利用Python进行数据分析》的读书笔记,请勿转载用于其他商业用途。 pandas对象装配了一个常用数字、统计学方法的集合。其中大部分属于归约 或汇总统计 的类别,这些方法从DataFrame的行或列中抽取一个...
  • python~pandas常用代码

    千次阅读 2016-06-04 22:25:08
    来源:... # coding=gbk ''' Created on 2016年6月1日 @author: bryan ''' import pandas as pd import numpy as np import matplotlib.pyplot as plt # 1、可以通过传递一个li
  • python3(四)Pandas

    2018-01-30 16:34:41
    数据摘要pandas 目录1 pandas库1.1 pandas库1.2 Series类型1.3 Series类型的基本操作1.4 DataFrame类型1.5 数据类型操作1.6 数据类型运算2 数据特征分析2.1 数据的排序2.2 数据的基本统计分析2.3 数据的累计...
  • 目录 ...Pandas的名称来自于面板数据(panel data)和Python数据分析(data analysis)。 Pandas是一个强大的分析结构化数据的工具集,基于NumPy构建,提供了高级数据结构和数据操作工具,它是...
  • Python Pandas 用法速查表

    千次阅读 2020-08-11 10:04:28
    数据读写 数据创建 数据查看 数据操作 数据提取 数据筛选 数据统计 操作数据表结构 数据表合并 数据读写 代码 作用 df = pd.DataFrame(pd.read_csv(‘input.csv’,header=1)) ......
  • Python中的Pandas模块

    千次阅读 2018-11-07 09:04:38
    目录 Pandas Series 序列的创建 序列的读取  ...Pandas ( Python Data Analysis Library )是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,...
  • 利用python进行数据分析第五章:pandas入门第三节,汇总和计算描述统计DataFrame当中的一些数学和统计方法 >>> df=DataFrame([[1.4, np.nan],[7.1, -4.5],[np.nan, np.nan], [0.75, -1.3]], index=['a', 'b', 'c', ...
  • 查改增删DataFrame数据 DataFrame作为一种二维数据表结构,能够和数据库一样实现查改增删操作,如添加一行,添加一列,删除一列,修改某一列的值等。 创建一个数据表,并添加数据: 修改行数据 ...
  • 一,cdm命令 打开cmd 二,输入pip install pandas 三,最后一行有Successfully则成功 四,检查是否安装成功 ...1,输入python ...五,如果安装成功但pycharm依旧报错,见这篇文章添加链接描述 ...
  • Python数据分析之pandas统计分析

    万次阅读 多人点赞 2017-07-27 20:22:04
    pandas模块为我们提供了非常多的描述性统计分析的指标函数,如总和、均值、最小值、最大值等,我们来具体看看这些函数:1、随机生成三组数据import numpy as np import pandas as pdnp.random.seed(1234) d1 = pd....
  • 对象关系映射技术,即ORM(Object-Relational Mapping)技术,指的是把关系数据库的表结构映射到对象上,通过使用描述对象和数据库之间映射的元数据,将程序中的对象自动持久化到关系数据库中。 在Python中,最有名...
  • Pythonpandas

    千次阅读 2018-11-05 13:38:56
    pandaspython中很重要的组件,网上关于pandas 的文章也很多,比如Python科学计算之Pandas 和 Python数据分析入门 http://pandas.pydata.org/ Pandas基于两种数据类型:series与dataframe。 一个series是一个...
  • 描述和汇总统计表
  • 本文讲的是PythonPandas 在 SQLite 数据库中的运用, SQLite是一个数据库引擎,使用它能方便地存储和处理关系型数据。它和csv格式很相似,SQLite把数据存储在一个单独的文件中,它能方便地与其他人共享。大...
  • Pythonpandas的describe参数详解

    万次阅读 2019-06-22 15:41:39
    pandas的describe可以用来展示数据的一些描述性统计信息,因此经常用到。 describe的官网参数如下图: 使用实例: df = pd.DataFrame(data={ 'A':list('abaacdadaf'), 'B':[2,4,6,3,6,2,5,8,0,2] }) percentiles:...
  • python-pandas绘图

    万次阅读 2016-11-03 20:22:08
    讲在前面完整代码可在我的github上下载...pandas绘图显示 : plt.show()保存到本地 : plt.savefig(‘image.png’)%matplotlib inline import pandas as pd import matplotlib.pyplot as plt present = pd.read_table('d
1 2 3 4 5 ... 20
收藏数 17,372
精华内容 6,948
关键字:

pandas python 描述