pandas 订阅
pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。 展开全文
pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。
信息
外文名
pandas
开发与维护
PyData开发组
用    途
Python数据分析模块
起    源
AQR Capital Management
pandas简介
Pandas [1]  是python的一个数据分析包,最初由AQR Capital Management于2008年4月开发,并于2009年底开源出来,目前由专注于Python数据包开发的PyData开发team继续开发和维护,属于PyData项目的一部分。Pandas最初被作为金融数据分析工具而开发出来,因此,pandas为时间序列分析提供了很好的支持。 Pandas的名称来自于面板数据(panel data)和python数据分析(data analysis)。panel data是经济学中关于多维数据集的一个术语,在Pandas中也提供了panel的数据类型。
收起全文
精华内容
参与话题
问答
  • pandas用法大全

    万次阅读 多人点赞 2017-09-05 21:01:40
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....

    一、生成数据表
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用:

    import numpy as np
    import pandas as pd

    2、导入CSV或者xlsx文件:

    df = pd.DataFrame(pd.read_csv('name.csv',header=1))
    df = pd.DataFrame(pd.read_excel('name.xlsx'))
    

    3、用pandas创建数据表:

    df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
     "date":pd.date_range('20130102', periods=6),
      "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
     "age":[23,44,54,32,34,32],
     "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
      "price":[1200,np.nan,2133,5433,np.nan,4432]},
      columns =['id','date','city','category','age','price'])
    

    2、数据表信息查看
    1、维度查看:

    df.shape
    

    2、数据表基本信息(维度、列名称、数据格式、所占空间等):

    df.info()
    

    3、每一列数据的格式:

    df.dtypes
    

    4、某一列格式:

    df['B'].dtype
    

    5、空值:

    df.isnull()
    

    6、查看某一列空值:

    df.isnull()
    

    7、查看某一列的唯一值:

    df['B'].unique()
    

    8、查看数据表的值:
    df.values
    9、查看列名称:

    df.columns
    

    10、查看前10行数据、后10行数据:

    df.head() #默认前10行数据
    df.tail()    #默认后10 行数据
    

    三、数据表清洗
    1、用数字0填充空值:

    df.fillna(value=0)
    

    2、使用列prince的均值对NA进行填充:

    df['prince'].fillna(df['prince'].mean())
    

    3、清楚city字段的字符空格:

    df['city']=df['city'].map(str.strip)
    

    4、大小写转换:

    df['city']=df['city'].str.lower()
    

    5、更改数据格式:

    df['price'].astype('int')       
    

    6、更改列名称:

    df.rename(columns={'category': 'category-size'}) 
    

    7、删除后出现的重复值:

    df['city'].drop_duplicates()
    

    8、删除先出现的重复值:

    df['city'].drop_duplicates(keep='last')
    

    9、数据替换:

    df['city'].replace('sh', 'shanghai')
    

    四、数据预处理

    df1=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008], 
    "gender":['male','female','male','female','male','female','male','female'],
    "pay":['Y','N','Y','Y','N','Y','N','Y',],
    "m-point":[10,12,20,40,40,40,30,20]})
    

    1、数据表合并

    df_inner=pd.merge(df,df1,how='inner')  # 匹配合并,交集
    df_left=pd.merge(df,df1,how='left')        #
    df_right=pd.merge(df,df1,how='right')
    df_outer=pd.merge(df,df1,how='outer')  #并集
    

    2、设置索引列

    df_inner.set_index('id')
    

    3、按照特定列的值排序:

    df_inner.sort_values(by=['age'])
    

    4、按照索引列排序:

    df_inner.sort_index()
    

    5、如果prince列的值>3000,group列显示high,否则显示low:

    df_inner['group'] = np.where(df_inner['price'] > 3000,'high','low')
    

    6、对复合多个条件的数据进行分组标记

    df_inner.loc[(df_inner['city'] == 'beijing') & (df_inner['price'] >= 4000), 'sign']=1
    

    7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size

    pd.DataFrame((x.split('-') for x in df_inner['category']),index=df_inner.index,columns=['category','size']))
    

    8、将完成分裂后的数据表和原df_inner数据表进行匹配

    df_inner=pd.merge(df_inner,split,right_index=True, left_index=True)
    

    五、数据提取
    主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。
    1、按索引提取单行的数值

    df_inner.loc[3]
    

    2、按索引提取区域行数值

    df_inner.iloc[0:5]
    

    3、重设索引

    df_inner.reset_index()
    

    4、设置日期为索引

    df_inner=df_inner.set_index('date') 
    

    5、提取4日之前的所有数据

    df_inner[:'2013-01-04']
    

    6、使用iloc按位置区域提取数据

    df_inner.iloc[:3,:2] #冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。
    

    7、适应iloc按位置单独提起数据

    df_inner.iloc[[0,2,5],[4,5]] #提取第0、2、5行,4、5列
    

    8、使用ix按索引标签和位置混合提取数据

    df_inner.ix[:'2013-01-03',:4] #2013-01-03号之前,前四列数据
    

    9、判断city列的值是否为北京

    df_inner['city'].isin(['beijing'])
    

    10、判断city列里是否包含beijing和shanghai,然后将符合条件的数据提取出来

    df_inner.loc[df_inner['city'].isin(['beijing','shanghai'])] 
    

    11、提取前三个字符,并生成数据表

    pd.DataFrame(category.str[:3])
    

    六、数据筛选
    使用与、或、非三个条件配合大于、小于、等于对数据进行筛选,并进行计数和求和。
    1、使用“与”进行筛选

    df_inner.loc[(df_inner['age'] > 25) & (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']]
    

    2、使用“或”进行筛选

    df_inner.loc[(df_inner['age'] > 25) | (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']].sort(['age']) 
    

    3、使用“非”条件进行筛选

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']) 
    

    4、对筛选后的数据按city列进行计数

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']).city.count()
    

    5、使用query函数进行筛选

    df_inner.query('city == ["beijing", "shanghai"]')
    

    6、对筛选后的结果按prince进行求和

    df_inner.query('city == ["beijing", "shanghai"]').price.sum()
    

    七、数据汇总
    主要函数是groupby和pivote_table
    1、对所有的列进行计数汇总

    df_inner.groupby('city').count()
    

    2、按城市对id字段进行计数

    df_inner.groupby('city')['id'].count()
    

    3、对两个字段进行汇总计数

    df_inner.groupby(['city','size'])['id'].count()
    

    4、对city字段进行汇总,并分别计算prince的合计和均值

    df_inner.groupby('city')['price'].agg([len,np.sum, np.mean]) 
    

    八、数据统计
    数据采样,计算标准差,协方差和相关系数
    1、简单的数据采样

    df_inner.sample(n=3) 
    

    2、手动设置采样权重

    weights = [0, 0, 0, 0, 0.5, 0.5]
    df_inner.sample(n=2, weights=weights) 
    

    3、采样后不放回

    df_inner.sample(n=6, replace=False) 
    

    4、采样后放回

    df_inner.sample(n=6, replace=True)
    

    5、 数据表描述性统计

    df_inner.describe().round(2).T #round函数设置显示小数位,T表示转置
    

    6、计算列的标准差

    df_inner['price'].std()
    

    7、计算两个字段间的协方差

    df_inner['price'].cov(df_inner['m-point']) 
    

    8、数据表中所有字段间的协方差

    df_inner.cov()
    

    9、两个字段的相关性分析

    df_inner['price'].corr(df_inner['m-point']) #相关系数在-1到1之间,接近1为正相关,接近-1为负相关,0为不相关
    

    10、数据表的相关性分析

    df_inner.corr()
    

    九、数据输出
    分析后的数据可以输出为xlsx格式和csv格式
    1、写入Excel

    df_inner.to_excel('excel_to_python.xlsx', sheet_name='bluewhale_cc') 
    

    2、写入到CSV

    df_inner.to_csv('excel_to_python.csv') 
    
    展开全文
  • pandas用法总结

    万次阅读 多人点赞 2018-06-07 10:49:03
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....

    一、生成数据表

    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用:

    import numpy as np
    import pandas as pd
    

    2、导入CSV或者xlsx文件:

    df = pd.DataFrame(pd.read_csv('name.csv',header=1))
    df = pd.DataFrame(pd.read_excel('name.xlsx'))
    

    或者

    import pandas as pd
    from collections import namedtuple
    
    Item = namedtuple('Item', 'reply pv')
    items = []
    
    with codecs.open('reply.pv.07', 'r', 'utf-8') as f: 
        for line in f:
            line_split = line.strip().split('\t')
            items.append(Item(line_split[0].strip(), line_split[1].strip()))
    
    df = pd.DataFrame.from_records(items, columns=['reply', 'pv'])
    

    3、用pandas创建数据表:

    df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
     "date":pd.date_range('20130102', periods=6),
      "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
     "age":[23,44,54,32,34,32],
     "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
      "price":[1200,np.nan,2133,5433,np.nan,4432]},
      columns =['id','date','city','category','age','price'])
    

    二、数据表信息查看

    1、维度查看:

    df.shape
    

    2、数据表基本信息(维度、列名称、数据格式、所占空间等):

    df.info()
    

    3、每一列数据的格式:

    df.dtypes
    

    4、某一列格式:

    df['B'].dtype
    

    5、空值:

    df.isnull()
    

    6、查看某一列空值:

    df.isnull()
    

    7、查看某一列的唯一值:

    df['B'].unique()
    

    8、查看数据表的值:

    df.values 
    

    9、查看列名称:

    df.columns
    

    10、查看前5行数据、后5行数据:

    df.head() #默认前5行数据
    df.tail()    #默认后5行数据
    

    三、数据表清洗

    1、用数字0填充空值:

    df.fillna(value=0)
    

    2、使用列prince的均值对NA进行填充:

    df['prince'].fillna(df['prince'].mean())
    

    3、清楚city字段的字符空格:

    df['city']=df['city'].map(str.strip)
    

    4、大小写转换:

    df['city']=df['city'].str.lower()
    

    5、更改数据格式:

    df['price'].astype('int')       
    

    6、更改列名称:

    df.rename(columns={'category': 'category-size'}) 
    

    7、删除后出现的重复值:

    df['city'].drop_duplicates()
    

    8 、删除先出现的重复值:

    df['city'].drop_duplicates(keep='last')
    

    9、数据替换:

    df['city'].replace('sh', 'shanghai')
    

    四、数据预处理

    df1=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008], 
    "gender":['male','female','male','female','male','female','male','female'],
    "pay":['Y','N','Y','Y','N','Y','N','Y',],
    "m-point":[10,12,20,40,40,40,30,20]})
    

    1、数据表合并

    1.1 merge

    df_inner=pd.merge(df,df1,how='inner')  # 匹配合并,交集
    df_left=pd.merge(df,df1,how='left')        #
    df_right=pd.merge(df,df1,how='right')
    df_outer=pd.merge(df,df1,how='outer')  #并集
    

    1.2 append

    result = df1.append(df2)
    

    这里写图片描述

    1.3 join

    result = left.join(right, on='key')
    

    这里写图片描述

    1.4 concat

    pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
    	          keys=None, levels=None, names=None, verify_integrity=False,
    	          copy=True)
    
    • objs︰ 一个序列或系列、 综合或面板对象的映射。如果字典中传递,将作为键参数,使用排序的键,除非它传递,在这种情况下的值将会选择
      (见下文)。任何没有任何反对将默默地被丢弃,除非他们都没有在这种情况下将引发 ValueError。
    • axis: {0,1,…},默认值为 0。要连接沿轴。
    • join: {‘内部’、 ‘外’},默认 ‘外’。如何处理其他 axis(es) 上的索引。联盟内、 外的交叉口。
    • ignore_index︰ 布尔值、 默认 False。如果为 True,则不要串联轴上使用的索引值。由此产生的轴将标记
      0,…,n-1。这是有用的如果你串联串联轴没有有意义的索引信息的对象。请注意在联接中仍然受到尊重的其他轴上的索引值。
    • join_axes︰ 索引对象的列表。具体的指标,用于其他 n-1 轴而不是执行内部/外部设置逻辑。 keys︰
      序列,默认为无。构建分层索引使用通过的键作为最外面的级别。如果多个级别获得通过,应包含元组。
    • levels︰ 列表的序列,默认为无。具体水平 (唯一值) 用于构建多重。否则,他们将推断钥匙。
    • names︰ 列表中,默认为无。由此产生的分层索引中的级的名称。
    • verify_integrity︰ 布尔值、 默认 False。检查是否新的串联的轴包含重复项。这可以是相对于实际数据串联非常昂贵。
    • 副本︰ 布尔值、 默认 True。如果为 False,请不要,不必要地复制数据。
    例子:1.frames = [df1, df2, df3]
              2.result = pd.concat(frames)
    

    这里写图片描述

    2、设置索引列

    df_inner.set_index('id')
    

    3、按照特定列的值排序:

    df_inner.sort_values(by=['age'])
    

    4、按照索引列排序:

    df_inner.sort_index()
    

    5、如果prince列的值>3000,group列显示high,否则显示low:

    df_inner['group'] = np.where(df_inner['price'] > 3000,'high','low')
    

    6、对复合多个条件的数据进行分组标记

    df_inner.loc[(df_inner['city'] == 'beijing') & (df_inner['price'] >= 4000), 'sign']=1
    

    7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size

    pd.DataFrame((x.split('-') for x in df_inner['category']),index=df_inner.index,columns=['category','size']))
    

    8、将完成分裂后的数据表和原df_inner数据表进行匹配

    df_inner=pd.merge(df_inner,split,right_index=True, left_index=True)
    

    五、数据提取

    主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。

    1、按索引提取单行的数值

    df_inner.loc[3]
    

    2、按索引提取区域行数值

    df_inner.iloc[0:5]
    

    3、重设索引

    df_inner.reset_index()
    

    4、设置日期为索引

    df_inner=df_inner.set_index('date') 
    

    5、提取4日之前的所有数据

    df_inner[:'2013-01-04']
    

    6、使用iloc按位置区域提取数据

    df_inner.iloc[:3,:2] #冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。
    

    7、适应iloc按位置单独提起数据

    df_inner.iloc[[0,2,5],[4,5]] #提取第0、2、5行,4、5列
    

    8、使用ix按索引标签和位置混合提取数据

    df_inner.ix[:'2013-01-03',:4] #2013-01-03号之前,前四列数据
    

    9、判断city列的值是否为北京

    df_inner['city'].isin(['beijing'])
    

    10、判断city列里是否包含beijing和shanghai,然后将符合条件的数据提取出来

    df_inner.loc[df_inner['city'].isin(['beijing','shanghai'])] 
    

    11、提取前三个字符,并生成数据表

    pd.DataFrame(category.str[:3])
    

    六、数据筛选

    使用与、或、非三个条件配合大于、小于、等于对数据进行筛选,并进行计数和求和。

    1、使用“与”进行筛选

    df_inner.loc[(df_inner['age'] > 25) & (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']]
    

    2、使用“或”进行筛选

    df_inner.loc[(df_inner['age'] > 25) | (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']].sort(['age']) 
    

    3、使用“非”条件进行筛选

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']) 
    

    4、对筛选后的数据按city列进行计数

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']).city.count()
    

    5、使用query函数进行筛选

    df_inner.query('city == ["beijing", "shanghai"]')
    

    6、对筛选后的结果按prince进行求和

    df_inner.query('city == ["beijing", "shanghai"]').price.sum()
    

    七、数据汇总

    主要函数是groupby和pivote_table

    1、对所有的列进行计数汇总

    df_inner.groupby('city').count()
    

    2、按城市对id字段进行计数

    df_inner.groupby('city')['id'].count()
    

    3、对两个字段进行汇总计数

    df_inner.groupby(['city','size'])['id'].count()
    

    4、对city字段进行汇总,并分别计算prince的合计和均值

    df_inner.groupby('city')['price'].agg([len,np.sum, np.mean]) 
    

    八、数据统计

    数据采样,计算标准差,协方差和相关系数

    1、简单的数据采样

    df_inner.sample(n=3) 
    

    2、手动设置采样权重

    weights = [0, 0, 0, 0, 0.5, 0.5]
    df_inner.sample(n=2, weights=weights) 
    

    3、采样后不放回

    df_inner.sample(n=6, replace=False) 
    

    4、采样后放回

    df_inner.sample(n=6, replace=True)
    

    5、 数据表描述性统计

    df_inner.describe().round(2).T #round函数设置显示小数位,T表示转置
    

    6、计算列的标准差

    df_inner['price'].std()
    

    7、计算两个字段间的协方差

    df_inner['price'].cov(df_inner['m-point']) 
    

    8、数据表中所有字段间的协方差

    df_inner.cov()
    

    9、两个字段的相关性分析

    df_inner['price'].corr(df_inner['m-point']) #相关系数在-1到1之间,接近1为正相关,接近-1为负相关,0为不相关
    

    10、数据表的相关性分析

    df_inner.corr()
    

    九、数据输出

    分析后的数据可以输出为xlsx格式和csv格式

    1、写入Excel

    df_inner.to_excel('excel_to_python.xlsx', sheet_name='bluewhale_cc') 
    

    2、写入到CSV

    df_inner.to_csv('excel_to_python.csv') 
    
    展开全文
  • 近几年数据分析是一个非常火非常热门的职位,而Python作为数据分析领域的王者语言,其技术能力的核心就是Pandas,使用它可以完成CSV/EXCEL/MYSQL等数据源的读取、数据各种过滤转换聚合的计算、然后输出到文件或者...
  • Pandas:数据分析三剑客之一,极为流行的Python数据分析库,人工智能和大数据必备神技。
  • Python数据分析实战-Pandas

    千人学习 2019-12-02 10:54:20
    Pandas包是基于Python平台的数据管理利器,已经成为了Python进行数据分析和挖掘时的数据基础平台和事实上的工业标准,掌握其使用方法,是使用Python进行数据分析和数据挖掘的必备条件。  本课程通过讲解Pandas基础...
  • 【数据处理与分析】pandas快速入门

    千次阅读 多人点赞 2019-03-31 16:35:43
    参考教程:点这里 目录 pandas的series和dataFrame pandas选择数据 pandas设置值 ...pandas处理丢失数据NaN ...pandas导入导出 ...pandas数据合并 ...pandas和numpy的关系:numpy是列表,pandas是字典,pandas基于...

    参考教程:点这里


    目录

    pandas的series和dataFrame

    pandas选择数据

    pandas设置值

    pandas处理丢失数据NaN

    pandas导入导出 

    pandas数据合并

    pandas结合plot绘图 

    END 


     

    pandas的series和dataFrame

    pandas和numpy的关系:numpy是列表,pandas是字典,pandas基于numpy构建。

    Series的形式:索引在左边,值在右边。没有为数据指定索引会自动创建0到N-1(N为长度)的整数型索引。

    DataFrame是一个表格型的数据结构,每列可以是不同的值类型,既有行索引也有列索引。

    取df的“指标1”列:df['指标1']

    创建一组没有给定行标签和列标签的数据:pd.DataFrame(np.arange(12).reshape((3,4)))

    创建对每一列的数据进行特殊对待的数据:

    查看数据类型:df.dtypes

    查看索引(行)的序号:df.index

    查看每种数据(列)的名:df.columns

    查看df的所有值:df.values

    查看数据的总结(计数、平均值、最值等):df.describe()

    翻转数据:df.T

    对数据的 index 进行排序:df.sort_index(axis=1, ascending=False)

    对数据的 进行排序:df.sort_values(by='A')

     

    pandas选择数据

    选择某列A: df['A'] 或 df.A

    选择0到2多列:df[0:2]

    根据标签选择1行:df.loc[0] 【选择索引为0的一行】

    选择所有行(: 代表所有行):df.loc[:,['A','B']]  【选择所有行的A、B两列】

                                                          df.loc[3,['A','B']] 【选择第3行的A、B两列】

    根据位置(索引)进行选择数据:df.iloc[3,1]  【第3行第1列的数据】

                                                                df.iloc[2:3,0:3]   【第2到3行,第0到3列的数据】

                                                                df.iloc[[0,3],0:3] 【第0、3行,第0到3列的数据】

    通过判断的筛选:df[df.A==2]  【选择列A的值为2的行】

     

    pandas设置值

    利用索引:df.iloc[2,2] = 1111  【修改第2行、 第2列】

    利用标签:df.loc['20190401','B'] = 2222  【修改行‘20190401’、 列‘B’】

    根据条件:df.B[df.A>4] = 0  【列A大于4的都改成0】

    按行或列:df['F'] = np.nan  【加上新列F,并设值为NaN】

                   df_original['title_keywords'] = ['' for _ in range(content_num)]

    添加数据:df['G'] = pd.Series([1,2,3,4,5,6], index=pd.date_range('20190401',periods=6)) 

     

    pandas处理丢失数据NaN

    直接去掉有 NaN 的行或列(pd.dropna()):

    将 NaN 的值用其他值代替(pd.fillna()):df.fillna(value=0)  【全替换成0】

    判断每个值是否是缺失数据:df.isnull() 

    检测整个数据表中是否存在 NaN, 如果存在就返回 True:np.any(df.isnull()) == True  

     

    pandas导入导出 

    pandas可以读取与存取的格式:csv、excel、json、html、pickle等 【官方文档

    读取csv:data = pd.read_csv('student.csv')

    将资料存取成pickle:data.to_pickle('student.pickle')

     

    pandas数据合并

     concat纵向合并:res = pd.concat([df1, df2, df3], axis=0)  【可以发现索引没变】

    concat参数之ignore_index (重置 index) :res = pd.concat([df1, df2, df3], axis=0, ignore_index=True)

    concat参数之join (合并方式,默认join='outer') :res = pd.concat([df1, df2], axis=0, join='outer')  【依照column来做纵向合                                                                                                      并,有相同的column上下合并在一起,其他独自的column个自成列,原本                                                                                                  没有值的位置皆以NaN填充。】

    concat参数之join (合并方式,改为join='inner') :res = pd.concat([df1, df2], axis=0, join='inner')   【只有相同的column合并                                                                                                    在一起,其他的会被抛弃】

    concat参数之join_axes:【根据df1的行索引来join,下图2为去掉join_axes】

    append只有纵向合并,没有横向合并:

            df1.append(df2, ignore_index=True)  【将df2合并到df1的下面,重置index】

            df1.append([df2, df3], ignore_index=True)  【合并多个df,将df2与df3合并至df1的下面,重置index】

            df1.append(s1, ignore_index=True)  【合并series,将s1合并至df1,重置index】

     

    merge用于两组有key column的数据【样例数据如下】

            依据key1与key2 columns进行合并,并打印出四种结果['left', 'right', 'outer', 'inner']:

    merge参数之indicator=True会将合并的记录放在新的一列

    merge参数之indicator=str,自定义列名

    根据index合并:res = pd.merge(left, right, left_index=True, right_index=True, how='outer')

    merge参数之suffixes解决overlapping(重叠)的问题 【名为K0的有一个1岁男、1个4岁女、1个5岁女】

     

    pandas结合plot绘图 

    import matplotlib.pyplot as plt
    

    随机生成1000个数据,Series 默认的 index 就是从0开始的整数 

    生成一个1000*4 的DataFrame,并对他们累加

    散点图scatter只有x,y两个属性,我们我们就可以分别给x, y指定数据【下图line1】

    再画一个在同一个ax上面,选择不一样的数据列,不同的 color 和 label【下图line2】

    显示图片【下图line3】

    END 

     

     

     

    展开全文
  • python之pandas简单介绍及使用(一)

    万次阅读 多人点赞 2019-06-13 11:00:45
    一、 Pandas简介 1、Python Data Analysis Library 或 pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具...

    一、  Pandas简介

    1、Python Data Analysis Library 或 pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。

    2、Pandas 是python的一个数据分析包,最初由AQR Capital Management于2008年4月开发,并于2009年底开源出来,目前由专注于Python数据包开发的PyData开发team继续开发和维护,属于PyData项目的一部分。Pandas最初被作为金融数据分析工具而开发出来,因此,pandas为时间序列分析提供了很好的支持。 Pandas的名称来自于面板数据(panel data)和python数据分析(data analysis)。panel data是经济学中关于多维数据集的一个术语,在Pandas中也提供了panel的数据类型。

    3、数据结构:

    Series:一维数组,与Numpy中的一维array类似。二者与Python基本的数据结构List也很相近,其区别是:List中的元素可以是不同的数据类型,而Array和Series中则只允许存储相同的数据类型,这样可以更有效的使用内存,提高运算效率。

    Time- Series:以时间为索引的Series。

    DataFrame:二维的表格型数据结构。很多功能与R中的data.frame类似。可以将DataFrame理解为Series的容器。以下的内容主要以DataFrame为主。

    Panel :三维的数组,可以理解为DataFrame的容器。

    Pandas 有两种自己独有的基本数据结构。读者应该注意的是,它固然有着两种数据结构,因为它依然是 Python 的一个库,所以,Python 中有的数据类型在这里依然适用,也同样还可以使用类自己定义数据类型。只不过,Pandas 里面又定义了两种数据类型:Series 和 DataFrame,它们让数据操作更简单了。

    二、  Pandas安装

    因为pandas是python的第三方库所以使用前需要安装一下,直接使用pip install pandas 就会自动安装pandas以及相关组件。

    三、  Pandas使用

    注:本次操作是在ipython中进行

    1、导入pandas模块并使用别名,以及导入Series模块,以下使用基于本次导入。

    In [1]: from pandas import Series

    In [2]: import pandas as pd

    2、Series

    Series 就如同列表一样,一系列数据,每个数据对应一个索引值。

    Series 就是“竖起来”的 list:

    In [3]: s = Series([1,4,'ww','tt'])

    In [4]: s
    Out[4]:
    0   1
    1   4
    2   ww
    3   tt
    dtype: object

    另外一点也很像列表,就是里面的元素的类型,由你任意决定(其实是由需要来决定)。

    这里,我们实质上创建了一个 Series 对象,这个对象当然就有其属性和方法了。比如,下面的两个属性依次可以显示 Series 对象的数据值和索引:

    In [5]: s.index
    Out[5]: RangeIndex(start=0, stop=4, step=1)

    In [8]: s.values
    Out[8]: array([1, 4, 'ww', 'tt'], dtype=object)

    列表的索引只能是从 0 开始的整数,Series 数据类型在默认情况下,其索引也是如此。不过,区别于列表的是,Series 可以自定义索引

    In [9]: s2 = Series(['wangxing','man',24],index=['name','sex','age'])

    In [10]: s2
    Out[10]:
    name    wangxing
    sex       man
    age      24
    dtype: object

    每个元素都有了索引,就可以根据索引操作元素了。还记得 list 中的操作吗?Series 中,也有类似的操作。先看简单的,根据索引查看其值和修改其值

    In [12]: s2['name']
    Out[12]: 'wangxing'

    In [45]: s2['name'] = 'wudadiao'

    In [46]: s2
    Out[46]:
    name    wudadiao
    sex    man
    age   24
    dtype: object

    这是不是又有点类似 dict 数据了呢?的确如此。看下面就理解了。

    读者是否注意到,前面定义 Series 对象的时候,用的是列表,即 Series() 方法的参数中,第一个列表就是其数据值,如果需要定义 index,放在后面,依然是一个列表。除了这种方法之外,还可以用下面的方法定义 Series 对象:

    In [13]: sd = {'python':9000,'c++':9001,'c#':9000}

    In [14]: s3 = Series(sd)

    In [15]: s3
    Out[15]:
    c#    9000
    c++    9001
    python   9000
    dtype: int64

    现在是否理解为什么前面那个类似 dict 了?因为本来就是可以这样定义的

    这时候,索引依然可以自定义。Pandas 的优势在这里体现出来,如果自定义了索引,自定的索引会自动寻找原来的索引,如果一样的,就取原来索引对应的值,这个可以简称为“自动对齐”。

    In [16]: s4 = Series(sd,index=['java','c++','c#'])

    In [17]: s4
    Out[17]:
    java    NaN
    c++    9001.0
    c#    9000.0
    dtype: float64

    在 Pandas 中,如果没有值,都对齐赋给 NaN。

    Pandas 有专门的方法来判断值是否为空。

    In [19]: pd.isnull(s4)
    Out[19]:
    java    True
    c++   False
    c#    False
    dtype: bool

    此外,Series 对象也有同样的方法:

    In [20]: s4.isnull()
    Out[20]:
    java    True
    c++   False
    c#    False
    dtype: bool

    其实,对索引的名字,是可以从新定义的:

    In [21]: s4.index = ['语文','数学','English']

    In [22]: s4
    Out[22]:
    语文    NaN
    数学   9001.0
    English    9000.0
    dtype: float64

    对于 Series 数据,也可以做类似下面的运算(关于运算,后面还要详细介绍):

    In [23]: s4 * 2
    Out[23]:
    语文    NaN
    数学    18002.0
    English    18000.0
    dtype: float64

    In [24]: s4[s4 > 9000]
    Out[24]:
    数学 9001.0
    dtype: float64

    Series就先简要写到这,下面看pandas的另一种数据结构DataFrame.

    DataFrame

    DataFrame 是一种二维的数据结构,非常接近于电子表格或者类似 mysql 数据库的形式。它的竖行称之为 columns,横行跟前面的 Series 一样,称之为 index,也就是说可以通过 columns 和 index 来确定一个主句的位置。

    首先来导入模块

    In [27]: from pandas import Series,DataFrame

    In [26]: data = {"name":['google','baidu','yahoo'],"marks":[100,200,300],"price":[1,2,3]}

    In [28]: f1 = DataFrame(data)

    In [29]: f1
    Out[29]:
      marks   name    price
    0    100    google    1
    1    200    baidu    2
    2   300    yahoo    3

    这是定义一个 DataFrame 对象的常用方法——使用 dict 定义。字典的“键”("name","marks","price")就是 DataFrame 的 columns 的值(名称),字典中每个“键”的“值”是一个列表,它们就是那一竖列中的具体填充数据。上面的定义中没有确定索引,所以,按照惯例(Series 中已经形成的惯例)就是从 0 开始的整数。从上面的结果中很明显表示出来,这就是一个二维的数据结构(类似 excel 或者 mysql 中的查看效果)。

    上面的数据显示中,columns 的顺序没有规定,就如同字典中键的顺序一样,但是在 DataFrame 中,columns 跟字典键相比,有一个明显不同,就是其顺序可以被规定,向下面这样做:

    In [31]: f2 = DataFrame(data,columns=['name','price','marks'])

    In [32]: f2
    Out[32]:
      name    price    marks
    0  google   1        100
    1  baidu    2         200
    2  yahoo   3         300

    跟 Series 类似的,DataFrame 数据的索引也能够自定义

    In [35]: f3 = DataFrame(data,columns=['name','marks','price'],index=['a','b','c'])

    In [36]: f3
    Out[36]:
      name    marks    price
    a   google      100        1
    b     baidu          200       2
    c     yahoo         300            3

    定义 DataFrame 的方法,除了上面的之外,还可以使用“字典套字典”的方式。

    In [40]: newdata = {'lang':{'first':'python','second':'java'},'price':{'first':5000,'second':2000}}

    In [41]: f4 = DataFrame(newdata)

    In [42]: f4
    Out[42]:
        lang    price
    first   python   5000
    second   java    2000

    在字典中就规定好数列名称(第一层键)和每横行索引(第二层字典键)以及对应的数据(第二层字典值),也就是在字典中规定好了每个数据格子中的数据,没有规定的都是空。

    DataFrame 对象的 columns 属性,能够显示素有的 columns 名称。并且,还能用下面类似字典的方式,得到某竖列的全部内容(当然包含索引):
    >>> newdata = {"lang":{"firstline":"python","secondline":"java"}, "price":{"firstline":8000}} 
    >>> f4 = DataFrame(newdata) 
    >>> f4 
                  lang     price 
    firstline     python   8000 
    secondline    java     NaN 
    >>> DataFrame(newdata, index=["firstline","secondline","thirdline"]) 
                  lang     price 
    firstline     python   8000 
    secondline    java     NaN 
    thirdline     NaN      NaN 
    
    DataFrame 对象的 columns 属性,能够显示素有的 columns 名称。并且,还能用下面类似字典的方式,得到某竖列的全部内容(当然包含索引):
    

    In [44]: f3['name']
    Out[44]:
    a google
    b baidu
    c yahoo
    Name: name, dtype: object

    下面操作是给同一列赋值

    newdata1 = {'username':{'first':'wangxing','second':'dadiao'},'age':{'first':24,'second':25}}

    In [67]: f6 = DataFrame(newdata1,columns=['username','age','sex'])

    In [68]: f6
    Out[68]:
      username    age    sex
    first wangxing    24    NaN
    second dadiao   25    NaN

    In [69]: f6['sex'] = 'man'

    In [70]: f6
    Out[70]:
      username  age    sex
    first wangxing   24    man
    second dadiao   25    man

    可以单独的赋值,除了能够统一赋值之外,还能够“点对点”添加数值,结合前面的 Series,既然 DataFrame 对象的每竖列都是一个 Series 对象,那么可以先定义一个 Series 对象,然后把它放到 DataFrame 对象中。如下:

    ssex = Series(['男','女'],index=['first','second'])

    In [72]: f6['sex'] = ssex

    In [73]: f6
    Out[73]:
      username    age   sex
    first wangxing     24      男
    second dadiao    25    女

    还可以更精准的修改数据吗?当然可以,完全仿照字典的操作:

    In [74]: f6['age']['second'] = 30

    In [75]: f6
    Out[75]:
      username    age    sex
    first wangxing    24          男
    second dadiao   30     女

    参考http://wiki.jikexueyuan.com/project/start-learning-python/312.html所整理。

    展开全文
  • pandas

    2020-11-17 20:19:14
    pandas 一、什么是pandasPandas的名称来自于面板数据(panel data)和Python数据分析(data analysis)。 Pandas是一个强大的分析结构化数据的工具集,基于Numpy构建,提供了 高级数据结构 和 数据操作工具,它是...
  • pandas用法总结+学习路线

    千次阅读 2019-06-05 23:13:59
    那么问题来了:numpy已经能够帮助我们处理数据,能够结合matplotlib解决我们数据分析的问题,那么pandas学习的目的在什么地方呢? numpy能够帮我们处理处理数值型数据,但是这还不够 很多时候,我们的数据除了数值...
  • pandas小记:pandas数据结构和基本操作

    万次阅读 多人点赞 2014-01-08 21:06:08
    pandas的数据 结构:Series、DataFrame、索引对象 pandas基本功能:重新索引,丢弃指定轴上的项,索引、选取和过滤,算术运算和数据对齐,函数应用和映射,排序和排名,带有重复值的轴索引 Pandas介绍 pandas含有...
  • Pandas入门详细教程

    2020-06-25 10:00:00
    作者:luanhz来源:小数志导读本文主要是对pandas进行入门详细介绍,通过本文你将系统性了解pandas为何会有数据分析界"瑞士军刀"的盛誉。行文二级目录01 关于...
  • Pandas(1)

    千次阅读 2019-02-27 16:01:13
    上层目录 总目录 一、Pandas概述 1....
  • 十分钟搞定pandas

    万次阅读 多人点赞 2018-06-23 16:04:17
    【原】十分钟搞定pandas本文是对pandas官方网站上《10 Minutes to pandas》的一个简单的翻译,原文在这里。这篇文章是对pandas的一个简单的介绍,详细的介绍请参考:Cookbook 。习惯上,我们会按下面格式引入所需要...
  • 十分钟掌握pandas中文版(pandas官方文档翻译)

    万次阅读 多人点赞 2018-04-20 19:11:10
    十分钟掌握pandas文档版本:0.20.3这是一个对pandas简短的介绍,适合新用户。你可以在Cookbook中查看更详细的内容。 通常,我们要像下面一样导入一些包。In [1]: import pandas as pd In [2]: import numpy as np ...
  • pandas教程

    2018-10-16 16:37:33
    pandas教程,详细的介绍的pandas的使用办法,以及调用api函数
  • 【整理】pandas教程

    热门讨论 2016-08-29 16:02:09
    pandas教程:[1]DataFrame入门 pandas教程:[2]DataFrame选择数据 pandas教程:[3]DataFrame切片操作 pandas教程:[4]Dataframe筛选数据 pandas教程:[5]读取csv数据 pandas教程:[6]计数统计 pandas教程:[7]筛选...
  • 作者:腾讯数据分析师 cooper编辑:公众号高级农民工今天给各位分享一下鹅厂数据分析师 cooper 的 Pandas 学习经验,争取让你十分钟入门 Pandas。你可能零编程基础,...
  • python 安装pandas教程

    2020-04-14 10:13:37
    python3 安装pandas 如果使用python2需要安装的话,可以用pip install pandas 如果使用python3需要安装的话,可以用pip3 install pandas 会自动安装依赖库 λ pip3 install pandas 调用包,看下是否安装成功 λ ...
  • pandas中文教程

    2017-12-06 12:53:16
    之前在百度文库中看到这个pandas教程,感觉很不错,现在把他整理放到这里来
  • pandas官网教程pdf

    2018-04-28 14:24:32
    pandas官网教程pdf, 含有详细标签, 文字清晰可直接复制, 图文教程方便理解, 另附该pdf对应的代码, 可直接运行, 无错误!

空空如也

1 2 3 4 5 ... 20
收藏数 228,348
精华内容 91,339
关键字:

pandas