pandas_pandas excel - CSDN
pandas 订阅
pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。 展开全文
pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的工具。pandas提供了大量能使我们快速便捷地处理数据的函数和方法。你很快就会发现,它是使Python成为强大而高效的数据分析环境的重要因素之一。
信息
外文名
pandas
开发与维护
PyData开发组
用    途
Python数据分析模块
起    源
AQR Capital Management
pandas简介
Pandas [1]  是python的一个数据分析包,最初由AQR Capital Management于2008年4月开发,并于2009年底开源出来,目前由专注于Python数据包开发的PyData开发team继续开发和维护,属于PyData项目的一部分。Pandas最初被作为金融数据分析工具而开发出来,因此,pandas为时间序列分析提供了很好的支持。 Pandas的名称来自于面板数据(panel data)和python数据分析(data analysis)。panel data是经济学中关于多维数据集的一个术语,在Pandas中也提供了panel的数据类型。
收起全文
  • pandas用法大全

    万次阅读 多人点赞 2017-09-08 15:51:38
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....

    一、生成数据表
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用:

    import numpy as np
    import pandas as pd

    2、导入CSV或者xlsx文件:

    df = pd.DataFrame(pd.read_csv('name.csv',header=1))
    df = pd.DataFrame(pd.read_excel('name.xlsx'))
    

    3、用pandas创建数据表:

    df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
     "date":pd.date_range('20130102', periods=6),
      "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
     "age":[23,44,54,32,34,32],
     "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
      "price":[1200,np.nan,2133,5433,np.nan,4432]},
      columns =['id','date','city','category','age','price'])
    

    2、数据表信息查看
    1、维度查看:

    df.shape
    

    2、数据表基本信息(维度、列名称、数据格式、所占空间等):

    df.info()
    

    3、每一列数据的格式:

    df.dtypes
    

    4、某一列格式:

    df['B'].dtype
    

    5、空值:

    df.isnull()
    

    6、查看某一列空值:

    df.isnull()
    

    7、查看某一列的唯一值:

    df['B'].unique()
    

    8、查看数据表的值:
    df.values
    9、查看列名称:

    df.columns
    

    10、查看前10行数据、后10行数据:

    df.head() #默认前10行数据
    df.tail()    #默认后10 行数据
    

    三、数据表清洗
    1、用数字0填充空值:

    df.fillna(value=0)
    

    2、使用列prince的均值对NA进行填充:

    df['prince'].fillna(df['prince'].mean())
    

    3、清楚city字段的字符空格:

    df['city']=df['city'].map(str.strip)
    

    4、大小写转换:

    df['city']=df['city'].str.lower()
    

    5、更改数据格式:

    df['price'].astype('int')       
    

    6、更改列名称:

    df.rename(columns={'category': 'category-size'}) 
    

    7、删除后出现的重复值:

    df['city'].drop_duplicates()
    

    8、删除先出现的重复值:

    df['city'].drop_duplicates(keep='last')
    

    9、数据替换:

    df['city'].replace('sh', 'shanghai')
    

    四、数据预处理

    df1=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008], 
    "gender":['male','female','male','female','male','female','male','female'],
    "pay":['Y','N','Y','Y','N','Y','N','Y',],
    "m-point":[10,12,20,40,40,40,30,20]})
    

    1、数据表合并

    df_inner=pd.merge(df,df1,how='inner')  # 匹配合并,交集
    df_left=pd.merge(df,df1,how='left')        #
    df_right=pd.merge(df,df1,how='right')
    df_outer=pd.merge(df,df1,how='outer')  #并集
    

    2、设置索引列

    df_inner.set_index('id')
    

    3、按照特定列的值排序:

    df_inner.sort_values(by=['age'])
    

    4、按照索引列排序:

    df_inner.sort_index()
    

    5、如果prince列的值>3000,group列显示high,否则显示low:

    df_inner['group'] = np.where(df_inner['price'] > 3000,'high','low')
    

    6、对复合多个条件的数据进行分组标记

    df_inner.loc[(df_inner['city'] == 'beijing') & (df_inner['price'] >= 4000), 'sign']=1
    

    7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size

    pd.DataFrame((x.split('-') for x in df_inner['category']),index=df_inner.index,columns=['category','size']))
    

    8、将完成分裂后的数据表和原df_inner数据表进行匹配

    df_inner=pd.merge(df_inner,split,right_index=True, left_index=True)
    

    五、数据提取
    主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。
    1、按索引提取单行的数值

    df_inner.loc[3]
    

    2、按索引提取区域行数值

    df_inner.iloc[0:5]
    

    3、重设索引

    df_inner.reset_index()
    

    4、设置日期为索引

    df_inner=df_inner.set_index('date') 
    

    5、提取4日之前的所有数据

    df_inner[:'2013-01-04']
    

    6、使用iloc按位置区域提取数据

    df_inner.iloc[:3,:2] #冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。
    

    7、适应iloc按位置单独提起数据

    df_inner.iloc[[0,2,5],[4,5]] #提取第0、2、5行,4、5列
    

    8、使用ix按索引标签和位置混合提取数据

    df_inner.ix[:'2013-01-03',:4] #2013-01-03号之前,前四列数据
    

    9、判断city列的值是否为北京

    df_inner['city'].isin(['beijing'])
    

    10、判断city列里是否包含beijing和shanghai,然后将符合条件的数据提取出来

    df_inner.loc[df_inner['city'].isin(['beijing','shanghai'])] 
    

    11、提取前三个字符,并生成数据表

    pd.DataFrame(category.str[:3])
    

    六、数据筛选
    使用与、或、非三个条件配合大于、小于、等于对数据进行筛选,并进行计数和求和。
    1、使用“与”进行筛选

    df_inner.loc[(df_inner['age'] > 25) & (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']]
    

    2、使用“或”进行筛选

    df_inner.loc[(df_inner['age'] > 25) | (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']].sort(['age']) 
    

    3、使用“非”条件进行筛选

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']) 
    

    4、对筛选后的数据按city列进行计数

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']).city.count()
    

    5、使用query函数进行筛选

    df_inner.query('city == ["beijing", "shanghai"]')
    

    6、对筛选后的结果按prince进行求和

    df_inner.query('city == ["beijing", "shanghai"]').price.sum()
    

    七、数据汇总
    主要函数是groupby和pivote_table
    1、对所有的列进行计数汇总

    df_inner.groupby('city').count()
    

    2、按城市对id字段进行计数

    df_inner.groupby('city')['id'].count()
    

    3、对两个字段进行汇总计数

    df_inner.groupby(['city','size'])['id'].count()
    

    4、对city字段进行汇总,并分别计算prince的合计和均值

    df_inner.groupby('city')['price'].agg([len,np.sum, np.mean]) 
    

    八、数据统计
    数据采样,计算标准差,协方差和相关系数
    1、简单的数据采样

    df_inner.sample(n=3) 
    

    2、手动设置采样权重

    weights = [0, 0, 0, 0, 0.5, 0.5]
    df_inner.sample(n=2, weights=weights) 
    

    3、采样后不放回

    df_inner.sample(n=6, replace=False) 
    

    4、采样后放回

    df_inner.sample(n=6, replace=True)
    

    5、 数据表描述性统计

    df_inner.describe().round(2).T #round函数设置显示小数位,T表示转置
    

    6、计算列的标准差

    df_inner['price'].std()
    

    7、计算两个字段间的协方差

    df_inner['price'].cov(df_inner['m-point']) 
    

    8、数据表中所有字段间的协方差

    df_inner.cov()
    

    9、两个字段的相关性分析

    df_inner['price'].corr(df_inner['m-point']) #相关系数在-1到1之间,接近1为正相关,接近-1为负相关,0为不相关
    

    10、数据表的相关性分析

    df_inner.corr()
    

    九、数据输出
    分析后的数据可以输出为xlsx格式和csv格式
    1、写入Excel

    df_inner.to_excel('excel_to_python.xlsx', sheet_name='bluewhale_cc') 
    

    2、写入到CSV

    df_inner.to_csv('excel_to_python.csv') 
    
    展开全文
  • Python数据分析实战-Pandas

    千人学习 2019-12-02 14:48:09
    Pandas包是基于Python平台的数据管理利器,已经成为了Python进行数据分析和挖掘时的数据基础平台和事实上的工业标准,掌握其使用方法,是使用Python进行数据分析和数据挖掘的必备条件。  本课程通过讲解Pandas基础...
  • 【数据处理与分析】pandas快速入门

    千次阅读 多人点赞 2019-06-03 12:43:18
    参考教程:点这里 目录 pandas的series和dataFrame pandas选择数据 pandas设置值 ...pandas处理丢失数据NaN ...pandas导入导出 ...pandas数据合并 ...pandas和numpy的关系:numpy是列表,pandas是字典,pandas基于...

    参考教程:点这里


    目录

    pandas的series和dataFrame

    pandas选择数据

    pandas设置值

    pandas处理丢失数据NaN

    pandas导入导出 

    pandas数据合并

    pandas结合plot绘图 

    END 


     

    pandas的series和dataFrame

    pandas和numpy的关系:numpy是列表,pandas是字典,pandas基于numpy构建。

    Series的形式:索引在左边,值在右边。没有为数据指定索引会自动创建0到N-1(N为长度)的整数型索引。

    DataFrame是一个表格型的数据结构,每列可以是不同的值类型,既有行索引也有列索引。

    取df的“指标1”列:df['指标1']

    创建一组没有给定行标签和列标签的数据:pd.DataFrame(np.arange(12).reshape((3,4)))

    创建对每一列的数据进行特殊对待的数据:

    查看数据类型:df.dtypes

    查看索引(行)的序号:df.index

    查看每种数据(列)的名:df.columns

    查看df的所有值:df.values

    查看数据的总结(计数、平均值、最值等):df.describe()

    翻转数据:df.T

    对数据的 index 进行排序:df.sort_index(axis=1, ascending=False)

    对数据的 进行排序:df.sort_values(by='A')

     

    pandas选择数据

    选择某列A: df['A'] 或 df.A

    选择0到2多列:df[0:2]

    根据标签选择1行:df.loc[0] 【选择索引为0的一行】

    选择所有行(: 代表所有行):df.loc[:,['A','B']]  【选择所有行的A、B两列】

                                                          df.loc[3,['A','B']] 【选择第3行的A、B两列】

    根据位置(索引)进行选择数据:df.iloc[3,1]  【第3行第1列的数据】

                                                                df.iloc[2:3,0:3]   【第2到3行,第0到3列的数据】

                                                                df.iloc[[0,3],0:3] 【第0、3行,第0到3列的数据】

    通过判断的筛选:df[df.A==2]  【选择列A的值为2的行】

     

    pandas设置值

    利用索引:df.iloc[2,2] = 1111  【修改第2行、 第2列】

    利用标签:df.loc['20190401','B'] = 2222  【修改行‘20190401’、 列‘B’】

    根据条件:df.B[df.A>4] = 0  【列A大于4的都改成0】

    按行或列:df['F'] = np.nan  【加上新列F,并设值为NaN】

                   df_original['title_keywords'] = ['' for _ in range(content_num)]

    添加数据:df['G'] = pd.Series([1,2,3,4,5,6], index=pd.date_range('20190401',periods=6)) 

     

    pandas处理丢失数据NaN

    直接去掉有 NaN 的行或列(pd.dropna()):

    将 NaN 的值用其他值代替(pd.fillna()):df.fillna(value=0)  【全替换成0】

    判断每个值是否是缺失数据:df.isnull() 

    检测整个数据表中是否存在 NaN, 如果存在就返回 True:np.any(df.isnull()) == True  

     

    pandas导入导出 

    pandas可以读取与存取的格式:csv、excel、json、html、pickle等 【官方文档

    读取csv:data = pd.read_csv('student.csv')

    将资料存取成pickle:data.to_pickle('student.pickle')

     

    pandas数据合并

     concat纵向合并:res = pd.concat([df1, df2, df3], axis=0)  【可以发现索引没变】

    concat参数之ignore_index (重置 index) :res = pd.concat([df1, df2, df3], axis=0, ignore_index=True)

    concat参数之join (合并方式,默认join='outer') :res = pd.concat([df1, df2], axis=0, join='outer')  【依照column来做纵向合                                                                                                      并,有相同的column上下合并在一起,其他独自的column个自成列,原本                                                                                                  没有值的位置皆以NaN填充。】

    concat参数之join (合并方式,改为join='inner') :res = pd.concat([df1, df2], axis=0, join='inner')   【只有相同的column合并                                                                                                    在一起,其他的会被抛弃】

    concat参数之join_axes:【根据df1的行索引来join,下图2为去掉join_axes】

    append只有纵向合并,没有横向合并:

            df1.append(df2, ignore_index=True)  【将df2合并到df1的下面,重置index】

            df1.append([df2, df3], ignore_index=True)  【合并多个df,将df2与df3合并至df1的下面,重置index】

            df1.append(s1, ignore_index=True)  【合并series,将s1合并至df1,重置index】

     

    merge用于两组有key column的数据【样例数据如下】

            依据key1与key2 columns进行合并,并打印出四种结果['left', 'right', 'outer', 'inner']:

    merge参数之indicator=True会将合并的记录放在新的一列

    merge参数之indicator=str,自定义列名

    根据index合并:res = pd.merge(left, right, left_index=True, right_index=True, how='outer')

    merge参数之suffixes解决overlapping(重叠)的问题 【名为K0的有一个1岁男、1个4岁女、1个5岁女】

     

    pandas结合plot绘图 

    import matplotlib.pyplot as plt
    

    随机生成1000个数据,Series 默认的 index 就是从0开始的整数 

    生成一个1000*4 的DataFrame,并对他们累加

    散点图scatter只有x,y两个属性,我们我们就可以分别给x, y指定数据【下图line1】

    再画一个在同一个ax上面,选择不一样的数据列,不同的 color 和 label【下图line2】

    显示图片【下图line3】

    END 

     

     

     

    展开全文
  • pandas用法总结

    万次阅读 多人点赞 2020-06-11 16:11:25
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....

    一、生成数据表

    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用:

    import numpy as np
    import pandas as pd
    

    2、导入CSV或者xlsx文件:

    df = pd.DataFrame(pd.read_csv('name.csv',header=1))
    df = pd.DataFrame(pd.read_excel('name.xlsx'))
    

    或者

    import pandas as pd
    from collections import namedtuple
    
    Item = namedtuple('Item', 'reply pv')
    items = []
    
    with codecs.open('reply.pv.07', 'r', 'utf-8') as f: 
        for line in f:
            line_split = line.strip().split('\t')
            items.append(Item(line_split[0].strip(), line_split[1].strip()))
    
    df = pd.DataFrame.from_records(items, columns=['reply', 'pv'])
    

    3、用pandas创建数据表:

    df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006], 
     "date":pd.date_range('20130102', periods=6),
      "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
     "age":[23,44,54,32,34,32],
     "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
      "price":[1200,np.nan,2133,5433,np.nan,4432]},
      columns =['id','date','city','category','age','price'])
    

    二、数据表信息查看

    1、维度查看:

    df.shape
    

    2、数据表基本信息(维度、列名称、数据格式、所占空间等):

    df.info()
    

    3、每一列数据的格式:

    df.dtypes
    

    4、某一列格式:

    df['B'].dtype
    

    5、空值:

    df.isnull()
    

    6、查看某一列空值:

    df.isnull()
    

    7、查看某一列的唯一值:

    df['B'].unique()
    

    8、查看数据表的值:

    df.values 
    

    9、查看列名称:

    df.columns
    

    10、查看前5行数据、后5行数据:

    df.head() #默认前5行数据
    df.tail()    #默认后5行数据
    

    三、数据表清洗

    1、用数字0填充空值:

    df.fillna(value=0)
    

    2、使用列prince的均值对NA进行填充:

    df['prince'].fillna(df['prince'].mean())
    

    3、清楚city字段的字符空格:

    df['city']=df['city'].map(str.strip)
    

    4、大小写转换:

    df['city']=df['city'].str.lower()
    

    5、更改数据格式:

    df['price'].astype('int')       
    

    6、更改列名称:

    df.rename(columns={'category': 'category-size'}) 
    

    7、删除后出现的重复值:

    df['city'].drop_duplicates()
    

    8 、删除先出现的重复值:

    df['city'].drop_duplicates(keep='last')
    

    9、数据替换:

    df['city'].replace('sh', 'shanghai')
    

    四、数据预处理

    df1=pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006,1007,1008], 
    "gender":['male','female','male','female','male','female','male','female'],
    "pay":['Y','N','Y','Y','N','Y','N','Y',],
    "m-point":[10,12,20,40,40,40,30,20]})
    

    1、数据表合并

    1.1 merge

    df_inner=pd.merge(df,df1,how='inner')  # 匹配合并,交集
    df_left=pd.merge(df,df1,how='left')        #
    df_right=pd.merge(df,df1,how='right')
    df_outer=pd.merge(df,df1,how='outer')  #并集
    

    1.2 append

    result = df1.append(df2)
    

    这里写图片描述

    1.3 join

    result = left.join(right, on='key')
    

    这里写图片描述

    1.4 concat

    pd.concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
    	          keys=None, levels=None, names=None, verify_integrity=False,
    	          copy=True)
    
    • objs︰ 一个序列或系列、 综合或面板对象的映射。如果字典中传递,将作为键参数,使用排序的键,除非它传递,在这种情况下的值将会选择
      (见下文)。任何没有任何反对将默默地被丢弃,除非他们都没有在这种情况下将引发 ValueError。
    • axis: {0,1,…},默认值为 0。要连接沿轴。
    • join: {‘内部’、 ‘外’},默认 ‘外’。如何处理其他 axis(es) 上的索引。联盟内、 外的交叉口。
    • ignore_index︰ 布尔值、 默认 False。如果为 True,则不要串联轴上使用的索引值。由此产生的轴将标记
      0,…,n-1。这是有用的如果你串联串联轴没有有意义的索引信息的对象。请注意在联接中仍然受到尊重的其他轴上的索引值。
    • join_axes︰ 索引对象的列表。具体的指标,用于其他 n-1 轴而不是执行内部/外部设置逻辑。 keys︰
      序列,默认为无。构建分层索引使用通过的键作为最外面的级别。如果多个级别获得通过,应包含元组。
    • levels︰ 列表的序列,默认为无。具体水平 (唯一值) 用于构建多重。否则,他们将推断钥匙。
    • names︰ 列表中,默认为无。由此产生的分层索引中的级的名称。
    • verify_integrity︰ 布尔值、 默认 False。检查是否新的串联的轴包含重复项。这可以是相对于实际数据串联非常昂贵。
    • 副本︰ 布尔值、 默认 True。如果为 False,请不要,不必要地复制数据。
    例子:1.frames = [df1, df2, df3]
              2.result = pd.concat(frames)
    

    这里写图片描述

    2、设置索引列

    df_inner.set_index('id')
    

    3、按照特定列的值排序:

    df_inner.sort_values(by=['age'])
    

    4、按照索引列排序:

    df_inner.sort_index()
    

    5、如果prince列的值>3000,group列显示high,否则显示low:

    df_inner['group'] = np.where(df_inner['price'] > 3000,'high','low')
    

    6、对复合多个条件的数据进行分组标记

    df_inner.loc[(df_inner['city'] == 'beijing') & (df_inner['price'] >= 4000), 'sign']=1
    

    7、对category字段的值依次进行分列,并创建数据表,索引值为df_inner的索引列,列名称为category和size

    pd.DataFrame((x.split('-') for x in df_inner['category']),index=df_inner.index,columns=['category','size']))
    

    8、将完成分裂后的数据表和原df_inner数据表进行匹配

    df_inner=pd.merge(df_inner,split,right_index=True, left_index=True)
    

    五、数据提取

    主要用到的三个函数:loc,iloc和ix,loc函数按标签值进行提取,iloc按位置进行提取,ix可以同时按标签和位置进行提取。

    1、按索引提取单行的数值

    df_inner.loc[3]
    

    2、按索引提取区域行数值

    df_inner.iloc[0:5]
    

    3、重设索引

    df_inner.reset_index()
    

    4、设置日期为索引

    df_inner=df_inner.set_index('date') 
    

    5、提取4日之前的所有数据

    df_inner[:'2013-01-04']
    

    6、使用iloc按位置区域提取数据

    df_inner.iloc[:3,:2] #冒号前后的数字不再是索引的标签名称,而是数据所在的位置,从0开始,前三行,前两列。
    

    7、适应iloc按位置单独提起数据

    df_inner.iloc[[0,2,5],[4,5]] #提取第0、2、5行,4、5列
    

    8、使用ix按索引标签和位置混合提取数据

    df_inner.ix[:'2013-01-03',:4] #2013-01-03号之前,前四列数据
    

    9、判断city列的值是否为北京

    df_inner['city'].isin(['beijing'])
    

    10、判断city列里是否包含beijing和shanghai,然后将符合条件的数据提取出来

    df_inner.loc[df_inner['city'].isin(['beijing','shanghai'])] 
    

    11、提取前三个字符,并生成数据表

    pd.DataFrame(category.str[:3])
    

    六、数据筛选

    使用与、或、非三个条件配合大于、小于、等于对数据进行筛选,并进行计数和求和。

    1、使用“与”进行筛选

    df_inner.loc[(df_inner['age'] > 25) & (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']]
    

    2、使用“或”进行筛选

    df_inner.loc[(df_inner['age'] > 25) | (df_inner['city'] == 'beijing'), ['id','city','age','category','gender']].sort(['age']) 
    

    3、使用“非”条件进行筛选

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']) 
    

    4、对筛选后的数据按city列进行计数

    df_inner.loc[(df_inner['city'] != 'beijing'), ['id','city','age','category','gender']].sort(['id']).city.count()
    

    5、使用query函数进行筛选

    df_inner.query('city == ["beijing", "shanghai"]')
    

    6、对筛选后的结果按prince进行求和

    df_inner.query('city == ["beijing", "shanghai"]').price.sum()
    

    七、数据汇总

    主要函数是groupby和pivote_table

    1、对所有的列进行计数汇总

    df_inner.groupby('city').count()
    

    2、按城市对id字段进行计数

    df_inner.groupby('city')['id'].count()
    

    3、对两个字段进行汇总计数

    df_inner.groupby(['city','size'])['id'].count()
    

    4、对city字段进行汇总,并分别计算prince的合计和均值

    df_inner.groupby('city')['price'].agg([len,np.sum, np.mean]) 
    

    八、数据统计

    数据采样,计算标准差,协方差和相关系数

    1、简单的数据采样

    df_inner.sample(n=3) 
    

    2、手动设置采样权重

    weights = [0, 0, 0, 0, 0.5, 0.5]
    df_inner.sample(n=2, weights=weights) 
    

    3、采样后不放回

    df_inner.sample(n=6, replace=False) 
    

    4、采样后放回

    df_inner.sample(n=6, replace=True)
    

    5、 数据表描述性统计

    df_inner.describe().round(2).T #round函数设置显示小数位,T表示转置
    

    6、计算列的标准差

    df_inner['price'].std()
    

    7、计算两个字段间的协方差

    df_inner['price'].cov(df_inner['m-point']) 
    

    8、数据表中所有字段间的协方差

    df_inner.cov()
    

    9、两个字段的相关性分析

    df_inner['price'].corr(df_inner['m-point']) #相关系数在-1到1之间,接近1为正相关,接近-1为负相关,0为不相关
    

    10、数据表的相关性分析

    df_inner.corr()
    

    九、数据输出

    分析后的数据可以输出为xlsx格式和csv格式

    1、写入Excel

    df_inner.to_excel('excel_to_python.xlsx', sheet_name='bluewhale_cc') 
    

    2、写入到CSV

    df_inner.to_csv('excel_to_python.csv') 
    
    展开全文
  • Python进阶-Pandas数据分析库

    千人学习 2019-10-31 11:51:13
    您观看课程学习后 免费入群领取【超全...本课程会讲解到pandas中最核心的一些知识点,包括Series以及DataFrame的构建,赋值,操作,选择数据,合并等等,以及使用pandas对文件进行读取和写入,使用pandas绘图等等。
  • 随着时代的发展及人工智能的到来,Python自动化办公能力几乎已成为每个岗位的必备技能!而且到处可见的抖音、朋友圈铺天盖地宣传Python可以轻松达到办公自动化,并且学习没门槛,是真的吗...

    随着时代的发展及人工智能的到来,Python自动化办公能力几乎成为每个岗位的必备技能

    而且到处可见的抖音、朋友圈铺天盖地宣传Python可以轻松达到办公自动化,并且学习没门槛,是真的吗?

    我很负责的告诉大家,是真的。

    用Python办公能有多轻松?

    人人以为行政岗朝九晚五,就是个混日子的,实际上掌握的技能也不少,需要经常用Python自动化办公及各种资料做数据分析,一天的工作分分钟搞完!

    你会发现越来越多的工作,正在被人工智能替代。

    会计、银行柜台职员、收银员、保安、编辑……这些你可能用来谋生的工作,机器可能比你做的更好。

    看到这里,你还认为Python离自己很遥远吗?

    运营岗位

    通过Python抓取用户网上的浏览信息、点击行为等,掌握一手用户数据并进行科学分析,制定高效的运营策略,快速完成KPI。

    金融行业

    用Python爬虫可以帮客户批量下载上市公司财报,独立搭建了一套金融量化投资系统。

    财务专业

    用Python完成庞大的税务数据统计,做公司整体财务分析报表,以及第二年的支出预测。

    设计岗位

    用Python快速全网搜索和抓取最新的图、最适合的素材和最有创意的案例,让甲方爸爸一次就满意。

    ......

    为了帮助大家学习Python自动化办公,推荐六星教育准备的一套【直播】课《Python办公自动化Excel数据处理实战课程训练营》。

    【这次直接免费参与】你没看错! 全程干货!还可以现场直接和老师互动答疑指导。

    六星教育以“为每个IT人提升竞争力”为使命,旨在帮助学员通过在线学习的方式提升技术技能,加强核心竞争力,实现高薪梦想。

    主讲老师:周周老师   五年Python研发经验,前网易游戏项目资深技术负责人,精通爬虫,数据分析,自动化,web后端开发,人工智能。

    【这次直接免费参与】是的 你没看错! 还可以免费领取预习资料呢。

    长按扫码即可添加微信参与

    遇到扫码频繁,请识别下一个二维码哦

    训练营第一天

    1、Python语法

    2、Python数据类型

    3、pandas对于Excel的相关操作

    4、Pycharm+Jupyter notebook讲解

    5、数据可视化相关模块的使用

    训练营第二天

    1、robots文件解析

    2、地图爬虫

    3、遍历爬虫实战

    4、实现网站数据流导入

    5、爬虫+数据可视化

    6、lxml爬虫零基础项目

    以上内容在课程讲解中会更加仔细贴合企业技术,本课程仅适合零基础人员学习!训练营全程线上直播干货【直接免费参与】,还可以免费领取预习资料

    领取预习资料

    扫码免费领预习资料

    遇到扫码繁,识别下一个二维

    (内容的价值取决于您的行动,千万莫做收藏家)

    再强调一遍,扫码:

    (1)咨询、报名本期训练营课程;

    (2)免费领取往期Python项目实战高清视频;

    (3)参与训练营,免费领取预习资料;

    (3)参与直播课,免费抽实体书籍、机械键盘等大奖;

    扫码免费领预习资料

    (内容的价值取决于您的行动,千万莫做收藏家)

    扫上方“二维码”,直接免费参与】

    展开全文
  • 文章目录3.8.1 pip安装pandas3.8.2 pandas 读写 Excel 简介: pandas 是基于NumPy 的一种工具,该工具是为了解决数据分析任务而创建的。Pandas 纳入了大量库和一些标准的数据模型,提供了高效地操作大型数据集所需的...
  • python在办公自动化领域应用广泛,本文学习一下如何使用python读取和写入excel。EXCEL读取和写入可以用到两个包:xlrd 和 xlwt。 Excel读取 excel几个基本概念: 工作簿就是指这个excel文件 工作表就是excel文件中...
  • 今天我们来讲解一个比较简单的案例,使用openpyxl从Excel中提取指定的数据并生成新的文件,之后进一步批量自动化实现这个功能,通过本例可以学到的知识点: openpyxl模块的运用 glob模块建立批处理 ...
  • 写个脚本实现自动化办公,主要参看xlsxwriter文档 原始表格如下 我们需要添加表格标题和添加图片,为重复利用脚本,写为函数。 # -*- coding: utf-8 -*- ...Created on Mon Sep 30 11:07:03 2019 ...
  • Pandas(1)

    千次阅读 2019-03-01 11:07:39
    上层目录 总目录 一、Pandas概述 1....
  • 十分钟搞定pandas

    万次阅读 多人点赞 2018-06-23 16:04:17
    【原】十分钟搞定pandas本文是对pandas官方网站上《10 Minutes to pandas》的一个简单的翻译,原文在这里。这篇文章是对pandas的一个简单的介绍,详细的介绍请参考:Cookbook 。习惯上,我们会按下面格式引入所需要...
  • pandas小记:pandas数据结构和基本操作

    万次阅读 多人点赞 2020-09-06 22:56:32
    pandas的数据 结构:Series、DataFrame、索引对象 pandas基本功能:重新索引,丢弃指定轴上的项,索引、选取和过滤,算术运算和数据对齐,函数应用和映射,排序和排名,带有重复值的轴索引 Pandas介绍 pandas含有...
  • pandas 菜鸟教程

    万次阅读 多人点赞 2019-05-09 17:27:21
    1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) df = pd....
  • pandas.DataFrame删除/选取含有特定数值的行或列

    万次阅读 多人点赞 2019-04-29 10:17:07
    import pandas as pd import numpy as np a=np.array([[1,2,3],[4,5,6],[7,8,9]]) df1=pd.DataFrame(a,index=['row0','row1','row2'],columns=list('ABC')) print(df1) df2=df1.copy() #删除/选取...
  • pandas 缺失值与空值处理

    万次阅读 多人点赞 2018-07-07 10:30:49
    相关概念空值:在pandas中的空值是""缺失值:在dataframe中为nan或者naT(缺失时间),在series中为none或者nan即可3.函数具体解释DataFrame.dropna(axis=0, how='any', thresh=None, subset=None, in...
  • Pandas的Apply函数——Pandas中最好用的函数

    万次阅读 多人点赞 2020-04-29 18:38:08
    Pandas最好用的函数 Pandas是Python语言中非常好用的一种数据结构包, 包含了许多有用的数据操作方法。而且很多算法相关的库函数的输入数据结构都要求是pandas数据,或者有该数据的接口。 仔细看pandas的API...
  • pandas之分组groupby()的使用整理与总结

    万次阅读 多人点赞 2019-07-27 18:41:53
    在使用pandas的时候,有些场景需要对数据内部进行分组处理,如一组全校学生成绩的数据,我们想通过班级进行分组,或者再对班级分组后的性别进行分组来进行分析,这时通过pandas下的groupby()函数就可以解决。...
  • 0.导入我们需要使用的包import pandas as pdpandas是很常用的数据分析,数据处理的包。anaconda已经有这个包了,纯净版python的可以自行pip安装。1.去掉某些具体值数据集df中,对于属性appPlatform(最后一列),...
  • (Python)利用pandas向一个csv文件追加写入数据

    万次阅读 多人点赞 2018-07-26 23:05:27
    我们越来越多的使用pandas进行数据处理,有时需要向一个已经存在的csv文件写入数据,传统的方法之前我也有些过,向txt,excel文件写入数据,传送门:Python将二维列表(list)的数据输出(TXT,Excel)  pandas to...
1 2 3 4 5 ... 20
收藏数 128,776
精华内容 51,510
关键字:

pandas