panda python 唯一值_python panda删除缺失值 - CSDN
精华内容
参与话题
  • import pandas 使用方法

    万次阅读 2018-05-30 15:45:13
    对于数据科学家,无论是数据分析还是数据挖掘来说,Pandas是一个非常重要的Python包。它不仅提供了很多方法,使得数据处理非常简单,同时在数据处理速度上也做了很多优化,使得和Python内置方法相比时有了很大的优势...

    对于数据科学家,无论是数据分析还是数据挖掘来说,Pandas是一个非常重要的Python包。它不仅提供了很多方法,使得数据处理非常简单,同时在数据处理速度上也做了很多优化,使得和Python内置方法相比时有了很大的优势。

    导入数据

    • pd.read_csv(filename):从CSV文件导入数据
    • pd.read_table(filename):从限定分隔符的文本文件导入数据
    • pd.read_excel(filename):从Excel文件导入数据
    • pd.read_sql(query, connection_object):从SQL表/库导入数据
    • pd.read_json(json_string):从JSON格式的字符串导入数据
    • pd.read_html(url):解析URL、字符串或者HTML文件,抽取其中的tables表格
    • pd.read_clipboard():从你的粘贴板获取内容,并传给read_table()
    • pd.DataFrame(dict):从字典对象导入数据,Key是列名,Value是数据

    查看、检查数据

    df:任意的Pandas DataFrame对象【比如pd的返回值】
    s:任意的Pandas Series对象

    • df.head(n):查看DataFrame对象的前n行
    • df.tail(n):查看DataFrame对象的最后n行
    • df.shape():查看行数和列数
    • df.info():查看索引、数据类型和内存信息
    • df.describe():查看数值型列的汇总统计 s.
    • s.value_counts(dropna=False):查看Series对象的唯一值和计数
    • df.apply(pd.Series.value_counts):查看DataFrame对象中每一列的唯一值和计数
    import pandas as pd
    
    RAW_DATA_DIR = 'data_raw/'
    
    ##将一个或多个路径正确地连接起来
    sample_tsv_path = os.path.join(RAW_DATA_DIR, 'normal_1/airsim_rec.txt')
    #读取数据
    sample_tsv = pd.read_csv(sample_tsv_path, sep='\t')
    #查看数据
    sample_tsv.head()
    
    

    参考文档

    https://blog.csdn.net/qq_33399185/article/details/60872853

    展开全文
  • pandas.describe()参数的意义

    万次阅读 2018-06-20 16:11:52
    count 1460.000000 mean 180921.195890 std 79442.502883 min 34900.000000 25% 129975.000000 50% 163000.000000 75% 214000.000000 max 755000.000000 Name: Sa...

    count 1460.000000
    mean 180921.195890
    std 79442.502883
    min 34900.000000
    25% 129975.000000
    50% 163000.000000
    75% 214000.000000
    max 755000.000000
    Name: SalePrice, dtype: float64

    注释:
    对于数值数据,结果的索引将包括计数,平均值,标准差,最小值,最大值以及较低的百分位数和50。默认情况下,较低的百分位数为25,较高的百分位数为75.50百分位数与中位数相同。

    count 1460
    unique 5
    top RL
    freq 1151
    Name: MSZoning, dtype: object
    注释:
    describe()函数自动计算的字段有count(非空值数)、unique(唯一值数)、top(频数最高者)、freq(最高频数)

    展开全文
  • pandas-profiling(数据预览分析)

    万次阅读 2018-08-15 19:25:38
    对于探索性数据分析来说,做数据分析前需要先看一下数据的总体概况,pandas_profiling工具可以快速预览数据。 1、pandas-profiling安装与调用 pip install pandas-profiling import pandas as pd ...

    对于探索性数据分析来说,做数据分析前需要先看一下数据的总体概况,pandas_profiling工具可以快速预览数据。

    1、pandas-profiling安装与调用

    pip install pandas-profiling
    
    import pandas as pd
    import pandas_profiling

    2、导入数据

    data=pd.read_csv("model.csv")

     3、直接查看

    pandas_profiling.ProfileReport(data)

    4、数据概览

    4.1总体数据

    首先是数据集信息:

    变量数(列)、观察数(行)、数据缺失率、内存;

    数据类型的分布情况

     

    4.2警告信息

    主要包括以下信息:

    • 要点:类型,唯一值,缺失值
    • 分位数统计量,如最小值,Q1,中位数,Q3,最大值,范围,四分位数范围
    • 描述性统计数据,如均值,模式,标准差,总和,中位数绝对偏差,变异系数,峰度,偏度

     

    4.3单变量描述 

     

    以此对每个变量进行描述解析

     

    4.4相关性分析

    • 相关性突出高度相关变量,Spearman和Pearson矩阵

     

    5、生成HTML报告文件

    profile = pandas_profiling.ProfileReport(data)
    profile.to_file(outputfile = "output_file.html")

    保存在默认文件夹,也可以自己指定路径。

     

    展开全文
  • Pandas速查手册中文版

    万次阅读 多人点赞 2017-03-08 15:17:52
    Cheat Sheet - Python for Data Science,同时添加了部分注解。 对于数据科学家,无论是数据分析还是数据挖掘来说,Pandas是一个非常重要的Python包。它不仅提供了很多方法,使得数据处理非常简单,同时在数据...
    本文翻译自文章:Pandas
     Cheat Sheet - Python for Data Science,同时添加了部分注解。
    

    对于数据科学家,无论是数据分析还是数据挖掘来说,Pandas是一个非常重要的Python包。它不仅提供了很多方法,使得数据处理非常简单,同时在数据处理速度上也做了很多优化,使得和Python内置方法相比时有了很大的优势。

    如果你想学习Pandas,建议先看两个网站。

    (1)官网:Python Data Analysis Library

    (2)十分钟入门Pandas:10 Minutes to pandas

    在第一次学习Pandas的过程中,你会发现你需要记忆很多的函数和方法。所以在这里我们汇总一下Pandas官方文档中比较常用的函数和方法,以方便大家记忆。同时,我们提供一个PDF版本,方便大家打印。pandas-cheat-sheet.pdf

    关键缩写和包导入

    在这个速查手册中,我们使用如下缩写:

    df:任意的Pandas DataFrame对象
    s:任意的Pandas Series对象

    同时我们需要做如下的引入:

    import pandas as pd
    import numpy as np

    导入数据

    • pd.read_csv(filename):从CSV文件导入数据
    • pd.read_table(filename):从限定分隔符的文本文件导入数据
    • pd.read_excel(filename):从Excel文件导入数据
    • pd.read_sql(query, connection_object):从SQL表/库导入数据
    • pd.read_json(json_string):从JSON格式的字符串导入数据
    • pd.read_html(url):解析URL、字符串或者HTML文件,抽取其中的tables表格
    • pd.read_clipboard():从你的粘贴板获取内容,并传给read_table()
    • pd.DataFrame(dict):从字典对象导入数据,Key是列名,Value是数据

    导出数据

    • df.to_csv(filename):导出数据到CSV文件
    • df.to_excel(filename):导出数据到Excel文件
    • df.to_sql(table_name, connection_object):导出数据到SQL表
    • df.to_json(filename):以Json格式导出数据到文本文件

    创建测试对象

    • pd.DataFrame(np.random.rand(20,5)):创建20行5列的随机数组成的DataFrame对象
    • pd.Series(my_list):从可迭代对象my_list创建一个Series对象
    • df.index = pd.date_range('1900/1/30', periods=df.shape[0]):增加一个日期索引

    查看、检查数据

    • df.head(n):查看DataFrame对象的前n行
    • df.tail(n):查看DataFrame对象的最后n行
    • df.shape():查看行数和列数
    • df.info():查看索引、数据类型和内存信息
    • df.describe():查看数值型列的汇总统计
    • s.value_counts(dropna=False):查看Series对象的唯一值和计数
    • df.apply(pd.Series.value_counts):查看DataFrame对象中每一列的唯一值和计数

    数据选取

    • df[col]:根据列名,并以Series的形式返回列
    • df[[col1, col2]]:以DataFrame形式返回多列
    • s.iloc[0]:按位置选取数据
    • s.loc['index_one']:按索引选取数据
    • df.iloc[0,:]:返回第一行
    • df.iloc[0,0]:返回第一列的第一个元素

    数据清理

    • df.columns = ['a','b','c']:重命名列名
    • pd.isnull():检查DataFrame对象中的空值,并返回一个Boolean数组
    • pd.notnull():检查DataFrame对象中的非空值,并返回一个Boolean数组
    • df.dropna():删除所有包含空值的行
    • df.dropna(axis=1):删除所有包含空值的列
    • df.dropna(axis=1,thresh=n):删除所有小于n个非空值的行
    • df.fillna(x):用x替换DataFrame对象中所有的空值
    • s.astype(float):将Series中的数据类型更改为float类型
    • s.replace(1,'one'):用‘one’代替所有等于1的值
    • s.replace([1,3],['one','three']):用'one'代替1,用'three'代替3
    • df.rename(columns=lambda x: x + 1):批量更改列名
    • df.rename(columns={'old_name': 'new_ name'}):选择性更改列名
    • df.set_index('column_one'):更改索引列
    • df.rename(index=lambda x: x + 1):批量重命名索引

    数据处理:Filter、Sort和GroupBy

    • df[df[col] > 0.5]:选择col列的值大于0.5的行
    • df.sort_values(col1):按照列col1排序数据,默认升序排列
    • df.sort_values(col2, ascending=False):按照列col1降序排列数据
    • df.sort_values([col1,col2], ascending=[True,False]):先按列col1升序排列,后按col2降序排列数据
    • df.groupby(col):返回一个按列col进行分组的Groupby对象
    • df.groupby([col1,col2]):返回一个按多列进行分组的Groupby对象
    • df.groupby(col1)[col2]:返回按列col1进行分组后,列col2的均值
    • df.pivot_table(index=col1, values=[col2,col3], aggfunc=max):创建一个按列col1进行分组,并计算col2和col3的最大值的数据透视表
    • df.groupby(col1).agg(np.mean):返回按列col1分组的所有列的均值
    • data.apply(np.mean):对DataFrame中的每一列应用函数np.mean
    • data.apply(np.max,axis=1):对DataFrame中的每一行应用函数np.max

    数据合并

    • df1.append(df2):将df2中的行添加到df1的尾部
    • df.concat([df1, df2],axis=1):将df2中的列添加到df1的尾部
    • df1.join(df2,on=col1,how='inner'):对df1的列和df2的列执行SQL形式的join

    数据统计

    • df.describe():查看数据值列的汇总统计
    • df.mean():返回所有列的均值
    • df.corr():返回列与列之间的相关系数
    • df.count():返回每一列中的非空值的个数
    • df.max():返回每一列的最大值
    • df.min():返回每一列的最小值
    • df.median():返回每一列的中位数

    • df.std():返回每一列的标准差

    展开全文
  • Python 2.7 MySQL-python 1.2.5 pandas 0.18.1 数据类型转化从以下两个方面讨论并分析: 由于数据缺失导致DataFrame中int转float型 由于数值类型字符串导致从csv加载到DataFrame时String转numeric 一、...
  • python之DataFrame写excel合并单元格

    万次阅读 2017-08-07 15:56:30
    在工作中经常遇到需要将数据输出到excel,且需要对其中一些单元格进行合并,比如如下表表格,需要根据A列的,合并B、C列的对应单元格 pandas中的to_excel方法只能对索引进行合并,而xlsxwriter中,虽然提供有...
  • pandas排序与统计

    万次阅读 2018-04-06 01:28:56
    Python for Data Analysis》 排序 sort_index() 对行或列索引进行排序 In [1]: import pandas as pd In [2]: from pandas import DataFrame, Series In [3]: obj = Series(range(4), index=['d','a',...
  • DataFrame获得某一列中所有的不重复的 dataframe['xxx'].unique()
  • pandas 的describe函数的参数详解

    万次阅读 多人点赞 2018-12-04 21:54:59
    基本上pandas的describe函数大家都会使用,我之前也是,直接data.describe(),就把数据的统计信息给打印出来了。但是今天因某些原因研究了一下describe的参数,才知道其实describe还有很多其他的作用。...
  • Python菜鸟教程-笔记

    万次阅读 2016-01-11 19:22:14
    数据类型是不允许改变的,这就意味着如果改变数字数据类型得,将重新分配内存空间。 以下实例在变量赋值时数字对象将被创建: var1 = 1 var2 = 10 您也可以使用del语句删除一些数字对象引用。 del语句的...
  • 本文参考《利用Python进行数据分析》的第五章 pandas入门 2基本功能 介绍操作Series和DataFrame中的数据的基本手段。 重新索引reindex 当调用Series的reindex将会根据新索引进行重排;当某个索引当前不存在,就...
  • 利用Python处理Excel数据——pandas库

    千次阅读 多人点赞 2020-01-20 19:07:55
    新建一个excel表格(table1.csv)用于案例讲解: 一、导库 import pandas as pd import numpy as np 二、读取数据 ...df = pd.read_excel('table1.xlsx') # 相对路径 # df = pd.read_excel(r'E:\Anaconda\hc\data...
  • Pandas中的数据重塑(reshape)功能

    万次阅读 2017-05-08 19:49:50
    引言Pandas 是 python 中常用的数据分析软件库,它提供了 DataFrames 和 Series 的工具,这使得 numpy 和 matplotlib 可以更加便捷地读取转换数据。数据重塑表示转换一个表格或者向量的结构,使其适合于进一步的分析...
  • Python

    千次阅读 2014-08-12 05:47:57
    Python(英语发音:/ˈpaɪθən/), 是一种面向对象、解释型计算机程序设计语言,由Guido van Rossum于1989年底发明,第一个公开发行版发行于1991年。Python语法简洁而清晰,具有丰富和强大的类库。它常被昵称为...
  • “软件工程师阅读教科书作为参考时不会记住所有的东西,但是要知道如何快速查找重要的知识点。” 为了能够快速查找和使用功能,使我们在进行机器学习模型时能够达到一定流程化。我创建了这个pandas函数的备忘单。...
  • python pandas数据匹配 merge函数

    千次阅读 2019-09-01 09:06:19
    python中pandas数据匹配常用merge函数,其实merge函数就类似于excel中的vlookup hlookup lookup,最近excel又出了一个逆天的xlookup函数,默默地推荐一下,嘿嘿 转载自:...
  • Python 数据分析包:pandas 基础

    千次阅读 2016-07-03 16:08:15
    摘要 pandas 是基于 Numpy 构建的含有更高级数据结构和工具的数据分析包 pandas 是基于 Numpy 构建的含有更高级数据结构和工具的数据分析包 ...类似于 Numpy 的核心是 ndarray,pandas 也是围绕着 Series ...panda
  • DLT645-2007通讯协议: 1.发送的帧格式: 1.1 帧起始符 0x68H 这个不多说,记住就好;...每块表具有唯一的通信地址,且与物理层信道无关。当使用的地址码长度不足 6 字节时,高位用“0”补足。通信地址999...
  • Python--matplotlib绘图可视化知识点整理

    万次阅读 多人点赞 2016-08-25 09:59:08
    转载自:Segment Fault 本文作为学习过程中对matplotlib一些常用知识点的整理,方便查找。 强烈推荐ipython 无论你工作在什么项目上,IPython都是值得推荐的。利用ipython --pylab,可以进入PyLab模式,已经导入...
  • pandas 菜鸟教程

    万次阅读 多人点赞 2019-05-09 17:27:21
    一、生成数据表 1、首先导入pandas库,一般都会用到numpy库,所以我们先导入备用: import numpy as np import pandas as pd 2、导入CSV或者xlsx文件: df = pd.DataFrame(pd.read_csv(‘name.csv’,header=1)) ...
1 2 3 4 5 ... 20
收藏数 490
精华内容 196
关键字:

panda python 唯一值