最近在工作中，遇到了数据合并、连接的问题，故整理如下，供需要者参考~

 

一、concat：沿着一条轴，将多个对象堆叠到一起

       concat方法相当于数据库中的全连接（union all），它不仅可以指定连接的方式（outer join或inner join）还可以指定按照某个轴进行连接。与数据库不同的是，它不会去重，但是可以使用drop_duplicates方法达到去重的效果。

concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False, 
       keys=None, levels=None, names=None, verify_integrity=False, copy=True): 

       pd.concat()只是单纯的把两个表拼接在一起，参数axis是关键，它用于指定是行还是列，axis默认是0。当axis=0时，pd.concat([obj1, obj2])的效果与obj1.append(obj2)是相同的；当axis=1时，pd.concat([obj1, obj2], axis=1)的效果与pd.merge(obj1, obj2, left_index=True, right_index=True, how='outer')是相同的。merge方法的介绍请参看下文。

       参数介绍：

       objs：需要连接的对象集合，一般是列表或字典；

       axis：连接轴向；

       join：参数为‘outer’或‘inner’；

       join_axes=[]：指定自定义的索引；

       keys=[]：创建层次化索引；

       ignore_index=True：重建索引

       举例：

df1=DataFrame(np.random.randn(3,4),columns=['a','b','c','d'])  
  
df2=DataFrame(np.random.randn(2,3),columns=['b','d','a'])  
  
pd.concat([df1,df2])  
  
          a         b         c         d  
0 -0.848557 -1.163877 -0.306148 -1.163944  
1  1.358759  1.159369 -0.532110  2.183934  
2  0.532117  0.788350  0.703752 -2.620643  
0 -0.316156 -0.707832       NaN -0.416589  
1  0.406830  1.345932       NaN -1.874817  

pd.concat([df1,df2],ignore_index=True)  

          a         b         c         d  
0 -0.848557 -1.163877 -0.306148 -1.163944  
1  1.358759  1.159369 -0.532110  2.183934  
2  0.532117  0.788350  0.703752 -2.620643  
3 -0.316156 -0.707832       NaN -0.416589  
4  0.406830  1.345932       NaN -1.874817  

 

二、merge：通过键拼接列

      类似于关系型数据库的连接方式，可以根据一个或多个键将不同的DatFrame连接起来。该函数的典型应用场景是，针对同一个主键存在两张不同字段的表，根据主键整合到一张表里面。

merge(left, right, how='inner', on=None, left_on=None, right_on=None,  
      left_index=False, right_index=False, sort=True,  
      suffixes=('_x', '_y'), copy=True, indicator=False)

     参数介绍：

     left和right：两个不同的DataFrame；

     how：连接方式，有inner、left、right、outer，默认为inner；

     on：指的是用于连接的列索引名称，必须存在于左右两个DataFrame中，如果没有指定且其他参数也没有指定，则以两个DataFrame列名交集作为连接键；

     left_on：左侧DataFrame中用于连接键的列名，这个参数左右列名不同但代表的含义相同时非常的有用；

     right_on：右侧DataFrame中用于连接键的列名；

     left_index：使用左侧DataFrame中的行索引作为连接键；

     right_index：使用右侧DataFrame中的行索引作为连接键；

     sort：默认为True，将合并的数据进行排序，设置为False可以提高性能；

     suffixes：字符串值组成的元组，用于指定当左右DataFrame存在相同列名时在列名后面附加的后缀名称，默认为('_x', '_y')；

     copy：默认为True，总是将数据复制到数据结构中，设置为False可以提高性能；

     indicator：显示合并数据中数据的来源情况

     举例：

# 1.默认以重叠的列名当做连接键。
df1=DataFrame({'key':['a','b','b'],'data1':range(3)})    
df2=DataFrame({'key':['a','b','c'],'data2':range(3)})    
pd.merge(df1,df2)   #没有指定连接键，默认用重叠列名，没有指定连接方式  
  
   data1 key  data2  
0      0   a      0  
1      1   b      1  
2      2   b      1  

# 2.默认做inner连接（取key的交集），连接方式还有（left,right,outer)，制定连接方式加参数：how=''
pd.merge(df2,df1)  
  
   data2 key  data1  
0      0   a      0  
1      1   b      1  
2      1   b      2                   #默认内连接，可以看见c没有连接上。  
  
pd.merge(df2,df1,how='left')    #通过how，指定连接方式  
 
   data2 key  data1  
0      0   a      0  
1      1   b      1  
2      1   b      2  
3      2   c    NaN  

# 3.多键连接时将连接键组成列表传入，例：pd.merge(df1,df2,on=['key1','key2']
right=DataFrame({'key1':['foo','foo','bar','bar'],  
         'key2':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
left=DataFrame({'key1':['foo','foo','bar'],  
         'key2':['one','two','one'],  
         'lval':[1,2,3]})  
right=DataFrame({'key1':['foo','foo','bar','bar'],  
         'key2':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
pd.merge(left,right,on=['key1','key2'],how='outer')  #传出数组  
   
  key1 key2  lval_x  lval_y  
0  foo  one       1       4  
1  foo  one       1       5  
2  foo  two       2     NaN  
3  bar  one       3       6  
4  bar  two     NaN       7  

# 4.如果两个对象的列名不同，可以分别指定，例：pd.merge(df1,df2,left_on='lkey',right_on='rkey')
df3=DataFrame({'key3':['foo','foo','bar','bar'], #将上面的right的key 改了名字  
         'key4':['one','one','one','two'],  
         'lval':[4,5,6,7]})  
pd.merge(left,df3,left_on='key1',right_on='key3')  #键名不同的连接  
   
  key1 key2  lval_x key3 key4  lval_y  
0  foo  one       1  foo  one       4  
1  foo  one       1  foo  one       5  
2  foo  two       2  foo  one       4  
3  foo  two       2  foo  one       5  
4  bar  one       3  bar  one       6  
5  bar  one       3  bar  two       7  

 

三、join：主要用于索引上的合并

join(self, other, on=None, how='left', lsuffix='', rsuffix='',sort=False):

其参数的意义与merge方法中的参数意义基本一样。

   在用git做版本控制器的时候，经常会遇到以下情况：

   1、在做1个功能的时候，你自己觉得代码没问题了，就本地commit，然后提交代码，在gitlab上发起和并请求，老大看完之后，觉得你还有修改的地方，把你的代码打回来重新修改，改完之后，本地commit，推到远程，再次发起合并。到此功能做完，但是做完之后发现，你的一个功能commit了两次，当然根据实际情况有些时候你为了做一个功能，来回不止两次，这样子的提交会让这个分支看起来有点杂乱。那么你会想要将你的几次commit合并成一个commit后，再提交，那样子分支看上去会非常清爽。

   2、当你做功能的时候，你会遇到需要零时提交的情况（比如你在做A任务，突然来了B任务，在你A任务分支上你会先commit一次，等B任务做完，再回来继续做A，做完之后会再次commit），此时你的一个任务有会有多个commit存在。

    本文的主要目的是教你怎样将git中多次commit合并成一个commit。

（1）git log看一下当前分支的提交情况，下图中有三个commit点。从先到后是：add 1 line,add 2 line, add 3 line。需求是：把add 2 line, add 3 line这两个commit点合并成一个commit点。



（2）开始合并，敲下面这个命令：这里面的commitId是你要合并的两个commit后所形成的一个commitId需要跟着的commitId。在这边也就是add 1 line的commitId.

git rebase -i commitId



其中，-i 的参数是不需要合并的 commit 的 hash 值，这里指的是第一条 commit， 接着我们就进入到 vi 的编辑模式

 



进入vi模式后，在键盘上敲i键进入insert模式。这时候先看看这里面的东西是什么含义，

pick 的意思是要会执行这个 commit
	
squash 的意思是这个 commit 会被合并到前一个commit
我们这边需要将"add 3 line"这个commit合并前前一个commit，也就是合并到“add 2 line”的commit中，那就需要修改成如下的：



修改完成后，按esc键，冒号，输入wq进行保存。之后会继续跳转到commit message 的编辑界面：



 

 

 

注释中有写第一个commit信息和第二个commit信息，现在需要你合并这两个信息成一个commit信息。我这边合并成如下信息：



然后你就保存退出，跳回到最初的命令界面：



看到successfully的字样就说明成功了。再git log看一下commit情况：



从图中就看到已经将add 2 line和add 3 line的commit合并成了this is combination of 2 commit。

git修改老旧commit message的方法

如果有对云原生和golang感兴趣的小伙伴可以关注我的公众号“云原生手记”,欢迎批评指正



 

在开发的过程中我们一般会有开发分支和线上的主分支，我们一般都是在开发分支去进行开发项目，等指定功能或迭代都实现后才会合并开发分支到主分支上。那么我们今天就来分享如何合并分支。
场景：

git 合并分支到master
实际场景：

假如我们现在在dev分支上，刚开发完项目，执行了下列命令
$ git add .
$ git commit -m 'dev'
$ git push -u origin dev

然后我们要把dev分支的代码合并到master分支上 该如何？
1. 首先切换到master分支上
$ git checkout master


如果是多人开发的话 需要把远程master上的代码pull下来

$ git pull origin master


如果是自己一个开发就没有必要了，但是为了保险起见还是pull一下

2.然后我们把dev分支的代码合并到master上
$ git merge dev

3.然后查看状态
$ git status

$ On branch master
$ Your branch is ahead of 'origin/master' by 12 commits.
$ (use "git push" to publish your local commits)
$ nothing to commit, working tree clean

上面的意思就是你有12个commit，需要push到远程master上
4.执行下面命令即可
$ git push origin master

这样就可以了
使用webstrom编辑器的朋友可以不用敲命令，直接用编辑器就好了
第一步：


第二步：



第三步：

如果有冲突就解决冲突就好了，

注意：如果后面的分支显示有一个上箭头那就是那个分支还有代码没有上传

如果后面的分支显示有一个下箭头那就是那个分支还有代码需要更新下来，需要使用ctrl + t拉取最新代码。

目录
简介
语法
注意事项


简介
如果我们需要将两个select语句的结果作为一个整体显示出来，我们就需要用到union或者union all关键字。union(或称为联合)的作用是将多个结果合并在一起显示出来。

Union因为要进行重复值扫描，所以效率低。

如果合并没有刻意要删除重复行，那么就使用Union All

两个要联合的SQL语句字段个数必须一样，而且字段类型要“相容”（一致）

区别：

Union：对两个结果集进行并集操作，不包括重复行，同时进行默认规则的排序；
Union All：对两个结果集进行并集操作，包括重复行，不进行排序；
Intersect：对两个结果集进行交集操作，不包括重复行，同时进行默认规则的排序；
Minus：对两个结果集进行差操作，不包括重复行，同时进行默认规则的排序。

可以在最后一个结果集中指定Order by子句改变排序方式。

语法

union 语法：（去重、默认规则排序）

select employee_id,job_id from employees 
union 
select employee_id,job_id from job_history 


union all 语法

select employee_id,job_id from employees 
union all
select employee_id,job_id from job_history 


注意事项


union 和 union all都可以将多个结果集合并，而不仅仅是两个，你可以将多个结果集串起来。


使用union和union all必须保证各个select 集合的结果有相同个数的列，并且每个列的类型是一样的。但列名则不一定需要相同，oracle会将第一个结果的列名作为结果集的列名。例如下面是一个例子：


select empno,ename from emp 
union 
select deptno,dname from dept 


没有必要在每一个select结果集中使用order by子句来进行排序，我们可以在最后使用一条order by来对整个结果进行排序。例如：

select empno,ename from emp 
union 
select deptno,dname from dept 
order by ename;