曾几何时我们还在寻求网络编程中 C10K 问题的解决方案，但是现在从硬件和操作系统支持来看单台服务器支持上万并发连接已经没有多少挑战性了。有关 C10K(即单机1万个并发连接问题)的信息可以参考《上一个10年，著名的C10K并发连接问题[1]》和《The C10K problem[2]》这两篇文章。
我们先假设单台服务器最多只能支持万级并发连接，其实对绝大多数应用来说已经远远足够了，但是对于一些拥有很大用户基数的互联网公司，往往面临的并发连接数是百万、千万、甚至上亿。虽然现在的集群，分布式技术可以为我们将并发负载分担在多台服务器上，那我们只需要扩展出数十台电脑就可以解决问题，但是我们更希望能更大的挖掘单台服务器的资源，先努力垂直扩展，再进行水平扩展，这样可以有效的节省服务器相关的开支(硬件资源、机房、运维人力、电力其实也是一笔不小的开支)。
那么到底一台服务器能够支持多少TCP并发连接呢？
首先需要考虑文件句柄的限制。在linux下编写网络服务器程序的朋友肯定都知道每一个tcp连接都要占一个文件描述符，一旦这个文件描述符使用完了，新的连接到来返回给我们的错误是“Socket/File:Can't open so many files”。这时你需要明白操作系统对可以打开的最大文件数的限制。我们可以通过 ulimit -n命令、/etc/security/limits.conf 文件 以及 /etc/sysctl.conf 文件等来修改文件句柄数。更多细节可以参阅 「朱小厮的博客」里的这篇文章《文件句柄？文件描述符？傻傻分不清楚》。
其次要考虑的是端口范围的限制。操作系统上端口号1024以下是系统保留的，从1024-65535是用户使用的。由于每个TCP连接都要占一个端口号，所以我们最多可以有60000多个并发连接。我想有这种错误思路朋友不在少数吧？面试官也比较喜欢在这里引导挖坑，类似的问题还有：一个UDP连接可以复用已经被TCP连接占用的端口嘛？(可以在下方留言区留下你的答案。)
如何标识一个TCP连接？ 系统使用一个4四元组来唯一标识一个TCP连接：本地端口号 local port、本地IP地址 local ip、远端端口号 remote port、远端IP地址 remote ip。server通常固定在某个本地端口上监听，等待client的连接请求。不考虑地址重用(unix的SO_REUSEADDR选项)的情况下，即使server端有多个ip，本地监听端口也是独占的，因此server端tcp连接4元组中只有remote ip(也就是client ip)和remote port(客户端port)是可变的，因此最大tcp连接为客户端ip数×客户端port数，对IPV4，不考虑ip地址分类等因素，最大tcp连接数约为2的32次方(ip数)×2的16次方(port数)，也就是server端单机最大tcp连接数约为2的48次方。
上面给出的结论都是理论上的单机TCP并发连接数，实际上单机并发连接数肯定要受硬件资源(内存)、网络资源(带宽)的限制，至少对我们的需求现在可以做到数十万级的并发了。
参考资料
[1]
上一个10年，著名的C10K并发连接问题: http://www.52im.net/thread-566-1-1.html
[2]
The C10K problem: http://www.kegel.com/c10k.html
面试官问：MySQL的自增ID用完了，怎么办？
ArrayList插入1000w条数据之后，我怀疑了jvm...
蚂蚁二面，面试官问我零拷贝的实现原理，当场懵了…
明天见(｡･ω･｡)ﾉ♡

这2天就搞这个了。答案是系统的上限个，系统存在TCP连接的个数上限的。

在服务端，监听连接的时候，就会和客户端建立连接socket，只需要把这个socket保存到某个线程里新建的socket，这样线程就可以用自己的socket和客户端通信，线程进行监听客户端数据的发送和响应。当线程毁灭的时候，socket也不再存在。

服务器原socket又回去继续accept了。

连接是能有N个，同时通信的话可只有1个。正好和线程一样，这样的处理是蛮切合实际的哈。

运气还不错。

在网络通信中，是一个相当严谨的过程。数据包，务必做到一模一样，不要有多余和丢失任何信息。否则就会带来莫名的痛苦！

线程池，原来就是一个封装好的类。。。。NND，我还以为要自己去写这个池的初始化==
@。@

唯一能够确定一个socket连接有4点

服务器的IP
服务器的Port
客户端的IP
客户端的Port

tomcat最多能建立多少个连接？tomcat作为服务端程序，一直在监听80端口，之前一直以为tomcat每接收到一个新的连接，都会创建一个新的socket，然后这个socket又会占用一个端口。但是事实上并不是这样的，肯定是会创建新的socket的，但是这个新创建的socket并不会占用新的端口。

那么问题来了，客户端发送的数据，服务器是怎么区分是哪个客户端？

关键就在于上面的4个点，标识一个socket的是上面的4个点，而不是单纯的一个本地ip和一个本地端口，所以tomcat每accpet到一个连接，都会创建一个新的socket连接，这个socket连接种包含了下面4个信息，假设现在tomcat的ip为12.1.11.11
服务器ip:12.1.11.11
服务器端口:80
客户端ip:213.32.1.2
客户端端口:80

由这4个信息标识一个唯一的socket，tomcat accept到的每一个连接的服务器ip和端口都是一样的，但是客户端的ip和端口是不一样的，根据唯一标识socket的4点，系统能正确的区分。
服务端的socket有什么特殊的？
其实就我们创建一个新的socket来说，他是没有什么特殊的，他就是一个未连接的socket，特殊的点在于socket.listen()方法
#include<sys/socket.h>
int listen(int sockfd, int backlog);

listen函数仅由TCP服务器调用，当socket函数创建一个套接口时，它被假设为一个主动套装口，也就是说，它是一个将调用connet发起连接的客户套接口。listen函数把一个未连接的套接口转换成一个被动套接口，指示内核应接受指向该套接口的连接请求。根据TCP状态转换图，调用listen导致套接口从CLOSED状态转换到LISTEN状态。

注意，在java中是没有listen()函数的，因为java帮我们进行了封装，使用了ServerSocket来专门代表监听的Socket。

运行下面这个简单的程序
public static void main(String[] args) throws IOException, InterruptedException {
    ServerSocket serverSocket = new ServerSocket(21111);
    Thread.sleep(100000000);
}

在windows中我们就能通过netstat -ano来查看端口占用，可以发现21111正处于监听状态



我们查看Java中的ServerSocket类的构造函数



能够看到，其实这与我们的c语言中的listen()函数差不多，其也有一个backlog参数。

为了更好的理解backlog参数，我们必须认识到内核为任何一个给定的监听套接口维护两个队列：

1、未完成连接队列（incomplete connection queue），每个这样的SYN分节对应其中一项：已由某个客户发出并到达服务器，而服务器正在等待完成相应的TCP三路握手过程。这些套接口处于SYN_RCVD状态。

2、已完成连接队列（completed connection queue），每个已完成TCP三路握手过程的客户对应其中一项。这些套接口处于ESTABLISHED状态。

当来自客户的SYN到达时，TCP在未完成连接队列中创建一个新项，然后响应以三路握手的第二个分节：服务器的SYN响应，其中稍带对客户SYN的ACK（即SYN+ACK）。这一项一直保留在未完成连接队列中，直到三路握手的第三个分节（客户对服务器SYN的ACK）到达或者该项超时为止（曾经源自Berkeley的实现为这些未完成连接的项设置的超时值为75秒）。如果三路握手正常完成，该项就从未完成连接队列移到已完成连接队列的队尾。当进程调用accept时，已完成连接队列中的队头项将返回给进程，或者如果该队列为空，那么进程将被投入睡眠，直到TCP在该队列中放入一项才唤醒它。
如果监听的线程释放掉监听用的SOCKET了，会影响之前通过这个监听SOCKET建立的TCP连接么？
这个问题的答案是不会的，利用ServerSocket建立的连接，即使是ServerSocket关闭了，这个连接依然还是存在，因为他们之间本身就没有任何关系了
测试代码，Server
public static void main(String[] args) throws IOException, InterruptedException {
    ServerSocket serverSocket = new ServerSocket();
    serverSocket.bind(new InetSocketAddress(8080));
    Socket accept = serverSocket.accept();
    new Thread(() -> {
        try {
            OutputStream outputStream = accept.getOutputStream();
            OutputStreamWriter outputStreamWriter = new OutputStreamWriter(outputStream);
            while (true) {
                outputStreamWriter.write(UUID.randomUUID().toString() + System.lineSeparator());
                outputStreamWriter.flush();
                Thread.sleep(1000);
                System.out.println("写了一个");
            }
        } catch (IOException | InterruptedException e) {
            e.printStackTrace();
        }
    }).start();
    serverSocket.close();
    System.out.println("连接关闭");
    Thread.sleep(100000);
}

Client
public static void main(String[] args) throws IOException, InterruptedException {
    Socket socket = new Socket();
    socket.connect(new InetSocketAddress("localhost", 8080));
    InputStream in = socket.getInputStream();
    BufferedReader reader = new BufferedReader(new InputStreamReader(in));
    String msg;
    while ((msg = reader.readLine()) != null) {
        System.out.println("读了一个");
        System.out.println(msg);
    }
    System.out.println("dsadsa");
    Thread.sleep(100000);
}

运行这两个代码我们就能发现，即使是ServerSocket关闭，依然能继续通信

我们又利用netstat -ano命令来查看端口占用

对于客户端来说，linux向外TCP最大的连接数是28232，

为什么呢？

因为它只能打开28232个端口，具体看下面！

当你写程序连接端口的时候，达到28231 - 28233左右这个连接数的时候，就会报错 cannot assign requested address

这个时候去看linux源码你会发现，其实里面就已经设定值了，源码首先判断sysctl_local_port_range这个变量，不符合条件就返回return -EADDRNOTAVAIL; 

sysctl_local_port_range[0] = 32768;
sysctl_local_port_range[1] = 61000;

可以通过这个方法改写

 echo "net.ipv4.ip_local_port_range = 1024 65000" >> /etc/sysctl.conf; sysctl -p

不过这样的话重启后就恢复原来的数据了，要想永远生效可以修改/etc/sysctl.conf文件,增加一行:

net.ipv4.ip_local_port_range= 1024 65000


然后再执行:

sysctl -p


可以通过命令行查看客户端的最多连接数

root@qgfzzzzzz-ubuntu1804:/proc/sys/net/ipv4# cat ip_local_port_range
32768    60999

单机最多有6w多连接,若想模拟实现百万级别的客户端连接,至少需要十几台机器以上,当然也可以在单机上使用多个虚拟ip来模拟实现.

对于服务端来说，最多能接受多少个TCP连接？

理论上是无上限的，为什么？

因为只要你服务端开一个TCP固定端口去监听客户端的连接请求，就可以允许任何的IP主机进行访问，所以说服务端最大的连接数是2^32(IP数) * 2^16(端口数) = 2^48。不过实际情况下会受到服务器配置等条件的制约，往往达不到理论值，不过可以通过增加内存等等，这样的话才可以达到更多的连接数。