常见多线程与并发服务器设计方案举例.docx

多线程与并发服务器设计是构建高性能网络服务的关键技术之一。以下是一些关于这个主题的重要知识点： 1. **端口号与连接唯一性**： - 端口号是进程间通信的一部分，特殊端口（如20、80）通常由特定服务占用，普通用户进程不能绑定。 - 多个进程不能同时监听同一端口，但一个父进程可以先监听然后通过`fork`创建多个子进程，这些子进程可以`accept`连接，这种现象称为惊群效应。 2. **文件描述符**： - 每个进程有自己的文件描述符（FD），默认限制通常是1024，可以通过`ulimit -n`调整，但所有进程的总FD数量有限，受主机内存限制。 - 线程共享进程的文件描述符，因此在一个进程中创建的FD可以在所有线程中使用。 3. **并发服务器方案**： - **循环式/迭代式服务器**：适用于短连接，因为它们在单一线程中循环处理读写，无法充分利用多核。 - **并发式服务器**：分为进程级和线程级，前者通过`fork`创建子进程，后者通过线程池处理连接。进程级需要关闭连接描述符，线程级则无需关闭。 - **预创建子进程/线程**：预先创建子进程或线程，当连接到来时直接分配，容易引发惊群效应。 - **反应式服务器（Reactor模式）**：基于`select`、`poll`或`epoll`，在单线程中并发处理请求，适合短连接。 - **Reactor + 线程/工作线程**：过渡方案，每个请求分配单独线程，或工作线程池处理计算密集型任务。 - **多Reactors**：每个Reactors在一个独立线程或进程中，适应大流量I/O。 - **Proactor服务器**：基于异步I/O，如Linux的glibc AIO和kernel native AIO，以及Boost.ASIO，提供更高效率，允许I/O操作与计算并行。 4. **常见问题**： - **Linux线程限制**：32位Linux进程地址空间有限，导致线程数量受限，通常在350左右。 - **多线程与并发度**：多线程不能直接提高并发连接数，但在配合事件驱动模型（如Reactor）时，可以处理更多连接。 - **线程池与性能**：线程池可以优化资源管理，减少线程创建销毁开销，提高整体性能。 在设计并发服务器时，需要根据服务类型、预期负载和资源限制选择合适的设计方案。例如，对于计算密集型任务，线程池结合反应器模式可能更优；而对于I/O密集型任务，预创建线程或进程、反应器或多Reactors模式可能是更好的选择。同时，考虑系统资源限制，如最大文件描述符数量和线程限制，也是设计时的关键因素。