22春南开大学《并行程序设计》在线作业二满分答案2.pdf

"并行程序设计知识点" 本资源摘要信息涵盖了并行程序设计的多个方面，包括线程同步、并行算法、数据并行策略、OpenMP 和 Pthread 编程、消息传递编程、cache 优化、SSE intrinsics 命令、MPI 主从模型、并行模型、软件开发挑战等。该资源可以作为并行程序设计的学习和参考 materials。 线程同步 在并行程序设计中，线程同步是一个非常重要的概念。pthread_barrier_init 函数用于初始化障碍，需要提供的参数包括障碍对象、障碍初值、障碍属性和参与的线程数。线程获得自身编号的方式在 OpenMP 和 Pthread 程序中不同，OpenMP 程序中通过特定 API，Pthread 程序中在创建线程时传递参数。 并行算法 并行算法是并行程序设计的核心。对于 n 个元素排序问题，如果只能通过元素比较交换构造算法，则 n 个处理器的并行排序算法达到 O(logn) 的运行时间才是代价最优的。在超市的顾客购买商品记录中统计一些商品组合的购买频率，将购买频率（商品组合）划分给不同进程，这是一种数据并行策略。 数据并行策略 数据并行策略是并行程序设计中的一种常见策略。它将数据划分给不同进程，以便并行处理。对于超市的顾客购买商品记录，购买频率（商品组合）可以划分给不同进程，以便并行统计。 OpenMP 和 Pthread 编程 OpenMP 和 Pthread 是两种常见的并行编程模型。OpenMP 程序中线程获得自身编号的方式是通过特定 API，Pthread 程序中是创建线程时传递参数。在 OpenMP 程序中，并行结构的结束时 OpenMP 已默认添加隐式障碍。 消息传递编程 消息传递编程是并行程序设计中的一种编程模式。它将进程间通信的信息通过消息传递。在消息传递编程中，需程序员考虑局部性。 cache 优化 cache 优化是并行程序设计中的一种优化策略。对于 CPU cache 大小为 32KB，64*64 的两个矩阵进行加法计算， 可利用 cache 空间局部性优化性能。 SSE intrinsics 命令 SSE intrinsics 命令是 SIMD 指令集的一部分。_mm_store_ps 命令用于对齐向量存单精度浮点数，_mm_hadd_ps 命令用于寄存器内单精度浮点数加法。 MPI 主从模型 MPI 主从模型是并行程序设计中的一种模型。它将问题规模分解成多个任务，每个任务由一个从进程处理，主进程负责协调从进程。对于矩阵每行排序问题，可以采用 MPI 主从模型解决。 并行模型 并行模型是并行程序设计中的一种模型。OpenMP 并行模型是一种 SPMD 模式。SPMD 模式将问题规模分解成多个任务，每个任务由一个进程处理。 软件开发挑战 并行软件面临的主要挑战包括能耗、伸缩性、可靠性等。其中，研发周期不包括在内。