关于常用并行算法范式的笔记

关于常用并行算法范式的笔记

阶段并行:同步迭代、异步迭代。

分治:将分治后的数据进行分发,之后再分治,再派发。

宏流水:流水线一样,每个节点只执行其中几个环节。

主从结构:有一个“最高”的管理节点,负责指挥、分发、汇总,其它节点之间不通信,各自完成自身任务。【性能常受限于这个“最高”结点】

工作池:多用于共享内存模型,内存就像是一个队列,每次执行完一个任务后结果会抛入池中,各节点从中拿任务,之后在放回新任务。

参考《超算竞赛导引》