内容：有可能共享资源的多个执行流

例如：两个线程竞争一个I/O端口。

并行：将问题拆分为多个相似的块。

例如：通过对文件的每一半运行两个进程来解析大文件。

并发是指两个或多个任务可以在重叠的时间时期中启动、运行和完成。这并不一定意味着它们都将运行在同一瞬间。例如，单核机器上的多任务处理。

并行是当任务字面上同时运行时，例如，在多核处理器上。

引用Sun的多线程编程指南：

• 并发：至少有两个线程正在进行时存在的一种条件。一种更通用的并行形式，可以包括时间切片作为虚拟并行的一种形式。

• 并行：至少两个线程同时执行时出现的条件。

它们解决了不同的问题。并发解决了CPU资源稀缺和任务众多的问题。因此，你通过代码创建线程或独立的执行路径，以便在稀缺资源上共享时间。直到最近，由于CPU可用性，并发一直主导着讨论。

并行解决了找到足够的任务和适当的任务（可以正确拆分的任务）并将它们分配到大量CPU资源上的问题。并行一直存在，但由于多核处理器如此便宜，它正成为最前沿。

并发：如果单个处理器解决了两个或多个问题。

并行性：如果一个问题由多个处理器解决。

我喜欢Rob Pike的演讲：并发不是并行（它更好！）（幻灯片）（谈话）

Rob通常会谈论Go，并且通常会以可视化和直观的解释来解决并发与并行的问题！以下是一个简短的摘要：

任务：让我们烧掉一堆过时的语言手册！一次一个！

并发：任务有很多并发分解！一个例子：

并行性：如果至少有2个地鼠同时工作或不工作，则前面的配置并行发生。

补充一下别人说过的话：

并发就像让杂耍演员杂耍很多球。不管看起来如何，杂耍演员一次只接/扔一个球。并行是让多个杂耍演员同时杂耍球。

并发=>当多个任务在共享资源的重叠时间段内执行时（可能最大化资源利用率）。

并行=>当单个任务被分成多个可以同时执行的简单独立子任务时。

在电子学中，串行和并行代表一种静态拓扑，决定电路的实际行为。当没有并发时，并行是确定性的。

为了描述动态，我们使用了术语与时间有关的现象和并发。例如，可能通过任务的某个序列获得了某个结果（例如菜谱）。当我们与某人交谈时，我们正在产生一系列单词。然而，在现实中，许多其他过程发生在同一时刻，因此，同意到某个动作的实际结果。如果许多人同时在交谈，并发会谈可能会干扰我们的序列，但这种干扰的结果是未知的。并发引入了不确定性。

串行/并行和顺序/并发表征是正交的。这方面的一个例子是在数字通信中。在串行适配器中，数字消息在时间上（即顺序）沿着同一通信线路（例如一条线）分布。在并行适配器中，这也在并行通信线路（例如多条线）上划分，然后在接收端重建。

让我们想象一个有9个孩子的游戏。如果我们把它们当作一条链，在第一个发出信息，在最后收到信息，我们就会有一个串行通信。更多的单词组成了信息，由一系列通信单元组成。

I like ice-cream so much. > X > X > X > X > X > X > X > X > X > ....

这是在串行基础设施上复制的顺序过程。

现在，让我们想象把孩子们分成3组。我们把这个短语分成三个部分，第一个给我们左边的线的孩子，第二个给中心线的孩子，等等。

I like ice-cream so much. > I like    > X > X > X > .... > ....> ice-cream > X > X > X > ....> so much   > X > X > X > ....

这是在并行基础设施上复制的顺序过程（尽管仍然部分序列化）。

在这两种情况下，假设孩子之间有一个完美的沟通，结果是确定提前。

如果有其他人与您同时与第一个孩子交谈，那么我们将有并行进程。我们不知道基础设施将考虑哪个过程，因此最终结果是提前未确定。

将其视为服务队列，其中服务器只能服务队列中的第一个作业。

1台服务器，1个作业队列（有5个作业）->没有并发，没有并行（只有一个作业被服务完成，队列中的下一个作业必须等到服务的作业完成，并且没有其他服务器为其提供服务）

1台服务器，2个或更多不同的队列（每个队列有5个作业）->并发（因为服务器与队列中的所有第一个作业共享时间，相等或加权），仍然没有并行性，因为在任何时刻，都有一个且只有一个作业被服务。

2个或更多服务器，一个Queue->并行（2个作业在同一时刻完成）但没有并发（服务器不共享时间，第3个作业必须等到其中一个服务器完成。）

2个或多个服务器，2个或多个不同的队列->并发和并行

换句话说，并发是共享时间来完成一项工作，它可能需要相同的时间来完成它的工作，但至少它可以提前开始。重要的是，作业可以被切成更小的作业，这允许交错。

并行性是通过更多并行运行的CPU、服务器、人员等来实现的。

请记住，如果资源是共享的，则无法实现纯并行性，但这是并发具有最佳实际用途的地方，占用了不需要该资源的另一项工作。

太好了，让我用一个场景来展示我所理解的。假设有三个孩子叫：A，B，C，A和B说话，C听。对于A和B，它们是平行的：A：我是A。我是B

但是对于C，他的大脑必须采取并发进程来倾听A和B，它可能：我是A我是B

我将提供一个与这里的一些流行答案有一点冲突的答案。在我看来，并发是一个包括并行的通用术语。0适用于不同任务或工作单元在时间上重叠的任何情况。1更具体地适用于在同一物理时间评估/执行不同工作单元的情况。并行存在的理由是加速可以从多个物理计算资源中受益的软件。适合并发的另一个主要概念是交互性。2适用于从外部世界可以观察到任务重叠的情况。交互性存在的理由是制作响应真实世界实体（如用户、网络对等体、硬件外围设备等）的软件。

并行性和交互性几乎完全是并发的独立维度。对于一个特定的项目，开发人员可能会关心其中的任何一个，或者两者都不关心。它们往往会被混为一谈，尤其是因为线程这种令人憎恶的东西提供了一个相当方便的原语来做这两件事。

关于并行的更多细节：

并行存在于极小规模（例如处理器中的指令级并行）、中等规模（例如多核处理器）和大型（例如高性能计算集群）。近年来，由于多核处理器的增长，软件开发人员暴露更多线程级并行的压力有所增加。并行性与依赖的概念密切相关。依赖限制了并行的实现程度；如果两个任务相互依赖，就不能并行执行（忽略猜测）。

程序员使用许多模式和框架来表达并行性：管道、任务池、数据结构上的聚合操作（“并行数组”）。

关于交互性的更多细节：

最基本也是最常见的交互方式是使用事件（即事件循环和处理程序/回调）。对于简单的任务，事件很棒。尝试使用事件执行更复杂的任务会进入堆栈翻录（又名回调地狱；又名控制反转）。当你厌倦了事件时，你可以尝试更奇特的东西，如生成器、协程（又名异步/等待）或合作线程。

出于对可靠软件的热爱，如果您想要的是交互性，请不要使用线程。

脾气古怪

我不喜欢Rob Pike的“并发不是并行；这是更好的”口号。并发既不比并行更好，也不比并行更差。并发包括交互性，不能以更好/更差的方式与并行进行比较。这就像说“控制流比数据更好”。

困惑为什么存在

混淆的存在是因为这两个词的字典含义几乎相同：

• 并发：同时存在、发生或完成（dictionary.com）
• 并行：非常相似，经常同时发生（韦氏词典）。

然而，它们在计算机科学和编程中的使用方式却截然不同。以下是我的解释：

• 并发：可中断性
• 并行：独立性

那么，上述定义是什么意思呢？

我将用一个现实世界的类比来澄清。假设你必须在一天内完成两项非常重要的任务：

1. 去拿护照
2. 完成演示文稿

现在的问题是，任务1要求你去一个极其官僚的政府办公室，排队4个小时才能拿到护照。同时，任务2是你的办公室要求的，这是一项关键任务。两者都必须在特定的一天完成。

案例1：顺序执行

通常，你会开车去护照办公室2个小时，排队4个小时，完成任务，开车回来两个小时，回家，再醒5个小时，完成演示。

案例2：并发执行

但是你很聪明。你提前计划。你随身携带一台笔记本电脑，在排队等候的时候，你开始准备你的演示文稿。这样，一旦你回到家，你只需要多工作1个小时，而不是5个小时。

在这种情况下，这两项任务都由您完成，只是部分完成。您在排队等候时中断了护照任务并处理演示文稿。当您的号码被叫到时，您中断了演示文稿任务并切换到护照任务。由于这两项任务的可中断性，节省时间基本上是可能的。

并发，IMO，可以理解为酸中的“隔离”属性。如果子事务可以以任何交错方式执行，并且最终结果与两个任务顺序完成相同，则两个数据库事务被视为隔离的。请记住，对于护照和演示任务，你是唯一的刽子手。

案例3：并行执行

现在，既然你是个聪明的家伙，你显然是上级，而且你有一个助手。所以，在你离开开始护照任务之前，你打电话给他，告诉他准备演示文稿的初稿。你花了一整天的时间完成护照任务，回来看你的邮件，你找到了演示文稿。他做得很扎实，再过两个小时就做了一些编辑，你完成了它。

现在，你的助手和你一样聪明，他可以在独立上工作，而不需要不断要求你澄清。因此，由于任务的独立性，它们同时由两个不同的刽子手执行。

还在吗？好吧…

案例4：并发但不并行

记住你的护照任务，你必须在哪里排队？由于是你护照，你的助手不能排队等你。因此，护照任务有可中断性（你可以在排队时停止它，当你的号码被叫到时再恢复），但没有独立性（你的助手不能代替你等待）。

案例5：并行但不并发

假设政府办公室有安全检查进入场所。在这里，你必须删除所有电子设备并将其提交给官员，他们只有在你完成任务后才归还你的设备。

在这种情况下，护照任务既不是独立也不是可中断。即使你在排队等候，你也不能做其他事情，因为你没有必要的设备。

同样，假设演示文稿本质上是高度数学化的，你需要100%的注意力至少5个小时。即使你随身携带笔记本电脑，你也不能在排队等待护照任务时这样做。

在这种情况下，演示任务是独立（你或你的助手可以投入5个小时的集中精力），但不是可中断。

案例6：并发和并行执行

现在，假设除了让你的助手参加演示之外，你还随身携带了一台笔记本电脑来完成护照任务。在排队等待的时候，你看到你的助手已经在共享的甲板上创建了前10张幻灯片。你发送了对他工作的评论，并进行了一些更正。后来，当你回家时，你只需要15分钟，而不是2小时来完成草稿。

这是可能的，因为演示任务有独立性（你们中的任何一个都可以执行）和可中断性（您可以停止它并稍后恢复它）。因此，您同时执行了两者个任务，并并行执行了演示任务。

比方说，除了过于官僚主义之外，政府办公室也是腐败的。因此，你可以出示你的身份证件，输入它，开始排队等待你的号码被呼叫，贿赂警卫和其他人在排队时占据你的位置，偷偷溜出去，在你的号码被呼叫之前回来，然后继续等待。

在这种情况下，您可以同时并行执行护照和演示任务。您可以偷偷溜出去，您的职位由您的助手担任。然后，您可以同时处理演示文稿等。

回到计算机科学

在计算世界中，以下是每个案例的典型示例场景：

• 案例1：中断处理。
• 案例2：当只有一个处理器，但由于I/O，所有正在执行的任务都有等待时间。
• 案例3：当我们谈论map-duce或hadoop集群时经常看到。
• 案例4：我认为案例4很少见。任务并发但不并行是不常见的。但它会发生可以。例如，假设你的任务需要访问一个只能通过处理器-1访问的特殊计算芯片。因此，即使处理器-2是空闲的，而处理器-1正在执行其他任务，特殊计算任务也不能在处理器-2上进行。
• 案例5：也很少见，但不如情况4罕见。非并发代码可以是受互斥锁保护的关键区域。一旦启动，它必须就会执行到完成。但是，两个不同的关键区域可以在两个不同的处理器上同时进行。
• 案例6：在我看来，大多数关于并行或并发编程的讨论基本上都是在谈论案例6。这是并行和并发执行的混合和匹配。

并发和Go

如果你明白为什么Rob Pike说并发更好，你必须明白原因是什么。你有一个非常长的任务，其中有多个等待期，你在等待一些外部操作，如文件读取，网络下载。在他的讲座中，他所说的只是，“打破这个长时间连续的任务，这样你就可以在等待的时候做一些有用的事情。”这就是为什么他和各种地鼠谈论不同的组织。

现在，Go的优势来自于使用go关键字和通道使这个突破变得非常容易。此外，运行时中还有出色的底层支持来安排这些goroutines。

但本质上，并发比并行更好吗？

苹果比橘子好吗？

并发简单意味着多个任务正在运行（不需要并行）。例如，假设我们在任何时候都有3个任务：可能不止一个正在运行，也可能所有任务都在同一时间运行。

并行意味着它们实际上是并行运行的。所以在这种情况下，所有三个必须同时运行。

简单的例子：

并发是：“两个队列访问一台ATM机”

并行是：“两个队列和两个ATM机”

我将尝试用一个有趣且易于理解的例子来解释。：）

假设是指一个组织组织了一场国际象棋比赛，10名玩家（具有相同的国际象棋技能）将挑战职业冠军的国际象棋玩家。由于国际象棋是1:1的游戏，因此组织者必须以及时有效的方式进行10场比赛，以便他们能够尽快完成整个事件。

希望以下场景可以轻松描述进行这10个游戏的多种方式：

1）系列-假设专业人士一个接一个地与每个人一起玩，即与一个人开始和完成游戏，然后与下一个人开始下一场游戏，依此类推。换句话说，他们决定按顺序进行游戏。因此，如果一场比赛需要10分钟才能完成，那么10场比赛将需要100分钟，还假设从一场比赛过渡到另一场比赛需要6秒，那么10场比赛将是54秒（约1分钟）。

所以整个活动大约在101分钟内完成（最坏的方法）

2）同时-假设职业玩家完成他的回合并移动到下一个玩家，因此所有10名玩家同时玩，但职业玩家一次不是和两个人在一起，他完成他的回合并移动到下一个玩家。现在假设一名职业玩家完成他的回合需要6秒，而且一名职业玩家两个玩家的过渡时间是6秒，因此回到第一个玩家的总过渡时间将是1分钟（10x6秒）。因此，当他回到第一个开始活动的人时，已经过去了2分钟（10xtime_per_turn_by_champion+10xtransition_time=2分钟）

假设所有玩家需要45秒来完成他们的回合，所以基于从连环事件开始的每场比赛10分钟，游戏结束前的回合数应该是600/（45+6）=11轮（大约）

所以整个事件将在11xtime_per_turn_by_player_&_champion+11xtransition_time_across_10_players=11x51+11x60sec=561+660=1221sec=20.35min（大约）完成

查看从101分钟到20.35分钟的改进（更好的方法）

3）并行-假设组织者获得了一些额外的资金，因此决定邀请两名职业冠军球员（能力相同）并将相同的10名玩家（挑战者）分成两组，每组5人，并将他们分配给两名冠军，即每组一个。现在活动在这两组中并行进行，即至少有两名玩家（每组一名）与各自组中的两名职业玩家对抗。

然而，在小组内，职业球员一次（即顺序）采取一名球员，因此无需任何计算，您可以轻松推断整个事件将在101/2=50.5分钟内完成

查看从101分钟到50.5分钟的改进（方法不错）

4）并行+并行-在上述场景中，假设两个冠军玩家将与各自组中的5名玩家同时进行游戏（阅读第2点），所以现在跨组的游戏并行运行，但在组内，它们同时运行。

所以一组游戏大约在11xtime_per_turn_by_player_&_champion+11xtransition_time_across_5_players=11x51+11x30=600+330=930sec=15.5分钟（大约）

所以整个活动（涉及两个这样的平行跑团）大约在15.5分钟内完成

查看从101分钟到15.5分钟的改进（最佳方法）

注：在上面的场景中，如果你用10个类似的工作替换10个玩家，用两个CPU内核替换两个职业玩家，那么以下顺序仍然是true：

串行>并行>并发>并发+并行

（注意：此顺序可能会因其他场景而更改，因为此顺序高度依赖于作业的相互依赖性，作业之间的通信需求和作业之间的转换开销）

假设你有一个有两个线程的程序。该程序可以通过两种方式运行：

Concurrency                 Concurrency + parallelism(Single-Core CPU)           (Multi-Core CPU)___                         ___ ___|th1|                       |th1|th2||   |                       |   |___||___|___                    |   |___|th2|                   |___|th2|___|___|                    ___|___||th1|                       |th1||___|___                    |   |___|th2|                   |   |th2|

在这两种情况下，我们都有并发，因为我们有多个线程在运行。

如果我们在具有单个CPU内核的计算机上运行此程序，操作系统将在两个线程之间切换，允许一次运行一个线程。

如果我们在具有多核CPU的计算机上运行此程序，那么我们将能够在并行中同时并排运行两个线程。

并发是并行的广义形式。例如并行程序也可以称为并发，但反向不是真的。

1. 在单处理器上可以并发执行（多线程，由调度程序或线程池管理）

2. 不能在单个处理器上并行执行，而是在多个处理器上并行执行。（每个处理器一个进程）

3. 分布式计算也是一个相关的话题，它也可以被称为并发计算，但反向不是真的，就像并行一样。

有关详细信息，请阅读此研究论文并发编程的概念

派克的“并发”概念是一种有意的设计和实现决策。支持并发的程序设计可能会或可能不会表现出行为“并行”；它取决于运行时环境。

你不希望一个不是为并发而设计的程序表现出并行性。：-）但是在某种程度上，它是相关因素（功耗、性能等）的净收益，你想要一个最大并发的设计，以便主机系统可以在可能的情况下并行化它的执行。

派克的Go编程语言极端地说明了这一点：他的函数都是可以正确并发运行的线程，即调用一个函数总是创建一个线程，如果系统有能力的话，这个线程将与调用者并行运行。在他的世界里，一个拥有数百甚至数千个线程的应用程序是非常普通的。（我不是围棋专家，这只是我的看法。）

只要查一查字典，你就会发现，并发（来自拉丁语）的意思是一起运行，收敛，同意；因此需要同步，因为在相同的资源上存在竞争。并行（来自希腊语）的意思是在一边复制；同时做同样的事情。

我真的很喜欢保罗·布彻对这个问题的回答（他是七周内的七个并发模型的作者）：

虽然它们经常被混淆，但并行和并发是不同的东西并发是问题域的一个方面-你的代码需要处理多个同时（或接近同时）相反，并行是解决方案的一个方面域-您希望通过处理使您的程序运行得更快问题的不同部分并行。一些方法是适用于并发，有些适用于并行，有些适用于两者。了解您面临的问题并选择正确的工具工作。