前提

• 我是参考 Github Python 100 天的文章写的，再结合自己的小练习，总结
• 最近在面大厂，发现许多大厂都会问 Python 的多线程、多进程，所以我觉得很有必要总结学习下

什么是进程

操作系统中执行的一个程序，类似微信、QQ，每个程序都是一个进程

概念

• 它是 CPU 最小资源分配单元
• 操作系统会给进程分配内存空间，每个进程都会有自己的地址空间、数据栈以及其他用于跟踪进程执行的辅助数据
• 操作系统管理所有进程的执行，为它们合理的分配资源

fork、spawn

• 进程可以通过 fork、spawn 的方式来创建新的进程来执行其他任务
• 不过新的进程有自己独立的内存空间、数据栈
• 因此不同进程间需要通过通信机制（IPC）来实现数据共享

常见通信机制

• 管道
• 信号
• 套接字
• 共享内存区

什么是线程

• 进程中可以拥有多个并发的执行线索
• 它是 CPU 最小调度的执行单元

特点

• 同一个进程下的线程共享相同的上下文
• 相对于进程来说，线程间的信息共享和通信更加容易

单核 CPU 系统注意事项

• 真正的并发是不可能的
• 因为在某个时刻，CPU 只能运行唯一的一个线程
• 多个线程共享了 CPU 的执行时间

多线程的好处

• 提升程序的性能和改善用户体验
• 今天日常使用的软件几乎都用到了多线程

多线程的坏处

• 站在其他进程的角度，多线程的程序对其他程序并不友好，因为它占用了更多的 CPU 执行时间，导致其他程序无法获得足够的 CPU 执行时间
• 编写和调试多线程的程序对开发者要求较高

Python 实现并发编程的方式

• 多进程
• 多线程
• 多进程+多线程

Python 中的多进程

Linux 下的 fork 函数

• Linux 操作系统上提供了 fork() 系统调用来创建进程
• 调用 fork() 函数的是父进程
• 创建的是子进程
• 子进程是父进程的拷贝
• 但子进程有自己的 PID
•  fork() 函数非常特殊，它会返回两次，父进程中调用 fork() 会返回子进程的 PID，子进程中调用 fork() 得到的都是0

Python 提供的 fork 函数

os 模块提供了 fork() 

Window 下没有fork()的调用

• 实现跨平台的多进程变成，可以使用 multiprocessing 模块的 Process 类来创建子进程
• 还提供了更高级的封装，例如批量启动进程的进程池 pool、用于进程间同喜你的队列 Queue 和管道 Pipe


使用多进程和不使用多进程的区别（写代码）

不使用多进程

from random import randintfrom time import time, sleepdef download_task(filename):    print('开始下载%s...' % filename)
    time_to_download = randint(5, 10)
    sleep(time_to_download)    print('%s下载完成! 耗费了%d秒' % (filename, time_to_download))def main():
    start = time()
    download_task('Python从入门到住院.pdf')
    download_task('Peking Hot.avi')
    end = time()    print('总共耗费了%.2f秒.' % (end - start))if __name__ == '__main__':
    main()

执行结果

开始下载Python从入门到住院.pdf...
Python从入门到住院.pdf下载完成! 耗费了10秒
开始下载Peking Hot.avi...
Peking Hot.avi下载完成! 耗费了9秒
总共耗费了19.02秒.

可以看到需要先等第一个文件下载完才能下载第二个文件，效率很低

使用多进程

from random import randintfrom time import time, sleepfrom multiprocessing import Processdef download_task(filename):    print('开始下载%s...' % filename)
    time_to_download = randint(5, 10)
    sleep(time_to_download)    print('%s下载完成! 耗费了%d秒' % (filename, time_to_download))def main2():
    start = time()
    p1 = Process(target=download_task,args=("Python从入门到住院.pdf",))
    p1.start()
    p2 = Process(target=download_task, args=("Peking Hot.avi",))
    p2.start()
    p1.join()
    p2.join()
    end = time()    print('总共耗费了%.2f秒.' % (end - start))if __name__ == '__main__':
    main2()

执行结果

开始下载Python从入门到住院.pdf...
开始下载Peking Hot.avi...
Python从入门到住院.pdf下载完成! 耗费了6秒
Peking Hot.avi下载完成! 耗费了10秒
总共耗费了10.17秒.

两个任务同时执行，总耗时不再是两个任务的时间总和

知识点

• Process：通过 Process 类创建进程对象
• target：通过 target 参数传入一个函数名来表示进程启动后要执行的代码
• args：是一个元组，代表传递给函数的参数列表
• start：Process 的 start() 方法来启动进程
• join：Process 的 join() 方法表示等待进程执行结束，才会往下执行

Python 中的多线程

前言

推荐 threading 模块来实现多线程编程，它提供了更好的面向对象封装

多线程的实现方式

#!/usr/bin/env python# -*- coding: utf-8 -*-"""__title__  = 
__Time__   = 2021/3/19 18:17
__Author__ = 小菠萝测试笔记
__Blog__   = https://www.cnblogs.com/poloyy/"""from random import randintfrom threading import Threadfrom time import time, sleepdef download_task(filename):    print('开始下载%s...' % filename)
    time_to_download = randint(5, 10)
    sleep(time_to_download)    print('%s下载完成! 耗费了%d秒' % (filename, time_to_download))def main3():
    start = time()
    p1 = Thread(target=download_task,args=("Python从入门到住院.pdf",))
    p1.start()
    p2 = Process(target=download_task, args=("Peking Hot.avi",))
    p2.start()
    p1.join()
    p2.join()
    end = time()    print('总共耗费了%.2f秒.' % (end - start))if __name__ == '__main__':
    main3()

执行结果

开始下载Python从入门到住院.pdf...
开始下载Peking Hot.avi...
Peking Hot.avi下载完成! 耗费了6秒
Python从入门到住院.pdf下载完成! 耗费了8秒
总共耗费了8.01秒.

 一样执行效率高很多

自定义线程类

#!/usr/bin/env python# -*- coding: utf-8 -*-"""__title__  = 
__Time__   = 2021/3/19 18:17
__Author__ = 小菠萝测试笔记
__Blog__   = https://www.cnblogs.com/poloyy/"""from random import randintfrom threading import Threadfrom time import time, sleepclass downLoadTask(Thread):    def __init__(self,filename):
        super().__init__()
        self.filename = filename    def run(self) -> None:        print('开始下载%s...' % self.filename)
        time_to_download = randint(5, 10)
        sleep(time_to_download)        print('%s下载完成! 耗费了%d秒' % (self.filename, time_to_download))def main3():
    start = time()
    p1 = downLoadTask("Python从入门到住院.pdf")
    p2 = downLoadTask("Peking Hot.avi")
    p1.start()
    p2.start()
    p1.join()
    p2.join()
    end = time()    print('总共耗费了%.2f秒.' % (end - start))if __name__ == '__main__':
    main3()

执行结果

开始下载Python从入门到住院.pdf...
开始下载Peking Hot.avi...
Peking Hot.avi下载完成! 耗费了6秒
Python从入门到住院.pdf下载完成! 耗费了9秒
总共耗费了9.00秒.

也是一样的高效运行

重点知识：start 和 run 方法的区别

Python 中的协程

什么是协程

Python 中，单线程+异步 I/O 的编程模型

协程的优势

• 极高的执行效率
• 子程序切换不是线程切换，而是由程序本身控制，没有线程切换的开销
• 不需要多线程的所机制，只有一个线程，所以不存在同时写变量冲突，在协程中控制共享资源不用加锁，只需要判断状态就好了，所以执行效率比多线程高很多

重点

要充分利用 CPU 的多核特性，应该使用多进程+协程的方式

待更新