作者:Grey
原文地址:
博客园:Java 多线程:并发编程的三大特性
CSDN:Java 多线程:并发编程的三大特性
所谓线程数据的可见性,指的就是内存中的某个数据,假如第一个 CPU 的一个核读取到了,和其他的核读取到这个数据之间的可见性。
每个线程会保存一份拷贝到线程本地缓存,使用volatile
,可以保持线程之间数据可见性。
如下示例
package git.snippets.juc; import java.util.concurrent.TimeUnit; /** * 并发编程三大特性之:可见性 * * @author <a href="mailto:410486047@qq.com">Grey</a> * @since 1.8 */ public class ThreadVisible { static volatile boolean flag = true; public static void main(String[] args) throws Exception { Thread t = new Thread(() -> { System.out.println(Thread.currentThread() + " t start"); while (flag) { // 如果这里调用了System.out.println() // 会无论flag有没有加volatile,数据都会同步 // 因为System.out.println()背后调用的synchronized // System.out.println(); } System.out.println(Thread.currentThread() + " t end"); }); t.start(); TimeUnit.SECONDS.sleep(3); flag = false; // volatile修饰引用变量 new Thread(a::m, "t2").start(); TimeUnit.SECONDS.sleep(2); a.flag = false; // 阻塞主线程,防止主线程直接执行完毕,看不到效果 System.in.read(); } private static volatile A a = new A(); static class A { volatile boolean flag = true; void m() { System.out.println("m start"); while (flag) { } System.out.println("m end"); } } }
代码说明:
volatile
修饰了flag
变量,主线程改了flag
的值,子线程可以感知到;
如在上述代码的死循环中增加了System.out.println()
, 则会强制同步flag
的值,无论flag
本身有没有加volatile
;
如果volatile
修饰一个引用对象,如果对象的属性(成员变量)发生了改变,volatile
不能保证其他线程可以观察到该变化。
关于三级缓存
如上图,内存读出的数据会在 L3,L2,L1 上都存一份。
在从内存中读取数据的时候,根据的是程序局部性的原理,按块来读取,这样可以提高效率,充分发挥总线 CPU 针脚等一次性读取更多数据的能力。
所以这里引入了一个缓存行的概念,目前一个缓存行多用64个字节来表示。
如何来验证 CPU 读取缓存行这件事,我们可以通过一个示例来说明:
package git.snippets.juc; /** * 缓存行对齐 * * @author <a href="mailto:410486047@qq.com">Grey</a> * @since 1.8 */ public class CacheLinePadding { public static T[] arr = new T[2]; static { arr[0] = new T(); arr[1] = new T(); } public static void main(String[] args) throws Exception { Thread t1 = new Thread(() -> { for (long i = 0; i < 1000_0000L; i++) { arr[0].x = i; } }); Thread t2 = new Thread(() -> { for (long i = 0; i < 1000_0000L; i++) { arr[1].x = i; } }); final long start = System.nanoTime(); t1.start(); t2.start(); t1.join(); t2.join(); System.out.println((System.nanoTime() - start) / 100_0000); System.out.println("arr[0]=" + arr[0].x + " arr[1]=" + arr[1].x); } private static class Padding { public volatile long p1, p2, p3, p4, p5, p6, p7; } // T这个类extends Padding与否,会影响整个流程的执行时间,如果继承了,会减少执行时间, // 因为继承Padding后,arr[0]和arr[1]一定不在同一个缓存行里面,所以不需要同步数据,速度就更快一些了。 private static class T /*extends Padding*/ { public volatile long x = 0L; } }
代码说明
以上代码,T
这个类继承Padding
类与否,会影响整个流程的执行时间,如果继承了,会减少执行时间,因为继承Padding
后,arr[0]
和arr[1]
一定不在同一个缓存行里面,所以不需要同步数据,速度就更快一些了。
Java SE 1.8 增加了一个注解 @Contended
,标注后就不会在同一缓存行, 但是这个注解仅适用于 Java SE 1.8,而且还需要增加 JVM 参数-XX:-RestrictContended
CPU 为每个缓存行标记四种状态(使用两位)
M: 被修改(Modified)
该缓存行只被缓存在该 CPU 的缓存中,并且是被修改过的(dirty
),即与主存中的数据不一致,该缓存行中的内存需要在未来的某个时间点(允许其它 CPU 读取请主存中相应内存之前)写回(write back
)主存。
当被写回主存之后,该缓存行的状态会变成独享(exclusive
)状态。
E: 独享的(Exclusive)
该缓存行只被缓存在该 CPU 的缓存中,它是未被修改过的(clean
),与主存中数据一致。该状态可以在任何时刻当有其它 CPU 读取该内存时变成共享状态(shared
)。
同样地,当 CPU 修改该缓存行中内容时,该状态可以变成Modified
状态。
S: 共享的(Shared)
该状态意味着该缓存行可能被多个 CPU 缓存,并且各个缓存中的数据与主存数据一致(clean
),当有一个 CPU 修改该缓存行中,其它 CPU 中该缓存行可以被作废(变成无效状态(Invalid
))。
I: 无效的(Invalid)
该缓存是无效的(可能有其它 CPU 修改了该缓存行)。
参考:【并发编程】MESI--CPU缓存一致性协议
计算机在执行程序时,为了提高性能,编译器和处理器常常会对指令做重排。
为什么指令重排序可以提高性能?
简单地说,每一个指令都会包含多个步骤,每个步骤可能使用不同的硬件。因此,流水线技术产生了,它的原理是:指令1还没有执行完,就可以开始执行指令2,而不用等到指令1执行结束之后再执行指令2,这样就大大提高了效率。
但是,流水线技术最害怕中断,恢复中断的代价是比较大的,所以我们要想尽办法不让流水线中断。指令重排就是减少中断的一种技术。
我们分析一下下面这个代码的执行情况:
a = b + c; d = e - f ;
先加载b、c(注意,既有可能先加载b,也有可能先加载c),但是在执行b + c
的时候,需要等待 b、c 装载结束才能继续执行,也就是增加了停顿,那么后面的指令也会依次有停顿,这降低了计算机的执行效率。
为了减少这个停顿,我们可以先加载 e 和 f ,然后再去加载b + c
,这样做对程序(串行)结果是没有影响的,但却减少了停顿:既然b + c
需要停顿,那还不如去做一些有意义的事情。
综上所述,指令重排对于提高 CPU 处理性能十分必要。虽然由此带来了乱序的问题,但是这点牺牲是值得的。
指令重排一般分为以下三种:
第一种:编译器优化重排
编译器在不改变单线程程序语义的前提下,可以重新安排语句的执行顺序。
第二种:指令并行重排
现代处理器采用了指令级并行技术来将多条指令重叠执行。如果不存在数据依赖性(即后一个执行的语句无需依赖前面执行的语句的结果),处理器可以改变语句对应的机器指令的执行顺序。
第三种:内存系统重排
由于处理器使用缓存和读写缓存冲区,这使得加载( load )和存储( store )操作看上去可能是在乱序执行,因为三级缓存的存在,导致内存与缓存的数据同步存在时间差。
指令重排可以保证串行语义一致,但是没有义务保证多线程间的语义也一致。所以在多线程下,指令重排序可能会导致一些问题。
乱序存在的条件是:不影响单线程的最终一致性( as - if - serial )
验证乱序执行的程序示例
package git.snippets.juc; /** * 并发编程的三大特性之:有序性 * * @author <a href="mailto:410486047@qq.com">Grey</a> * @since 1.8 */ public class DisOrder { private static int x = 0, y = 0; private static int a = 0, b = 0; // 以下程序可能会执行比较长的时间 public static void main(String[] args) throws InterruptedException { int i = 0; for (; ; ) { i++; x = 0; y = 0; a = 0; b = 0; Thread one = new Thread(() -> { // 由于线程one先启动,下面这句话让它等一等线程two. 读着可根据自己电脑的实际性能适当调整等待时间. shortWait(100000); a = 1; x = b; }); Thread other = new Thread(() -> { b = 1; y = a; }); one.start(); other.start(); one.join(); other.join(); String result = "第" + i + "次 (" + x + "," + y + ")"; if (x == 0 && y == 0) { // 出现这个分支,说明指令出现了重排 // 否则不可能 x和y同时都为0 System.err.println(result); break; } else { // System.out.println(result); } } } public static void shortWait(long interval) { long start = System.nanoTime(); long end; do { end = System.nanoTime(); } while (start + interval >= end); } }
代码说明:
如上示例,如果指令不出现乱序,那么 x 和 y 不可能同时为 0,通过执行这个程序可以验证出来,在我本机测试的结果是:
执行到第 385634 次 出现了 x 和 y 同时为 0 的情况,说明出现了乱序。
程序的原子性是指整个程序中的所有操作,要么全部完成,要么全部失败,不可能滞留在中间某个环节;在多个线程一起执行的时候,一个操作一旦开始,就不会被其他线程所打断。
一个示例:
class T { m =9; }
对象 T 在创建过程中,背后其实是包含了多条执行语句的,由于有 CPU 乱序执行的情况,所以极有可能会在初始化过程中生成以一个半初始化对象 t,这个 t 的 m 等于 0(还没有来得及做赋值操作)
所以,不要在某个类的构造方法中启动一个线程,这样会导致 this 对象逸出:因为这个类的对象可能还来不及执行初始化操作,就启动了一个线程,导致了异常情况。
volatile
一方面可以保证线程数据之间的可见性,另外一方面,也可以防止类似这样的指令重排,所以,单例模式中,DCL
方式的单例一定要加volatile
修饰:
public class Singleton6 { private volatile static Singleton6 INSTANCE; private Singleton6() { } public static Singleton6 getInstance() { if (INSTANCE == null) { synchronized (Singleton6.class) { if (INSTANCE == null) { try { Thread.sleep(1); } catch (InterruptedException e) { e.printStackTrace(); } INSTANCE = new Singleton6(); } } } return INSTANCE; } }
具体可以参考设计模式学习笔记 中单例模式的说明。
本文涉及到的所有代码和图例
图例
代码
更多内容见:Java 多线程
实战Java高并发程序设计(第2版)
深入浅出Java多线程
多线程与高并发-马士兵
Java并发编程实战
【并发编程】MESI--CPU缓存一致性协议
【并发编程】细说并发编程的三大特性
设计模式学习笔记