• 极客专栏正式上线!欢迎访问 https://www.jikewenku.com/topic.html
  • 极客专栏正式上线!欢迎访问 https://www.jikewenku.com/topic.html

Java 中的伪共享详解及解决方案

技术杂谈 勤劳的小蚂蚁 2个月前 (02-09) 74次浏览 已收录 0个评论 扫描二维码

1. 什么是伪共享

CPU 缓存系统中是以缓存行(cache line)为单位存储的。目前主流的 CPU Cache 的 Cache Line 大小都是 64 Bytes。在多线程情况下,如果需要修改“共享同一个缓存行的变量”,就会无意中影响彼此的性能,这就是伪共享(False Sharing)。

2. 缓存

由于共享变量在 CPU 缓存中的存储是以缓存行为单位,一个缓存行可以存储多个变量(存满当前缓存行的字节数);而CPU对缓存的修改又是以缓存行为最小单位的,那么就会出现上诉的伪共享问题。
Cache Line 可以简单的理解为 CPU Cache 中的最小缓存单位,今天的 CPU 不再是按字节访问内存,而是以 64 字节为单位的块(chunk)拿取,称为一个缓存行(cache line)。当你读一个特定的内存地址,整个缓存行将从主存换入缓存,并且访问同一个缓存行内的其它值的开销是很小的。

3. CPU 的三级缓存

由于 CPU 的速度远远大于内存速度,所以 CPU 设计者们就给 CPU 加上了缓存(CPU Cache)。 以免运算被内存速度拖累。(就像我们写代码把共享数据做Cache不想被DB存取速度拖累一样),CPU Cache 分成了三个级别:L1,L2,L3。越靠近CPU的缓存越快也越小。所 以L1 缓存很小但很快,并且紧靠着在使用它的 CPU 内核。L2 大一些,也慢一些,并且仍然只能被一个单独的 CPU 核使用。L3 在现代多核机器中更普遍,仍然更大,更慢,并且被单个插槽上的所有 CPU 核共享。最后,你拥有一块主存,由全部插槽上的所有 CPU 核共享。
当 CPU 执行运算的时候,它先去L1查找所需的数据,再去L2,然后是L3,最后如果这些缓存中都没有,所需的数据就要去主内存拿。走得越远,运算耗费的时间就越长。所以如果你在做一些很频繁的事,你要确保数据在L1缓存中。

4. 缓存关联性

目前常用的缓存设计是N路组关联(N-Way Set Associative Cache),他的原理是把一个缓存按照N个 Cache Line 作为一组(Set),缓存按组划为等分。每个内存块能够被映射到相对应的set中的任意一个缓存行中。比如一个16路缓存,16个 Cache Line 作为一个Set,每个内存块能够被映射到相对应的 Set 中的16个 CacheLine 中的任意一个。一般地,具有一定相同低bit位地址的内存块将共享同一个Set。 
下图为一个2-Way的Cache。由图中可以看到 Main Memory 中的 Index 0,2,4 都映射在Way0的不同 CacheLine 中,Index 1,3,5都映射在Way1的不同 CacheLine 中。

5. MESI 协议

多核 CPU 都有自己的专有缓存(一般为L1,L2),以及同一个 CPU 插槽之间的核共享的缓存(一般为L3)。不同核心的CPU缓存中难免会加载同样的数据,那么如何保证数据的一致性呢,就是 MESI 协议了。 
在 MESI 协议中,每个 Cache line 有4个状态,可用 2 个 bit 表示,它们分别是: M(Modified):这行数据有效,数据被修改了,和内存中的数据不一致,数据只存在于本 Cache 中; E(Exclusive):这行数据有效,数据和内存中的数据一致,数据只存在于本 Cache 中; S(Shared):这行数据有效,数据和内存中的数据一致,数据存在于很多 Cache 中; I(Invalid):这行数据无效。
那么,假设有一个变量i=3(应该是包括变量i的缓存块,块大小为缓存行大小);已经加载到多核(a,b,c)的缓存中,此时该缓存行的状态为S;此时其中的一个核a改变了变量i的值,那么在核a中的当前缓存行的状态将变为M,b,c核中的当前缓存行状态将变为I。如下图:

6. 解决原理

为了避免由于 false sharing 导致 Cache Line 从 L1,L2,L3 到主存之间重复载入,我们可以使用数据填充的方式来避免,即单个数据填充满一个CacheLine。这本质是一种空间换时间的做法。

7. Java 对于伪共享的传统解决方案

  1. /***
  2. * 微信公众号:Java技术栈
  3. **/
  4. import java.util.concurrent.atomic.AtomicLong;
  5. publicfinalclassFalseSharing
  6.    implementsRunnable
  7. {
  8.    publicfinalstaticint NUM_THREADS =4;// change
  9.    publicfinalstaticlong ITERATIONS =500L*1000L*1000L;
  10.    privatefinalint arrayIndex;
  11.    privatestaticVolatileLong[] longs =newVolatileLong[NUM_THREADS];
  12.    static
  13.    {
  14.        for(int i =0; i < longs.length; i++)
  15.        {
  16.            longs[i]=newVolatileLong();
  17.        }
  18.    }
  19.    publicFalseSharing(finalint arrayIndex)
  20.    {
  21.        this.arrayIndex = arrayIndex;
  22.    }
  23.    publicstaticvoid main(finalString[] args)throwsException
  24.    {
  25.        finallong start =System.nanoTime();
  26.        runTest();
  27.        System.out.println("duration = "+(System.nanoTime()- start));
  28.    }
  29.    privatestaticvoid runTest()throwsInterruptedException
  30.    {
  31.        Thread[] threads =newThread[NUM_THREADS];
  32.        for(int i =0; i < threads.length; i++)
  33.        {
  34.            threads[i]=newThread(newFalseSharing(i));
  35.        }
  36.        for(Thread t : threads)
  37.        {
  38.            t.start();
  39.        }
  40.        for(Thread t : threads)
  41.        {
  42.            t.join();
  43.        }
  44.    }
  45.    publicvoid run()
  46.    {
  47.        long i = ITERATIONS +1;
  48.        while(0!=--i)
  49.        {
  50.            longs[arrayIndex].set(i);
  51.        }
  52.    }
  53.    publicstaticlong sumPaddingToPreventOptimisation(finalint index)
  54.    {
  55.        VolatileLong v = longs[index];
  56.        return v.p1 + v.p2 + v.p3 + v.p4 + v.p5 + v.p6;
  57.    }
  58.    //jdk7以上使用此方法(jdk7的某个版本oracle对伪共享做了优化)
  59.    publicfinalstaticclassVolatileLong
  60.    {
  61.        publicvolatilelong value =0L;
  62.        publiclong p1, p2, p3, p4, p5, p6;
  63.    }
  64.    // jdk7以下使用此方法
  65.    publicfinalstaticclassVolatileLong
  66.    {
  67.        publiclong p1, p2, p3, p4, p5, p6, p7;// cache line padding
  68.        publicvolatilelong value =0L;
  69.        publiclong p8, p9, p10, p11, p12, p13, p14;// cache line padding
  70.    }
  71. }

8. Java 8 中的解决方案

Java 8 中已经提供了官方的解决方案,Java 8 中新增了一个注解: @sun.misc.Contended。加上这个注解的类会自动补齐缓存行,需要注意的是此注解默认是无效的,需要在 jvm 启动时设置 -XX:-RestrictContended 才会生效。
  1. @sun.misc.Contended
  2. publicfinalstaticclassVolatileLong{
  3.    publicvolatilelong value =0L;
  4.    //public long p1, p2, p3, p4, p5, p6;

参考文献


丨极客文库, 版权所有丨如未注明 , 均为原创丨
本网站采用知识共享署名-非商业性使用-相同方式共享 3.0 中国大陆许可协议进行授权
转载请注明原文链接:Java 中的伪共享详解及解决方案
喜欢 (0)
[247507792@qq.com]
分享 (0)
勤劳的小蚂蚁
关于作者:
温馨提示:本文来源于网络,转载文章皆标明了出处,如果您发现侵权文章,请及时向站长反馈删除。

您必须 登录 才能发表评论!

  • 精品技术教程
  • 编程资源分享
  • 问答交流社区
  • 极客文库知识库

客服QQ


QQ:2248886839


工作时间:09:00-23:00