分类
如何提高外汇交易技能

如何用好MA

友情链接

NUMA架构的CPU -- 你真的用好了么?

NUMA中,虽然内存直接attach在CPU上,但是由于内存被平均分配在了各个die上。只有当CPU访问自身直接attach内存对应的物理地址时,才会有较短的响应时间(后称 Local Access )。而如果需要访问其他CPU attach的内存的数据时,就需要通过inter-connect通道访问,响应时间就相比之前变慢了(后称 Remote Access )。所以NUMA(Non-Uniform Memory Access)就此得名。

我们需要为NUMA做什么

NUMA的“如何用好MA 七宗罪”

究其原因几乎都和:“因为CPU亲和策略导致的内存分配不平均”及“NUMA Zone Claim内存回收”有关,而和数据库种类并没有直接联系。所以下文我们就拿MySQL为例,来看看重内存操作应用在NUMA架构下到底会出现什么问题。

MySQL在NUMA架构上会出现的问题

几乎所有 NUMA + MySQL 关键字的搜索结果都会指向:Jeremy Cole大神的两篇文章

  • CPU规模因摩尔定律指数级发展,而总线发展缓慢,导致多核CPU通过一条总线共享内存成为瓶颈
  • 于是NUMA出现了,CPU平均划分为若干个Chip(不多于4个),每个Chip有自己的内存控制器及内存插槽
  • CPU访问自己Chip上所插的内存时速度快,而访问其他CPU所关联的内存(下文称Remote Access)的速度相较慢三倍左右
  • 于是Linux内核默认使用CPU亲和的内存分配策略,使内存页尽可能的和调用线程处在同一个Core/Chip中
  • 由于内存页没有动态调整策略,使得大部分内存页都集中在 CPU 0 上
  • 又因为 Reclaim 默认策略优先淘汰/Swap本Chip上的内存,使得大量有用内存被换出
  • 当被换出页被访问时问题就以数据库响应时间飙高甚至阻塞的形式出现了
  • numactl --interleave=all
  • 在MySQL进程启动前,使用 sysctl -q -w vm.drop_caches=3 清空文件缓存所占用的空间
  • Innodb在启动时,就完成整个 Innodb_buffer_pool_size 的内存分配

不过这种三合一的解决方案只是减少了NUMA内存分配不均,导致的MySQL SWAP问题出现的可能性。如果当系统上其他进程,或者MySQL本身需要大量内存时,Innodb Buffer Pool的那些Page同样还是会被Swap到存储上。于是又在这基础上出现了另外几个进阶方案

  • 配置 vm.zone_reclaim_mode = 0 使得内存不足时 去remote memory分配 优先于 swap out local page
  • echo -15 > /proc//oom_adj 调低MySQL进程被 OOM_killer 强制Kill的可能
  • 对MySQL使用Huge Page(黑魔法,巧用了Huge Page不会被swap的特性)

重新审视问题

NUMA Interleave真的好么?

为什么 Interleave 的策略就解决了问题? 借用两张 Carrefour性能测试 的结果图,可以看到几乎所有情况下 Interleave 模式下的程序性能都要比默认的亲和模式要高,有时甚至能高达30%。究其根本原因是Linux服务器的大多数workload分布都是随机的:即每个线程在处理各个外部请求对应的逻辑时,所需要访问的内存是在物理上随机分布的。而 Interleave 模式就恰恰是针对这种特性将内存page随机打散到各个CPU Core上,使得每个CPU的负载和 Remote Access 的出现频率都均匀分布。相较NUMA默认的内存分配模式,死板的把内存都优先分配在线程所在Core上的做法,显然普遍适用性要强很多。

也就是说,像MySQL这种外部请求随机性强,各个线程访问内存在地址上平均分布的这种应用, Interleave 的内存分配模式相较默认模式可以带来一定程度的性能提升。 此外 各种 论文 中也都通过实验证实,真正造成程序在NUMA系统上性能瓶颈的并不是 Remote Acess 带来的响应时间损耗,而是内存的不合理分布导致 Remote Access 将inter-connect这个小水管塞满所造成的结果。而 Interleave 恰好,把这种不合理分布情况下的Remote Access请求平均分布在了各个小水管中。所以这也是 Interleave 效果奇佳的一个原因。

那是不是简简单单的配置个 Interleave 就已经把NUMA的特性和性能发挥到了极致呢? 答案是否定的,目前Linux的内存分配机制在NUMA架构的CPU上还有一定的改进空间。例如:Dynamic Memory Loaction, Page Replication。

Dynamic 如何用好MA Memory Relocation 我们来想一下这个情况:MySQL的线程分为两种,用户线程(SQL执行线程)和内部线程(内部功能,如:flush,io,master等)。对于用户线程来说随机性相当的强,但对于内部线程来说他们的行为以及所要访问的内存区域其实是相对固定且可以预测的。如果能对于这把这部分内存集中到这些内存线程所在的core上的时候,就能减少大量 Remote Access ,潜在的提升例如Page Flush,Purge等功能的吞吐量,甚至可以提高MySQL Crash后Recovery的速度(由于recovery是单线程)。 那是否能在 Interleave 模式下,把那些明显应该聚集在一个CPU上的内存集中在一起呢? 很可惜,Dynamic Memory Relocation这种技术目前只停留在理论和实验阶段。我们来看下难点:要做到按照线程的行为动态的调整page在memory的分布,就势必需要做线程和内存的实时监控(profile)。对于Memory Access这种非常异常频繁的底层操作来说增加profile入口的性能损耗是极大的。在 关于CPU Cache程序应该知道的那些事的评论中我也提到过,这个道理和为什么Linux没有全局监控CPU L1/L2 Cache命中率工具的原因是一样的。当然优化不会就此停步。上文提到的Carrefour算法和Linux社区的 Auto NUMA patch 都是积极的尝试。什么时候内存profile出现硬件级别,类似于CPU中PMU 的功能时,动态内存规划就会展现很大的价值,甚至会作为Linux Kernel的一个内部功能来实现。到那时我们再回过头来审视这个方案的实际价值。

Page Replication 再来看一下这些情况:一些动态加载的库,把他们放在任何一个线程所在的CPU都会导致其他CPU上线程的执行效率下降。而这些共享数据往往读写比非常高,如果能把这些数据的副本在每个Memory Zone内都放置一份,理论上会带来较大的性能提升,同时也减少在inter-connect上出现的瓶颈。实时上,仍然是上文提到的Carrefour也做了这样的尝试。由于缺乏硬件级别(如MESI协议的硬件支持)和操作系统原生级别的支持,Page Replication在数据一致性上维护的成本显得比他带来的提升更多。因此这种尝试也仅仅停留在理论阶段。当然,如果能得到底层的大力支持,相信这个方案还是有极大的实际价值的。

究竟是哪里出了问题

Linux Kernel内存分配策略的问题? 分配策略的初衷是好的,为了内存更接近需要他的线程,但是没有考虑到数据库这种大规模内存使用的应用场景。同时缺乏动态调整的功能,使得这种悲剧在内存分配的那一刻就被买下了伏笔。

其实无论是NUMA还是Linux Kernel,亦或是程序开发他们都没有错,只是还做得不够极致。如果NUMA在硬件级别可以提供更多低成本的profile接口;如果Linux Kernel可以使用更科学的动态调整策略;如果程序开发人员更懂NUMA,那么我们完全可以更好的发挥NUMA的性能,使得无限横向扩展CPU核数不再是一个梦想。

用橄榄油油炸食物好吗?

怀孕期间可以使用橄榄油吗?

怀孕虽然是一件美好的事情,但会让女性对各种饮食选择持怀疑态度。如果你正在考虑是否在孕期饮食中加入橄榄油,那么请阅读文章,我们将在这里讨论你可能需要了解的有关在孕期饮食中添加橄榄油的所有信息。 在您将橄榄油添加到孕期饮食之前,你最关心的问题大概是它对你和宝宝是否安全。事实上,在怀孕期间食用橄榄油非常安全,并且它对孕妇有很多好处。不仅如此,它还对未出生的婴儿也有很大的好处。 如何用好MA 如果你在怀孕期间食用橄榄油,可能会极大地有益于未出生婴儿的生长发育。大量的omega-3脂肪酸对宝宝的心脏非常有益。怀孕期间食用橄榄油也可以改善宝宝的大脑功能和发育,并且随着宝宝的成长,它还可以提高宝宝的学习技能。此外,如果母亲在怀孕期间定期食用橄榄油,可能会对未出生婴儿的身高和体重产生积极影响。.

如何使用橄榄油按摩?

如何使用橄榄油按摩?

橄榄油在世界各地被广泛用于各种美食的烹饪中。然而,它带来的众多好处不仅仅只存在于饮食里,它还可以用于按摩。将特级初榨橄榄油和精油混合使用,你就可以获得一次放松身体、缓解肌肉酸痛并让你感觉身心放松的按摩体验。在这篇文章中,我们将为你介绍如何通过使用橄榄油对头皮和身体进行按摩,从而获得更多的健康益处。 头皮按摩 橄榄油按摩的作用是滋润和调理干燥的头皮和头发,有助于防止头皮干燥和脱皮。良好的按摩可以使头发保持生长,同时维持所需的水分,并使头发保持光泽。.

如何用好MA

但天天吃糙米对健康是正确的选择吗?今天爆炸营养课堂的营养师,就跟大家聊聊:老人吃糙米稳定血糖、健补脾胃,糙米蒸饭别犯这些错误。

如何用好MA

有数科技 2022-08-06 09:24

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

这台有气囊按摩的足浴器,真的超酷好么_新浪众测

等风来不如追风去,洛斐有范S桌面风扇更有范

提高孩子学习兴趣,了解下趣学伴伴读打印机

24小时实时监控,德施曼Q50MPro带给你安心

Datacolor校色套装

618买什么了!

友情链接申请说明:
1. 新浪众测愿意与各大网站交换友情链接,如您有交换需求,请先在贵网站做好新浪众测友情链接。
链接文字:新浪众测
链接地址:http://zhongce.sina.com.cn
2. 做好链接后,请将贵网站的名称、链接地址等信息通过邮件方式发给我们。
Email : [email protected]
3. 已开通本站友情链接且内容健康,符合本站友情链接要求的网站,经新浪众测管理员严格审核后我们将在三个工作日内做好贵站的链接,谢谢!

友情链接

关注官方微信