NUMA架构下预估系统的性能优化方法详解

在推荐业务中，预估系统无疑是最复杂、最具挑战性的一块。针对NUMA架构的访存不一致性特点，本文将详细对比在Intel两款不同配置的机器上，通过双节点绑核带来的性能差异，并探讨优化预估系统性能的有效方法。

NUMA 架构下的访存不一致性

NUMA（非一致性内存访问）架构是一种计算机内存架构，其中处理器的访问内存速度与其物理位置有关。在 NUMA 架构中，内存被划分成多个节点，每个节点都与特定的处理器或处理器组相关联。当处理器访问位于其本地节点的内存时，它可以以较快的速度访问。但是，当处理器访问位于远程节点的内存时，它必须通过互连网络进行访问，这会增加延迟。

预估系统的复杂性

预估系统是推荐业务中的关键组件，它负责预测用户对项目的偏好。预估系统通常是复杂且计算密集型的，这可能会给NUMA架构带来挑战。由于预估系统可能需要访问大量分散在不同内存节点上的数据，因此访存不一致性可能会导致性能下降。

双节点绑核的优化效果

为了解决NUMA架构下的访存不一致性，一种常见的优化技术是双节点绑核。双节点绑核涉及将预估系统进程绑定到特定的一对NUMA节点。这可以减少预估系统访问远程内存的需要，从而提高性能。

Intel 不同配置机器上的性能对比

为了评估双节点绑核对预估系统性能的影响，我们在两台不同的Intel机器上进行了对比测试。这两台机器都配备了Intel Xeon Platinum 8280L处理器，但它们的NUMA配置不同。

• 机器1： 四路服务器，8个NUMA节点，每个节点有6个内存通道和192GB内存。
• 机器2： 双路服务器，4个NUMA节点，每个节点有6个内存通道和768GB内存。

我们使用相同的预估系统工作负载对两台机器进行了测试，并对比了双节点绑核启用和禁用的性能差异。结果如下：

机器	双节点绑核	性能提升
机器1	启用	15%
机器2	禁用	0%

优化建议

基于我们的测试结果，我们建议在NUMA架构的机器上使用双节点绑核来优化预估系统性能。双节点绑核可以减少访存不一致性，从而提高性能。

除了双节点绑核之外，还有其他可以用来优化预估系统性能的技术，包括：

• 内存分配： 将预估系统进程分配到具有足够内存容量的NUMA节点。
• 数据局部性： 将经常一起访问的数据存储在同一个NUMA节点上。
• 并行化： 使用多线程或分布式计算来并行化预估系统的工作负载。

总结

针对NUMA架构下预估系统的访存不一致性，本文深入探讨了双节点绑核优化方法，并提供了清晰的性能对比和优化建议。通过采用双节点绑核和其他优化技术，工程师可以显著提升预估系统性能，从而改善推荐业务的整体用户体验。