C++ std::pmr::synchronized_pool_resource

引言

多态内存资源 (PMR) 是 C++17 标准库的一部分，其目的是作为一个灵活的自由存储区。因此，PMR 框架引入了一种以实践为中心的方法，用于对自定义内存分配机制进行通用处理，从而为不同应用程序提供简化的性能和适当的内存资源控制。

PMR 的主要优势包括：将内存分配与数据结构解耦、可自定义内存管理、增强性能以及与标准库容器的互操作性。

std::synchronized_pool_resource 是 C++17 中 PMR 框架提供的内存资源之一。它旨在实现多线程中的安全内存管理，这意味着在多个线程并发进行内存分配和释放的应用程序中，这将非常有用。

std::pmr::synchronized_pool_resource 类继承自 std::pmr::memory_resource，并采用池化作为内存管理机制。这是一种池化方式，其中分配器管理一系列固定大小的内存段（称为池）以满足分配请求。通过这种方式，分配器可以最大限度地减少由于频繁的即时内存请求和释放所带来的开销。

主要特点

• 线程安全内存分配
  std::pmr::synchronized_pool_resource 用于内存分配和释放，在多线程环境中安全使用。分配器通过同步机制来提供安全保障，并排除内存操作中的数据竞争。
• 高效的池化机制
  std::pmr::synchronized_pool_resource 所采用的池化机制是用于减少执行各种与内存分配和释放密切相关的内存操作成本的技术之一。这种内存分配器通过保持内存块的供应来减少开销，从而可以在不进行系统调用的情况下满足分配请求。
• 可自定义的池参数
  开发人员可以自定义 std::pmr::synchronized_pool_resource 的行为，包括设置初始池大小、最大池大小以及上游分配器。这使得分配器能够灵活地满足应用程序的特定需求和工作条件。
• 回退到上游分配器
  如果内存池耗尽，std::pmr::synchronized_pool_resource 无法满足请求的分配，它可以利用上游的分配器。这样，分配器就能够满足内存请求，即使在当前池已耗尽的最坏情况下，也使其既强大又通用。
• 与 PMR 启用容器的互操作性
  std::pmr::synchronized_pool_resource 被设计为与 PMR 增强的标准库容器自动兼容并对其进行操作。它使开发人员无需修改代码库即可获得自定义内存资源的优势。
• 内存回收
  如果池中的内存不再需要，同步池资源可以释放这些内存，从而减少内存碎片。这对于执行内存分配和释放的长期应用程序尤其有利。
• 监控和调试
  开发人员可以使用 std::pmr::synchronized_pool_resource 来监控和调试异步缓冲区和池的内存使用情况，通过仪器化分配器来监控分配和释放活动。这对于诊断内存相关问题和整体改进内存管理方法非常有用。

示例

编译命令

输出

 
Thread 1 allocated: 0
Thread 1 allocated: 10
Thread 1 allocated: 20
Thread 1 allocated: 30
Thread 1 allocated: 40
Thread 1 allocated: 50
Thread 1 allocated: 60
Thread 1 allocated: 70
Thread 1 allocated: 80
Thread 1 allocated: 90
Thread 3 allocated: 0
Thread 3 allocated: 10
Thread 3 allocated: 20
Thread 3 allocated: 30
Thread 3 allocated: 40
Thread 3 allocated: 50
Thread 3 allocated: 60
Thread 3 allocated: 70
Thread 3 allocated: 80
Thread 3 allocated: 90
Thread 2 deallocating memory.
Thread 4 deallocating memory.   

说明

包含必要的头文件：确保包含输入/输出操作、向量、线程以及与内存相关的任何头文件。

• 定义同步池资源
  首先，创建一个 std::pmr::synchronized_pool_resource 实例，以监督程序中多个线程之间的安全内存分配。
• 用于分配的线程函数
  创建一个函数，该函数接收同步池对象的引用以及线程 ID。
  
  • 在该函数中，使用池资源创建一个 std::pmr::vector<int>。
  • 在循环中进行内存分配，并打印每个内存分配的值以及线程 ID。
• 创建并启动线程
  之后，在 main 函数中创建同步池资源的实例。
  
  • 应多次创建线程，每次都将所需的线程 ID 传递给分配函数。
• 连接线程
  有必要同步所有线程，因此主函数应包含 join 调用。
  
  • 使用 thread 编译：编译时使用 -pthread 选项，以链接 pthread 库以支持多线程。

用例和应用

std::pmr::synchronized_pool_resource 函数是 C++ 中的一个多态持有者，主要用于管理多线程应用程序中的内存。其用例和应用包括：

• 并发数据结构
  在利用并发数据结构（如多线程队列、栈或哈希映射）的应用程序中，std::pmr::synchronized_pool_resource 确保了内存分配和释放的安全性，这意味着从一开始就使用同步池资源。它减少了并发处理的冲突和潜在的内存操纵。
• 实时系统
  一些实时应用程序，如嵌入式系统或游戏，需要确定性的内存分配，因为它们通常是为了满足特定的时间限制而编程的。std::pmr::synchronized_pool_resource 中的池化机制使得分配的性能更可预测。
• 高性能计算
  高性能计算 (HPC) 中的应用程序可以受益于 std::pmr::synchronized_pool_resource 来更有效地管理内存。池化机制还减少了分配开销，而线程安全性使得多个处理线程可以协同工作而不会导致内存问题。
• 网络和 IO 密集型应用程序
  因此，例如，在网络应用程序或 IO 密集型任务中，当多个线程管理网络连接或文件 IO 时，同步池资源在减少频繁分配和释放所带来的开销方面可以大有裨益。
• 大规模模拟
  需要对大型数据集进行并发操作的模拟，如物理模拟或金融建模，可以使用 std::pmr::synchronized_pool_resource 进行高效内存管理，这样多线程就不会成为问题，并且数据一致性可以得到维护。

线程安全和同步如何确保安全高效的内存操作？

线程安全和同步是 std::pmr::synchronized_pool_resource 的关键特性。它在并发环境中确保安全高效内存操作的方法如下：

• 同步分配/释放
  std::pmr::synchronized_pool_resource 的主要特点是它可以在多线程环境中安全地执行内存分配和释放。这是通过内部的线程同步机制实现的，从而允许多个线程从同一个资源分配或释放内存，而不会出现竞态条件和内存损坏。
• 锁定机制
  内部，同步池资源采用互斥锁或类似的锁定策略来保护控制内存池的代码区域。这确保了多个线程不会同时写入同一个内存池，从而损害数据完整性。
• 减少争用
  通过上述过程，池化机制有助于重用内存块，从而控制争用程度。当线程需要内存时，可以从池中获取，这通常不需要昂贵的系统调用。这有助于防止线程因等待内存操作而浪费大量时间，从而提高线程效率。
• 内存池管理
  同步池资源是一个 RBSA，负责管理一组内存池，每个池包含特定大小的块。根据线程的请求，资源会从选定的池中分配一块内存，这可以减少碎片并缩短分配时间。
• 回退到上游分配器
  如果同步池中的所有相应内存块都已被分配，则对象可以回退到上游分配器。这确保了分配请求能够以某种方式得到满足，从而在性能和灵活性之间取得最佳平衡。
• 跨线程一致性
  通过让同步池资源管理所有与内存相关的任务，应用程序可以确保线程遵循一致的内存模式。这最大限度地减少了内存泄漏、多边形或其他由于内存碎片化管理而产生的麻烦的风险。

局限性和潜在问题

虽然 std::pmr::synchronized_pool_resource 在控制多线程环境中的内存方面提供了许多操作优势，但必须考虑其应用和可能存在的问题。

• 有限的自定义
  尽管 std::pmr::synchronized_pool_resource 可以进行一定程度的自定义（例如，可以设置池的初始容量和最大容量），但它仍然不如从头开始为应用程序实现全新的内存分配器那样灵活。因此，对于高度专业化的应用程序来说，池的深度自定义受限是一个缺点。
• 潜在的内存碎片
  尽管池化机制在一定程度上利用了内存碎片化的特点，但不能完全排除这种可能性。周期性地，随着分配和释放倾向的不同，即使策略与 BF (Best Fit) 不同，也可能出现碎片，从而导致内存使用效率低下。
• 增加复杂性
  将 std::pmr::synchronized_pool_resource 和 PMR 框架集成到代码库中可能会给代码带来额外的复杂性，特别是对于不熟悉 PMR 的开发人员。这可能会导致更复杂的学习过程，并且如果用户未能掌握其概念，可能会被滥用。
• 可扩展性问题
  在许多线程频繁分配和释放内存的高并发情况下，同步池资源很可能成为瓶颈，因为对象的创建和删除需要同步。这可能会给计划在多核系统上运行的应用程序的可扩展性带来挑战。
• 不一致的性能提升
  std::pmr::synchronized_pool_resource 提供的性能提升可能会因具体情况和工作负载类型而异。有时，池化的好处可能会被同步调用的需要所掩盖，从而导致性能不可预测。
• 调试和性能分析挑战
  如您所知，多线程环境中的内存问题调试本质上是相当复杂的。使用同步池资源会增加一个额外的间接层，因此，同步内存错误和性能问题将更难诊断。
• 回退机制的开销
  回退到上游分配器的机制非常有用，但可能也会带来增加的开销和复杂性。当池耗尽时，由于使用了回退分配器，性能特征可能会变差，因为回退分配器不像其他分配器那样专为并发访问而设计。
• 资源清理
  由于应用程序的生命周期长，可能出现内存泄漏，因此应特别注意资源的清理。如果内存池的释放方式不当，可能会出现内存缓慢消耗且几乎永久使用的场景。

结论

总而言之，std::pmr::synchronized_pool_resource 为多线程 C++ 应用程序中的内存管理提供了有效的解决方案。它通过内置锁确保线程安全，这对于高并发应用程序来说非常理想。因此，它有助于各种应用程序：实时系统、高性能计算、大规模模拟等。

然而，为了充分利用此模型的好处，必须讨论所有显著的缺点，例如同步和内存碎片可能产生的开销。通过采用最佳实践来减少争用、调整池参数和隐藏内存管理，可以消除这些问题。

在这种情况下，对同步池资源的性能进行性能分析和监控有助于确保它能够满足应用程序的需求，而不会成为瓶颈。通过使用 PMR 感知容器以及正确的初始化和清理操作，效率也可以得到提高。

最终，通过正确使用，std::pmr::synchronized_pool_resource 可以在各种多线程应用程序中将内存管理提升到最高效率。通过注意最佳实践和 C++ 编程语言中概述的局限性，可以创建高性能、易于维护且高度可靠的应用程序。