MongoDB分片

在本页面

分片是一种将数据分配到多个机器上的方法。MongoDB通过分片技术来支持具有海量数据集和高吞吐量操作的部署方案。

数据库系统的数据集或应用的吞吐量比较大的情况下,会给单台服务器的处理能力带来极大的挑战。例如,高查询率会耗尽服务器的CPU资源。工作的数据集大于系统的内存压力、磁盘驱动器的I/O容量。

解决系统增长的方法有两种:垂直扩展和水平扩展。

垂直扩展 通过增加单个服务器的能力来实现,例如使用更强大的CPU,增加更多的内存或存储空间量。由于现有技术的局限性,不能无限制地增加单个机器的配置。此外,云计算供应商提供可用的硬件配置具有严格的上限。其结果是,垂直扩展有一个实际的最大值。

水平扩展是通过将系统数据集划分至多台机器,并根据需要添加服务器来提升容量。虽然单个机器的总体速度或容量可能不高,但每台机器只需处理整个数据集的某个子集,所以可能会提供比单个高速大容量服务器更高的效率,而且机器的数量只需要根据数据集大小来进行扩展,与单个机器的高端硬件相比,这个方案可以降低总体成本。不过,这种方式会提高基础设施部署维护的复杂性。

MongoDB通过分片来实现水平扩展。

分片集群

MongoDB分片集群包括以下组件:

  • 分片:每个shard(分片)包含被分片的数据集中的一个子集。每个分片可以被部署为副本集架构。

  • mongosmongos充当查询路由器,在客户端应用程序和分片集群之间提供接口。从MongoDB 4.4开始,mongos可以支持 对冲读取(hedged reads)以最大程度地减少延迟。

  • config服务器:config servers存储了分片集群的元数据和配置信息。

下图描述了分片集群中各组件的交互:

Diagram of a sample sharded cluster for production purposes. Contains exactly 3 config servers, 2 or more ``mongos`` query routers, and at least 2 shards. The shards are replica sets.

MongoDB在集合级别分片数据,将收集数据分布在集群中的各个分片上。

分片键

MongoDB使用分片在各个分片之间分发集合中的文档。分片键由文档中的一个或多个字段组成。

  • 从版本4.4开始,分片集合中的文档可能缺少分片键字段。在跨分片分布文档时,缺少分片键字段将被视为具有空值,但在路由查询时则不会。有关更多信息,请参见 分片键缺失

  • 在4.2及更早版本中,分片键字段必须在每个文档中存在一个分片集合。

分片集合时选择分片键。

  • 从MongoDB 4.4开始,您可以通过向现有键中添加一个或多个后缀字段来优化集合的分片键。有关详细信息,请参见refineCollectionShardKey

  • 在MongoDB 4.2和更低版本中,无法在分片后更改分片键的选择。

文档的分片键值决定了其在各个分片中的分布。

  • 从MongoDB 4.2开始,您可以更新文档的分片键值,除非您的分片键字段为不可变_id字段。有关更多信息,请参见 更改文档的分片键值

  • 在MongoDB 4.0和更早版本中,文档的分片键字段值是不可变的。

分片键索引

要对已填充的集合进行分片,该集合必须具有以分片键开头的索引。分片一个空集合时,如果该集合还没有针对指定分片键的适当索引,则MongoDB会创建支持索引。请参阅分片键索引

分片键策略

分片键的选择会影响分片群集的性能,效率和可伸缩性。选择分片键可以使具有最佳硬件和基础结构的群集成为瓶颈。分片键及其后备索引的选择也会影响群集可以使用的分片策略

有关更多信息,请参见选择分片键文档。

Chunks块

MongoDB将分片数据拆分成。每个分块都有一个基于分片键的上下限范围 。

Bncer and Even Chunk Distribution 均衡器和均匀分配

均衡器通过在后台迁移各个分片上的,来实现集群的所有分片中块的均匀分布。

有关更多信息,请参见使用块进行数据分区

分片的优势

读写负载

MongoDB将读写工作负载分布在分集群中的各个分上,从而允许每个分片处理集群操作的子集。通过添加更多分片,可以在集群中水平扩展读写工作负载。

对于包含分片键或复合分片键的前缀的查询,mongos可以将查询定位到特定的分片或一组分片。这些目标操作通常比广播到集群中的每个分片更有效。

从MongoDB 4.4开始,mongos可以支持对冲读取(hedged reads)以最大程度地减少延迟。

存储容量

通过分片技术将数据分布到分片集群中的各个分片中,每个分片只需存储数据集中的部分子集。随着数据集的增长, 通过增加分片的数量即可增加整个集群的存储容量。

高可用性

将配置服务器和分片作为副本集进行部署可提高可用性。

即使一个或多个分片副本集变得完全不可用,分片群集也可以继续提供部分的读取或写入服务。也就是说,虽然停机期间无法访问不可用分片中的数据子集,但是针对可用分片执行读取或写入操作仍然可以成功。

分片前的注意事项

鉴于分片集群基础架构的要求和复杂性,您需要仔细地制定计划、执行和维护。

分片后,MongoDB不会提供任何方法来对分片集群进行分片。

为了确保集群的性能和效率,在选择分片键时需要仔细考虑。请参阅 选择分片键

分片有一定的操作要求和限制。有关更多信息,请参见 分片集群中的操作限制

如果查询条件中没有包含拆分键或复合拆分键的前缀,mongos节点将执行广播操作,即查询分片集群中的所有分片。这些分散/聚集查询可能会变成长耗时的操作。

注意

如果您与MongoDB签订了有效的支持合同,请考虑与您的客户代表联系,以获取分片集群计划和部署方面的帮助。

分片和未分片集合

数据库可以混合使用分片和未分片集合。分片集合被分区并分布在集群中的各个分片中。而未分片集合仅存储在主分片中。每个数据库都有自己的主分片。

Diagram of a primary shard. A primary shard contains non-sharded collections as well as chunks of documents from sharded collections. Shard A is the primary shard.

连接到分片集群

您必须连接到mongos路由器才能与分片集群中的任何集合进行交互。这包括分片未分片的集合。客户端永远不要直接连到单个分片来执行读或写操作。

Diagram of applications/drivers issuing queries to mongos for unsharded collection as well as sharded collection. Config servers not shown.

您可以像连接mongod一样来连接mongos,例如通过mongo shell或MongoDB驱动程序

分片策略

MongoDB支持如下两种分片策略来实现分片集群中的分布数据。

哈希分片

哈希分片涉及计算分片键字段值的哈希值。然后,根据散列的分片键值为每个分配一个范围。

提示

使用哈希索引解析查询时,MongoDB会自动计算哈希值,不需要应用程序来计算。

Diagram of the hashed based segmentation.

尽管一系列分片键可能是“接近”的,但它们的哈希值不太可能在同一块上。基于哈希值的数据分发有助于更均匀的数据分发,尤其是在分片键单调更改的数据集中。

但是,哈希分布意味着对分片键的基于范围的查询不太可能针对单个分片,从而导致更多集群范围的广播操作

有关更多信息,请参见哈希分片

范围分片

范围分片根据分片键的值将数据划分为多个范围,然后基于分片键的值分配每个的范围。

Diagram of the shard key value space segmented into smaller ranges or chunks.

值“接近”的一系列分片键更有可能分布在同一块上。好处是便于mongos执行针对性的操作,可以仅将操作路由到包含所需数据的分片上。

范围分片的效率取决于选择的分片键。分片键考虑不周全会导致数据分布不均,这可能会削弱分片的某些优势或导致性能瓶颈。有关基于范围的分片,请参见 分片键选择

有关更多信息,请参见范围分片

分片集群中的区域

Zones区域可以改善跨多个数据中心的分片集群的数据局部性。

在分片集群中,您可以根据分片键创建分片数据的区域。您可以将每个区域与集群中的一个或多个分片相关联。分片节点可以与任何数量的区域相关联。在分片集群中(已开启均衡器),MongoDB仅迁移到与区域相关的分片节点覆盖的块。

每个区域都覆盖了一个或多个分片键值的范围。区域覆盖的每个范围始终包括其下边界和上边界。

Diagram of data distribution based on zones in a sharded cluster

在为区域定义区域的新范围时,必须使用分片键中包含的字段。如果使用复合分片键,则范围必须包含分片键的前缀。有关更多信息,请参见区域中的分片键

选择分片键时,应考虑将来可能使用的区域。

提示

从MongoDB 4.0.3开始,在对空集合或不存在的集合进行分片之前设置区域和区域范围可以更快地设置区域分片。

有关更多信息,请参见区域

分片中的排序规则

使用带有collation : { locale : "simple" }选项的shardCollection命令可以对具备默认排序规则的集合进行分片。分片成功需具备下述条件:

  • 集合必须具有索引,且该索引的前缀是分片键

  • 索引必须具有{ locale: "simple" }排序规则

使用排序规则创建新集合时,请在分片集合之前确保满足这些条件。

注意

分片集合上的查询继续使用为集合配置的默认排序规则。要使用分片索引的简单排序规则,请在查询的排序文档中指定{locale:“ simple”}

请参阅shardCollection以获取有关分片和集群的更多信息。

Change Streams变更流

从MongoDB 3.6开始,变更流可用于副本集和分片集群。更改流允许应用程序访问实时的数据更改,避免使用tail oplog带来的复杂性和风险。应用程序可以使用变更流来订阅一个或多个集合上的所有数据变更信息。

事务

从MongoDB 4.2开始,随着分布式事务功能的引入,分片集群上可以支持多文档事务。

在提交事务之前,在事务外部看不到在事务中进行的数据变更。

但是,当事务写入多个分片时,并非所有外部读取操作都需要等待已提交事务的结果在所有分片上可见。例如,如果提交了一个事务,并且在分片A上可以看到写1,但是在分片B上仍然看不到写2,在外部读取时设置读关注为["local"](https://docs.mongodb.com/v4.2/reference/read-concern-local/#readconcern."local"),则可以读取写1的结果而看不到写2的结果。

有关详细信息,请参见:

副本集成员状态 分片集群组件

原文链接:https://docs.mongodb.com/manual/sharding/

译者:桂陈

MongoDB中文社区

MongoDB中文社区—MongoDB爱好者技术交流平台

资源列表推荐

资源入口

MongoDB中文社区官网

https://mongoing.com/

微信服务号 ——最新资讯和优质文章

Mongoing中文社区(mongoing-mongoing)

微信订阅号 ——发布文档翻译内容

MongoDB中文用户组(mongoing123)

官方微信号 —— 官方最新资讯

MongoDB数据库(MongoDB-China)

MongoDB中文社区组委会成员介绍

https://mongoing.com/core-team-members

MongoDB中文社区翻译小组介绍

https://mongoing.com/translators

MongoDB中文社区微信技术交流群

添加社区助理小芒果微信(ID:mongoingcom),并备注 mongo

MongoDB中文社区会议及文档资源

https://mongoing.com/resources

MongoDB中文社区大咖博客

基础知识 性能优化 原理解读 运维监控 最佳实践

MongoDB白皮书

https://mongoing.com/mongodb-download-white-paper

MongoDB初学者教程-7天入门

https://mongoing.com/mongodb-beginner-tutorial

社区活动邮件订阅

https://sourl.cn/spszjN