分片键

本页面中

分片键决定了集合内的文档如何在集群的多个分片间的分布状况。分片键要么是一个索引字段,要么是一个存在于集合内所有文档中的复合索引字段。

MongoDB使用分片键值范围对集合中的数据进行分区。每个范围都定义了一个分片键值的非重叠范围,并且与一个chunk(数据块,下同)相关联。

MongoDB尝试在集群中的各个分片之间平均分配数据块。 分片键与数据块分配的有效性直接相关。 请参阅选择分片键

shard key

重要

  • 一旦你对一个集合分片,那么其分片键就不可再改变;也就是说,你不可以对这个集合再重新选择另一个不一样的分片键。

  • 从MongoDB4.2版本开始,除非分片键是不可变的_id字段,否则你可以更新文档的分片键值。有关更新分片键的详细信息,请参考【修改文档的分片键值】。

在MongoDB4.2之前的版本,文档的分片键字段值是不可变的。

分片键格式

为了将一个集合分片,你必须在sh.shardCollection()方法中指定目标集合和分片键:

sh.shardCollection( namespace, key )
  • namespace参数由字符串<database>.<collection>组成,该字符串指定目标集合的完整命名空间。

  • key参数由包含一个字段和该字段的索引遍历方向的文档组成。

有关使用散列或范围分片策略对集合进行分片的说明,请参阅【对集合进行分片】。

改变一个文档的分片键值

更新分片键时

  • 必须事务中或以可重试写入方式在mongos上运行。 不要直接在分片上执行操作。

  • 您必须在查询过滤器的完整分片键上包含相等条件。 例如,如果一个分片集合内使用{country:1,userid:1}作为分片键,要想更新文档的分片键,则必须在查询过滤器中包含country:<value>,userid:<value>。 也可以根据需要在查询中包括其他字段。

从MongoDB 4.2版本开始,除非分片键字段是不可变的_id字段,否则您可以更新文档的分片键值。 若要更新,请使用以下操作来更新文档的分片键值:

命令

方法

update with multi: false

db.collection.replaceOne() db.collection.updateOne() db.collection.update() with multi: false

findAndModify

db.collection.findOneAndReplace() db.collection.findOneAndUpdate() db.collection.findAndModify()

db.collection.bulkWrite() Bulk.find.updateOne() 如果分片键修改导致将文档移动到另一个分片,则在批量操作中不能指定多个分片键修改;即批量大小为1。 如果分片键修改不会导致将文档移动到另一个分片,则可以在批量操作中指定多个分片键修改。

分片键索引

所有分片集合都必须具有支持分片键的索引。 即索引可以是分片键的索引;也可以是复合索引,其中分片键是索引的前缀。

  • 如果集合为空,则sh.shardCollection()在分片键上创建索引(如果该索引尚不存在)。

  • 如果集合不为空,则必须先创建索引,然后再使用sh.shardCollection()

如果你删除了分片键的最后一个有效索引,请通过仅在分片键上重新创建索引来恢复。

唯一索引

您不能在哈希索引上指定唯一约束。

对于一个范围分片的集合,只有以下索引可以是唯一的

  • 分片键索引

  • 一个已分片键为前缀的复合索引

  • 默认的_id索引; 但是,如果_id字段不是分片键或分片键的前缀,则_id索引仅对每个分片强制执行唯一性约束。

关于_id索引和唯一性

如果_id字段不是分片键或分片键的前缀,则_id索引仅对每个分片(而非跨分片)强制实施唯一性约束。

例如,考虑一个跨越两个分片A和B的分片集合(具有分片键{x:1})。由于_id键不是分片键的一部分,因此该集合可能在分片A中具有_id值为1的文档。 以及分片B中_id值为1的另一个文档。

如果_id字段不是分片键也不是分片键的前缀,则MongoDB期望应用程序来保证整个分片上_id值的唯一性。

唯一的索引约束意味着:

  • 对于一个即将要分片的集合,如果该集合具有其他唯一索引,则无法分片该集合。

  • 对于已分片的集合,不能在其他字段上创建唯一索引。

通过使用分片键上的唯一索引,MongoDB可以对分片键值实施唯一性约束。 MongoDB在整个键组合上(而不是分片键的单个组件)实施唯一性约束。 要对分片键值实施唯一性约束,请将unique参数设置为true传递给sh.shardCollection()方法:

  • 如果集合为空,则sh.shardCollection()在分片键上创建唯一索引(如果该索引尚不存在)。

  • 如果集合不为空,则必须先创建索引,然后再使用sh.shardCollection()

尽管可以有一个唯一的复合索引,其中分片键是一个前缀,但是如果使用unique参数,则集合必须在分片键上具有唯一索引。

选择一个分片键

分片键的选择会影响可用分片中数据块的创建和分布。 这会影响分片群集内操作的整体效率和性能。

分片键会影响分片群集使用的分片策略的性能和效率。

理想的分片键允许MongoDB在整个集群中均匀地分布所有文档。

choosing a shard key

至少要综合考虑潜在分片键的基数频率变化率等指标。

限制

有关分片键的限制,请参阅分片键限制

集合大小

在对一个不为空的集合进行分片时,分片键只能为初始分片操作限制最大支持的集合大小。 请参阅分片现有集合数据大小

重要 一个分片集合在成功分片之后就可以增长到任意大小,没有上限。

分片键基数

分片键的基数确定平衡器可以创建的最大数据块的数目。这会降低或消除集群中水平缩放的有效性。

在任何给定时间,唯一的分片键值最多只能存在一个块上。 如果分片密钥的基数为4,则分片集群中最多只能有4个块,每个块存储一个唯一的分片密钥值。 这也将群集中的有效分片数量也限制为4个-添加额外的分片不会提供任何好处。

下图说明了使用字段X作为分片键的分片群集。 如果X具有低基数,则插入的分布可能类似于以下内容:

sharded-cluster-ranged-distribution-low-cardinal

在此示例中,集群不会水平扩展,因为传入的写入将仅路由到分片的子集。

具有高基数的分片键虽然可以更好地促进水平扩展,但不能保证在分片集群中均匀分布数据。 分片键的频率变化率也有助于数据分配。 选择分片键时,请考虑每个因素。

如果您的数据模型需要在具有低基数的键上分片,请考虑使用具有较高相对基数的字段的复合索引

分片键频率

考虑一个代表分片键值范围的集合-分片键的频率代表给定值在数据中出现的频率。 如果大多数文档仅包含这些值的子集,那么存储这些文档的数据块将成为群集中的瓶颈。 此外,随着这些数据块的增长,它们可能会变成不可分割的数据块,因为它们无法进一步拆分。 这将降低或消除群集内水平扩展的有效性。

下图说明了使用字段X作为分片键的分片群集。 如果X值的子集高频出现,则插入的分布可能类似于以下内容:

sharded-cluster-ranged-distribution-frequency

低频的分片键不能保证整个分片群集中的数据均匀分布。 分片密钥的基数变化率也有助于数据分配。 选择分片键时,请考虑每个因素。

如果您的数据模型需要在具有高频值的键上分片,请考虑使用具有唯一或低频值的复合索引

单调变化的分片键

值单调增加或减少的分片键更有可能将插入内容分布到集群中的单个分片上。

发生这种情况是因为每个集群都有一个大数据块,该大数据块捕获具有maxKey上限的范围。 maxKey始终比所有其他值更高。 类似地,有一个块用minKey的下限捕获范围。 minKey总是比所有其他值都低。

如果分片键值始终在增加,则所有新插入都将路由到以maxKey为上限的块。 如果分片键值始终在减小,则所有新插入都将路由到以minKey为下限的块。 包含该块的分片将成为写操作的瓶颈。

下图说明了使用字段X作为分片键的分片群集。 如果X的值单调增加,则插入的分布可能类似于以下内容:

sharded-cluster-monotonic-distribution

如果分片键值单调递减,则所有插入都将路由到数据块A

不能单调更改的分片键不能保证整个分片群集中的数据均匀分布。 分片键的基数频率也有助于数据分配。 选择分片键时,请考虑每一个因素。

如果您的数据模型需要对单调更改的键进行分片,请考虑使用哈希分片

原文链接:https://docs.mongodb.com/manual/core/sharding-shard-key/

译者:刘翔