MongoDB的分片集群基本配置教程
为何要分片
1.减少单机请求数，降低单机负载，提高总负载
2.减少单机的存储空间，提高总存空间。
常见的mongodb sharding 服务器架构
要构建一个 MongoDB Sharding Cluster，需要三种角色：
1.Shard Server
即存储实际数据的分片，每个Shard可以是一个mongod实例，也可以是一组mongod实例构成的Replication Set。为了实现每个Shard内部的auto-failover(自动故障切换)，MongoDB官方建议每个Shard为一组Replica Set。
2.Config Server
为了将一个特定的collection存储在多个shard中，需要为该collection指定一个shard key(片键)，例如{age: 1} ，shard key可以决定该条记录属于哪个chunk(分片是以chunk为单位,后续会介绍)。Config Servers就是用来存储：所有shard节点的配置信息、每个chunk的shard key范围、chunk在各shard的分布情况、该集群中所有DB和collection的sharding配置信息。
3.Route Process
这是一个前端路由，客户端由此接入，然后询问Config Servers需要到哪个Shard上查询或保存记录，再连接相应的Shard进行操作，最后将结果返回给客户端。客户端只需要将原本发给mongod的查询或更新请求原封不动地发给Routing Process，而不必关心所操作的记录存储在哪个Shard上。（所有操作在mongos上操作即可）
配置分片服务器
下面我们在同一台物理机器上构建一个简单的 Sharding Cluster：
Shard Server 1：27017 Shard Server 2：27018 Config Server ：27027 Route Process：40000
1.步骤一: 启动Shard Server
mkdir -p ./data/shard/s0 ./data/shard/s1 #创建数据目录 mkdir -p ./data/shard/log # 创建日志目录 ./bin/mongod --port 27017 --dbpath /usr/local/mongodb/data/shard/s0 --fork --logpath /usr/local/mongodb/data/shard/log/s0.log # 启动Shard Server实例1 ./bin/mongod --port 27018 --dbpath /usr/local/mongodb/data/shard/s1 --fork --logpath /usr/local/mongodb/data/shard/log/s1.log # 启动Shard Server实例2
步2.骤二: 启动Config Server
mkdir -p ./data/shard/config #创建数据目录 ./bin/mongod --port 27027 --dbpath /usr/local/mongodb/data/shard/config --fork --logpath /usr/local/mongodb/data/shard/log/config.log #启动Config Server实例
注意，这里我们完全可以像启动普通mongodb服务一样启动，不需要添加—shardsvr和configsvr参数。因为这两个参数的作用就是改变启动端口的，所以我们自行指定了端口就可以
3.步骤三: 启动Route Process
./bin/mongos --port 4000 --configdb localhost:27027 --fork --logpath /usr/local/mongodb/data/shard/log/route.log --chunkSize=1 # 启动Route Server实例mongos启动参数中，chunkSize这一项是用来指定chunk的大小的，单位是MB，默认大小为200MB，为了方便测试Sharding效果，我们把chunkSize指定为 1MB。意思是当这个分片中插入的数据大于1M时开始进行数据转移
4.步骤四: 配置Sharding
# 我们使用MongoDB Shell登录到mongos，添加Shard节点
./bin/mongo admin --port 40000 #此操作需要连接admin库
> db.runCommand({ addshard:"localhost:27017" }) #添加 Shard Server 或者用 sh.addshard()命令来添加,下同;
{ "shardAdded" : "shard0000", "ok" : 1 }
> db.runCommand({ addshard:"localhost:27018" })
{ "shardAdded" : "shard0001", "ok" : 1 }
> db.runCommand({ enablesharding:"test" }) #设置分片存储的数据库
{ "ok" : 1 }
> db.runCommand({ shardcollection: "test.users", key: { id:1 }}) # 设置分片的集合名称。且必须指定Shard Key，系统会自动创建索引，然后根据这个shard Key来计算
{ "collectionsharded" : "test.users", "ok" : 1 }
> sh.status(); #查看片的状态
> printShardingStatus(db.getSisterDB("config"),1); # 查看片状态(完整版);
> db.stats(); # 查看所有的分片服务器状态
注意这里我们要注意片键的选择，选择片键时需要根据具体业务的数据形态来选择，切不可随意选择，实际中尤其不要轻易选择自增_id作为片键，除非你很清楚你这么做的目的，具体原因我不在此分析，根据经验推荐一种较合理的片键方式，“自增字段+查询字段”，没错，片键可以是多个字段的组合。
另外这里说明一点，分片的机制：mongodb不是从单篇文档的级别,绝对平均的散落在各个片上, 而是N篇文档,形成一个块"chunk",优先放在某个片上, 当这片上的chunk,比另一个片的chunk区别比较大时(>=3) ,会把本片上的chunk,移到另一个片上, 以chunk为单位,维护片之间的数据均衡。
也就是说，一开始插入数据时，数据是只插入到其中一块分片上的，插入完毕后，mongodb内部开始在各片之间进行数据的移动，这个过程可能不是立即的，mongodb足够智能会根据当前负载决定是立即进行移动还是稍后移动。
在插入数据后，立马执行db.users.stats();两次可以验证如上所说。
这种分片机制,节省了人工维护成本,但是由于其是优先往某个片上插入,等到chunk失衡时,再移动chunk,并且随着数据的增多,shard的实例之间,有chunk来回移动的现象,这将会为服务器带来很大的IO开销,解决这种开销的方法,就是手动预先分片;
手动预先分片
以shop.user表为例：
sh.shardCollection(‘shop.user',{userid:1}); # user表用userid做shard key
for(var i=1;i<=40;i++) { sh.splitAt('shop.user',{userid:i*1000}) } # 预先在1K 2K...40K这样的界限切好chunk(虽然chunk是空的), 这些chunk将会均匀移动到各片上.
repliction set and shard
一般mongoDB如果真的到了分片的级别后,那片服务器避无可免的要用到复制集,部署的基本思路同上,只需要注意两点:
sh.addShard( host ) server:port OR setname/server:port # 如果是复制集的片服务器,我们应该复制集的名称写在前面比如
sh.addShard('ras/192.168.42.168:27017'); # 27017也就是复制集中的primary
另外在启动本机的mongod服务的时候,最好把ip也给写进去,否则有可能会有不可预知的错误。
查看分片配置的方法：
1.列举使用分片的数据库
为了列举使用分片的数据库，需要查询Config数据库。如果partitioned域值为true，则这个库使用了分片技术。
连接一个mongos实例，运行命令获取使用分片功能的数据库：
use config
db.databases.find( { "partitioned" : true} )
例如：使用以下命令返回集群中的所有数据库
use config db.databases.find()
如果返回结果：
{ "_id" : "admin", "partitioned" : false, "primary" : "config" }
{ "_id" : "mydb", "partitioned" : true, "primary" : "firstset" }
{ "_id" : "test", "partitioned" : false, "primary" : "secondset" }
显示只有mydb使用了分片。
2.列举所有的分片
为了列举当前集合的所有分片，使用listShards命令：
use admin
db.runCommand( { listShards : 1 })
返回结果：
{
"shards" : [
{
"_id" : "firstset",
"host" : "firstset/mongo01:10001,mongo01:10002,mongo01:10003"
},
{
"_id" : "secondset",
"host" : "secondset/mongo01:30001,mongo01:30002,mongo01:30003"
}
],
"ok" : 1
}
3.查看集群的详细信息
为了查看集群的详细信息，可以使用db.printShardingStatus()或者sh.status()。所有的方法返回同样的结果。
例如，使用
sh.status()
查看信息：
--- Sharding Status ---
sharding version: {
"_id" : 1,
"version" : 4,
"minCompatibleVersion" : 4,
"currentVersion" : 5,
"clusterId" : ObjectId("535a2dab0063b308757e1b70")
}
shards:
{ "_id" : "firstset", "host" : "firstset/mongo01:10001,mongo01:10002,mongo01:10003" }
{ "_id" : "secondset", "host" : "secondset/mongo01:30001,mongo01:30002,mongo01:30003" }
databases:
{ "_id" : "admin", "partitioned" : false, "primary" : "config" }
{ "_id" : "mydb", "partitioned" : true, "primary" : "firstset" }
mydb.test_collection
shard key: { "name" : 1 }
chunks:
secondset 6
firstset 6
{ "name" : { "$minKey" : 1 } } -->> { "name" : "cat" } on : secondset Timestamp(2, 0)
{ "name" : "cat" } -->> { "name" : "cow" } on : secondset Timestamp(3, 0)
{ "name" : "cow" } -->> { "name" : "dog" } on : secondset Timestamp(4, 0)
{ "name" : "dog" } -->> { "name" : "dragon" } on : secondset Timestamp(5, 0)
{ "name" : "dragon" } -->> { "name" : "elephant" } on : secondset Timestamp(6, 0)
{ "name" : "elephant" } -->> { "name" : "horse" } on : secondset Timestamp(7, 0)
{ "name" : "horse" } -->> { "name" : "lion" } on : firstset Timestamp(7, 1)
{ "name" : "lion" } -->> { "name" : "pig" } on : firstset Timestamp(1, 7)
{ "name" : "pig" } -->> { "name" : "rabbit" } on : firstset Timestamp(1, 8)
{ "name" : "rabbit" } -->> { "name" : "snake" } on : firstset Timestamp(1, 9)
{ "name" : "snake" } -->> { "name" : "tiger" } on : firstset Timestamp(1, 10)
{ "name" : "tiger" } -->> { "name" : { "$maxKey" : 1 } } on : firstset Timestamp(1, 11)
{ "_id" : "test", "partitioned" : false, "primary" : "secondset" }
（1）sharding version展示了分片元数据的版本号。
（2）shards展示了在集群中被作为分片的mongod实例。
（3）databases展示了集群中所有的数据库，包括没有使用分片功能的库。
（4）chunks信息展示了mydb库的每个分片上有多少个块和每个块的范围。
相关文章
这篇文章主要给大家介绍了关于MongoDB游标超时问题的4种解决方法，文中通过示例代码介绍的非常详细，对大家学习或者使用MongoDB具有一定的参考学习价值，需要的朋友们下面来一起学习学习吧2019-09-09
这篇文章主要介绍了Ubuntu中安装MongoDB及执行一些简单操作笔记,本文同时给出了查看已有数据库、删除数据库、创建数据库等操作命令实例,需要的朋友可以参考下2014-09-09
这篇文章主要为大家分享一下重装mongodb或者升级mongdb版本后,重启启动也没有任何错误提示,但是查看为失败failed状态,没有启动成功问题的解决方法2024-05-05
这篇文章主要介绍了MongoDB 主从复制实例讲解，主从复制可以用来数据库备份，故障恢复，读写分离，有兴趣的小伙伴可以参考下本文2016-10-10
mongostat是mongodb自带的状态检测工具，在命令行下使用，会间隔固定时间获取mongodb的当前运行状态，并输出，本文讲述了mongodb监控工具mongostat的使用及命令详解2018-03-03
MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的2011-10-10
大家可能平时在开发过程中都使用客户端工具来连接和查询mongodb,但是一般生产当中的数据库是不允许本地客户端连接的,下面这篇文章主要给大家介绍了关于mongodb命令行连接及基础命令总结的相关资料,需要的朋友可以参考下2024-04-04
这篇文章主要给大家介绍了关于mongodb清除连接和日志的正确方法,文中通过示例代码介绍的非常详细,对大家学习或者使用mongodb具有一定的参考学习价值,需要的朋友可以参考下2021-09-09
这篇文章主要介绍了linux 使用docker安装mongodb方法,本文通过图文并茂的形式给大家介绍的非常详细，对大家的学习或工作具有一定的参考借鉴价值，需要的朋友可以参考下2020-11-11
这篇文章主要介绍了MongoDB的chunk的相关资料，帮助大家更好的理解和学习使用MongoDB数据库，感兴趣的朋友可以了解下2021-04-04
最新评论