MongoDB中MapReduce编程模型使用实例

 更新时间:2014年04月26日 09:56:55   作者:  
作为一个优秀的编程模型,MapReduce在大数据处理中有很大的优势,而mongodb也支持这一编程模型,本文通过简单的单词计数示例论述在mongodb中如何使用MapReduce

注:作者使用的MongoDB为2.4.7版本。

单词计数示例:

插入用于单词计数的数据:

复制代码 代码如下:

db.data.insert({sentence:'Consider the following map-reduce operations on a collection orders that contains documents of the following prototype'})
db.data.insert({sentence:'I get the following error when I follow the code found in this link'})

图个简洁,数据中没有包含标点符号。 在mongo shell写入以下内容:

复制代码 代码如下:

var map = function() {
    split_result = this.sentence.split(" ");
    for (var i in split_result) {
        var word = split_result[i].replace(/(^\s*)|(\s*$)/g,"").toLowerCase(); //去除了单词两边可能的空格,并将单词转换为小写
        if (word.length != 0) {
            emit(word, 1);
        }
    }
}

var reduce = function(key, values) {
    return Array.sum(values);
}

db.data.mapReduce(
    map,
    reduce,
    {out:{inline:1}}
)


db.data.mapReduce的第一和第二个参数分别指定map和reduce,map的输入是集合中的每个文档,通过emit()生成键值对;而reduce则处理键的多个值。

mapReduce的第三个参数指明在内存中进行mapreduce并返回结果,运行结果如下:

复制代码 代码如下:

{
        "results" : [
                {
                        "_id" : "a",
                        "value" : 1
                },
                {
                        "_id" : "code",
                        "value" : 1
                },
                {
                        "_id" : "collection",
                        "value" : 1
                },
                {
                        "_id" : "consider",
                        "value" : 1
                },
                {
                        "_id" : "contains",
                        "value" : 1
                },
                {
                        "_id" : "documents",
                        "value" : 1
                },
                {
                        "_id" : "error",
                        "value" : 1
                },
                {
                        "_id" : "follow",
                        "value" : 1
                },
                {
                        "_id" : "following",
                        "value" : 3
                },
                {
                        "_id" : "found",
                        "value" : 1
                },
                {
                        "_id" : "get",
                        "value" : 1
                },
                {
                        "_id" : "i",
                        "value" : 2
                },
                {
                        "_id" : "in",
                        "value" : 1
                },
                {
                        "_id" : "link",
                        "value" : 1
                },
                {
                        "_id" : "map-reduce",
                        "value" : 1
                },
                {
                        "_id" : "of",
                        "value" : 1
                },
                {
                        "_id" : "on",
                        "value" : 1
                },
                {
                        "_id" : "operations",
                        "value" : 1
                },
                {
                        "_id" : "orders",
                        "value" : 1
                },
                {
                        "_id" : "prototype",
                        "value" : 1
                },
                {
                        "_id" : "that",
                        "value" : 1
                },
                {
                        "_id" : "the",
                        "value" : 4
                },
                {
                        "_id" : "this",
                        "value" : 1
                },
                {
                        "_id" : "when",
                        "value" : 1
                }
        ],
        "timeMillis" : 1,
        "counts" : {
                "input" : 2,
                "emit" : 30,
                "reduce" : 3,
                "output" : 24
        },
        "ok" : 1,
}


results的值是MapReduce的处理结果,timeMillis指明花费的时间;counts中input指明了输入的文档数,emit指明了在map中调用emit的次数,reduce指明了reduce的次数(本例中如果单次次数为1则不需要reduce),output指明了输出的文档数目。

可以看到,键_id不再是自动生成,而是被reduce中的key取代。当然,也可以将结果输入到一个新的collection中,例如:

复制代码 代码如下:
db.data.mapReduce( map, reduce, {out:"mr_result"} )

之后查看mr_result集合中的内容即可:
复制代码 代码如下:
db.mr_result.find()

也可以使用db.runCommand执行mapreduce任务,这种方法为开发者提供了更多的选项,具体请见资料[1]。资料[2][3][4]提供了关于mapreduce更全面的内容。资料[5]给出了优化mapreduce任务的方法,资料[6]是资料[5]的一篇中文翻译。

应该注意的是,资料[5]中提到使用ScopedThread()创建线程,笔者在GUI工具Robomongo的shell中运行 new ScopedThread()时候报错: ReferenceError: ScopedThread is not defined (shell):1

不过在mongo shell中可以正常运行:

复制代码 代码如下:

> new ScopedThread()
Sat Mar 22 21:32:36.062 Error: need at least one argument at src/mongo/shell/utils.js:101

如果使用其他编程语言管理MongoDB,要用到线程时,应该使用该编程语言内置的线程。

关于mongodb实现的mapreduce,个人觉得如果支持多个MR任务平滑过渡就更好了。

相关文章

  • MongoDB数据库基本概念解析

    MongoDB数据库基本概念解析

    这篇文章介绍了MongoDB数据库的一些基本概念,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2022-03-03
  • MongoDB远程访问配置步骤详解

    MongoDB远程访问配置步骤详解

    MongoDB远程访问相信很多人都要到这个需求,所以这篇文章给大家主要介绍了MongoDB远程访问配置的步骤,文中给出了详细的步骤及示例代码,相信对大家的理解和学习很有帮助,有需要的朋友们下面来一起学习学习吧。
    2016-11-11
  • MongoDB数据库聚合之分组统计$group的用法详解

    MongoDB数据库聚合之分组统计$group的用法详解

    在MongoDB中聚合框架允许用户对数据进行处理和分析,以便进行统计计算、汇总以及更复杂的数据转换,这篇文章主要给大家介绍了关于MongoDB数据库聚合之分组统计$group的用法的相关资料,需要的朋友可以参考下
    2024-06-06
  • MongoDB账户密码设置的方法详解

    MongoDB账户密码设置的方法详解

    这篇文章主要给大家介绍了关于MongoDB账户密码设置的相关资料,我们知道mysql在安装的时候需要我们设置一个数据库默认的用户名和密码,mongodb也不例外,需要的朋友可以参考下
    2023-09-09
  • MongoDB中连接字符串的编写

    MongoDB中连接字符串的编写

    MongoDB中字符串连接不区分大小写,并非所有MongoDB驱动都支持完整的连接字符串,不支持此格式连接字串的驱动会有替代连接方案,
    2015-05-05
  • 批量备份还原导入与导出MongoDB数据方式

    批量备份还原导入与导出MongoDB数据方式

    前面我们介绍了mongoDB的安装与配置,接下来我们讲一讲如何使用mongo的可视化工具Navicat对mongo数据库进行操作和如何在终端进行mongo数据库对数据的批量操作
    2021-09-09
  • MongoDB如何查看版本信息详解

    MongoDB如何查看版本信息详解

    这篇文章主要给大家介绍了关于MongoDB如何查看版本信息的相关资料,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2020-08-08
  • MongoDB中连接池、索引、事务

    MongoDB中连接池、索引、事务

    这篇文章主要介绍了MongoDB中连接池、索引、事务的相关资料,需要的朋友可以参考下
    2023-01-01
  • MongoDB Remove函数的3个常见用法

    MongoDB Remove函数的3个常见用法

    这篇文章主要介绍了MongoDB Remove函数的3个常见用法,需要的朋友可以参考下
    2014-05-05
  • MongoDB固定集合(capped collection)的知识小结

    MongoDB固定集合(capped collection)的知识小结

    固定集合指的是事先创建,并且大小固定的集合。下面这篇文章主要给大家总结介绍了MongoDB固定集合(capped collection)的知识,文中介绍的非常详细,需要的朋友可以参考借鉴,下面来一起学习学习吧
    2018-10-10

最新评论