JAVA mongodb 聚合几种查询方式详解

一、BasicDBObject

整个聚合查询是统计用户的各种状态下的用户数量为场景:

1.筛选条件:

date为查询日期:

BasicDBObject Query = new BasicDBObject();
Query.put("time",new BasicDBObject("$gte", date + " 00:00:00")
 .append("$lte", date + " 23:59:59"));

如果有多个条件:直接加Query.put("status", 0);

如果有OR筛选:

BasicDBList values = new BasicDBList();
values.add(new BasicDBObject("status", new BasicDBObject("$exists",false)));
values.add(new BasicDBObject("status", 0));
Query.put("$or", values);

其中 new BasicDBObject("$exists",false)) 就是“status”不存在(mongodb文档可不等于实体的字段)

2.拼接match

DBObject Match = new BasicDBObject("$match", Query);

将上一步的Query放入macth筛选中

3.拼接分组条件

此步相当于SQL的Group By

BasicDBObject GroupBy = new BasicDBObject();// 分组条件
GroupBy.put("userId", "$userId");//根据用户ID来分组

同第一步的筛选一样,如果有多个分组可直接添加在后面:GroupBy.put("status", "$status");

4.分组后查询

首先把分组拼接上:

DBObject Select = new BasicDBObject("_id", GroupBy);

如果我们要对分组后的数据进行操作:(这里是用户的统计数量)

Select.put("count", new BasicDBObject("$sum", 1));

5.拼接$group

DBObject Group = new BasicDBObject("$group", Select);

至此。我们拼接,mongodb的语句到此结束

下面我们开始查询操作:

import com.mongodb.AggregationOutput;
import org.springframework.data.mongodb.core.MongoTemplate;
AggregationOutput Output = mongoTemplate.getCollection("这里是mongodb的数据表名")
  .aggregate(Match, Group);

读取查询结果:

Iterable<DBObject> map = Output.results();
//遍历map
for (DBObject dbObject : map) {
  //这里读取到的map为{"_id":{"userId":1,"status"0}}...
  Map<String, Object> resultMap = (Map<String, Object>) dbObject.get("_id");

  //这里截取掉.0
  Integer userId = Integer.parseInt(CommUtil.toString(ausgMap.get("userId")).replace(".0",""));

  //在这里我们就可以对我们的数据进行操作了;
  Integer count = Integer.parseInt(CommUtil.toString(dbObject.get("count")));

}

二、DBObject

不多说,如果大家觉得第一种方法特别长篇大论,那么下面我给大家带来一种代码更简洁的聚合查询:

直接上代码吧。

1.注意导入的包:

import com.mongodb.DBObject; import com.mongodb.util.JSON;

2.$macth:

(beginDay-查询开始日期;endDay-查询结束日期)

DBObject match = (DBObject) JSON.parse("{$match:{'status':'1','time':
  {$gte:'"+beginDay+"',$lte:'"+endDay+"'}}}");

3.$group:

(以userId分组,统计用户数量,累加amout字段值,取amout字段最大值)

DBObject group = (DBObject) JSON.parse("{$group:{_id:'$userId',
  count:{$sum:1},total:{$sum:'$amount'},maxSigle:{$max:'$amount'}}}");

条件拼接完,开始查询:

List<DBObject> list = new ArrayList<DBObject>();
list.add(match); list.add(group);
AggregationOutput Output = mongoTemplate.getCollection("表名").aggregate(list);

遍历结果就不用在说了。上面已经详细描述了

第二种方法是不是比一种方式简单多了。但是比较考验自身对mongodb语句熟悉性。

【扩展】

接着上面的方法进行扩展

//status 为0或者为1 ; type 不为11;time在beginDay ~ endDay时间段内
DBObject match = (DBObject) JSON.parse("{$match:{'status':{$in:['0','1']},
  type:{$ne:11},'time':{$gte:'"+beginDay+"',$lte:'"+endDay+"'}}}");

//以用户Id分组,统计查询次数,取最后一次time的时间
DBObject group = (DBObject) JSON.parse("{$group:{_id:'$userId',
  count:{$sum:1},lastTime:{$max:'$time'} }}");

//在上一步统计出的结果中筛选次数大于100的数据
DBObject groupMatch = (DBObject) JSON.parse("{$match:{count:{$gte:100}}}");

//$project----查询结果中需要显示哪些字段,显示则设置为1。如下需要不显示_id 域(字段),则需如下指定:
//db.集合名.aggregate( [ { $project : { _id: 0, count: 1 , lastSuccTime: 1 } } ] )
DBObject project = (DBObject) JSON.parse("{$project:{_id:1,count:1,lastSuccTime:1}}");

DBObject sort = (DBObject) JSON.parse("{$sort:{'count':-1}}");//排序

List<DBObject> list = new ArrayList<DBObject>();
list.add(match);
list.add(group);
list.add(groupMatch);
list.add(project);
list.add(sort);
AggregationOutput catchOutPut = mongoTemplate.getCollection("表名")
  .aggregate(list);//查询结果

三、BasicDBObject+脚本语句

BasicDBObject groupIndex = new BasicDBObject();
BasicDBObject distinctQuery = new BasicDBObject();
distinctQuery.put("userId", new BasicDBObject("$in", userIds));//UserIds数组
BasicDBObject initIndex = new BasicDBObject();
initIndex.put("count", 0);//给count赋初值

// 脚本(doc代表数据库的数据.prev代表查询结果//prev.count这里的count就是上一步initIndex的count)
String reduce = "function(doc, prev) {if(doc.status==0){prev.count+= 1;};}";
List<Map<String, Object>> basicDBList = (List<Map<String, Object>>) mongoTemplate.
  getCollection("Collection").group(groupIndex, distinctQuery, initIndex, reduce, null);

最后循环遍历List即可得到结果【PS:group这种聚合方式有个限制条件--->超过20000数据就会报错】

以上就是我在普通业务处理中用到mongodb聚合处理。如果有更好的方法或是有需要改进的地方,欢迎大家给我留言~

时间: 2018-03-26

mongodb聚合_动力节点Java学院整理

今天跟大家分享一下mongodb中比较好玩的知识,主要包括:聚合,游标. 一:聚合 常见的聚合操作跟sql server一样,有:count,distinct,group,mapReduce. <1> count count是最简单,最容易,也是最常用的聚合工具,它的使用跟我们C#里面的count使用简直一模一样. <2> distinct 这个操作相信大家也是非常熟悉的,指定了谁,谁就不能重复,直接上图. <3> group 在mongodb里面做group操作有点小

MongoDB入门教程之聚合和游标操作介绍

今天跟大家分享一下mongodb中比较好玩的知识,主要包括:聚合,游标. 一: 聚合 常见的聚合操作跟sql server一样,有:count,distinct,group,mapReduce. <1> count count是最简单,最容易,也是最常用的聚合工具,它的使用跟我们C#里面的count使用简直一模一样.  <2> distinct 这个操作相信大家也是非常熟悉的,指定了谁,谁就不能重复,直接上图.  <3> group 在mongodb里面做group操作

mongodb中按天进行聚合查询的实例教程

前言 最近在写项目的时候遇到一个问题,使用mongodb记录了用例的执行结果,但是在时间的记录上使用的是date格式,现在有一个需求,以天为单位,统计一下每天成功的用例和失败的用例,说到统计,肯定是要用到聚合查询,但是如果以date格式的时间为group依据,那么等同于没有分组,因为在记录用例的时间几乎不可能同时,今天查阅了一下相关文档,可以使用mongodb的$dateToString命令来完成这个需求 问题来源 假如我们以如下的数据 /* 1 */ { "_id" : Object

mongoDB中聚合函数java处理示例详解

1.问题 最近在做项目的时候碰到一个对mongoDB的数据处理,从MongoDB中拿到内嵌文档的时间排序的list. 一开始考虑到直接对mongoDB中的属性排序,后面发现属性存在内嵌文档中,所以处理中需要用到聚合函数. 思考 (key)解决这个问题的过程让我学到很多,发现自己在解决一个问题不仅查找问题的姿势不对,浪费太多时间.而且在碰到问题之后,应该多看看解决办法,甚至解决了之后要去思考问题,回顾问题.而不是像以前一样,解决问题了就万事大吉,抛之脑后. 2.解决 需要对document中的一个

MongoDB教程之聚合(count、distinct和group)

1. count: 复制代码 代码如下: --在空集合中,count返回的数量为0.     > db.test.count()     0     --测试插入一个文档后count的返回值.     > db.test.insert({"test":1})     > db.test.count()     1     > db.test.insert({"test":2})     > db.test.count()     2  

MongoDB聚合分组取第一条记录的案例与实现方法

前言 今天开发同学向我们提了一个紧急的需求,从集合mt_resources_access_log中,根据字段refererDomain分组,取分组中最近一笔插入的数据,然后将这些符合条件的数据导入到集合mt_resources_access_log_new中. 接到这个需求,还是有些心虚的,原因有二,一是,业务需要,时间紧:二是,实现这个功能MongoDB聚合感觉有些复杂,聚合要走好多步. 数据记录格式如下: 记录1 { "_id" : ObjectId("5c1e23eaa

Mongodb聚合函数count、distinct、group如何实现数据聚合操作

上篇文章给大家介绍了Mongodb中MapReduce实现数据聚合方法详解,我们提到过Mongodb中进行数据聚合操作的一种方式--MapReduce,但是在大多数日常使用过程中,我们并不需要使用MapReduce来进行操作.在这边文章中,我们就简单说说用自带的聚合函数进行数据聚合操作的实现. MongoDB除了基本的查询功能之外,还提供了强大的聚合功能.Mongodb中自带的基本聚合函数有三种:count.distinct和group.下面我们分别来讲述一下这三个基本聚合函数. (1)coun

MongoDB聚合功能浅析

MongoDB数据库功能强大!除了基本的查询功能之外,还提供了强大的聚合功能.这里简单介绍一下count.distinct和group. 1.count: --在空集合中,count返回的数量为0. > db.test.count() 0 --测试插入一个文档后count的返回值. > db.test.insert({"test":1}) > db.test.count() 1 > db.test.insert({"test":2}) >

Nodejs实现的操作MongoDB数据库功能完整示例

本文实例讲述了Nodejs实现的操作MongoDB数据库功能.分享给大家供大家参考,具体如下: mongodb_demo.js /** cnpm install mongodb */ var MongoClient = require('mongodb').MongoClient; var DB_CONN_STR = 'mongodb://test:123456@127.0.0.1:27017/test'; // 数据库为 test var insertData = function (db,

sql server2016里面的json功能浅析

测试一下基本的,从查询结果里面构造一个json 的格式 create table t1(ID int identity,name nvarchar(50),Chinese int ,Math int) insert into t1 values ('张三',90,80),('李四',75,90),('王五',68,100) select * from t1 select * from t1 for json auto --查询结果 ID name Chinese Math -----------

适合所有网站的rss和xml聚合功能asp代码

rss.asp格式的 下面代码保存为rss.asp 复制代码 代码如下: <!--#include file="conn.asp"--> <% strURL = "http://" & request.servervariables("server_name") & _ left(request.servervariables("script_name"),len(request.server

MongoDB简介 MongoDB五大特色

MongoDB是一种强大,灵活,可扩展的数据存储方式.它扩展了关系型数据库的众多有用功能,如辅助索引,范围查询和排序.MongoDB的功能非常丰富,比如:内置的对MapReduce式聚合的支持,以及对地理空间索引的支持. 1.1丰富的数据模型 MongoDB是面向文档的数据库,不是关系型数据库.放弃关系模型的主要原因就是为了获得更加方便的扩展性,还有其他的好处. 基本思路就是将原来"行"(row)的观念转化为更加灵活的"文档"(document)模型.面向文档的方式

如何优雅的进行Spring整合MongoDB详解

前言 本文重点是要将mongodb与spring整合到项目中去,在实践中发现问题,追踪问题,然后解决问题.下面话不多说了,来一起看看详细的介绍吧. 一.准备 Maven.Spring(spring-data-mongodb) spring Data for MongoDB是Spring Data的一个子模块. 目标是为mongodb提供一个相近的一致的基于Spring的编程模型. Spring Data for MongoDB核心功能是映射POJO到Mongo的DBCollection中的文档,