触点数字孪生,揭秘它的独特魅力
882
2022-10-30
SpringBoot实战教程(6)| 整合Druid
Apache Druid是一个实时分析型数据库,旨在对大型数据集进行快速的查询分析("OLAP"查询)。Druid最常被当做数据库来用以支持实时摄取、高性能查询和高稳定运行的应用场景,同时,Druid也通常被用来助力分析型应用的图形化界面,或者当做需要快速聚合的高并发后端API,Druid最适合应用于面向事件类型的数据。
目录
一、主要特征
二、使用场景
三、初始化SpringBoot项目
四、引入依赖文件
五、编写配置文件
六、编写DruidConfig配置类
七、查看Druid监控信息
一、主要特征
列式存储,Druid使用列式存储,这意味着在一个特定的数据查询中它只需要查询特定的列,这样极地提高了部分列查询场景的性能。另外,每一列数据都针对特定数据类型做了优化存储,从而支持快速的扫描和聚合。可扩展的分布式系统,Druid通常部署在数十到数百台服务器的集群中,并且可以提供每秒数百万条记录的接收速率,数万亿条记录的保留存储以及亚秒级到几秒的查询延迟。大规模并行处理,Druid可以在整个集群中并行处理查询。实时或批量摄取,Druid可以实时(已经被摄取的数据可立即用于查询)或批量摄取数据。自修复、自平衡、易于操作,作为集群运维操作人员,要伸缩集群只需添加或删除服务,集群就会在后台自动重新平衡自身,而不会造成任何停机。如果任何一台Druid服务器发生故障,系统将自动绕过损坏。 Druid设计为7*24全天候运行,无需出于任何原因而导致计划内停机,包括配置更改和软件更新。不会丢失数据的云原生容错架构,一旦Druid摄取了数据,副本就安全地存储在深度存储介质(通常是云存储,HDFS或共享文件系统)中。即使某个Druid服务发生故障,也可以从深度存储中恢复您的数据。对于仅影响少数Druid服务的有限故障,副本可确保在系统恢复时仍然可以进行查询。用于快速过滤的索引,Druid使用CONCISE或Roaring压缩的位图索引来创建索引,以支持快速过滤和跨多列搜索。基于时间的分区,Druid首先按时间对数据进行分区,另外同时可以根据其他字段进行分区。这意味着基于时间的查询将仅访问与查询时间范围匹配的分区,这将大大提高基于时间的数据的性能。近似算法,Druid应用了近似count-distinct,近似排序以及近似直方图和分位数计算的算法。这些算法占用有限的内存使用量,通常比精确计算要快得多。对于精度要求比速度更重要的场景,Druid还提供了精确count-distinct和精确排序。摄取时自动汇总聚合,Druid支持在数据摄取阶段可选地进行数据汇总,这种汇总会部分预先聚合您的数据,并可以节省大量成本并提高性能。
二、使用场景
如果您的使用场景符合以下的几个特征,那么Druid是一个非常不错的选择。
数据插入频率比较高,但较少更新数据大多数查询场景为聚合查询和分组查询(GroupBy),同时还有一定得检索与扫描查询将数据查询延迟目标定位100毫秒到几秒钟之间数据具有时间属性(Druid针对时间做了优化和设计)在多表场景下,每次查询仅命中一个大的分布式表,查询又可能命中多个较小的lookup表场景中包含高基维度数据列(例如URL,用户ID等),并且需要对其进行快速计数和排序需要从Kafka、HDFS、对象存储(如Amazon S3)中加载数据
三、初始化SpringBoot项目
四、引入依赖文件
五、编写配置文件
application.yml
spring: # 配置数据源 datasource: url: jdbc:mysql://127.0.0.1:3306/mysql?allowMultiQueries=true&useUnicode=true&characterEncoding=UTF8&zeroDateTimeBehavior=convertToNull&useSSL=false # MySQL在高版本需要指明是否进行SSL连接 解决则加上 &useSSL=false name: demo username: root password: 123456 platform: mysql driver-class-name: com.mysql.jdbc.Driver # ===================== ↓↓↓↓↓↓ 使用druid数据源 ↓↓↓↓↓↓ ===================== # 连接池类型,druid连接池springboot暂无法默认支持,需要自己配置bean type: com.alibaba.druid.pool.DruidDataSource initialSize: 5 # 连接池初始化连接数量 minIdle: 5 # 连接池最小空闲数 maxActive: 20 # 连接池最大活跃连接数 maxWait: 60000 # 配置获取连接等待超时的时间 timeBetweenEvictionRunsMillis: 60000 # 配置间隔多久才进行一次检测,检测需要关闭的空闲连接,单位是毫秒 minEvictableIdleTimeMillis: 300000 # 配置一个连接在池中最小生存的时间,单位是毫秒 validationQuery: SELECT 1 FROM DUAL # 连接是否有效的查询语句 testWhileIdle: true testOnBorrow: false testOnReturn: false # 打开PSCache,并且指定每个连接上PSCache的大小 poolPreparedStatements: true maxPoolPreparedStatementPerConnectionSize: 20 removeAbandoned: true # 配置监控统计拦截的filters,去掉后监控界面sql无法统计,【 'stat':监控统计 'wall':用于防火墙,防御sql注入 'slf4j':日志 】 filters: stat,wall,slf4j # 通过connectProperties属性来打开mergeSql功能;慢SQL记录 connectionProperties: druid.stat.mergeSql=true;druid.stat.slowSqlMillis=5000 #useGlobalDataSourceStat: true # 合并多个DruidDataSource的监控数据 loginUsername: admin # SQL监控后台登录用户名 loginPassword: admin # SQL监控后台登录用户密码
六、编写DruidConfig配置类
package com.csdn.config;import com.alibaba.druid.pool.DruidDataSource;import com.alibaba.druid.support.com.alibaba.druid.support.com.alibaba.druid.support.spring.stat.DruidStatInterceptor;import org.springframework.aop.support.DefaultPointcutAdvisor;import org.springframework.aop.support.JdkRegexpMethodPointcut;import org.springframework.beans.factory.annotation.Value;import org.springframework.boot.context.properties.ConfigurationProperties;import org.springframework.boot.web.servlet.FilterRegistrationBean;import org.springframework.boot.web.servlet.ServletRegistrationBean;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import org.springframework.context.annotation.Scope;import org.springframework.jdbc.datasource.DataSourceTransactionManager;import javax.sql.DataSource;import java.util.HashMap;import java.util.Map;/** *
Druid核心配置类 - 注册bean
* * @author : Roc-xb */@Configurationpublic class DruidConfig { @Value("${spring.datasource.loginUsername}") private String loginUsername; @Value("${spring.datasource.loginPassword}") private String loginPassword; /** * 配置Druid监控 * * @param : * @return: org.springframework.boot.web.servlet.ServletRegistrationBean */ @Bean public ServletRegistrationBean druidServlet() { // 注册服务 ServletRegistrationBean servletRegistrationBean = new ServletRegistrationBean(new StatViewServlet(), "/druid/*"); // IP白名单(为空表示,所有的都可以访问,多个IP的时候用逗号隔开) servletRegistrationBean.addInitParameter("allow", "127.0.0.1"); // IP黑名单 (存在共同时,deny优先于allow) servletRegistrationBean.addInitParameter("deny", "127.0.0.2"); // 设置控制台登录的用户名和密码 servletRegistrationBean.addInitParameter("loginUsername", loginUsername); servletRegistrationBean.addInitParameter("loginPassword", loginPassword); // 是否能够重置数据 servletRegistrationBean.addInitParameter("resetEnable", "false"); return servletRegistrationBean; } /** * 配置web监控的filter * * @param : * @return: org.springframework.boot.web.servlet.FilterRegistrationBean */ @Bean public FilterRegistrationBean webStatFilter() { FilterRegistrationBean filterRegistrationBean = new FilterRegistrationBean(new WebStatFilter()); // 添加过滤规则 Map七、查看Druid监控信息
上面的东西配置完成之后,就可以启动项目,然后访问:http://127.0.0.1:8080/druid/login.html
填写登录账号和密码,然后登录即可。
至此,整合过程就完成了,如果本章教程对有你帮助,点个赞支持一下呗~
版权声明:本文内容由网络用户投稿,版权归原作者所有,本站不拥有其著作权,亦不承担相应法律责任。如果您发现本站中有涉嫌抄袭或描述失实的内容,请联系我们jiasou666@gmail.com 处理,核实后本网站将在24小时内删除侵权内容。