Druid连接池四(学习笔记)
Druid连接池四(学习笔记)
是夜色太荒芜 发表于7个月前
Druid连接池四(学习笔记)
  • 发表于 7个月前
  • 阅读 196
  • 收藏 1
  • 点赞 0
  • 评论 0

腾讯云 技术升级10大核心产品年终让利>>>   

11. Druid加密

    运维和DBA都不希望把密码明文直接写在配置文件中,Druid提供了数据库密码加密的功能。

ConfigFilter的作用包括:

从配置文件中读取配置

从远程http文件中读取配置

为数据库密码提供加密功能

1.配置ConfigFilter

1.1.配置文件从本地文件系统中读取

  <bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource"      init-method="init" destroy method="close">      

<property name="filters" value="config" />      

<property name="connectionProperties" value="config.file=file:///home/admin/druid-pool.properties" />  </bean>

1.2.配置文件从远程http服务器中读取

  <bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource"      init-method="init" destroy-method="close">      

<property name="filters" value="config" />      

<property name="connectionProperties" value="config.file=http://127.0.0.1/druid-pool.properties" />  </bean>

    这种配置方式,使得一个应用集群中,多个实例可以从同一个地方读取配置,集中配置,集中修改,部署更简单。

1.3.通过jvm启动参数来使用ConfigFilter

    DruidDataSource支持jvm启动参数配置filters,所以你可以:

    Java -Ddruid.filters=config ....

2.数据库密码加密

    数据库密码直接写在配置中,对运维安全来说,是一个很大的挑战。Druid为此提供一种数据库密码加密的手段ConfigFilter。

2.1.执行命令加密数据库密码

在命令行中执行如下命令:

java -cp druid-0.2.23.jar com.alibaba.druid.filter.config.ConfigTools you_password

输出

h9gzp23dkJIZ95Xzj/waxsC2oJ1JoWTh76o4aw7+uGGh63ovAULVOrPewOwHP5i3LCIXqNyvpxJ2nceDFBbzVw==

输入你的数据库密码,输出的是加密后的结果。

2.2.配置数据源,提示Druid数据源需要对数据库密码进行解密。

<bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource"      init-method="init" destroy-method="close">      <property name="url" value="jdbc:derby:memory:spring-test;create=true" />      <property name="username" value="sa" />      <property name="password" value="h9gzp23dkJIZ95Xzj/waxsC2oJ1JoWTh76o4aw7+uGGh63ovAULVOrPewOwHP5i3LCIXqNyvpxJ2nceDFBbzVw==" />      <property name="filters" value="config" />      <property name="connectionProperties" value="config.decrypt=true" />  </bean>

2.3.配置参数,让ConfigFilter解密密码

有三种方式配置:
    1) 可以在配置文件my.properties中指定config.decrypt=true 
    2) 也可以在DruidDataSource的ConnectionProperties中指定config.decrypt=true 
    3) 也可以在jvm启动参数中指定-Ddruid.config.decrypt=true 

12. Druid其他

    如果在init的时候失败了,不再使用DruidDataSource,必须调用close来释放资源,释放的资源包括关闭Create和Destory线程。

DruidDataSource支持所有有jdbc驱动的数据:

数据库

支持状态

MySQL

支持,大规模使用

Oracle

支持,大规模使用

sqlserver

支持

postgres

支持

db2

支持

h2

支持

derby

支持

sqlite

支持

sybase

支持

使用jdbc的executeBatch 方法,如果数据库为oracle,则无论是否成功更新到数据,返回值都是-2,而不是真正被sql更新到的记录数,这是Oracle JDBC Driver的问题,Druid不作特殊处理。

Druid是根据url前缀来识别DriverClass的,这样使得配置更方便简洁。

前缀

DriverCLass

描述信息

jdbc:derby

org.apache.derby.jdbc.EmbeddedDriver

 

jdbc:mysql

com.mysql.jdbc.Driver

 

jdbc:oracle

oracle.jdbc.driver.OracleDriver

 

jdbc:microsoft

com.microsoft.jdbc.sqlserver.SQLServerDriver

 

jdbc:sybase:Tds

com.sybase.jdbc2.jdbc.SybDriver

 

jdbc:jtds

net.sourceforge.jtds.jdbc.Driver

 

jdbc:postgresql

org.postgresql.Driver

 

jdbc:fake

com.alibaba.druid.mock.MockDriver

 

jdbc:mock

com.alibaba.druid.mock.MockDriver

 

jdbc:hsqldb

org.hsqldb.jdbcDriver

 

jdbc:db2

COM.ibm.db2.jdbc.app.DB2Driver

DB2的JDBC Driver十分混乱,这个匹配不一定对

jdbc:sqlite

org.sqlite.JDBC

 

jdbc:ingres

com.ingres.jdbc.IngresDriver

 

jdbc:h2

org.h2.Driver

 

jdbc:mckoi

com.mckoi.JDBCDriver

 

jdbc:cloudscape

COM.cloudscape.core.JDBCDriver

 

jdbc:informix-sqli

com.informix.jdbc.IfxDriver

 

jdbc:timesten

com.timesten.jdbc.TimesTenDriver

 

jdbc:as400

com.ibm.as400.access.AS400JDBCDriver

 

jdbc:sapdb

com.sap.dbtech.jdbc.DriverSapDB

 

jdbc:JSQLConnect

com.jnetdirect.jsql.JSQLDriver

 

jdbc:JTurbo

com.newatlanta.jturbo.driver.Driver

 

jdbc:firebirdsql

org.firebirdsql.jdbc.FBDriver

 

jdbc:interbase

interbase.interclient.Driver

 

jdbc:pointbase

com.pointbase.jdbc.jdbcUniversalDriver

 

jdbc:edbc

ca.edbc.jdbc.EdbcDriver

 

jdbc:mimer:multi1

com.mimer.jdbc.Driver

 

13. Druid保存

    Druid中有DruidDataSource/Spring/Web等监控记录,其中DruidDataSource提供了保存监控记录的API。

保存DruidDataSource的监控记录

    DruidDataSource有一个属性timeBetweenLogStatsMillis,配置timeBetweenLogStatsMillis>0之后,DruidDataSource会定期把监控数据输出到日志中。

  <bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">    ... ...    <property name="timeBetweenLogStatsMillis" value="300000" />    ... ...  </bean>

或者通过jvm启动参数来指定,例如:

  -Ddruid.timeBetweenLogStatsMillis=300000

定制StatLogger

DruidDataSource是通过

com.alibaba.druid.pool.DruidDataSourceStatLoggerImpl.DruidDataSourceStatLoggerImpl来实现输入监控数据到日志的,你可以自定义一个StatLogger,例如:

Java代码

  import com.alibaba.druid.pool.DruidDataSourceStatLoggerAdapter;  import com.alibaba.druid.pool.DruidDataSourceStatLogger ;  public class MyStatLogger extends DruidDataSourceStatLoggerAdapter implements DruidDataSourceStatLogger {    ... ...  }

配置

  <bean id="myStatLogger" class="com.mycompany.MyStatLogger">    ... ...  </bean>  <bean id="dataSource" class="com.alibaba.druid.pool.DruidDataSource" init-method="init" destroy-method="close">    ... ...    <property name="statLogger" ref="myStatLogger" />    ... ...  </bean>

14. Druid设计

    Druid提供了大量监控数据,这些监控数据如果只保存在内存中,重启之后就会丢失。而且无法集中查看多台机器的信息。所以需要提供一个内置的存储实现。

概念

概念

说明

domain

不同的domain数据互相隔离,domain的概念存在,使得druid-monitor能够支持云监控

app

app存在与domain下,每个app可以部署多个集群(cluster)

cluster

cluster是app部署的一套环境,cluster包含多个instance

instance

instance包含的信息有name(可以为空)、host(主机名称)、ip、pid(进程ID)

15. Druid属性

    DruidDataSource配置兼容DBCP,但个别配置的语意有所区别。

配置

缺省值

说明

name

 

配置这个属性的意义在于,如果存在多个数据源,监控的时候可以通过名字来区分开来。
如果没有配置,将会生成一个名字,格式是:"DataSource-" + System.identityHashCode(this). 
另外配置此属性至少在1.0.5版本中是不起作用的,强行设置name会出错
详情-点此处

url

 

连接数据库的url,不同数据库不一样。例如:
mysql : jdbc:mysql://10.20.153.104:3306/druid2 
oracle : jdbc:oracle:thin:@10.20.149.85:1521:ocnauto

username

 

连接数据库的用户名

password

 

连接数据库的密码。如果你不希望密码直接写在配置文件中,可以使用ConfigFilter。详细看这里:https://github.com/alibaba/druid/wiki/%E4%BD%BF%E7%94%A8ConfigFilter

driverClassName

根据url自动识别

这一项可配可不配,如果不配置druid会根据url自动识别dbType,然后选择相应的driverClassName

initialSize

0

初始化时建立物理连接的个数。初始化发生在显示调用init方法,或者第一次getConnection时

maxActive

8

最大连接池数量

maxIdle

8

已经不再使用,配置了也没效果

minIdle

 

最小连接池数量

maxWait

 

获取连接时最大等待时间,单位毫秒。配置了maxWait之后,缺省启用公平锁,并发效率会有所下降,如果需要可以通过配置useUnfairLock属性为true使用非公平锁。

poolPreparedStatements

false

是否缓存preparedStatement,也就是PSCache。PSCache对支持游标的数据库性能提升巨大,比如说oracle。在mysql下建议关闭。

maxOpenPreparedStatements

-1

要启用PSCache,必须配置大于0,当大于0时,poolPreparedStatements自动触发修改为true。在Druid中,不会存在Oracle下PSCache占用内存过多的问题,可以把这个数值配置大一些,比如说100

validationQuery

 

用来检测连接是否有效的sql,要求是一个查询语句。如果validationQuery为null,testOnBorrow、testOnReturn、testWhileIdle都不会其作用。

testOnBorrow

true

申请连接时执行validationQuery检测连接是否有效,做了这个配置会降低性能。

testOnReturn

false

归还连接时执行validationQuery检测连接是否有效,做了这个配置会降低性能

testWhileIdle

false

建议配置为true,不影响性能,并且保证安全性。申请连接的时候检测,如果空闲时间大于timeBetweenEvictionRunsMillis,执行validationQuery检测连接是否有效。

timeBetweenEvictionRunsMillis

1分钟(1.0.14)

有两个含义:
1) Destroy线程会检测连接的间隔时间,如果连接空闲时间大于等于minEvictableIdleTimeMillis则关闭物理连接 2) testWhileIdle的判断依据,详细看testWhileIdle属性的说明

numTestsPerEvictionRun

 

不再使用,一个DruidDataSource只支持一个EvictionRun

minEvictableIdleTimeMillis

30分钟(1.0.14)

连接保持空闲而不被驱逐的最长时间

connectionInitSqls

 

物理连接初始化的时候执行的sql

exceptionSorter

根据dbType自动识别

当数据库抛出一些不可恢复的异常时,抛弃连接

filters

 

属性类型是字符串,通过别名的方式配置扩展插件,常用的插件有:
监控统计用的filter:stat 日志用的filter:log4j 防御sql注入的filter:wall

proxyFilters

 

类型是List<com.alibaba.druid.filter.Filter>,如果同时配置了filters和proxyFilters,是组合关系,并非替换关系

 

16. Druid锁

    锁的公平和效率是一个需要平衡的问题。

    如果配置了maxWait,在连接不够用争用时,unfair模式的ReentrantLock.tryLock方法存在严重不公的现象,个别线程会等到超时了还获取不到连接。

版本

处理方式

效果

0.2.3之前

unfair

并发性能很好。
maxWait>0的配置下,出现严重不公平现象

0.2.3 ~ 0.2.6

fair

公平,但是并发性能很差

0.2.7

通过构造函数传入参数指定fair或者unfair,缺省fair

按需要配置,但是比较麻烦

0.2.8

缺省unfair,通过构造函数传入参数指定fair或者unfair;
如果DruidDataSource还没有初始化,修改maxWait大于0,自动转换为fair模式

智能配置,能够兼顾性能和公平性

可以手工配置

  dataSouce.setUseUnfairLock(true)

17. Druid访问

    EvalVisitor是Druid SQL Parser中用于对SQL表达式求值的Visitor。某些场景需要对sql中的部分表达式进行求值然后做特别处理,比如说分库分表时,需要根据其中一个表达式进行求值,以判断其对应的分库分表的规则。

主要接口参数定义如下:

  public interface SQLEvalVisitor extends SQLASTVisitor {        // 设置求值的参数        void setParameters(List<Object> parameters);  }

SQLEvalVisitorUtils

    不同的方言的SQLEvalVisitor的实现类是不同的,所以Druid提供了一个易于使用的工具类SQLEvalVisitorUtils。

  public class SQLEvalVisitorUtils {        public static Object evalExpr(String dbType, String expr, Object... parameters)  }

 第一个参数dbType是数据库的类型,具体的常量值在com.alibaba.druid.util.JdbcConstants中定义。

  public interface JdbcConstants {        public static final String HSQL              = "hsql";        public static final String DB2               = "db2";        public static final String DERBY             = "derby";        public static final String H2                = "h2"        public static final String ORACLE            = "oracle";        public static final String SQL_SERVER        = "sqlserver";        public static final String SYBASE            = "sybase";        public static final String POSTGRESQL        = "postgresql";        public static final String DERBY             = "derby";  }

    第二个参数是需要求值的SQL表达式,比如

3+4? > 3

    第三个参数是需要传入的参数数值,这是一个变长参数,如果第二个参数SQL表达式没有变量,第三个参数是不需要传的。

例子

  // between   Assert.assertEquals(false, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? between 1 and 3", 0));  Assert.assertEquals(true, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? between 1 and 3", 2));   // not between  Assert.assertEquals(true, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? not between 1 and 3", 0));  // case when  Assert.assertEquals(111, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "case ? when 0 then 111 else 222 end", 0));   // in   Assert.assertEquals(true, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? NOT IN (1, 2, 3)", 0));  Assert.assertEquals(false, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? IN (1, 2, 3)", 0));   // is null  Assert.assertEquals(false, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? is null", 0));  Assert.assertEquals(true, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "? is null", (Object) null));   // right function  Assert.assertEquals("rbar", SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "right('foobarbar', 4)"));   // instr function  Assert.assertEquals(4, SQLEvalVisitorUtils.evalExpr(JdbcConstants.MYSQL, "instr('foobarbar', 'bar')"));

 

标签: Druid
共有 人打赏支持
粉丝 4
博文 1
码字总数 0
×
是夜色太荒芜
如果觉得我的文章对您有用,请随意打赏。您的支持将鼓励我继续创作!
* 金额(元)
¥1 ¥5 ¥10 ¥20 其他金额
打赏人
留言
* 支付类型
微信扫码支付
打赏金额:
已支付成功
打赏金额: