TDengine Java Connector

taos-jdbcdriver 是 TDengine 的官方 Java 语言连接器,Java 开发人员可以通过它开发存取 TDengine 数据库的应用软件。taos-jdbcdriver 实现了 JDBC driver 标准的接口,并提供两种形式的连接器。一种是通过 TDengine 客户端驱动程序(taosc)原生连接 TDengine 实例,支持数据写入、查询、订阅、schemaless 接口和参数绑定接口等功能,一种是通过 taosAdapter 提供的 REST 接口连接 TDengine 实例。REST 连接实现的功能集合和原生连接有少量不同。

TDengine Database Connector Java

上图显示了两种 Java 应用使用连接器访问 TDengine 的两种方式:

  • JDBC 原生连接:Java 应用在物理节点 1(pnode1)上使用 TSDBDriver 直接调用客户端驱动(libtaos.so 或 taos.dll)的 API 将写入和查询请求发送到位于物理节点 2(pnode2)上的 taosd 实例。
  • JDBC REST 连接:Java 应用通过 RestfulDriver 将 SQL 封装成一个 REST 请求,发送给物理节点 2 的 REST 服务器(taosAdapter),通过 REST 服务器请求 taosd 并返回结果。

使用 REST 连接,不依赖 TDengine 客户端驱动,可以跨平台,更加方便灵活,但性能比原生连接器低约 30%。

Java - 图2info

TDengine 的 JDBC 驱动实现尽可能与关系型数据库驱动保持一致,但 TDengine 与关系对象型数据库的使用场景和技术特征存在差异,所以taos-jdbcdriver 与传统的 JDBC driver 也存在一定差异。在使用时需要注意以下几点:

  • TDengine 目前不支持针对单条数据记录的删除操作。
  • 目前不支持事务操作。

支持的平台

原生连接支持的平台和 TDengine 客户端驱动支持的平台一致。 REST 连接支持所有能运行 Java 的平台。

版本支持

请参考版本支持列表

TDengine DataType 和 Java DataType

TDengine 目前支持时间戳、数字、字符、布尔类型,与 Java 对应类型转换如下:

TDengine DataTypeJDBCType
TIMESTAMPjava.sql.Timestamp
INTjava.lang.Integer
BIGINTjava.lang.Long
FLOATjava.lang.Float
DOUBLEjava.lang.Double
SMALLINTjava.lang.Short
TINYINTjava.lang.Byte
BOOLjava.lang.Boolean
BINARYbyte array
NCHARjava.lang.String
JSONjava.lang.String

注意:JSON 类型仅在 tag 中支持。

安装步骤

安装前准备

使用 Java Connector 连接数据库前,需要具备以下条件:

  • 已安装 Java 1.8 或以上版本运行时环境和 Maven 3.6 或以上版本
  • 已安装 TDengine 客户端驱动(使用原生连接必须安装,使用 REST 连接无需安装),具体步骤请参考安装客户端驱动

安装连接器

  • 使用 Maven 安装
  • 使用源码编译安装

目前 taos-jdbcdriver 已经发布到 Sonatype Repository 仓库,且各大仓库都已同步。

Maven 项目中,在 pom.xml 中添加以下依赖:

  1. <dependency>
  2. <groupId>com.taosdata.jdbc</groupId>
  3. <artifactId>taos-jdbcdriver</artifactId>
  4. <version>3.0.0</version>
  5. </dependency>

可以通过下载 TDengine 的源码,自己编译最新版本的 Java connector

  1. git clone https://github.com/taosdata/taos-connector-jdbc.git
  2. cd taos-connector-jdbc
  3. mvn clean install -Dmaven.test.skip=true

编译后,在 target 目录下会产生 taos-jdbcdriver-3.0.*-dist.jar 的 jar 包,并自动将编译的 jar 文件放在本地的 Maven 仓库中。

建立连接

TDengine 的 JDBC URL 规范格式为: jdbc:[TAOS|TAOS-RS]://[host_name]:[port]/[database_name]?[user={user}|&password={password}|&charset={charset}|&cfgdir={config_dir}|&locale={locale}|&timezone={timezone}]

对于建立连接,原生连接与 REST 连接有细微不同。

  • 原生连接
  • REST 连接
  1. Class.forName("com.taosdata.jdbc.TSDBDriver");
  2. String jdbcUrl = "jdbc:TAOS://taosdemo.com:6030/test?user=root&password=taosdata";
  3. Connection conn = DriverManager.getConnection(jdbcUrl);

以上示例,使用了 JDBC 原生连接的 TSDBDriver,建立了到 hostname 为 taosdemo.com,端口为 6030(TDengine 的默认端口),数据库名为 test 的连接。这个 URL 中指定用户名(user)为 root,密码(password)为 taosdata。

注意:使用 JDBC 原生连接,taos-jdbcdriver 需要依赖客户端驱动(Linux 下是 libtaos.so;Windows 下是 taos.dll;macOS 下是 libtaos.dylib)。

url 中的配置参数如下:

  • user:登录 TDengine 用户名,默认值 ‘root’。
  • password:用户登录密码,默认值 ‘taosdata’。
  • cfgdir:客户端配置文件目录路径,Linux OS 上默认值 /etc/taos,Windows OS 上默认值 C:/TDengine/cfg
  • charset:客户端使用的字符集,默认值为系统字符集。
  • locale:客户端语言环境,默认值系统当前 locale。
  • timezone:客户端使用的时区,默认值为系统当前时区。
  • batchfetch: true:在执行查询时批量拉取结果集;false:逐行拉取结果集。默认值为:true。开启批量拉取同时获取一批数据在查询数据量较大时批量拉取可以有效的提升查询性能。
  • batchErrorIgnore:true:在执行 Statement 的 executeBatch 时,如果中间有一条 SQL 执行失败将继续执行下面的 SQL。false:不再执行失败 SQL 后的任何语句。默认值为:false。

JDBC 原生连接的使用请参见视频教程

使用 TDengine 客户端驱动配置文件建立连接

当使用 JDBC 原生连接连接 TDengine 集群时,可以使用 TDengine 客户端驱动配置文件,在配置文件中指定集群的 firstEp、secondEp 等参数。如下所示:

  1. 在 Java 应用中不指定 hostname 和 port
  1. public Connection getConn() throws Exception{
  2. Class.forName("com.taosdata.jdbc.TSDBDriver");
  3. String jdbcUrl = "jdbc:TAOS://:/test?user=root&password=taosdata";
  4. Properties connProps = new Properties();
  5. connProps.setProperty(TSDBDriver.PROPERTY_KEY_CHARSET, "UTF-8");
  6. connProps.setProperty(TSDBDriver.PROPERTY_KEY_LOCALE, "en_US.UTF-8");
  7. connProps.setProperty(TSDBDriver.PROPERTY_KEY_TIME_ZONE, "UTC-8");
  8. Connection conn = DriverManager.getConnection(jdbcUrl, connProps);
  9. return conn;
  10. }
  1. 在配置文件中指定 firstEp 和 secondEp
  1. # first fully qualified domain name (FQDN) for TDengine system
  2. firstEp cluster_node1:6030
  3. # second fully qualified domain name (FQDN) for TDengine system, for cluster only
  4. secondEp cluster_node2:6030
  5. # default system charset
  6. # charset UTF-8
  7. # system locale
  8. # locale en_US.UTF-8

以上示例,jdbc 会使用客户端的配置文件,建立到 hostname 为 cluster_node1、端口为 6030、数据库名为 test 的连接。当集群中 firstEp 节点失效时,JDBC 会尝试使用 secondEp 连接集群。

TDengine 中,只要保证 firstEp 和 secondEp 中一个节点有效,就可以正常建立到集群的连接。

注意:这里的配置文件指的是调用 JDBC Connector 的应用程序所在机器上的配置文件,Linux OS 上默认值 /etc/taos/taos.cfg ,Windows OS 上默认值 C://TDengine/cfg/taos.cfg。

  1. Class.forName("com.taosdata.jdbc.rs.RestfulDriver");
  2. String jdbcUrl = "jdbc:TAOS-RS://taosdemo.com:6041/test?user=root&password=taosdata";
  3. Connection conn = DriverManager.getConnection(jdbcUrl);

以上示例,使用了 JDBC REST 连接的 RestfulDriver,建立了到 hostname 为 taosdemo.com,端口为 6041,数据库名为 test 的连接。这个 URL 中指定用户名(user)为 root,密码(password)为 taosdata。

使用 JDBC REST 连接,不需要依赖客户端驱动。与 JDBC 原生连接相比,仅需要:

  1. driverClass 指定为“com.taosdata.jdbc.rs.RestfulDriver”;
  2. jdbcUrl 以“jdbc:TAOS-RS://”开头;
  3. 使用 6041 作为连接端口。

url 中的配置参数如下:

  • user:登录 TDengine 用户名,默认值 ‘root’。
  • password:用户登录密码,默认值 ‘taosdata’。
  • batchfetch: true:在执行查询时批量拉取结果集;false:逐行拉取结果集。默认值为:false。逐行拉取结果集使用 HTTP 方式进行数据传输。JDBC REST 连接支持批量拉取数据功能。taos-jdbcdriver 与 TDengine 之间通过 WebSocket 连接进行数据传输。相较于 HTTP,WebSocket 可以使 JDBC REST 连接支持大数据量查询,并提升查询性能。
  • charset: 当开启批量拉取数据时,指定解析字符串数据的字符集。
  • batchErrorIgnore:true:在执行 Statement 的 executeBatch 时,如果中间有一条 SQL 执行失败,继续执行下面的 SQL 了。false:不再执行失败 SQL 后的任何语句。默认值为:false。
  • httpConnectTimeout: 连接超时时间,单位 ms, 默认值为 5000。
  • httpSocketTimeout: socket 超时时间,单位 ms,默认值为 5000。仅在 batchfetch 设置为 false 时生效。
  • messageWaitTimeout: 消息超时时间, 单位 ms, 默认值为 3000。 仅在 batchfetch 设置为 true 时生效。
  • useSSL: 连接中是否使用 SSL。

注意:部分配置项(比如:locale、timezone)在 REST 连接中不生效。

Java - 图3note
  • 与原生连接方式不同,REST 接口是无状态的。在使用 JDBC REST 连接时,需要在 SQL 中指定表、超级表的数据库名称。例如:
  1. INSERT INTO test.t1 USING test.weather (ts, temperature) TAGS('California.SanFrancisco') VALUES(now, 24.6);
  • 如果在 url 中指定了 dbname,那么,JDBC REST 连接会默认使用/rest/sql/dbname 作为 restful 请求的 url,在 SQL 中不需要指定 dbname。例如:url 为 jdbc:TAOS-RS://127.0.0.1:6041/test,那么,可以执行 sql:insert into t1 using weather(ts, temperature) tags(‘California.SanFrancisco’) values(now, 24.6);

指定 URL 和 Properties 获取连接

除了通过指定的 URL 获取连接,还可以使用 Properties 指定建立连接时的参数。

注意

  • 应用中设置的 client parameter 为进程级别的,即如果要更新 client 的参数,需要重启应用。这是因为 client parameter 是全局参数,仅在应用程序的第一次设置生效。
  • 以下示例代码基于 taos-jdbcdriver-3.0.0。
  1. public Connection getConn() throws Exception{
  2. Class.forName("com.taosdata.jdbc.TSDBDriver");
  3. String jdbcUrl = "jdbc:TAOS://taosdemo.com:6030/test?user=root&password=taosdata";
  4. Properties connProps = new Properties();
  5. connProps.setProperty(TSDBDriver.PROPERTY_KEY_CHARSET, "UTF-8");
  6. connProps.setProperty(TSDBDriver.PROPERTY_KEY_LOCALE, "en_US.UTF-8");
  7. connProps.setProperty(TSDBDriver.PROPERTY_KEY_TIME_ZONE, "UTC-8");
  8. connProps.setProperty("debugFlag", "135");
  9. connProps.setProperty("maxSQLLength", "1048576");
  10. Connection conn = DriverManager.getConnection(jdbcUrl, connProps);
  11. return conn;
  12. }
  13. public Connection getRestConn() throws Exception{
  14. Class.forName("com.taosdata.jdbc.rs.RestfulDriver");
  15. String jdbcUrl = "jdbc:TAOS-RS://taosdemo.com:6041/test?user=root&password=taosdata";
  16. Properties connProps = new Properties();
  17. connProps.setProperty(TSDBDriver.PROPERTY_KEY_BATCH_LOAD, "true");
  18. Connection conn = DriverManager.getConnection(jdbcUrl, connProps);
  19. return conn;
  20. }

以上示例,建立一个到 hostname 为 taosdemo.com,端口为 6030/6041,数据库名为 test 的连接。这个连接在 url 中指定了用户名(user)为 root,密码(password)为 taosdata,并在 connProps 中指定了使用的字符集、语言环境、时区、是否开启批量拉取等信息。

properties 中的配置参数如下:

  • TSDBDriver.PROPERTY_KEY_USER:登录 TDengine 用户名,默认值 ‘root’。
  • TSDBDriver.PROPERTY_KEY_PASSWORD:用户登录密码,默认值 ‘taosdata’。
  • TSDBDriver.PROPERTY_KEY_BATCH_LOAD: true:在执行查询时批量拉取结果集;false:逐行拉取结果集。默认值为:false。
  • TSDBDriver.PROPERTY_KEY_BATCH_ERROR_IGNORE:true:在执行 Statement 的 executeBatch 时,如果中间有一条 SQL 执行失败,继续执行下面的 sq 了。false:不再执行失败 SQL 后的任何语句。默认值为:false。
  • TSDBDriver.PROPERTY_KEY_CONFIG_DIR:仅在使用 JDBC 原生连接时生效。客户端配置文件目录路径,Linux OS 上默认值 /etc/taos,Windows OS 上默认值 C:/TDengine/cfg
  • TSDBDriver.PROPERTY_KEY_CHARSET:客户端使用的字符集,默认值为系统字符集。
  • TSDBDriver.PROPERTY_KEY_LOCALE:仅在使用 JDBC 原生连接时生效。 客户端语言环境,默认值系统当前 locale。
  • TSDBDriver.PROPERTY_KEY_TIME_ZONE:仅在使用 JDBC 原生连接时生效。 客户端使用的时区,默认值为系统当前时区。
  • TSDBDriver.HTTP_CONNECT_TIMEOUT: 连接超时时间,单位 ms, 默认值为 5000。仅在 REST 连接时生效。
  • TSDBDriver.HTTP_SOCKET_TIMEOUT: socket 超时时间,单位 ms,默认值为 5000。仅在 REST 连接且 batchfetch 设置为 false 时生效。
  • TSDBDriver.PROPERTY_KEY_MESSAGE_WAIT_TIMEOUT: 消息超时时间, 单位 ms, 默认值为 3000。 仅在 REST 连接且 batchfetch 设置为 true 时生效。
  • TSDBDriver.PROPERTY_KEY_USE_SSL: 连接中是否使用 SSL。仅在 REST 连接时生效。 此外对 JDBC 原生连接,通过指定 URL 和 Properties 还可以指定其他参数,比如日志级别、SQL 长度等。更多详细配置请参考客户端配置

配置参数的优先级

通过前面三种方式获取连接,如果配置参数在 url、Properties、客户端配置文件中有重复,则参数的优先级由高到低分别如下:

  1. JDBC URL 参数,如上所述,可以在 JDBC URL 的参数中指定。
  2. Properties connProps
  3. 使用原生连接时,TDengine 客户端驱动的配置文件 taos.cfg

例如:在 url 中指定了 password 为 taosdata,在 Properties 中指定了 password 为 taosdemo,那么,JDBC 会使用 url 中的 password 建立连接。

使用示例

创建数据库和表

  1. Statement stmt = conn.createStatement();
  2. // create database
  3. stmt.executeUpdate("create database if not exists db");
  4. // use database
  5. stmt.executeUpdate("use db");
  6. // create table
  7. stmt.executeUpdate("create table if not exists tb (ts timestamp, temperature int, humidity float)");

注意:如果不使用 use db 指定数据库,则后续对表的操作都需要增加数据库名称作为前缀,如 db.tb。

插入数据

  1. // insert data
  2. int affectedRows = stmt.executeUpdate("insert into tb values(now, 23, 10.3) (now + 1s, 20, 9.3)");
  3. System.out.println("insert " + affectedRows + " rows.");

now 为系统内部函数,默认为客户端所在计算机当前时间。 now + 1s 代表客户端当前时间往后加 1 秒,数字后面代表时间单位:a(毫秒),s(秒),m(分),h(小时),d(天),w(周),n(月),y(年)。

查询数据

  1. // query data
  2. ResultSet resultSet = stmt.executeQuery("select * from tb");
  3. Timestamp ts = null;
  4. int temperature = 0;
  5. float humidity = 0;
  6. while(resultSet.next()){
  7. ts = resultSet.getTimestamp(1);
  8. temperature = resultSet.getInt(2);
  9. humidity = resultSet.getFloat("humidity");
  10. System.out.printf("%s, %d, %s\n", ts, temperature, humidity);
  11. }

查询和操作关系型数据库一致,使用下标获取返回字段内容时从 1 开始,建议使用字段名称获取。

处理异常

在报错后,通过 SQLException 可以获取到错误的信息和错误码:

  1. try (Statement statement = connection.createStatement()) {
  2. // executeQuery
  3. ResultSet resultSet = statement.executeQuery(sql);
  4. // print result
  5. printResult(resultSet);
  6. } catch (SQLException e) {
  7. System.out.println("ERROR Message: " + e.getMessage());
  8. System.out.println("ERROR Code: " + e.getErrorCode());
  9. e.printStackTrace();
  10. }

JDBC 连接器可能报错的错误码包括 3 种:JDBC driver 本身的报错(错误码在 0x2301 到 0x2350 之间),原生连接方法的报错(错误码在 0x2351 到 0x2400 之间),TDengine 其他功能模块的报错。

具体的错误码请参考:

通过参数绑定写入数据

TDengine 的 JDBC 原生连接实现大幅改进了参数绑定方式对数据写入(INSERT)场景的支持。采用这种方式写入数据时,能避免 SQL 语法解析的资源消耗,从而在很多情况下显著提升写入性能。

注意

  • JDBC REST 连接目前不支持参数绑定
  • 以下示例代码基于 taos-jdbcdriver-3.0.0
  • binary 类型数据需要调用 setString 方法,nchar 类型数据需要调用 setNString 方法
  • setString 和 setNString 都要求用户在 size 参数里声明表定义中对应列的列宽
  1. public class ParameterBindingDemo {
  2. private static final String host = "127.0.0.1";
  3. private static final Random random = new Random(System.currentTimeMillis());
  4. private static final int BINARY_COLUMN_SIZE = 30;
  5. private static final String[] schemaList = {
  6. "create table stable1(ts timestamp, f1 tinyint, f2 smallint, f3 int, f4 bigint) tags(t1 tinyint, t2 smallint, t3 int, t4 bigint)",
  7. "create table stable2(ts timestamp, f1 float, f2 double) tags(t1 float, t2 double)",
  8. "create table stable3(ts timestamp, f1 bool) tags(t1 bool)",
  9. "create table stable4(ts timestamp, f1 binary(" + BINARY_COLUMN_SIZE + ")) tags(t1 binary(" + BINARY_COLUMN_SIZE + "))",
  10. "create table stable5(ts timestamp, f1 nchar(" + BINARY_COLUMN_SIZE + ")) tags(t1 nchar(" + BINARY_COLUMN_SIZE + "))"
  11. };
  12. private static final int numOfSubTable = 10, numOfRow = 10;
  13. public static void main(String[] args) throws SQLException {
  14. String jdbcUrl = "jdbc:TAOS://" + host + ":6030/";
  15. Connection conn = DriverManager.getConnection(jdbcUrl, "root", "taosdata");
  16. init(conn);
  17. bindInteger(conn);
  18. bindFloat(conn);
  19. bindBoolean(conn);
  20. bindBytes(conn);
  21. bindString(conn);
  22. conn.close();
  23. }
  24. private static void init(Connection conn) throws SQLException {
  25. try (Statement stmt = conn.createStatement()) {
  26. stmt.execute("drop database if exists test_parabind");
  27. stmt.execute("create database if not exists test_parabind");
  28. stmt.execute("use test_parabind");
  29. for (int i = 0; i < schemaList.length; i++) {
  30. stmt.execute(schemaList[i]);
  31. }
  32. }
  33. }
  34. private static void bindInteger(Connection conn) throws SQLException {
  35. String sql = "insert into ? using stable1 tags(?,?,?,?) values(?,?,?,?,?)";
  36. try (TSDBPreparedStatement pstmt = conn.prepareStatement(sql).unwrap(TSDBPreparedStatement.class)) {
  37. for (int i = 1; i <= numOfSubTable; i++) {
  38. // set table name
  39. pstmt.setTableName("t1_" + i);
  40. // set tags
  41. pstmt.setTagByte(0, Byte.parseByte(Integer.toString(random.nextInt(Byte.MAX_VALUE))));
  42. pstmt.setTagShort(1, Short.parseShort(Integer.toString(random.nextInt(Short.MAX_VALUE))));
  43. pstmt.setTagInt(2, random.nextInt(Integer.MAX_VALUE));
  44. pstmt.setTagLong(3, random.nextLong());
  45. // set columns
  46. ArrayList<Long> tsList = new ArrayList<>();
  47. long current = System.currentTimeMillis();
  48. for (int j = 0; j < numOfRow; j++)
  49. tsList.add(current + j);
  50. pstmt.setTimestamp(0, tsList);
  51. ArrayList<Byte> f1List = new ArrayList<>();
  52. for (int j = 0; j < numOfRow; j++)
  53. f1List.add(Byte.parseByte(Integer.toString(random.nextInt(Byte.MAX_VALUE))));
  54. pstmt.setByte(1, f1List);
  55. ArrayList<Short> f2List = new ArrayList<>();
  56. for (int j = 0; j < numOfRow; j++)
  57. f2List.add(Short.parseShort(Integer.toString(random.nextInt(Short.MAX_VALUE))));
  58. pstmt.setShort(2, f2List);
  59. ArrayList<Integer> f3List = new ArrayList<>();
  60. for (int j = 0; j < numOfRow; j++)
  61. f3List.add(random.nextInt(Integer.MAX_VALUE));
  62. pstmt.setInt(3, f3List);
  63. ArrayList<Long> f4List = new ArrayList<>();
  64. for (int j = 0; j < numOfRow; j++)
  65. f4List.add(random.nextLong());
  66. pstmt.setLong(4, f4List);
  67. // add column
  68. pstmt.columnDataAddBatch();
  69. }
  70. // execute column
  71. pstmt.columnDataExecuteBatch();
  72. }
  73. }
  74. private static void bindFloat(Connection conn) throws SQLException {
  75. String sql = "insert into ? using stable2 tags(?,?) values(?,?,?)";
  76. TSDBPreparedStatement pstmt = conn.prepareStatement(sql).unwrap(TSDBPreparedStatement.class);
  77. for (int i = 1; i <= numOfSubTable; i++) {
  78. // set table name
  79. pstmt.setTableName("t2_" + i);
  80. // set tags
  81. pstmt.setTagFloat(0, random.nextFloat());
  82. pstmt.setTagDouble(1, random.nextDouble());
  83. // set columns
  84. ArrayList<Long> tsList = new ArrayList<>();
  85. long current = System.currentTimeMillis();
  86. for (int j = 0; j < numOfRow; j++)
  87. tsList.add(current + j);
  88. pstmt.setTimestamp(0, tsList);
  89. ArrayList<Float> f1List = new ArrayList<>();
  90. for (int j = 0; j < numOfRow; j++)
  91. f1List.add(random.nextFloat());
  92. pstmt.setFloat(1, f1List);
  93. ArrayList<Double> f2List = new ArrayList<>();
  94. for (int j = 0; j < numOfRow; j++)
  95. f2List.add(random.nextDouble());
  96. pstmt.setDouble(2, f2List);
  97. // add column
  98. pstmt.columnDataAddBatch();
  99. }
  100. // execute
  101. pstmt.columnDataExecuteBatch();
  102. // close if no try-with-catch statement is used
  103. pstmt.close();
  104. }
  105. private static void bindBoolean(Connection conn) throws SQLException {
  106. String sql = "insert into ? using stable3 tags(?) values(?,?)";
  107. try (TSDBPreparedStatement pstmt = conn.prepareStatement(sql).unwrap(TSDBPreparedStatement.class)) {
  108. for (int i = 1; i <= numOfSubTable; i++) {
  109. // set table name
  110. pstmt.setTableName("t3_" + i);
  111. // set tags
  112. pstmt.setTagBoolean(0, random.nextBoolean());
  113. // set columns
  114. ArrayList<Long> tsList = new ArrayList<>();
  115. long current = System.currentTimeMillis();
  116. for (int j = 0; j < numOfRow; j++)
  117. tsList.add(current + j);
  118. pstmt.setTimestamp(0, tsList);
  119. ArrayList<Boolean> f1List = new ArrayList<>();
  120. for (int j = 0; j < numOfRow; j++)
  121. f1List.add(random.nextBoolean());
  122. pstmt.setBoolean(1, f1List);
  123. // add column
  124. pstmt.columnDataAddBatch();
  125. }
  126. // execute
  127. pstmt.columnDataExecuteBatch();
  128. }
  129. }
  130. private static void bindBytes(Connection conn) throws SQLException {
  131. String sql = "insert into ? using stable4 tags(?) values(?,?)";
  132. try (TSDBPreparedStatement pstmt = conn.prepareStatement(sql).unwrap(TSDBPreparedStatement.class)) {
  133. for (int i = 1; i <= numOfSubTable; i++) {
  134. // set table name
  135. pstmt.setTableName("t4_" + i);
  136. // set tags
  137. pstmt.setTagString(0, new String("abc"));
  138. // set columns
  139. ArrayList<Long> tsList = new ArrayList<>();
  140. long current = System.currentTimeMillis();
  141. for (int j = 0; j < numOfRow; j++)
  142. tsList.add(current + j);
  143. pstmt.setTimestamp(0, tsList);
  144. ArrayList<String> f1List = new ArrayList<>();
  145. for (int j = 0; j < numOfRow; j++) {
  146. f1List.add(new String("abc"));
  147. }
  148. pstmt.setString(1, f1List, BINARY_COLUMN_SIZE);
  149. // add column
  150. pstmt.columnDataAddBatch();
  151. }
  152. // execute
  153. pstmt.columnDataExecuteBatch();
  154. }
  155. }
  156. private static void bindString(Connection conn) throws SQLException {
  157. String sql = "insert into ? using stable5 tags(?) values(?,?)";
  158. try (TSDBPreparedStatement pstmt = conn.prepareStatement(sql).unwrap(TSDBPreparedStatement.class)) {
  159. for (int i = 1; i <= numOfSubTable; i++) {
  160. // set table name
  161. pstmt.setTableName("t5_" + i);
  162. // set tags
  163. pstmt.setTagNString(0, "California.SanFrancisco");
  164. // set columns
  165. ArrayList<Long> tsList = new ArrayList<>();
  166. long current = System.currentTimeMillis();
  167. for (int j = 0; j < numOfRow; j++)
  168. tsList.add(current + j);
  169. pstmt.setTimestamp(0, tsList);
  170. ArrayList<String> f1List = new ArrayList<>();
  171. for (int j = 0; j < numOfRow; j++) {
  172. f1List.add("California.LosAngeles");
  173. }
  174. pstmt.setNString(1, f1List, BINARY_COLUMN_SIZE);
  175. // add column
  176. pstmt.columnDataAddBatch();
  177. }
  178. // execute
  179. pstmt.columnDataExecuteBatch();
  180. }
  181. }
  182. }

用于设定 TAGS 取值的方法总共有:

  1. public void setTagNull(int index, int type)
  2. public void setTagBoolean(int index, boolean value)
  3. public void setTagInt(int index, int value)
  4. public void setTagByte(int index, byte value)
  5. public void setTagShort(int index, short value)
  6. public void setTagLong(int index, long value)
  7. public void setTagTimestamp(int index, long value)
  8. public void setTagFloat(int index, float value)
  9. public void setTagDouble(int index, double value)
  10. public void setTagString(int index, String value)
  11. public void setTagNString(int index, String value)

用于设定 VALUES 数据列的取值的方法总共有:

  1. public void setInt(int columnIndex, ArrayList<Integer> list) throws SQLException
  2. public void setFloat(int columnIndex, ArrayList<Float> list) throws SQLException
  3. public void setTimestamp(int columnIndex, ArrayList<Long> list) throws SQLException
  4. public void setLong(int columnIndex, ArrayList<Long> list) throws SQLException
  5. public void setDouble(int columnIndex, ArrayList<Double> list) throws SQLException
  6. public void setBoolean(int columnIndex, ArrayList<Boolean> list) throws SQLException
  7. public void setByte(int columnIndex, ArrayList<Byte> list) throws SQLException
  8. public void setShort(int columnIndex, ArrayList<Short> list) throws SQLException
  9. public void setString(int columnIndex, ArrayList<String> list, int size) throws SQLException
  10. public void setNString(int columnIndex, ArrayList<String> list, int size) throws SQLException

无模式写入

TDengine 支持无模式写入功能。无模式写入兼容 InfluxDB 的 行协议(Line Protocol)、OpenTSDB 的 telnet 行协议和 OpenTSDB 的 JSON 格式协议。详情请参见无模式写入

注意

  • JDBC REST 连接目前不支持无模式写入
  • 以下示例代码基于 taos-jdbcdriver-3.0.0
  1. public class SchemalessInsertTest {
  2. private static final String host = "127.0.0.1";
  3. private static final String lineDemo = "st,t1=3i64,t2=4f64,t3=\"t3\" c1=3i64,c3=L\"passit\",c2=false,c4=4f64 1626006833639000000";
  4. private static final String telnetDemo = "stb0_0 1626006833 4 host=host0 interface=eth0";
  5. private static final String jsonDemo = "{\"metric\": \"meter_current\",\"timestamp\": 1346846400,\"value\": 10.3, \"tags\": {\"groupid\": 2, \"location\": \"California.SanFrancisco\", \"id\": \"d1001\"}}";
  6. public static void main(String[] args) throws SQLException {
  7. final String url = "jdbc:TAOS://" + host + ":6030/?user=root&password=taosdata";
  8. try (Connection connection = DriverManager.getConnection(url)) {
  9. init(connection);
  10. SchemalessWriter writer = new SchemalessWriter(connection);
  11. writer.write(lineDemo, SchemalessProtocolType.LINE, SchemalessTimestampType.NANO_SECONDS);
  12. writer.write(telnetDemo, SchemalessProtocolType.TELNET, SchemalessTimestampType.MILLI_SECONDS);
  13. writer.write(jsonDemo, SchemalessProtocolType.JSON, SchemalessTimestampType.NOT_CONFIGURED);
  14. }
  15. }
  16. private static void init(Connection connection) throws SQLException {
  17. try (Statement stmt = connection.createStatement()) {
  18. stmt.executeUpdate("drop database if exists test_schemaless");
  19. stmt.executeUpdate("create database if not exists test_schemaless");
  20. stmt.executeUpdate("use test_schemaless");
  21. }
  22. }
  23. }

数据订阅

TDengine Java 连接器支持订阅功能,应用 API 如下:

创建 Topic

  1. Connection connection = DriverManager.getConnection(url, properties);
  2. Statement statement = connection.createStatement();
  3. statement.executeUpdate("create topic if not exists topic_speed as select ts, speed from speed_table");

subscribe 方法的三个参数含义如下:

  • topic_speed:订阅的主题(即名称),此参数是订阅的唯一标识。
  • sql:订阅的查询语句,此语句只能是 select 语句,只应查询原始数据,只能按时间正序查询数据。

如上面的例子将使用 SQL 语句 select ts, speed from speed_table 创建一个名为 topic_speed 的订阅。

创建 Consumer

  1. Properties config = new Properties();
  2. config.setProperty("enable.auto.commit", "true");
  3. config.setProperty("group.id", "group1");
  4. config.setProperty("value.deserializer", "com.taosdata.jdbc.tmq.ConsumerTest.ResultDeserializer");
  5. TaosConsumer consumer = new TaosConsumer<>(config);
  • enable.auto.commit: 是否允许自动提交。
  • group.id: consumer: 所在的 group。
  • value.deserializer: 结果集反序列化方法,可以继承 com.taosdata.jdbc.tmq.ReferenceDeserializer,并指定结果集 bean,实现反序列化。也可以继承 com.taosdata.jdbc.tmq.Deserializer,根据 SQL 的 resultSet 自定义反序列化方式。
  • td.connect.type: 连接方式。jni:表示使用动态库连接的方式,ws/WebSocket:表示使用 WebSocket 进行数据通信。默认为 jni 方式。
  • httpConnectTimeout:创建连接超时参数,单位 ms,默认为 5000 ms。仅在 WebSocket 连接下有效。
  • messageWaitTimeout:数据传输超时参数,单位 ms,默认为 10000 ms。仅在 WebSocket 连接下有效。 其他参数请参考:Consumer 参数列表

订阅消费数据

  1. while(true) {
  2. ConsumerRecords<ResultBean> records = consumer.poll(Duration.ofMillis(100));
  3. for (ResultBean record : records) {
  4. process(record);
  5. }
  6. }

poll 每次调用获取一个消息。

关闭订阅

  1. // 取消订阅
  2. consumer.unsubscribe();
  3. // 关闭消费
  4. consumer.close()

详情请参考:数据订阅

使用示例如下:

  • 原生连接
  • WebSocket 连接
  1. public abstract class ConsumerLoop {
  2. private final TaosConsumer<ResultBean> consumer;
  3. private final List<String> topics;
  4. private final AtomicBoolean shutdown;
  5. private final CountDownLatch shutdownLatch;
  6. public ConsumerLoop() throws SQLException {
  7. Properties config = new Properties();
  8. config.setProperty("msg.with.table.name", "true");
  9. config.setProperty("enable.auto.commit", "true");
  10. config.setProperty("group.id", "group1");
  11. config.setProperty("value.deserializer", "com.taosdata.jdbc.tmq.ConsumerTest.ConsumerLoop$ResultDeserializer");
  12. this.consumer = new TaosConsumer<>(config);
  13. this.topics = Collections.singletonList("topic_speed");
  14. this.shutdown = new AtomicBoolean(false);
  15. this.shutdownLatch = new CountDownLatch(1);
  16. }
  17. public abstract void process(ResultBean result);
  18. public void pollData() throws SQLException {
  19. try {
  20. consumer.subscribe(topics);
  21. while (!shutdown.get()) {
  22. ConsumerRecords<ResultBean> records = consumer.poll(Duration.ofMillis(100));
  23. for (ResultBean record : records) {
  24. process(record);
  25. }
  26. }
  27. consumer.unsubscribe();
  28. } finally {
  29. consumer.close();
  30. shutdownLatch.countDown();
  31. }
  32. }
  33. public void shutdown() throws InterruptedException {
  34. shutdown.set(true);
  35. shutdownLatch.await();
  36. }
  37. public static class ResultDeserializer extends ReferenceDeserializer<ResultBean> {
  38. }
  39. public static class ResultBean {
  40. private Timestamp ts;
  41. private int speed;
  42. public Timestamp getTs() {
  43. return ts;
  44. }
  45. public void setTs(Timestamp ts) {
  46. this.ts = ts;
  47. }
  48. public int getSpeed() {
  49. return speed;
  50. }
  51. public void setSpeed(int speed) {
  52. this.speed = speed;
  53. }
  54. }
  55. }

除了原生的连接方式,Java 连接器还支持通过 WebSocket 订阅数据。

  1. public abstract class ConsumerLoop {
  2. private final TaosConsumer<ResultBean> consumer;
  3. private final List<String> topics;
  4. private final AtomicBoolean shutdown;
  5. private final CountDownLatch shutdownLatch;
  6. public ConsumerLoop() throws SQLException {
  7. Properties config = new Properties();
  8. config.setProperty("bootstrap.servers", "localhost:6041");
  9. config.setProperty("td.connect.type", "ws");
  10. config.setProperty("msg.with.table.name", "true");
  11. config.setProperty("enable.auto.commit", "true");
  12. config.setProperty("group.id", "group2");
  13. config.setProperty("value.deserializer", "com.taosdata.jdbc.tmq.ConsumerTest.ConsumerLoop$ResultDeserializer");
  14. this.consumer = new TaosConsumer<>(config);
  15. this.topics = Collections.singletonList("topic_speed");
  16. this.shutdown = new AtomicBoolean(false);
  17. this.shutdownLatch = new CountDownLatch(1);
  18. }
  19. public abstract void process(ResultBean result);
  20. public void pollData() throws SQLException {
  21. try {
  22. consumer.subscribe(topics);
  23. while (!shutdown.get()) {
  24. ConsumerRecords<ResultBean> records = consumer.poll(Duration.ofMillis(100));
  25. for (ResultBean record : records) {
  26. process(record);
  27. }
  28. }
  29. consumer.unsubscribe();
  30. } finally {
  31. consumer.close();
  32. shutdownLatch.countDown();
  33. }
  34. }
  35. public void shutdown() throws InterruptedException {
  36. shutdown.set(true);
  37. shutdownLatch.await();
  38. }
  39. public static class ResultDeserializer extends ReferenceDeserializer<ResultBean> {
  40. }
  41. public static class ResultBean {
  42. private Timestamp ts;
  43. private int speed;
  44. public Timestamp getTs() {
  45. return ts;
  46. }
  47. public void setTs(Timestamp ts) {
  48. this.ts = ts;
  49. }
  50. public int getSpeed() {
  51. return speed;
  52. }
  53. public void setSpeed(int speed) {
  54. this.speed = speed;
  55. }
  56. }
  57. }

注意:这里的 value.deserializer 配置参数值应该根据测试环境的包路径做相应的调整。

与连接池使用

HikariCP

使用示例如下:

  1. public static void main(String[] args) throws SQLException {
  2. HikariConfig config = new HikariConfig();
  3. // jdbc properties
  4. config.setJdbcUrl("jdbc:TAOS://127.0.0.1:6030/log");
  5. config.setUsername("root");
  6. config.setPassword("taosdata");
  7. // connection pool configurations
  8. config.setMinimumIdle(10); //minimum number of idle connection
  9. config.setMaximumPoolSize(10); //maximum number of connection in the pool
  10. config.setConnectionTimeout(30000); //maximum wait milliseconds for get connection from pool
  11. config.setMaxLifetime(0); // maximum life time for each connection
  12. config.setIdleTimeout(0); // max idle time for recycle idle connection
  13. config.setConnectionTestQuery("select server_status()"); //validation query
  14. HikariDataSource ds = new HikariDataSource(config); //create datasource
  15. Connection connection = ds.getConnection(); // get connection
  16. Statement statement = connection.createStatement(); // get statement
  17. //query or insert
  18. // ...
  19. connection.close(); // put back to connection pool
  20. }

通过 HikariDataSource.getConnection() 获取连接后,使用完成后需要调用 close() 方法,实际上它并不会关闭连接,只是放回连接池中。 更多 HikariCP 使用问题请查看官方说明

Druid

使用示例如下:

  1. public static void main(String[] args) throws Exception {
  2. DruidDataSource dataSource = new DruidDataSource();
  3. // jdbc properties
  4. dataSource.setDriverClassName("com.taosdata.jdbc.TSDBDriver");
  5. dataSource.setUrl(url);
  6. dataSource.setUsername("root");
  7. dataSource.setPassword("taosdata");
  8. // pool configurations
  9. dataSource.setInitialSize(10);
  10. dataSource.setMinIdle(10);
  11. dataSource.setMaxActive(10);
  12. dataSource.setMaxWait(30000);
  13. dataSource.setValidationQuery("select server_status()");
  14. Connection connection = dataSource.getConnection(); // get connection
  15. Statement statement = connection.createStatement(); // get statement
  16. //query or insert
  17. // ...
  18. connection.close(); // put back to connection pool
  19. }

更多 druid 使用问题请查看官方说明

更多示例程序

示例程序源码位于 TDengine/examples/JDBC 下:

  • JDBCDemo:JDBC 示例源程序。
  • JDBCConnectorChecker:JDBC 安装校验源程序及 jar 包。
  • connectionPools:HikariCP, Druid, dbcp, c3p0 等连接池中使用 taos-jdbcdriver。
  • SpringJdbcTemplate:Spring JdbcTemplate 中使用 taos-jdbcdriver。
  • mybatisplus-demo:Springboot + Mybatis 中使用 taos-jdbcdriver。

请参考:JDBC example

最近更新记录

taos-jdbcdriver 版本主要变化
3.1.0WebSocket 连接支持订阅功能
3.0.1 - 3.0.4修复一些情况下结果集数据解析错误的问题。3.0.1 在 JDK 11 环境编译,JDK 8 环境下建议使用其他版本
3.0.0支持 TDengine 3.0
2.0.42修在 WebSocket 连接中 wasNull 接口返回值
2.0.41修正 REST 连接中用户名和密码转码方式
2.0.39 - 2.0.40增加 REST 连接/请求 超时设置
2.0.38JDBC REST 连接增加批量拉取功能
2.0.37增加对 json tag 支持
2.0.36增加对 schemaless 写入支持

常见问题

  1. 使用 Statement 的 addBatch()executeBatch() 来执行“批量写入/更新”,为什么没有带来性能上的提升?

原因:TDengine 的 JDBC 实现中,通过 addBatch 方法提交的 SQL 语句,会按照添加的顺序,依次执行,这种方式没有减少与服务端的交互次数,不会带来性能上的提升。

解决方法:1. 在一条 insert 语句中拼接多个 values 值;2. 使用多线程的方式并发插入;3. 使用参数绑定的写入方式

  1. java.lang.UnsatisfiedLinkError: no taos in java.library.path

原因:程序没有找到依赖的本地函数库 taos。

解决方法:Windows 下可以将 C:\TDengine\driver\taos.dll 拷贝到 C:\Windows\System32\ 目录下,Linux 下将建立如下软链 ln -s /usr/local/taos/driver/libtaos.so.x.x.x.x /usr/lib/libtaos.so 即可,macOS 下需要建立软链 ln -s /usr/local/lib/libtaos.dylib

  1. java.lang.UnsatisfiedLinkError: taos.dll Can’t load AMD 64 bit on a IA 32-bit platform

原因:目前 TDengine 只支持 64 位 JDK。

解决方法:重新安装 64 位 JDK。

  1. java.lang.NoSuchMethodError: setByteArray

原因:taos-jdbcdriver 3.* 版本仅支持 TDengine 3.0 及以上版本。

解决方法: 使用 taos-jdbcdriver 2. 版本连接 TDengine 2. 版本。

  1. java.lang.NoSuchMethodError: java.nio.ByteBuffer.position(I)Ljava/nio/ByteBuffer; … taos-jdbcdriver-3.0.1.jar

原因:taos-jdbcdriver 3.0.1 版本需要在 JDK 11+ 环境使用。

解决方法: 更换 taos-jdbcdriver 3.0.2+ 版本。

其它问题请参考 FAQ

API 参考

taos-jdbcdriver doc