PXF 对象存储连接器支持读取Avro格式数据。 本节描述如何使用PXF访问对象存储中的Avro数据, 包括创建和查询引用对象存储中Avro文件的外部表。

注意: 从对象存储访问Avro格式数据与访问HDFS中的Avro格式数据非常相似。 本主题标识了读取对象存储所需的特定信息,并在通用信息的位置链接到 PXF HDFS Avro 文档

先决条件

在您尝试从对象存储中读取数据前,确保已满足PXF 对象存储先决条件

使用Avro数据

有关Apache Avro数据序列化框架的说明,请参考PXF HDFS Avro文档中的使用Avro数据

创建外部表

使用 <objstore>:avro 配置文件从对象存储中读取Avro格式文件。PXF 支持以下 <objstore> 配置前缀:

对象存储配置前缀
Azure Blob Storagewasbs
Azure Data Lakeadl
Google Cloud Storagegs
Minios3
S3s3

以下语法创建一个引用Avro格式文件的Greenplum数据库可读外部表:

  1. CREATE EXTERNAL TABLE <table_name>
  2. ( <column_name> <data_type> [, ...] | LIKE <other_table> )
  3. LOCATION ('pxf://<path-to-file>?PROFILE=<objstore>:avro[&SERVER=<server_name>][&<custom-option>=<value>[...]]')
  4. FORMAT 'CUSTOM' (FORMATTER='pxfwritable_import');

CREATE EXTERNAL TABLE命令中使用的特定关键字和值见下表中描述。

关键字
<path‑to‑file>对象存储中文件或目录的绝对路径
PROFILE=<objstore>:avroPROFILE 必须指定为特定的对象存储。例如, s3:avro
SERVER=<server_name>PXF用于访问数据的命名服务器配置。可选的; 如果未指定,PXF将使用default服务器。
<custom‑option>=<value>特定于Avro的自定义选项描述见 PXF HDFS Avro 文档 
FORMAT ‘CUSTOM’<objstore>:avro 配置文件中使用 FORMAT ‘CUSTOM’CUSTOM FORMAT 要求您指定为 (FORMATTER=’pxfwritable_import’)

如果要访问S3对象存储,则可以通过[CREATE EXTERNAL TABLE]命令中的自定义选项提供S3凭据,如使用DDL覆盖S3服务器配置中所述。

示例

有关Avro示例,请参阅PXF HDFS Avro 文档中的 示例: 读取Avro数据。在对象存储中运行示例,必要的修改如下:

  • 将文件复制到对象存储而不是HDFS。 例如,将文件复制到S3:

    1. $ aws s3 cp /tmp/pxf_avro.avro s3://BUCKET/pxf_examples/
  • 使用上述的 CREATE EXTERNAL TABLE 语法和 LOCATION 关键字及设置。例如, 假设您的服务名为 s3srvcfg

    1. CREATE EXTERNAL TABLE pxf_s3_avro(id bigint, username text, followers text, fmap text, relationship text, address text)
    2. LOCATION ('pxf://BUCKET/pxf_examples/pxf_avro.avro?PROFILE=s3:avro&SERVER=s3srvcfg&COLLECTION_DELIM=,&MAPKEY_DELIM=:&RECORDKEY_DELIM=:')
    3. FORMAT 'CUSTOM' (FORMATTER='pxfwritable_import');