基本概念

NameDescriptionOther
Standard Architecture标准架构,包含 InLong Agent/Manager/MQ/Sort/Dashboard 等所有 InLong 组件适合海量数据、大规模生产环境
Lightweight Architecture轻量化架构,只包含 InLong Sort 一个组件,可以搭配 Manager/Dashboard 一起使用轻量化架构简单、灵活,适合小规模数据
Group数据流组,包含多个数据流,一个Group 代表一个数据接入Group 有ID、Name 等属性
Stream数据流,一个数据流有具体的流向Stream 有ID、Name、数据字段等属性
Node数据节点,包括Extract NodeLoad Node,分别代表数据源类型和数据流向目标类型
InLongMsgInLong 数据格式,如果从消息队列中直接消费,需要先进行InLongMsg 解析
Agent标准架构使用 Agent 进行数据采集,Agent 代表不同类型的采集能力包含文件 Agent、SQL Agent、Binlog Agent 等
DataProxy将接收到的数据转发到不同的消息队列支持数据发送阻塞和落盘重发
Sort数据流分拣主要有基于 Flink 的 sort-flink,sort-standalone 本地分拣
TubeMQInLong 自带的消息队列服务也可以叫 Tube,拥有低成本、高性能特性
PulsarApache Pulsar, 高性能、高一致性消息队列服务