去年秋天,我给一家做汽车零部件的企业做数据平台选型咨询。他们的处境很典型:ERP、MES 里的主数据、历史订单、财务凭证,需要每天凌晨跑一批离线任务,做全量抽取、清洗、汇总,喂给第二天的经营报表;同时,产线上的设备数据、MES 的报工数据,又要求秒级同步到数仓,支撑车间大屏和异常预警。技术负责人跟我抱怨了一句话,我记到现在:"我们不是缺工具,是缺一个能同时干这两件事、还不让我维护两套东西的平台。"
批处理和 CDC 都要做,企业数据平台怎么选?FineDataLink 5.0 流批一体实践
他说的是实话。过去三年,我接触过 40 多家有类似诉求的企业,从 10 亿营收的腰部客户到 100 亿以上的集团,几乎都卡在同一个问题上:批处理和实时增量,被当成了两件互不相干的事,于是企业被迫上了两套工具、养了两拨人、写了两套代码。 这篇文章,我想把这个问题讲透,再给一套我验证过的选型判断逻辑。
一、核心结论:流批分离不是技术问题,是成本问题
先把结论摆出来:企业之所以觉得批处理和 CDC 难统一,根源不在技术,而在过去十年工具的分工方式。 离线 ETL 工具管批处理,实时同步工具管 CDC,实时计算平台管流处理,三套东西各管一段,企业为了把它们拼起来,付出了远超预期的集成和维护成本。
拆开来看,有三条子结论。
其一,批处理和 CDC 本质上是同一种"数据搬运"的两种节奏,而不是两种能力。 批处理是"定时、全量或按条件抽取",CDC 是"监听日志、持续增量同步",它们的差异在触发方式和数据量,不在"要不要做数据集成"。一个平台如果连"搬运"这件事都要拆成两个产品,那它的架构设计本身就有问题。
其二,企业真正要的不是"流批一体"这个词,而是"一套开发、一套调度、一套监控、一套质量规则"。 我在项目里反复验证过:当开发人员要在两套界面里维护同一批表的字段映射、要在两个调度系统里配同一批依赖关系、要在两个监控面板里看同一批任务的运行状态,出错率和维护成本会成倍上升。这不是效率问题,是可靠性问题。
其三,选型时最容易被忽略的,是流和批之间的"交接点"。 实时同步把数据写进 ODS 之后,谁来触发下游的批量加工?实时结果要不要回写业务系统?这些"流批衔接"的细节,决定了平台是真正的一体,还是两个工具拼在一起。
二、真实场景:为什么"两套工具"会让企业越用越累
我复盘过一个中型制造企业的案例,这家企业年营收 30 亿上下,IT 团队 12 个人。他们当时的架构是这样的:用一套开源 ETL 工具做离线批处理,用另一套开源 CDC 工具做数据库实时同步,再用一个消息队列做中间件。
看起来各司其职,实际运行起来问题一堆。
先是字段口径打架。同一个"订单金额"字段,离线任务里叫 order_amount,实时同步里叫 amount,下游数仓要分别对接两套命名,分析师写 SQL 时经常搞混。然后是调度割裂。离线任务每天凌晨 2 点跑,实时同步 24 小时不停,但两者之间没有依赖关系——有一次离线任务因为上游业务库变更失败,实时同步却照常把脏数据推进了 ODS,等到第二天报表出来才发现数据对不上,追了三天才定位到是两张表的结构不一致。
最要命的是运维。两套工具的日志格式不一样、告警渠道不一样、监控指标不一样,IT 团队里只有一个人同时懂这两套东西,他请假那周,整个数据链路处于"没人敢动"的状态。
这个案例让我得出一个判断:工具的数量每多一套,企业的隐性运维成本不是线性增加,而是成倍增加。 因为每套工具都需要有人懂、有人维护、有人兜底,而这三样东西在企业里往往是同一个人的兼职。
三、拆解常见误区:选型时你大概率正在犯的三个错
1. 把"支持 CDC"当成"流批一体"
这是最常见的误区。很多平台宣传自己支持 CDC 实时同步,企业就以为买到了流批一体能力。实际上,CDC 只是实时同步的一种技术手段,它解决的是"怎么把增量数据搬过来",不解决"搬过来之后怎么和离线数据统一加工、统一调度、统一治理"。
判断标准很简单:去看这个平台的 CDC 任务和离线任务,是不是在同一个开发界面、同一个调度系统、同一套质量规则里管理。 如果不是,那它只是"两套工具打包卖",不是流批一体。
2. 忽略了流批衔接的调度能力
我见过不止一家企业,实时同步和离线加工都做得不错,但卡在"实时数据落地后,怎么触发下游的批量任务"这一步。有的靠人工手动触发,有的靠写脚本轮询,有的干脆把实时数据先落库,再等下一个离线周期去扫。
真正的流批一体,必须支持"实时任务完成后触发定时任务"的编排能力。 比如实时同步把某张表的最新数据写进 ODS 后,自动触发下游的清洗、汇总任务,而不是等一个固定时间点。这个细节,决定了你的数据时效性上限。
3. 只看功能清单,不看信创适配
这一点在央国企和金融客户身上尤其突出。很多企业选型时盯着功能对比表,却忽略了平台对国产数据库、国产操作系统的适配程度。等真到了信创替代的节点,发现实时同步不支持达梦、OceanBase、GaussDB,离线抽取也不支持人大金仓 KingbaseES,整个平台就卡住了。
信创适配不是"加分项",是未来三年绕不开的"必答题"。 选型时就应该把对达梦 DM8、KingbaseES、OceanBase、GaussDB 等信创数据源的实时同步支持,作为硬性考察项。
四、专业判断逻辑:我用什么框架来评估一个流批一体平台
基于上面这些坑,我建立了一套评估框架,核心是五个问题。任何一个平台,把这五个问题问清楚,基本就能判断它是不是真的流批一体。
| 评估维度 | 要问的关键问题 | 合格的标准 |
|---|---|---|
| 开发统一 | 批处理任务和 CDC 任务,是不是在同一个可视化画布里开发? | 同一界面拖拽,字段映射、算子复用 |
| 调度统一 | 流和批的任务,能不能用同一套调度引擎编排依赖? | 支持事件调度、任务调用、跨任务编排 |
| 监控统一 | 流和批的运行状态、日志、告警,是不是一个面板看全? | 统一任务运维,失败重试、异常通知 |
| 质量统一 | 流和批的数据,能不能用同一套质量规则检测? | 质量检测任务可被定时任务直接调用 |
| 信创适配 | 国产数据库、国产环境,流和批是不是都支持? | 达梦、KingbaseES、OceanBase、GaussDB 实时+离线全覆盖 |
这五个问题里,前四个是"一体"的体现,第五个是"能不能落地"的前提。缺任何一个,都算不上合格的流批一体平台。
五、FineDataLink 5.0 是怎么做的:一个完整的流批一体实践
我在多个项目里实际用过 FineDataLink 5.0,这里结合它的能力,讲清楚一个流批一体平台应该长什么样。FineDataLink 是帆软旗下的企业级数据集成与治理平台,它的核心定位就是"低代码、高时效",把离线批处理和实时增量同步放进同一套体系里。
5.1 统一开发:一个画布搞定批处理和 CDC
FineDataLink 的数据开发模块,用图形化拖拽的方式完成数据编排。批处理任务里,你可以用"数据同步"节点做全量抽取,用"数据转换"节点做清洗、关联、汇总,用"脚本节点"调用 SQL、Shell、Python 做复杂逻辑。CDC 实时同步则走"数据管道"模块,通过监听数据库日志变化,利用 Kafka 作为中间件,实现向目标端的实时写入。
关键在于,这两类任务共享同一套数据源管理、同一套字段映射、同一套算子体系。开发人员不需要在两个界面之间来回切换,也不需要维护两套字段命名。这一点,直接解决了我在前面案例里提到的"字段口径打架"问题。
5.2 统一调度:流批衔接不是靠人工
FineDataLink 的调度能力覆盖了定时调度、事件调度和触发式调度三种模式。其中"事件调度"和"调用任务"节点,解决了流批衔接的难题。
具体来说,一个实时管道任务把数据写进 ODS 后,可以通过事件调度触发下游的定时任务执行;也可以在定时任务里用"调用任务"节点,嵌套调用其他 ETL 任务,实现多层级的任务编排。这样,"实时数据落地 → 触发下游加工 → 结果供数"的整条链路,就能在一个平台里自动跑通,不需要人工干预。
5.3 统一监控:一个面板看全流和批
FineDataLink 的任务运维模块,统一管理定时任务和管道任务。定时任务支持失败重试、脏数据容忍、优先级设置;管道任务可以查看运行状态、数据同步性能、异常检查和处理。异常通知支持邮件、短信、企业微信、钉钉等多种渠道。
这样一来,流和批的任务运行状态,在同一个面板里就能看全,告警也走同一条渠道。运维人员不需要在两个监控系统里来回切换。
5.4 统一质量:数据质量检测可以嵌入任务流
这是 FineDataLink 5.0 一个很关键的能力。它新增的数据质量模块,支持数据质量六性(完整性、一致性、准确性、不重复性、时效性、有效性)的规则检测。更重要的是,质量检测任务可以被定时任务直接调用,实现"数据处理 → 质量检测 → 结果通知"的编排,检测不通过可以阻断后续流程并通知负责人。
换句话说,流批一体不只是"搬运"的一体,还是"治理"的一体。数据在流和批的加工过程中,都能被同一套质量规则把关。
5.4 补充:实时计算与批处理共用一套引擎
FineDataLink 5.0 在流批一体上还有一个容易被忽略的能力,就是它新增的实时计算模块。这个模块面向需要实时数据处理的中大型客户,提供自研引擎和 Flink 外置引擎两种计算引擎,支持可视化的流式数据处理。
这里的关键在于,实时计算和批处理在同一个平台里,共享同一套开发体验。实时任务支持 MQTT、WebSocket、CDC、Kafka、Pulsar、IBM MQ、RabbitMQ、RocketMQ、Paimon、Webhook 等多种输入源,经过 JSON 解析、字段设置、数据过滤、数据关联、分组汇总、FlinkSQL 等处理,再输出到数据库供 FineBI 消费或大屏展示。开发人员用拖拽的方式就能完成实时任务的搭建,不需要手写 Flink 代码。
我在一个制造业客户那里验证过这个能力的价值。他们的设备数据通过 MQTT 接入,需要做实时清洗、聚合,再输出到车间看板。如果用传统的 Flink 开发方式,光是搭环境、写 Connector、调试作业,就需要一个熟悉 Flink 的工程师投入两周以上。而用 FineDataLink 的可视化实时计算,一个懂 SQL 的数据开发人员,两天就能把整条实时链路跑通。
流批一体的深层价值,是让"懂业务的人"而不是"懂底层引擎的人"来搭建数据链路。 当实时和离线共用一套可视化开发体验,企业对高端引擎人才的依赖会大幅下降,这才是成本下降的真正来源。
5.5 信创适配:国产数据源的实时和离线全覆盖
FineDataLink 5.0 在数据集成能力上做了专门的扩展,补充了国产数据库实时同步的覆盖。达梦 DM8、人大金仓 KingbaseES、OceanBase、GaussDB、PolarDB-X 等信创数据源,都支持实时同步。同时,定时开发支持的数据源里,也包含了达梦、OceanBase、GaussDB 200、Gbase 8A、人大金仓 Kingbase 等。
这一点对央国企客户尤其重要。信创替代不是"以后再说"的事,而是正在发生的事。一个平台如果现在就不支持国产数据库的实时同步,等企业真到了替换节点,就会陷入被动。
为了让你对信创数据源的覆盖有个直观认识,我整理了一张 FineDataLink 5.0 支持的国产数据库实时同步对照表。这张表的价值不在于罗列名字,而在于说明:流批一体平台的信创适配,不是"支持某一种国产库",而是覆盖不同行业、不同客群的多种国产库。
| 国产数据源 | 主要覆盖行业 | 典型客户画像 | 实时诉求特征 |
|---|---|---|---|
| 达梦 DM8 | 党政、金融、电力 | 国资央企为主,信创覆盖率最高 | 存量系统替换,实时同步刚需 |
| KingbaseES(人大金仓) | 能源、运营商、金融、交通 | 国资央企基础较好 | 核心交易数据实时同步 |
| OceanBase | 互联网、消费、金融 | 付费能力强,技术难度高 | 风控、跨系统分发,实时占比高 |
| GaussDB | 国有大行、国央企、政府 | 华为系客群为主 | 风控、监管,实时诉求占比高 |
| PolarDB-X | 消费、零售 | 民营客户为主 | 技术实现难度与 MySQL 一致 |
从这张表能看出来,国产数据库的实时同步需求,几乎覆盖了央国企、金融、能源、交通、消费等所有重点行业。一个流批一体平台如果在这张表上有明显缺口,那它在信创市场里就注定走不远。
六、案例数据:流批一体到底能带来什么
讲一个我印象深刻的案例。宁德新能源(ATL)是世界最大的聚合物锂电池供应商,它的数据规模极其庞大——数据年增量 300TB 以上,电芯研发测试每天处理的数据超过 20GB。它之前用的是海外 ETL 产品,遇到的核心痛点是"更新慢"。
切换到 FineDataLink 之后,它构建了四节点集群,最高并发 300 个任务,整体任务数 5900 多个,每日运行 30000 多个任务实例。数据同步速率一般可以达到 5 万行以上每秒,单任务 15 亿行数据同步仅需 1 小时 10 分钟,平均流量 11M/s。全年吞吐约 2000TB 数据。
还有一个细节特别能说明流批一体的价值:宁德新能源用 FineDataLink 的批量迁移插件,一周就完成了 3000 多个任务的迁移,而原本预估要三个月。当流和批在同一套体系里,迁移和替换的成本会大幅下降,因为不需要同时迁移两套工具、两套配置、两套依赖关系。
再看一个实时场景的案例。三一重机是全球领先的工程机械制造商,它的 EVI 系统每秒产生 1 万条以上数据,日均 1500 万条以上,需要在秒级时间内过滤、填充车辆信息,并对机器异常实时预警。FineDataLink 帮它打通了 MES、MOM、EVI 等系统之间的数据壁垒,实时取数、快速过滤,异常信息通过飞书推送实时预警。季度吞吐量平均值 12MB/s 以上,峰值 40MB/s 以上。
这两个案例放在一起,恰好说明流批一体的两个面向:宁德新能源代表的是"超大规模离线批处理 + 海量数据同步"的极致,三一重机代表的是"高频实时流处理 + 实时预警"的极致。而它们用的是同一个平台。
七、不同情况下的行动建议
流批一体不是所有企业都该一步到位。我根据企业规模和数据实时性诉求,分成三档给建议。
1. 腰部企业(10-30 亿营收,IT 团队 5 人以下)
核心矛盾是"人少、事多、不能上两套工具"。这类企业最该优先考虑流批一体,因为维护两套工具的人力成本,对它们来说是最不可承受的。
具体行动:先用一个平台把离线批处理做扎实,再逐步把最关键的几张表(订单、库存、报工)切换到 CDC 实时同步。不要一开始就追求全量实时,先跑通"批处理为主、关键表实时"的混合模式。
2. 中大型企业(30-100 亿营收,有专职数据团队)
核心矛盾是"系统多、数据孤岛严重、实时诉求开始出现"。这类企业应该把流批一体作为数据平台升级的核心目标,重点考察流批衔接的调度能力和质量统一能力。
具体行动:优先梳理哪些业务场景是"实时刚需"(车间大屏、异常预警、库存实时),哪些是"离线足够"(经营报表、财务对账),然后按场景分批次上。同时把数据质量规则嵌入任务流,避免"搬得快但数据是脏的"。
3. 集团和央企(100 亿以上,多子公司、信创刚需)
核心矛盾是"信创替代 + 多环境统一 + 集团管控"。这类企业选型时,信创适配是硬门槛,流批一体是加分项但不是全部目标。
具体行动:把达梦、KingbaseES、OceanBase、GaussDB 等信创数据源的实时同步能力作为必选项考察,同时关注平台的集群架构和权限管理能力,支撑多子公司、多环境的统一管控。
八、我的取舍原则:三条红线
最后,给你三条我在选型时坚持的红线,触发了就一票否决。
其一,流和批不在同一套调度体系里的,不选。 不管你功能多全,只要流批任务要分开调度、分开配依赖,后续的运维成本就会失控。
其二,质量检测不能嵌入任务流的,不选。 流批一体如果只管搬运、不管质量,那"一体"就是假一体,脏数据会以更快的速度污染你的数仓。
其三,信创数据源实时同步不支持的,不选。 除非你确定未来五年完全不会碰国产化替代,否则这就是一颗定时炸弹。
九、一份可以直接抄走的选型清单
把前面讲的所有判断,浓缩成一份可以落地执行的选型清单。如果你正在评估流批一体平台,把下面这七项逐条打勾,任何一项不满足,都要在采购前想清楚代价。
| 考察项 | 具体要确认什么 | 不满足的后果 |
|---|---|---|
| 开发统一 | 批处理任务和 CDC 任务是否在同一画布开发 | 字段口径打架,维护两套映射 |
| 调度统一 | 流批任务是否共用一套调度引擎 | 依赖关系割裂,数据时效失控 |
| 监控统一 | 流批运行状态是否一个面板看全 | 运维要盯多个系统,告警漏看 |
| 质量统一 | 质量检测能否嵌入任务流 | 脏数据以更快速度污染数仓 |
| 流批衔接 | 实时落地后能否自动触发下游任务 | 靠人工触发,时效性上限低 |
| 实时计算 | 是否有可视化流式处理,降低 Flink 门槛 | 依赖高端引擎人才,成本高 |
| 信创适配 | 国产数据库实时同步是否全覆盖 | 信创替代时被动,替换成本高 |
这张清单的用法很简单:不要被功能数量迷惑,逐项去验证这七件事是否真的在一个平台里闭环。 功能多但架构割裂的平台,在清单上会原形毕露。
我还想补充一个容易被忽视的验证方法:让厂商做一个"流批衔接"的现场演示。具体场景是——一条 CDC 实时同步任务把订单表写进 ODS,紧接着触发一个下游的批量汇总任务,再触发一个质量检测任务,检测通过后输出到报表。如果厂商能在一个平台里、用可视化配置、在十分钟内把这个链路跑通,那这个平台的流批一体就是真的;如果需要切换多个产品、写脚本、或者"这个功能在另一个模块里",那就要打一个大大的问号。
流批一体的成色,不体现在 PPT 上,体现在一次真实的端到端演示里。
常见问题解答(FAQ)
1. 我们已经有了一套离线 ETL 工具,还需要换成流批一体平台吗?
不一定要立刻换。如果你的离线 ETL 工具运行稳定、团队熟悉、没有实时刚需,那维持现状是合理的。但如果你已经开始有 CDC 实时同步的需求,或者正在规划信创替代,那我建议认真评估流批一体平台。因为一旦你上了第二套实时工具,就会陷入"两套工具"的维护困境,到那时再整合,成本比现在高得多。
核心判断:换不换平台的决策,不取决于功能多不多,而取决于你未来一年会不会同时需要流和批。 会,就早换;不会,就维持。
2. 流批一体平台会不会比单独的批处理工具性能差?
这是很多人担心的问题。从我接触的案例看,成熟的流批一体平台在批处理性能上并不弱。宁德新能源用 FineDataLink 做到单任务 15 亿行数据 1 小时 10 分钟同步完成,平均流量 11M/s,这个性能在批处理场景里是足够的。关键是要看平台的引擎设计,而不是想当然地认为"一体"就意味着"折中"。
核心判断:流批一体省的是开发和运维成本,不是用性能换来的。 真正该担心的是那些"功能堆砌但架构割裂"的伪一体平台。
3. 信创适配到底有多重要,是不是被夸大了?
如果你服务的是民营腰部企业,短期可能感受不到。但如果你服务的是央国企、金融、能源、交通这些行业,信创替代已经是明确的政策方向和时间表。达梦、KingbaseES、OceanBase、GaussDB 这些国产数据库的实时同步支持,会直接影响你的平台能不能在这些客户里落地。
核心判断:信创适配不是营销话术,是未来三年数据集成平台的入场券。 现在不考察,等客户提需求时再补,就晚了。