open-sourceworkfloworchestration
开源项目第177期:Apache Airflow — 用 Python 写出来的工作流调度器,数据工程师的标配工具
Apache Airflow 是用 Python 定义、调度和监控工作流的平台,核心概念是 DAG(有向无环图)。用代码描述任务之间的依赖关系,定时或按数据事件触发执行,通过 Web UI 监控每一步的状态。覆盖 ETL/ELT 数据管道、机器学习训练流水线、基础设施自动化、定时报表四大场景。46.4k Stars,Apache 2.0,版本 3.3.0,600+ 开箱即用的 Operator 和 Provider。
·约 11 分钟阅读