切换主题
3.3.8 计算集群、资源中心与数据开发的关联
3.3.8.1 关联关系总览
计算集群与资源中心不是孤立的功能:前者提供运行实时 SQL 作业的计算能力,后者提供任务所需的文件,两者都依赖项目内已创建的数据源。
| 依赖方 | 被依赖方 | 关联方式 |
|---|---|---|
| 计算会话 | K8s 数据源 | 创建实例时选择 K8s 集群并填写命名空间 |
| 计算会话 | 对象存储数据源 | 选择数据源并填写 Flink 根目录,用于存放 checkpoint、savepoint 与历史归档 |
| 计算会话 | 资源中心 | 第三方 JAR 以 s3:// 路径引用资源中心所在存储桶中的文件 |
| 实时任务(SQL) | 计算会话 | 新建/编辑时「Flink Session」为必填项,作业提交到所选 Session 运行 |
| 实时任务(JAR) | 资源中心 | 「JAR 资源」从资源中心选择,或通过「打开资源中心」先上传 |
| 实时任务(JAR / SQL) | K8s 数据源 | 指定作业运行所用的集群与命名空间 |
| 离线节点 | 资源中心 | 节点设置的「资源」按 S3 数据源 + 资源文件引用 |
左右滑动查看完整表格
三者的边界 计算会话只提供计算能力,不存放业务文件;资源中心只存放文件,不提供算力;数据开发任务负责把两者组合起来运行。排障时先判断问题出在算力、文件还是任务配置。 |
3.3.8.2 推荐配置顺序
四类对象存在先后依赖,按以下顺序配置可以避免下拉列表为空、任务无法启动等问题。
- 创建数据源:在数据源管理中创建 K8S 数据源与对象存储数据源,命名空间与存储桶就绪。
- 创建计算会话:在「计算集群 → 计算会话」中新建实例,等待状态变为「运行中」。
- 准备资源文件:在「资源中心」创建或上传脚本、JAR 与配置文件。
- 创建实时任务:SQL 作业选择已就绪的 Flink Session;JAR 作业选择 JAR 资源与 Main Class。
- 上线并启动任务:任务上线后启动,实例在任务实例列表中可查。
3.3.8.3 依赖不满足时的表现
| 缺失项 | 典型表现 | 处理方式 |
|---|---|---|
| 未创建 K8S 数据源 | 新建计算会话时「K8s 集群」下拉为空 | 先在数据源管理中创建 K8S 数据源 |
| 未创建对象存储数据源 | 新建计算会话时「对象存储数据源」下拉为空 | 创建对象存储数据源并填写存储桶 |
| 没有可用的计算会话 | 实时 SQL 任务无法选择 Flink Session,任务无法提交 | 先创建并启动计算会话,待状态为「运行中」 |
| JAR 未上传到资源中心 | 实时 JAR 任务的「JAR 资源」无可选文件 | 在资源中心上传 JAR 后再选择 |
| 节点未选择资源 | 离线节点运行时报找不到文件 | 在节点设置的「资源」中重新选择并「重新加载」 |
| 资源文件被改名或删除 | 已上线的任务运行失败,日志提示文件不存在 | 恢复文件路径,或到节点与任务中重新选择 |
左右滑动查看完整表格
上线任务前的自查 按四项逐一核对:① 数据源——K8S 与对象存储数据源均已创建,存储桶已填写;② 计算会话——列表中存在状态为「运行中」的实例,其命名空间与实时任务一致;③ 资源中心——脚本、JAR 与配置文件已上传,且能在任务中选中;④ 任务配置——实时 SQL 任务已选择 Flink Session,实时 JAR 任务已选择 JAR 资源与 Main Class。四项齐备后再上线,可避免大部分启动失败。 |