Skip to content

3.3.8 计算集群、资源中心与数据开发的关联 ​

3.3.8.1 关联关系总览 ​

计算集群与资源中心不是孤立的功能:前者提供运行实时 SQL 作业的计算能力,后者提供任务所需的文件,两者都依赖项目内已创建的数据源。

表49 模块之间的实际依赖关系
依赖方被依赖方关联方式
计算会话K8s 数据源创建实例时选择 K8s 集群并填写命名空间
计算会话对象存储数据源选择数据源并填写 Flink 根目录,用于存放 checkpoint、savepoint 与历史归档
计算会话资源中心第三方 JAR 以 s3:// 路径引用资源中心所在存储桶中的文件
实时任务(SQL)计算会话新建/编辑时「Flink Session」为必填项,作业提交到所选 Session 运行
实时任务(JAR)资源中心「JAR 资源」从资源中心选择,或通过「打开资源中心」先上传
实时任务(JAR / SQL)K8s 数据源指定作业运行所用的集群与命名空间
离线节点资源中心节点设置的「资源」按 S3 数据源 + 资源文件引用

左右滑动查看完整表格

三者的边界

计算会话只提供计算能力,不存放业务文件;资源中心只存放文件,不提供算力;数据开发任务负责把两者组合起来运行。排障时先判断问题出在算力、文件还是任务配置。

3.3.8.2 推荐配置顺序 ​

四类对象存在先后依赖,按以下顺序配置可以避免下拉列表为空、任务无法启动等问题。

  1. 创建数据源:在数据源管理中创建 K8S 数据源与对象存储数据源,命名空间与存储桶就绪。
  2. 创建计算会话:在「计算集群 → 计算会话」中新建实例,等待状态变为「运行中」。
  3. 准备资源文件:在「资源中心」创建或上传脚本、JAR 与配置文件。
  4. 创建实时任务:SQL 作业选择已就绪的 Flink Session;JAR 作业选择 JAR 资源与 Main Class。
  5. 上线并启动任务:任务上线后启动,实例在任务实例列表中可查。

3.3.8.3 依赖不满足时的表现 ​

表50 常见依赖问题的排查方向
缺失项典型表现处理方式
未创建 K8S 数据源新建计算会话时「K8s 集群」下拉为空先在数据源管理中创建 K8S 数据源
未创建对象存储数据源新建计算会话时「对象存储数据源」下拉为空创建对象存储数据源并填写存储桶
没有可用的计算会话实时 SQL 任务无法选择 Flink Session,任务无法提交先创建并启动计算会话,待状态为「运行中」
JAR 未上传到资源中心实时 JAR 任务的「JAR 资源」无可选文件在资源中心上传 JAR 后再选择
节点未选择资源离线节点运行时报找不到文件在节点设置的「资源」中重新选择并「重新加载」
资源文件被改名或删除已上线的任务运行失败,日志提示文件不存在恢复文件路径,或到节点与任务中重新选择

左右滑动查看完整表格

上线任务前的自查

按四项逐一核对:① 数据源——K8S 与对象存储数据源均已创建,存储桶已填写;② 计算会话——列表中存在状态为「运行中」的实例,其命名空间与实时任务一致;③ 资源中心——脚本、JAR 与配置文件已上传,且能在任务中选中;④ 任务配置——实时 SQL 任务已选择 Flink Session,实时 JAR 任务已选择 JAR 资源与 Main Class。四项齐备后再上线,可避免大部分启动失败。

大数据平台用户操作手册