分享
产品简介
输入“/”快速插入内容
产品简介
2025年1月16日修改
Sky DataPilot 是一站式大数据集群和任务的监控、告警、诊断、运维以及自动化任务优化平台,全面兼容 CDH、HDP、华为云 MRS 等主流大数据平台,适配主流大数据任务引擎(MapReduce、spark、tez、impala)。实现大数据集群和任务的可视化监控、诊断建议、任务自动优化等,从而提高大数据集群运维效率,提升集群和任务稳定性。
系统架构(注:上图黄色背景模块对应
大数据任务自动优化和告警推送
功能,属于商业版本功能。)
主要功能
•
大数据任务和集群建模
•
大数据任务分析诊断
•
大数据任务优化预估
•
大数据任务自动优化
•
大数据任务引擎自动升级
•
大数据任务和集群监控告警
•
HDFS 集群存储治理
[存储格式转换/存储压缩/小文件合并]
•
HIVE 表
元
数据扫描
[冷热/数据产出时间等]