本文将详细探讨由潘国庆在FA2019年会上分享的关于携程在AI监控与实时处理领域的实践，重点介绍“Prophet”系统以及AI预警面临的挑战和未来趋势。
01 背景
背景部分提到了当前监控系统存在的问题，包括复杂的配置、效果不佳以及高昂的维护成本。这表明了现有监控体系在应对日益复杂的技术环境时的不足，需要一种更高效、智能的解决方案。
02 Prophet系统
Prophet是一种一站式的异常检测解决方案，旨在解决传统监控的痛点。它基于时间序列数据，利用深度学习算法实现AI监控，并依托实时处理平台达到实时监测的目标。系统架构中，Prophet利用HDFS存储数据，Flink进行流处理，Tensorflow用于深度学习，同时依赖YARN资源管理，Clog、Muise、ProphetQconfig、Hickwall等组件协同工作，构建出高效稳定的监控网络。
选择Flink的原因在于其内存管理、文件系统以及RocksDB状态后端的优势，能够支持事件时间处理、窗口操作（如翻滚窗口、滑动窗口和会话窗口）并提供最高级别的容错保障（最多一次、至少一次、精确一次）。Prophet的操作流程包括通过InfluxDB、Kafka、ProphetQconfig等工具收集数据，经过Flink处理后存储到HDFS，再通过Clog和Hickwall进行日志管理和分析。
03 AI与实时挑战
在AI预警方面，主要面临三个挑战：缺失负样本、多种类型的指标以及不同形式的指标。例如，CRM系统的周期性、稳定性与非周期性数据，订单和支付等异常频率较低的场景。这些差异使得单一模型难以适应所有情况。深度学习算法尽管在处理时间序列数据上有优势，但也存在梯度消失问题，需要大量标注数据进行离线模型训练。为解决这些问题，Prophet可能采用了多模型策略，每个指标对应一个模型，或者一个模型可以适应多种场景，但这也意味着特征提取的复杂性和对更多标注数据的需求。
04 未来展望与挑战
面对未来，Prophet系统可能会继续优化模型，提高实时消费数据的能力，减少负样本的缺失，提升模型对不同类型和形式指标的适应性。可能的方向包括改进深度学习算法以解决梯度消失问题，开发更有效的特征工程方法，以及探索在线模型训练和更新策略，以实现更动态、智能的监控预警。
总结，Prophet是携程为解决复杂监控问题而设计的先进系统，它融合了AI和实时处理技术，试图在大数据背景下提供更高效、准确的异常检测。尽管面临诸多挑战，但随着技术的不断进步，Prophet有望成为行业内的标杆，推动监控系统向更智能、自适应的方向发展。
评论0