AWS強化Amazon EMR on EC2可觀測性,新增近即時日誌串流與YARN Application ID對應功能
強化可觀測性與日誌串流功能
AWS於5月12日更新Amazon EMR on EC2服務,強化其可觀測性功能,新增近即時日誌串流與YARN Application ID對應功能,讓使用者能更有效地監控與調試大數據處理工作負載。
新增YARN Application ID對應功能
EMR步驟(EMR step)與YARN應用程式之間的對應關係已獲強化,使使用者能直接透過YARN Application ID快速定位與檢視相關應用程式的執行狀態,提升問題診斷效率。
整合CloudWatch與日誌管理
Amazon EMR on EC2已與Amazon CloudWatch Logs原生整合,可將叢集日誌直接傳輸至CloudWatch,實現日誌的集中管理與即時監控,並支援自訂指標與Hadoop、YARN、HBase等核心元件的監控。
相關技術與應用場景
- 透過CloudWatch代理程式,將EC2上的EMR日誌傳送至CloudWatch,實現即時追蹤與分析。
- 支援自訂Hadoop、YARN與HBase指標,讓使用者能根據實際需求監控關鍵指標。
- EMR受管擴展功能新增對YARN節點標籤的支援,可根據應用程式需求進行叢集擴展與復原。
來源:https://aws.amazon.com/blogs/big-data/streamlined-monitoring-and-debugging-for-amazon-emr-on-ec2/
