AWS強化Amazon EMR on EC2可觀測性,新增近即時日誌串流與YARN Application ID對應功能

AWS強化Amazon EMR on EC2可觀測性,新增近即時日誌串流與YARN Application ID對應功能

強化可觀測性與日誌串流功能

AWS於5月12日更新Amazon EMR on EC2服務,強化其可觀測性功能,新增近即時日誌串流與YARN Application ID對應功能,讓使用者能更有效地監控與調試大數據處理工作負載。

新增YARN Application ID對應功能

EMR步驟(EMR step)與YARN應用程式之間的對應關係已獲強化,使使用者能直接透過YARN Application ID快速定位與檢視相關應用程式的執行狀態,提升問題診斷效率。

整合CloudWatch與日誌管理

Amazon EMR on EC2已與Amazon CloudWatch Logs原生整合,可將叢集日誌直接傳輸至CloudWatch,實現日誌的集中管理與即時監控,並支援自訂指標與Hadoop、YARN、HBase等核心元件的監控。

相關技術與應用場景

  • 透過CloudWatch代理程式,將EC2上的EMR日誌傳送至CloudWatch,實現即時追蹤與分析。
  • 支援自訂Hadoop、YARN與HBase指標,讓使用者能根據實際需求監控關鍵指標。
  • EMR受管擴展功能新增對YARN節點標籤的支援,可根據應用程式需求進行叢集擴展與復原。

來源:https://aws.amazon.com/blogs/big-data/streamlined-monitoring-and-debugging-for-amazon-emr-on-ec2/

返回頂端