일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
Tags
- 백준온라인저지
- docker
- dsf
- 빅데이터를 지탱하는 기술
- datacamp
- Dynamic Programming
- airflow architecture
- telegram
- 백준 온라인 저지
- leetcode
- MySQL
- Spark
- docker image
- Data Engineering
- 그리디
- terraform
- Airflow
- SQL
- data_engineer
- 데이터 엔지니어
- docker container
- 2023년 목표
- BOT
- 알고리즘
- delete join
- Pseudo Lab
- hackerrank
- Python
- airflow webserver
- 프로그래머스
Archives
- Today
- Total
Lim Seunghyun Space
airflow WEB UI - DAG Details 본문
Tree
Graph
Calendar
Gantt
Task Instance Pop-up
airflow의 sample dag 중 example_short_circuit_operator를 실행하고 위의 페이지에서 정리해두었던 페이지 외에 DAG의 Tree, Graph, Calender 등에 관한 페이지 정리 내용입니다.
Tree
- DAG에 구성된 Task들의 의존성과 상태를 트리 형태로 확인
-
- task의 실행상태를 한눈에 보기 좋아 보인다.
- 각 Task의 상태를 확인
- Task의 상태는 https://airflow.apache.org/docs/apache-airflow/stable/concepts/tasks.html의 Task Instance 참고
-
Graph
- DAG에 구성된 Task들의 의존성과 상태를 그래프 형태로 확인
-
- dag에 구성된 task의 의존성을 한눈에 보기 좋아 보인다.
-
Calendar
- DAG의 실행 결과를 날짜별로 확인
-
- DAG를 실행한 결과를 보고 어느 날에 DAG가 에러가 발생했는지와 데이터 누락이 되었는지 확인하기 좋아 보인다.
-
Gantt
- DAG의 Task들의 running time 확인
-
- running time을 보고 오래 걸린 task를 확인하기 용이
- 오래 걸린 task는 별도로 최적화 진행해서 DAG를 개선
- 병렬적으로 실행된 task 확인 가능
- running time을 보고 오래 걸린 task를 확인하기 용이
-
Task Instance Pop-up
- Tree나 Graph 페이지에서 task 클릭 시 개별로 task를 관리할 수 있는 팝업창이 활성화
-
- Clear : task 데이터 초기화
- Run : task 실행
- Mark Failed : 실패한 것으로 지정
- Mark Success : 성공한 것으로 지정
- task 재실행은 clear 이후에 Run
- log를 통해 개별적으로 task의 log 확인 가능
-
728x90
'Data Engineering > Airflow' 카테고리의 다른 글
airflow Web UI 살펴보기 - DAGs (0) | 2022.01.20 |
---|---|
airflow user 관리 (0) | 2022.01.20 |
Airflow 구조 (0) | 2022.01.20 |
Airflow (0) | 2021.12.17 |
[Airflow] Airflow 설치 (0) | 2021.12.03 |