Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Duplicar DAG para Edições Extras #79

Open
edulauer opened this issue Feb 22, 2024 · 2 comments
Open

Duplicar DAG para Edições Extras #79

edulauer opened this issue Feb 22, 2024 · 2 comments
Labels
airflow Related to the way Ro-DOU uses Airflow enhancement New feature or request search-config Related to the configuration of a Ro-DOU search

Comments

@edulauer
Copy link
Member

Em casos em que há necessidade de buscar nas edições extras, criar uma forma de duplicar a DAG com as mesmas configurações do YAML principal porém com o scheduler rodando ao final do dia. Na maioria dos casos, o cliente negocial quer o relatório das edições comuns logo pela manhã, porém as edições extras são publicadas somente ao longo do dia e acabam não aparecendo nessa primeira extração. Para contornar essa situação geralmente temos duplicado o arquivo YAML de dag_conf com dois schedules diferentes. Isso dificulta um pouco a manutenção.

A ideia seria talvez um novo parâmetro que faça essa duplicação com horários de execução diferenciados e trazendo somente os resultados das edições extras na segunda execução do dia.

@edulauer edulauer added the enhancement New feature or request label Feb 22, 2024
@augusto-herrmann
Copy link
Member

Talvez algo assim? Podendo opcionalmente dividir entre normal e extra.

schedule:
    normal: 0 8 * * MON-FRI
    extra: 0 18 * * MON-FRI

Se existir extra, ele vale para as edições extras. O que acha?

@edulauer
Copy link
Member Author

@augusto-herrmann Excelente, boa sugestão!

@augusto-herrmann augusto-herrmann added search-config Related to the configuration of a Ro-DOU search airflow Related to the way Ro-DOU uses Airflow labels Oct 23, 2024
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
airflow Related to the way Ro-DOU uses Airflow enhancement New feature or request search-config Related to the configuration of a Ro-DOU search
Projects
None yet
Development

No branches or pull requests

2 participants