5 cosas que todo ingeniero de datos debe saber sobre la observabilidad de datos

Cómo tener confianza en sus flujos de trabajo, transportador por transportador

La víspera del inicio del curso en línea "Data Engineer", preparamos una traducción del material.






-, , . ? . , ? . , ? , .





DevOps, « - ». .





, Big Data Institute « : Big Data », , Monte Carlo, , , .





(Data Engineering) « data science» - , , , , . -, , : , - .





- - , Looker .





- - , , .





Slack : . , - .





, : . !





, , : - , , .





- (Data Observability).





#1. —

- , , (. . , , ... ). .





- ! - . , , , , . , .





, . , - Blinkist , 20 . , .





#2. DevOps

, , , , , . , : ​​DevOps, , 20 .





, DevOps, , , . , - , , .





, : , , , .





  • (Freshness) , .





  • (Distribution) , .





  • (Volume ) .





  • (Schema) , .





  • (Lineage) , , .





#3. - ... 3 ,

. , , , .





-, , - , . , , - ( ).





-, . , , , , , - , , , , - .





, : . , -, , , , .





#4. - ,

, - . , . , . , . - , .





, - . , , , .





(lineage), . Lineage , , , , .





, , . , : ? ? ? ?





, . , , - , , , .





#5. , ,

. - - , , , , - . .





-. , API . , .





, , DevOps - . , , . .






- "Data Engineer"








All Articles