HeadlinesBriefing favicon HeadlinesBriefing.com

dbt入门实用指南

Towards Data Science •
×

作为一名合同数据工程师,我有时会经历无活可做的时期。在浏览在线市场寻找合适职位时,我持续看到的最受需求的技能之一是dbt经验。为了给自己最大的可能性获得工作,我决定学习尽可能多的知识,以便自信地进行讨论。这篇文章提炼了这个过程和我所学到的东西,包含大量实用代码和真实世界示例。我与dbt或Duck DB没有关联;dbt Core是Apache 2.0下的免费开源软件,Duck DB是MIT许可的。

dbt提供了广泛的功能,但作为介绍,我专注于基础知识,如模型、来源、数据测试和文档。如果您曾在分析项目中工作过,您可能最终会得到一个包含SQL脚本的文件夹。一开始,一切都会感到可管理,但项目增长后,列重命名可能会破坏下游报告或作业。传统SQL通常被视为孤立的脚本,而不是一个软件项目,而dbt提供了一种解决方案。

dbt(数据构建工具)由dbt Labs在2010年代中期创建。它发展成为一个名为dbt Core的开源CLI工具,以及一个付费版本dbt Platform。dbt在数据库或数据仓库中转化数据,并处理测试数据质量、记录数据集、通过宏重用SQL、管理环境,以及通过作业或CI/CD运行转换。它广泛用于Snowflake、Big Query、Redshift和Databricks,但我的示例使用本地Duck DB。