博客/工程

用于商业智能的Grafana: Grafana实验室如何将仪表板用于可观察性数bob电竞频道据以外的数据

2022年5月31日6分钟

作为Grafana Labsbob电竞频道的第一批数据和分析员工之一,在最初的几个月里,我花了很多时间考虑我们应该如何构建我们的数据堆栈,以优化快速实现价值的路径,同时让我们的小数据团队向前扩展。

我们所面临的挑战非常适合现代数据栈MDS是最近在数据分析领域出现的一个术语,包括云原生工具,用于处理以前与构建数据管道、仓库和转换相关的基础设施,并允许分析师和工程师将更多时间集中在交付业务价值上。

以下是我们如何在Grafana实验室实现现代数据堆栈,特别是为什么我们决定合并bob电竞频道Grafana将商业智能作为我们的可视化层。

在我们开始之前,什么是Grafana?

Grafana是开源可视化工具这允许用户查询、指示板、警告和理解数据,无论数据存储在哪里。这种“大帐篷哲学无论您的数据是存储在Grafana还是其他供应商,我们都努力实现互操作性,这一点是根深蒂固的我们的文化和公司价值观

Grafana的起源我们主要在可观察性方面,为开发人员和devops工程师提供工具来分析、可视化和警告他们的系统数据;然而,作为一个用于查询多个数据源的可扩展平台,我们总是看到客户提取相关的业务指标来补充他们的可观察性数据:

在Grafana实验室内部,bob电竞频道我们开始将这种难以捉摸的“单窗格玻璃”发挥到极致,并依靠Grafana的商业智能作为我们的主要解决方案。

显示纽约市花旗自行车使用情况的Grafana仪表盘
显示纽约市花旗自行车使用情况的Grafana仪表盘

上图:一个演示仪表板我们使用dbt, BigQuery和Grafana Cloud创建的,使用的数据是纽约市花旗自行车的使用情况。详见下文

为什么我们在Grafana实验室使用Grafana进行商业智能?bob电竞频道

  1. 自己也-我们经常在Grafana实验室利用我们自己的产品,使用Grafabob手机app官网na进行商业智能也没有什bob电竞频道么不同。它允许我们测试我们的产品功能,并提供关于Grafana面板和数据源的反馈。
  2. 了解我们的用户-我们的工程团队已经在每天的系统数据中使用Grafana,所以我们将这种“单窗格”方法扩展到我们的业务数据中。
  3. 与我们的现代数据堆栈集成通过将Grafana用于商业智能,我们将“SQL作为数据语言”从BigQuery和dbt扩展到我们的数据可视化层。
  4. 开箱即用的交互式仪表板- Grafana仪表板默认具有交互性(例如,悬停工具,通过点击和拖动的时间选择,显示/隐藏系列),并且可以很容易地增加仪表板变量。

Grafana实验室的现代数据堆栈背后的bob电竞频道架构

在Grbob电竞频道afana实验室,我们基于其他团队所做的许多相同的原因决定使用现代数据堆栈:它允许我们快速启动并运行以证明我们的小型初始团队的价值。此外,它为我们扩展数据和分析实践提供了坚实的基础:标准化的数据定义、版本控制/测试、模块化代码和迭代改进。

我们的现代数据堆栈包括:

  • ELT/ETL(提取,转换,加载):Fivetran
  • 事件流:Rudderstack(自托管开放源代码)
  • 数据仓库:BigQuery
  • 数据转换:dbt CLI(自托管开源)
  • 编制:Prefect(自托管开放源代码)
  • 反向ETL:Hightouch
  • 可视化:Grafana云

下面是我们的数据堆栈图表:

Grafana用于商业智能的现代数据堆栈的架构图
Grafana用于商业智能的现代数据堆栈的架构图

Grafana如何与我们的现代数据堆栈集成

我们的“大帐篷”理念鼓励用户连接他们的数据,无论数据位于何处。在我们的现代数据堆栈中,我们使用BigQuery作为我们的数据仓库,从而利用我们最近发布的Grafana BigQuery数据源把数据带到仪表板上。

大查询数据可视化花旗自行车使用在纽约市与Grafana
大查询数据可视化花旗自行车使用在纽约市与Grafana

上图:Grafana的BigQuery数据源允许用户使用SQL引入数据进行可视化。

此外,在可视化层使用Grafana还允许我们有一个明确的“职责分离”——利用dbt在建模原始数据方面的优势,并允许Grafana中的SQL仅专注于数据可视化。

最后,Grafana还有一些我们用于数据治理和发现的特性:

  • 团队-管理用户权限和访问仪表板文件夹
  • 指示板标签-分组仪表板以更好地发现数据(例如,相关的仪表板)
  • 自定义主页-单一起点,快速访问策划的商业智能仪表板
  • 注释-容易突出值得注意的评论
  • 协作功能包括团队的存在

演示Grafana仪表盘

如果您想直接进入并查看我们创建的演示仪表板,它就是托管于play.grafana.net,我们的公开演示Grafana实例。

数据集:纽约市的Citi Bikes

对于这个演示仪表板,我们使用了BigQuery的免费层和公共数据集(BigQuery -public-data.new_york_citibike)、dbt云免费开发人员层和Grafana Cloud的永久免费计划

这个仪表板显示了2017年4月至2018年5月纽约市花旗自行车项目的一些高级统计数据,旨在突出您使用Grafana仪表板获得的一些功能和交互性。

谷歌的BigQuery文档

花旗自行车是美国最大的自行车共享项目,在曼哈顿、布鲁克林、皇后区和泽西城拥有1万辆自行车和600个站点。该数据集包括自2013年9月Citi Bike推出以来的Citi Bike行程,每天更新。Citi Bike将对数据进行处理,以删除员工为维护和检查系统而花费的行程,以及任何时长低于60秒的行程,这些都被认为是启动错误。”

演示如何工作

纽约市花旗自行车使用演示仪表板的架构
纽约市花旗自行车使用演示仪表板的架构

如果您想了解关于如何设置仪表板的更多细节,请参阅托管版本允许您进入编辑模式并查看SQL和我们所选择的选项。此外,还可以引用印度生物技术部的项目

我们期待你的反馈

最后,我们希望收到你的来信!Grafana是开源,我们非常鼓励社区参与。此外,我们的BigQuery插件最近已经发布,我们正在积极寻求用户的反馈和采访。如果你有兴趣分享你的想法,请在bob电竞频道Grafana实验室社区Slack在#商业智能频道。