百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

开源Superset在线设计图表框架源码解析

ccwgpt 2024-11-01 11:34 115 浏览 0 评论

目的

superset是很强大的BI分析框架,有些不满足需求的难免要二次开发,二次开发首先要读懂它的源码,基于此目的把自己阅读代码的一些分析分享给大家,让大家都superset整体的源码有个整体的认识,然后具体到哪块代码的时候,可以快速找到具体分析。

Superset是什么?

Superset 是一款由 Airbnb 开源的“现代化的企业级 BI(商业智能) Web 应用程序”,其通过创建和分享 dashboard,为数据分析提供了轻量级的数据查询和可视化方案。

支持的图表类型非常多,如下一部分:

进入正题,源码分析

后台

spuerset 后端采用 Flask-AppBuilder, Sqlachermy, celery,pandas

Flask-AppBuilder: superset 的基本框架,登录验证,权限控制

pandas:数据处理

celery:定时异步任务

sqlachermy: 数据引擎,连接DB

superset源码结构如下:


  • bin: 程序的入口文件,可以不关心
  • common: 程序共用的代码,暂不关心
  • connectors: 数据库连接器,连接数据源有2种类型,通过ConnectorRegistry连接
  • migration: superset本身的数据库 升级操作记录
  • db_engine_specs,db_engines: 连接其他数据库的engines 比如mysql,pgsql等
  • examples: 事例文件,不关心
  • models: 数据库模型, Slice, Dashboard
  • views: 视图,core.py 存放所有得superset 开头的接口
  • tasks: celery 任务脚本
  • security: 修改权限入口
  • templates, static: 前端相关的模板, 控件代码
  • app.py: superset 服务启动,初始化入口
  • cli.py: spuerset 命令
  • viz.py: 重要,所有得图表类型 后端数据处理入口
  • extensions.py: 定义 celery, logger 等中间件

前端


superset 前端采用 React,D3

  • superset-frontend/webpack.config.js : 前端入口文件
  • superset-frontend/src: 前端重要文件
  • superset-frontend/src/explore: 查看图表详情的页面
  • superset-frontend/src/chart:根据图表属性渲染具体图表页面,里面调用了SuperChart组件,而此组件属于superset-ui前端库,会根据后台传入的属性,最终渲染出对应的图表组件。

总结

动态图表设计思路其实都是如此,前端会把各种图表先写好,内置到代码中,然后每个图表都是自己唯一标示和相应的属性,等通过拖拽设计好后,保存的时候其实就是把图表对应的属性元数据信息(描述图表的json字符串),发送给后台。 等预览图表的时候,其实就是从后台读取这些元数据信息,然后给前端组件按照这些元数据信息,找到对应的内置好的图表组件,并渲染出来,而上面的SuperChart组件其实就是superset框架中的渲染组件。

前端和后台交互源码分析

前端的代码结构中webpack.config.js 入口文件中 定义了 以src文件夹去生成打包js文件,webpack的功能

会根据不同的源码,打包成不同的文件,打包后的文件是可以直接给浏览器运行的

后台代码入口

superset/app.py

下面列出一些主要的代码片段,大部分都是这种的

appbuilder.add_link(
    "SQL Editor",
    label=_("SQL Editor"),
    href="/superset/sqllab/",
    category_icon="fa-flask",
    icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
appbuilder.add_link(
    __("Saved Queries"),
    href="/savedqueryview/list/",
    icon="fa-save",
    category="SQL Lab",
)
appbuilder.add_link(
    "Query Search",
    label=_("Query History"),
    href="/superset/sqllab/history/",
    icon="fa-search",
    category_icon="fa-flask",
    category="SQL Lab",
    category_label=__("SQL Lab"),
)
 appbuilder.add_view(
            SliceModelView,
            "Charts",
            label=__("Charts"),
            icon="fa-bar-chart",
            category="",
            category_icon="",
        )
appbuilder.add_view(
            DashboardModelView,
            "Dashboards",
            label=__("Dashboards"),
            icon="fa-dashboard",
            category="",
            category_icon="",
        )

这些都是flask Appbuilder框架的内容,大概意思就是通过add_link和add_view会在界面上加入相应的菜单,如果是add_link点击菜单的时候就会访问相应的链接,比如第一个,点击“SQL Editor”菜单的时候,会访问/superset/sqllab/链接发送给后台。

然后后台处理/superset/sqllab/链接的后台代码在哪?

在superset/view/core.py文件中,代码如下:

@has_access
@event_logger.log_this
@expose("/sqllab/", methods=["GET", "POST"])
def sqllab(self) -> FlaskResponse:
    """SQL Editor"""
    payload = {
        "defaultDbId": config["SQLLAB_DEFAULT_DBID"],
        "common": common_bootstrap_payload(),
        **self._get_sqllab_tabs(g.user.get_id()),
    }

    form_data = request.form.get("form_data")
    if form_data:
        try:
            payload["requested_query"] = json.loads(form_data)
        except json.JSONDecodeError:
            pass

    payload["user"] = bootstrap_user_data(g.user)
    bootstrap_data = json.dumps(
        payload, default=utils.pessimistic_json_iso_dttm_ser
    )
    return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

上面的注解都是flask框架的东西,定义了处理/sqllab请求的方法,其中render_template是flask框架渲染模板的方法,里面传入两个参数一个entry=“sqllab”和bootstrap_data,最后会把渲染后台的页面返回给后台。

这里再详细看下模板渲染,先看下superset/basic.html这个模板文件,默认的flask框架的模板都在源码的templates目录下,这里是templates/superset/basic.html,这里粘贴核心代码如下:

{% block body %}
  <div id="app" data-bootstrap="{{ bootstrap_data }}">
    <img src="/static/assets/images/loading.gif" style="width: 50px; position: absolute; top: 50%; left: 50%; transform: translate(-50%,-50%)">
  </div>
{% endblock %}
// --------------------------------
{% block tail_js %}
      {% if not standalone_mode %}
        {{ js_bundle('menu') }}
      {% endif %}
      {% if entry %}
        {{ js_bundle(entry) }}
      {% endif %}
      {% include "tail_js_custom_extra.html" %}
    {% endblock %}

上面一部分的代码定义了一个id=app的div,用过前端react或vue框架的都知道,这个是前端js文件渲染的入口,无论是vue还是react生成的js文件都会绑定到一个id=app的div下面的。

下面那块代码会js_bundle(entry),其中通过上面分析entry是sqllab,他会从目录中到到前端通过webpack打包好的js_bundle文件,这里的sqllab在前面的webpack.config.js中已经定义了,这里再粘贴一下吧

可以看到里面有sqlab,最终后台代码

return self.render_template(
        "superset/basic.html", entry="sqllab", bootstrap_data=bootstrap_data
    )

就是根据模板把前端代码/src/sqllab/index.jsx打包生成的对应js代码,嵌入到了模板中,然后返回给前端显示了。

后续页面中的具体请求都是rest api请求,后台对应的代码如下:


结构都很类似,都有api.py,dao.py等,其中api.py就是处理页面中发起的rest api请求的(其实最终通过ajax),到时候具体问题具体分析即可。

总结

superset框架app.py中定义了界面上各个菜单按钮的功能跳转链接,然后具体链接的后台处理在views/core.py中,它会继续根据templates模板渲染出结果给前端显示,模板中会根据传入的参数来找到对应的前端webpack打包好的文件(不一定都是这样,这些只是其中的一部分)。

它这个前后端分离跟之前的还是有点区别的,并不是把打包好的前端代码通过nginx访问的,他还是通过python代码访问的,模板的方式嵌入。

相关推荐

盲盒小程序背后的技术揭秘:如何打造个性化购物体验

在2025年的今天,盲盒小程序作为一种新兴的购物方式,正以其独特的魅力和个性化体验吸引着越来越多的消费者。这种将线上购物与盲盒概念相结合的应用,不仅为消费者带来了未知的惊喜,还通过一系列技术手段实现了...

小程序·云开发已支持单日亿级调用量,接口可用率高达99.99%

2019-10-1914:1210月19日,由腾讯云与微信小程序团队联合举办的“小程序·云开发”技术峰会在北京召开。会上,微信小程序团队相关负责人表示“小程序·云开发”系统架构已经支持每天亿级别的...

程序员副业开启模式:8个GitHub上可以赚钱的小程序

前言开源项目作者:JackonYang今天推荐的这个项目是「list-of-wechat-mini-program-list」,开源微信小程序列表的列表、有赚钱能力的小程序开源代码。这个项目分为两部分...

深度科普:盲盒小程序开发的底层逻辑

在当下的数字化浪潮中,盲盒小程序以其独特的趣味性和互动性,吸引着众多消费者的目光。无论是热衷于收集玩偶的年轻人,还是享受拆盒惊喜的上班族,都对盲盒小程序情有独钟。那么,这种备受欢迎的盲盒小程序,其开发...

微信小程序的制作步骤

SaaS小程序制作平台,作为数字化转型时代下的创新产物,不仅将易用性置于设计的核心位置,让非技术背景的用户也能轻松上手,快速制作出功能丰富、界面精美的小程序,更在性能和稳定性方面投入了大量精力,以确保...

携程开源--小程序构建工具,三分钟搞定

前言今天推荐的这个项目是「wean」,一个小程序构建打包工具。在wean之前,大量小程序工具使用webpack进行打包,各种loader、plugin导致整个开发链路变长。wean旨在解...

校园小程序的搭建以及营收模式校园外卖程序校园跑腿校园圈子系统

校园小程序的架构设计主要包括云端架构和本地架构两部分。云端架构方面,采用Serverless架构可以降低技术门槛,通过阿里云、腾讯云等平台提供的云服务,可以实现弹性扩容和快速部署。例如,使用云数据库、...

盲盒小程序开发揭秘:技术架构与实现原理全解析

在2025年的今天,盲盒小程序作为一种结合了线上购物与趣味性的创新应用,正受到越来越多用户的喜爱。其背后的技术架构与实现原理,对于想要了解或涉足这一领域的人来说,无疑充满了神秘与吸引力。本文将为大家科...

月活百万的小程序架构设计:流量暴增秘籍

从小程序到"大"程序的蜕变之路当你的小程序用户量从几千跃升至百万级别时,原有的架构就像一件不合身的衣服,处处紧绷。这个阶段最常遇到的噩梦就是服务器崩溃、接口超时、数据丢失。想象一下,在...

认知智能如何与产业结合?专家学者共探理论框架与落地实践

当前,以大模型为代表的生成式人工智能等前沿技术加速迭代,如何将认知智能与产业结合,成为摆在各行各业面前的一个问题。论坛现场。主办方供图7月4日,2024世界人工智能大会暨人工智能全球治理高级别会议在...

现代中医理论框架

...

认知行为(CBT)中的ABC情绪理论

情绪ABC理论是由美国心理学家阿尔伯特·艾利斯(AlbertEllis1913-2007)创建的理论,A表示诱发性事件(Activatingevent),B表示个体针对此诱发性事件产生的一些信...

说说卡伦霍妮的理论框架,对你调整性格和人际关系,价值很大

01自在今天我主要想说下霍妮的理论框架。主要说三本书,第一本是《我们时代的神经症人格》,第二本是《我们内心的冲突》,第三本是《神经症与人的成长》。根据我的经验,三本书价值巨大,但并不是每个人都能读进去...

供应链管理-理论框架

一个最佳价值的供应链,应该是一个具有敏捷性、适应性和联盟功能(3A)的供应链,其基本要素包括战略资源、物流管理、关系管理以及信息系统,目标是实现速度、质量、成本、柔性的竞争优势。篇幅有...

微信WeUI设计规范文件下载及使用方法

来人人都是产品经理【起点学院】,BAT实战派产品总监手把手系统带你学产品、学运营。WeUI是一套同微信原生视觉体验一致的基础样式库,由微信官方设计团队为微信Web开发量身设计,可以令用户的使用感知...

取消回复欢迎 发表评论: