当前位置:网站首页>OpenMLDB + Jupyter Notebook:快速搭建机器学习应用
OpenMLDB + Jupyter Notebook:快速搭建机器学习应用
2022-08-09 03:34:00 【51CTO】
1. 简介
OpenMLDB 是一个开源机器学习数据库,提供线上线下一致的生产级特征平台。Jupyter Notebook 提供了基于浏览器网页的数据计算、代码开发、文档编辑、代码执行以及结果展示等功能,是目前最流行和最易用的开发环境之一。本篇文章介绍 OpenMLDB 与 Notebook 的深度整合,充分利用了 OpenMLDB 强大的功能特性和 Notebook 的便利性,从而打造一个快捷易用的机器学习开发环境。
2. 集成 SQL 魔法函数
Notebook 与 OpenMLDB 第一个集成点就是 SQL 魔法函数(magic function)。魔法函数是 Notebook 的拓展功能,通过注册魔法函数,用户可以在 Notebook cell 中直接执行命令,而不需要编写复杂的 Python 代码,并且可定制输出样式。OpenMLDB 提供了一个标准的 SQL 魔法函数,用户可以在 Notebook 上直接编写和运行 OpenMLDB 支持的 SQL 语句,对应的语句就会提交到 OpenMLDB 执行,并且在 Notebook 中预览返回到结果。
2.1 注册 OpenMLDB SQL 魔法函数为了在 Notebook 中支持 OpenMLDB 魔法函数,首先需要通过如下方式进行注册:
import openmldb db = openmldb.dbapi.connect('demo_db','0.0.0.0:2181','/openmldb') openmldb.sql_magic.register(db)
2.2 执行单行 SQL 语句
开发者可以使用提示符%来执行单行的 SQL 语句,如下图所示。 [图片]
2.3 执行多行 SQL 语句
开发者也可以用提示符%%,书写多行的 SQL 语句,如下图所示。 [图片] 注意,目前尚不支持在一个 Notebook cell 内部同时执行多条 SQL 语句,需要分开在不同 cell 内执行。
2.4 魔法函数支持功能
OpenMLDB 提供的 SQL 魔法函数,可执行所有支持的 SQL 语法,包括使用 OpenMLDB 特有的离线模式,把复杂的需要处理大数据 SQL 语句异步提交到离线执行引擎去执行,如下图所示。 [图片] 详细的OpenMLDB魔法函数使用方法,请参考OpenMLDB官方文档的Magic function介绍 https://openmldb.ai/docs/zh/main/quickstart/python_sdk.html#notebook-magic-function 。
3. Notebook 集成 OpenMLDB Python SDK
OpenMLDB 和 Notebook 整合的第二个功能点就是与 OpenMLDB Python SDK 的集成。Notebook 支持 Python 运行内核,因此可以通过 import 方式导入各种 Python 库使用,OpenMLDB 提供了功能完整的 Python SDK,用于在 Notebook 内调用。OpenMLDB 不仅提供了基于 Python PEP249 标准的 DBAPI,也支持了 Python 业界主流的 SQLAlchemy 接口,只需一行代码就可以连接已有的 OpenMLDB 集群。
3.1 使用 OpenMLDB DBAPI
使用 DBAPI 接口非常简单,对于集群版,只需指定 ZooKeeper 地址以及节点路径即可连接,连接成功后会有对应的日志信息;对于单机版,可以通过 IP 和端口作为参数连接单机版 OpenMLDB,如下所示。
import openmldb.dbapi db = openmldb.dbapi.connect('demo_db','0.0.0.0:2181','/openmldb')
连接成功后即可以在 Notebook 内调用 OpenMLDB Python SDK 的 DBAPI 接口进行开发,详细参见 https://openmldb.ai/docs/zh/main/quickstart/python_sdk.html#openmldb-dbapi。
3.2 使用 OpenMLDB SQLAlchemy
如果想使用 SQLAlchemy 也非常简单,对于集群版,通过 SQLAlchemy 库指定 OpenMLDB 的 URI 即可完成连接;同样可以通过 IP 和端口作为参数连接单机版 OpenMLDB 数据库,如下所示。
import sqlalchemy as db engine = db.create_engine('openmldb://demo_db?zk=127.0.0.1:2181&zkPath=/openmldb') connection = engine.connect()
连接成功后,即可以通过OpenMLDB Python SDK 的 SQLAlchemy 接口来进行开发,详见 https://openmldb.ai/docs/zh/main/quickstart/python_sdk.html#openmldb-sqlalchemy。
4. 参考资料
- OpenMLDB Python SDK: https://openmldb.ai/docs/zh/main/quickstart/python_sdk.html
- OpenMLDB 使用文档: https://openmldb.ai/docs/zh/main/index.html
边栏推荐
- 31 基本统计概念
- 多商户商城系统功能拆解23讲-平台端分销等级
- 【问题记录】pip 安装报错 Failed to establish a new connection
- Redis expiration strategy and elimination strategy
- 32 基本统计知识——假设检验
- phpStdudy的下载和DVWA的搭建
- Error detected while processing /home/test/.vim/plugin/visualmark.vim
- 光刻机随感
- Session、cookie、token有什么区别?
- A few words about Microsoft's 2022/2023 autumn recruits
猜你喜欢
Hcip MPLS experiment
The condition variable condition_variable implements thread synchronization
Linux安装MySQL8
rk3399 PCIe rc设备枚举之设备资源识别分析
笔记本重装系统如何找回之前自己自带的office
【meet host】
EventLoop同步异步,宏任务微任务笔记
【问题记录】pip 安装报错 Failed to establish a new connection
C18-PEG- ALD批发_C18-PEG-CHO_C18-PEG-醛基
Exchange VLAN experiment
随机推荐
【meet host】
了解CV和RoboMaster视觉组(五)滤波器、观测器和预测方法:粒子滤波器Particle Filter
了解CV和RoboMaster视觉组(五)目标跟踪:概述与光流法
C18-PEG- ALD批发_C18-PEG-CHO_C18-PEG-醛基
Linux安装MySQL8
关于微软2022/2023秋招内推的几句
状态机使用小结
项目管理-挣值分析方法学习总结
Matlab optimization method -- 0.618 method
SQL注入(4)
5824. 子字符串突变后可能得到的最大整数
32 Basic Statistics - Hypothesis Testing
了解CV和RoboMaster视觉组(五)滤波器、观测器和预测方法:卡尔曼滤波器
SQL JOIN上的and
了解CV和RoboMaster视觉组(五)滤波器、观测器和预测方法:自适应滤波器的应用
What are the functions and applications of the smart counter control board?
宝塔实测-TinkPHP5.1框架小程序商城源码
MutationObserver接口(一) 基本用法
Introduction to the JSP
进程和计划任务管理