跳到主要内容
跳到主要内容

如何使用 chDB 查询 Pandas DataFrames

Pandas 是一个流行的 Python 数据处理和分析库。 在 chDB 的版本 2 中,我们优化了查询 Pandas DataFrames 的性能,并引入了 Python 表函数。 在本指南中,我们将学习如何使用 Python 表函数查询 Pandas。

Setup

首先,我们创建一个虚拟环境:

现在我们将安装 chDB。 确保您安装的版本是 2.0.2 或更高版本:

接下来,我们将安装 Pandas 和其他几个库:

我们将使用 ipython 来运行指南中的命令,您可以通过运行以下命令来启动:

您也可以在 Python 脚本或您喜欢的笔记本中使用这些代码。

Creating a Pandas DataFrame from a URL

我们将从 StatsBomb GitHub repository 查询一些数据。 首先,让我们导入 requests 和 pandas:

然后,我们将一个比赛的 JSON 文件加载到 DataFrame 中:

让我们看看我们将处理哪些数据:

接下来,我们将加载一个事件的 JSON 文件,并向该 DataFrame 添加一个名为 match_id 的列:

再来看看第一行的数据:

Querying Pandas DataFrames

接下来,让我们看看如何使用 chDB 查询这些 DataFrames。 我们将导入库:

我们可以通过使用 Python 表函数来查询 Pandas DataFrames:

因此,如果我们想列出 matches_df 中的列,可以写如下内容:

然后,我们可以通过编写以下查询来找出哪些裁判主裁了超过一场比赛:

现在,让我们来探索一下 events_df

Joining Pandas DataFrames

我们还可以在查询中将 DataFrames 连接在一起。 例如,为了获取比赛概况,我们可以编写以下查询:

Populating a table from a DataFrame

我们还可以从 DataFrames 创建并填充 ClickHouse 表。 如果我们想在 chDB 中创建一个表,则需要使用有状态会话 API。

让我们导入会话模块:

初始化会话:

接下来,我们将创建一个数据库:

然后,基于 events_df 创建一个 events 表:

然后,我们可以运行返回顶级传接者的查询:

Joining a Pandas DataFrame and table

最后,我们还可以更新我们的连接查询,将 matches_df DataFrame 与 statsbomb.events 表连接起来: