> ## Documentation Index
> Fetch the complete documentation index at: https://clickhouse.com/docs/llms.txt
> Use this file to discover all available pages before exploring further.

> Введение в интеграцию Azure Synapse с ClickHouse

# Интеграция Azure Synapse с ClickHouse

export const ClickHouseSupportedBadge = () => {
  return <div className="ClickHouseSupportedBadge">
            <div className="ClickHouseSupportedIcon">
                <svg width="16" height="16" viewBox="0 0 16 16" fill="none" xmlns="http://www.w3.org/2000/svg">
                    <path d="M1.30762 1.39073C1.30762 1.3103 1.37465 1.22986 1.46849 1.22986H2.64824C2.72868 1.22986 2.80912 1.29689 2.80912 1.39073V14.4886C2.80912 14.5691 2.74209 14.6495 2.64824 14.6495H1.46849C1.38805 14.6495 1.30762 14.5825 1.30762 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M4.2832 1.39073C4.2832 1.3103 4.35023 1.22986 4.44408 1.22986H5.62383C5.70427 1.22986 5.7847 1.29689 5.7847 1.39073V14.4886C5.7847 14.5691 5.71767 14.6495 5.62383 14.6495H4.44408C4.36364 14.6495 4.2832 14.5825 4.2832 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M7.25977 1.39073C7.25977 1.3103 7.3268 1.22986 7.42064 1.22986H8.60039C8.68083 1.22986 8.76127 1.29689 8.76127 1.39073V14.4886C8.76127 14.5691 8.69423 14.6495 8.60039 14.6495H7.42064C7.3402 14.6495 7.25977 14.5825 7.25977 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M10.2354 1.39073C10.2354 1.3103 10.3024 1.22986 10.3962 1.22986H11.576C11.6564 1.22986 11.7369 1.29689 11.7369 1.39073V14.4886C11.7369 14.5691 11.6698 14.6495 11.576 14.6495H10.3962C10.3158 14.6495 10.2354 14.5825 10.2354 14.4886V1.39073Z" fill="currentColor" />
                    <path d="M13.2256 6.6057C13.2256 6.52526 13.2926 6.44482 13.3865 6.44482H14.5662C14.6466 6.44482 14.7271 6.51186 14.7271 6.6057V9.27354C14.7271 9.35398 14.6601 9.43442 14.5662 9.43442H13.3865C13.306 9.43442 13.2256 9.36739 13.2256 9.27354V6.6057Z" fill="currentColor" />
                </svg>
            </div>
            Поддерживается в ClickHouse
        </div>;
};

export const Image = ({img, alt, size = "lg"}) => {
  const normalizedSize = ["sm", "md", "lg"].includes(size) ? size : "lg";
  return <div className={`ch-image-${normalizedSize}`}>
      <Frame>
        <img src={img} alt={alt} />
      </Frame>
    </div>;
};

<ClickHouseSupportedBadge />

[Azure Synapse](https://azure.microsoft.com/en-us/products/synapse-analytics) — это интегрированный сервис аналитики, который объединяет большие данные, data science и хранилища данных, обеспечивая быстрый анализ данных в большом масштабе.
В Synapse пулы Spark предоставляют масштабируемые кластеры [Apache Spark](https://spark.apache.org) по запросу, позволяя выполнять сложные преобразования данных, задачи машинного обучения и интеграции с внешними системами.

В этой статье показано, как использовать [коннектор ClickHouse Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector) при работе с Apache Spark в Azure Synapse.

<div id="add-connector-dependencies">
  ## Добавьте зависимости коннектора
</div>

Azure Synapse поддерживает три уровня [управления пакетами](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-azure-portal-add-libraries):

1. Пакеты по умолчанию
2. Уровень пула Spark
3. Уровень сеанса

<br />

Следуйте руководству [Manage libraries for Apache Spark pools](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-manage-pool-packages) и добавьте в приложение Spark следующие обязательные зависимости

* `clickhouse-spark-runtime-{spark_version}_{scala_version}-{connector_version}.jar` - [официальный репозиторий Maven](https://mvnrepository.com/artifact/com.clickhouse.spark)
* `clickhouse-jdbc-{java_client_version}-all.jar` - [официальный репозиторий Maven](https://mvnrepository.com/artifact/com.clickhouse/clickhouse-jdbc)

Ознакомьтесь с нашей документацией [Матрица совместимости коннектора Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector#compatibility-matrix), чтобы понять, какие версии лучше всего подходят для ваших задач.

<div id="add-clickhouse-as-catalog">
  ## Добавьте ClickHouse как каталог
</div>

Добавить конфигурации Spark в ваш сеанс можно несколькими способами:

* Использовать пользовательский файл конфигурации, загружаемый вместе с сеансом
* Добавить конфигурации через интерфейс Azure Synapse
* Добавить конфигурации в ноутбуке Synapse

Следуйте руководству [Manage Apache Spark configuration](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-azure-create-spark-configuration)
и добавьте [требуемые коннектором конфигурации Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector#register-the-catalog-required).

Например, сеанс Spark в ноутбуке можно настроить с помощью следующих параметров:

```python theme={null}
%%configure -f
{
    "conf": {
        "spark.sql.catalog.clickhouse": "com.clickhouse.spark.ClickHouseCatalog",
        "spark.sql.catalog.clickhouse.host": "<clickhouse host>",
        "spark.sql.catalog.clickhouse.protocol": "https",
        "spark.sql.catalog.clickhouse.http_port": "<port>",
        "spark.sql.catalog.clickhouse.user": "<username>",
        "spark.sql.catalog.clickhouse.password": "password",
        "spark.sql.catalog.clickhouse.database": "default"
    }
}
```

Убедитесь, что в первой ячейке указано следующее:

<Image img="https://mintcdn.com/private-7c7dfe99/Rm4A9_kDxZf0ApeE/images/integrations/data-ingestion/azure-synapse/spark_notebook_conf.webp?fit=max&auto=format&n=Rm4A9_kDxZf0ApeE&q=85&s=f45f76cb318c0c65a1ecae90edd158e8" size="xl" alt="Настройка конфигурации Spark через notebook" border width="1255" height="407" data-path="images/integrations/data-ingestion/azure-synapse/spark_notebook_conf.webp" />

Дополнительные настройки см. на [странице конфигурации ClickHouse Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector#configurations).

<Info>
  При работе с ClickHouse Cloud обязательно задайте [необходимые настройки Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/spark-native-connector#clickhouse-cloud-settings).
</Info>

<div id="setup-verification">
  ## Проверка настройки
</div>

Чтобы убедиться, что зависимости и конфигурации заданы успешно, откройте Spark UI для вашего сеанса и перейдите на вкладку `Environment`.
Там найдите параметры, связанные с ClickHouse:

<Image img="https://mintcdn.com/private-7c7dfe99/Rm4A9_kDxZf0ApeE/images/integrations/data-ingestion/azure-synapse/spark_ui_ch_settings.webp?fit=max&auto=format&n=Rm4A9_kDxZf0ApeE&q=85&s=954767d8d40dedc2823122451bba4ddd" size="xl" alt="Проверка настроек ClickHouse в Spark UI" border width="1499" height="280" data-path="images/integrations/data-ingestion/azure-synapse/spark_ui_ch_settings.webp" />

<div id="additional-resources">
  ## Дополнительные ресурсы
</div>

* [Документация по коннектору ClickHouse Spark](/docs/ru/integrations/connectors/data-ingestion/apache-spark/index)
* [Обзор пулов Spark в Azure Synapse](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-overview)
* [Оптимизация производительности рабочих нагрузок Apache Spark](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-performance)
* [Управление библиотеками для пулов Apache Spark в Synapse](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-manage-pool-packages)
* [Управление конфигурацией Apache Spark в Synapse](https://learn.microsoft.com/en-us/azure/synapse-analytics/spark/apache-spark-azure-create-spark-configuration)