Consulte las regiones de AWS compatibles antes de comenzar.
Fuentes de datos compatibles con ClickPipes
La funcionalidad de endpoint privado inverso de ClickPipes se limita a los siguientes tipos de fuentes de datos:- Kafka
- Postgres
- MySQL
- MongoDB
En el caso de Kafka, se puede acceder a un registro de esquemas compatible con Confluent a través del mismo endpoint privado inverso que los brókeres; no es necesario que sea accesible públicamente, siempre que su nombre del host se resuelva en las direcciones IP privadas del endpoint.
Tipos de endpoints de AWS PrivateLink compatibles
El endpoint privado inverso de ClickPipes se puede configurar mediante uno de los siguientes enfoques de AWS PrivateLink:Recurso de VPC
No se admite el acceso entre regiones.
- Cree una puerta de enlace de recursos
- Cree una configuración de recursos
- Cree un recurso compartido
1
Crear un gateway de recursos
La gateway de recursos es el punto que recibe tráfico para los recursos especificados en su VPC.Puede crear una gateway de recursos desde la consola de AWS o con el siguiente comando:La salida contendrá un ID del gateway de recursos, que necesitará en el siguiente paso.Antes de continuar, deberá esperar a que el gateway de recursos alcance el estado
Se recomienda que las subredes asociadas a la gateway de recursos dispongan de suficientes direcciones IP.
Se recomienda una máscara de subred de al menos
/26 para cada subred.Para cada endpoint de VPC (cada Reverse Private Endpoint), AWS requiere un bloque contiguo de 16 direcciones IP por subred (máscara de subred /28).
Si no se cumple este requisito, Reverse Private Endpoint pasará al estado Failed.Active. Puede comprobar su estado ejecutando el siguiente comando:2
Crear una configuración de recursos de VPC
La configuración de recursos se asocia a la gateway de recursos para que el recurso sea accesible.Puede crear una configuración de recursos desde la consola de AWS o mediante el siguiente comando:El tipo de configuración de recurso más sencillo consiste en una única Resource-Configuration. Puede configurarla directamente con el ARN o compartir una dirección IP o un nombre de dominio que pueda resolverse públicamente.Por ejemplo, para configurar una Resource-Configuration con el ARN de un clúster de RDS:La salida incluirá un ARN de configuración de recurso, que necesitará para el siguiente paso. También incluirá un ID de configuración de recurso, que necesitará para configurar una conexión de ClickPipe con un recurso de VPC.
No puede crear una configuración de recurso para un clúster de acceso público.
Si su clúster es de acceso público, debe modificarlo
para que sea privado antes de crear la configuración de recurso
o usar la lista de IP permitidas.
Para obtener más información, consulte la documentación de AWS.
Conectividad multi-VPC de MSK
La conectividad multi-VPC es una funcionalidad integrada de AWS MSK que permite conectar varias VPC a un único clúster de MSK. La compatibilidad con DNS privado está disponible de forma predeterminada y no requiere configuración adicional. No se admite la conectividad entre regiones. Es una opción recomendada para ClickPipes para MSK. Consulta la guía de introducción para obtener más información.ClickPipes es propietario de la VPC del cliente y crea la conexión de VPC administrada. Para establecer la conexión de red, habilita la conectividad privada multi-VPC en tu clúster de MSK y autoriza la cuenta de AWS de ClickPipes en la política del clúster.
Consulta la guía de AWS para asociar una política de clúster para obtener más información.
Servicio de endpoint de VPC
El servicio de endpoint de VPC es otra forma de compartir tu fuente de datos con ClickPipes. Requiere configurar un NLB (Network Load Balancer) delante de la fuente de datos y configurar el servicio de endpoint de VPC para que use el NLB. El servicio de endpoint de VPC puede configurarse con DNS privado, que será accesible desde una VPC de ClickPipes. El DNS privado administrado por AWS PrivateLink no siempre es una opción viable:- no eres propietario del nombre de dominio de tu fuente de datos, por lo que no puedes verificarlo con AWS
- el proveedor exige que los consumidores administren la resolución de DNS, como ocurre con Confluent Cloud En estos casos, consulta DNS privado personalizado.
- Cualquier configuración de Kafka on-premise que requiera compatibilidad con DNS privado
- Conectividad privada de Confluent Cloud
- Conectividad entre regiones para Postgres CDC
- Conectividad entre regiones para clústeres de MSK
Agrega el ID de cuenta de ClickPipes
072088201116 a los principales permitidos de tu servicio de endpoint de VPC.
Consulta la guía de AWS sobre administración de permisos para obtener más información.El acceso entre regiones
puede configurarse para ClickPipes. Agrega tu región de ClickPipe a las regiones autorizadas de tu servicio de endpoint de VPC.
DNS privado personalizado
El DNS privado personalizado se encuentra en vista previa privada. Ponte en contacto con el equipo de soporte de ClickHouse para habilitarlo en tu servicio.
Actualmente, la consola de ClickHouse Cloud admite un nombre de DNS privado personalizado por endpoint privado inverso.
Si necesitas administrar varios nombres de DNS privado personalizados en el mismo endpoint, usa OpenAPI o Terraform.
- Se admiten nombres exactos (
kafka.internal.example.com) y nombres comodín (*.example.com). Un comodín coincide con una sola etiqueta de DNS; por ejemplo,*.abcde12345.us-east-1.aws.confluent.cloudcoincide conb0-lkc123.abcde12345.us-east-1.aws.confluent.cloud. - Los nombres deben ser únicos en todos los endpoints privados inversos de un servicio de ClickHouse, incluidos los solapamientos entre nombres comodín y nombres exactos.
- Se rechazan los nombres con sufijos reservados (por ejemplo,
local,localhost,internal,corp,private).
- En la consola de ClickHouse Cloud, rellena el campo
Custom private DNS nameal crear un endpoint privado inverso. El campo aparece una vez que la funcionalidad está habilitada en tu servicio. - Con OpenAPI, establece
customPrivateDnsMappingsal crear un endpoint privado inverso o actualiza uno existente mediante una solicitudPATCH. Las actualizaciones reemplazan la lista completa de asignaciones; una lista vacía elimina todos los nombres personalizados. - Con Terraform, usa el recurso
clickhouse_clickpipes_reverse_private_endpoint_custom_private_dnspara administrar asignaciones en un endpoint privado inverso existente.
Crear un ClickPipe con un endpoint privado inverso
- Acceda a SQL Console de su servicio de ClickHouse Cloud.
- Seleccione el botón
fuente de datosen el menú lateral izquierdo y haga clic en “Configurar un ClickPipe”.
- Seleccione Kafka o Postgres como fuente de datos.
- Seleccione la opción
Reverse private endpoint.
- Seleccione uno de los endpoints privados inversos existentes o cree uno nuevo.
Si necesita acceso entre regiones para RDS, debe crear un servicio de endpoint de VPC, y
esta guía ofrece un buen punto de partida para configurarlo.Para el acceso dentro de la misma región, se recomienda crear un recurso de VPC.
- Proporcione los parámetros necesarios para el tipo de endpoint seleccionado.
- Para un recurso de VPC, proporcione el ARN del recurso compartido de configuración y el ID de configuración.
- Para MSK multi-VPC, proporcione el ARN del cluster y el método de autenticación utilizado con un endpoint creado.
- Para un servicio de endpoint de VPC, proporcione el nombre del servicio.
- De forma opcional, proporcione un nombre DNS privado personalizado.
-
Haga clic en
Createy espere a que el endpoint privado inverso esté listo. Si está creando un endpoint nuevo, la configuración tardará un tiempo. La página se actualizará automáticamente cuando el endpoint esté listo. Es posible que el servicio de endpoint de VPC requiera que acepte la solicitud de conexión en la consola de AWS.
- Cuando el endpoint esté listo, podrá usar un nombre DNS para conectarse a la fuente de datos. En la lista de endpoints, puede consultar el nombre DNS del endpoint disponible. Puede ser un nombre DNS aprovisionado internamente por ClickPipes, un nombre DNS privado proporcionado por un servicio PrivateLink o un nombre DNS privado personalizado. El nombre DNS no es una dirección de red completa. Añada el puerto correspondiente según la fuente de datos. Puede consultar la cadena de conexión de MSK en la consola de AWS. Para ver la lista completa de nombres DNS, acceda a la configuración del servicio Cloud.
Administración de endpoints privados inversos
Puede administrar los endpoints privados inversos existentes en la configuración del servicio de ClickHouse Cloud:-
En la barra lateral, busque el botón
Settingsy haga clic en él. -
Haga clic en
Reverse private endpointsen la secciónClickPipe reverse private endpoints. La información detallada del endpoint privado inverso se muestra en el panel lateral. No se puede editar un endpoint después de crearlo. Puede eliminarlo haciendo clic en la×del endpoint y confirmando la acción; la eliminación es permanente e interrumpe cualquier ClickPipe que esté utilizando ese endpoint.
Regiones de AWS compatibles
La compatibilidad de AWS PrivateLink con ClickPipes se limita a determinadas regiones de AWS. Consulte la lista de regiones de ClickPipes para conocer las regiones disponibles. Esta restricción no se aplica a un servicio de endpoint de VPC de PrivateLink con conectividad entre regiones habilitada.Limitaciones
No se garantiza que los endpoints de AWS PrivateLink para ClickPipes creados en ClickHouse Cloud se creen en la misma región de AWS que el servicio de ClickHouse Cloud. Actualmente, solo el servicio de endpoint de VPC admite conectividad entre regiones. Los endpoints privados están vinculados a un servicio de ClickHouse específico y no se pueden transferir entre servicios. Varios ClickPipes de un mismo servicio de ClickHouse pueden reutilizar el mismo endpoint. AWS MSK admite solo un PrivateLink (endpoint de VPC) por clúster de MSK y tipo de autenticación (SASL_IAM o SASL_SCRAM). Como resultado, varios servicios u organizaciones de ClickHouse Cloud no pueden crear conexiones de PrivateLink independientes con el mismo clúster de MSK mediante el mismo tipo de autenticación.Límite de réplicas por endpoint privado inverso
Un endpoint privado inverso admite hasta 190 réplicas de ClickPipe en total. Las réplicas de todos los ClickPipes que comparten el mismo endpoint cuentan para este límite, incluidos los ClickPipes pausados. ClickPipes rechaza la creación de un ClickPipe, o el aumento de su escala, si el número total de réplicas del endpoint superase el límite. El mensaje de error incluye el ID del endpoint privado inverso, el número de réplicas que ya utilizan otros ClickPipes y el número de réplicas solicitado. La reducción de escala siempre está permitida. Para liberar capacidad, puede:- Reducir la escala de otros ClickPipes que usen el mismo endpoint.
- Crear un endpoint privado inverso independiente para los ClickPipes adicionales.
Limpieza automática de endpoints inactivos
Los endpoints privados inversos que permanecen en un estado terminal se eliminan automáticamente tras un período de gracia definido. Esto garantiza que los endpoints no utilizados o mal configurados no persistan indefinidamente. Se aplican los siguientes períodos de gracia según el estado del endpoint:
Una vez transcurrido el período de gracia, el endpoint y todos los recursos asociados se eliminan automáticamente.
Para evitar la eliminación automática, resuelva el problema subyacente antes de que expire el período de gracia.
Por ejemplo, acepte una solicitud de conexión pendiente en la consola de AWS
o vuelva a crear el endpoint si ha pasado al estado Failed.