Fuentes de datos compatibles con ClickPipes
- Kafka
- Postgres
- MySQL
- MongoDB
En el caso de Kafka, se puede acceder al schema registry a través del mismo endpoint privado inverso que los brókers; no es necesario que sea accesible públicamente, siempre que su hostname se resuelva en las direcciones IP privadas del endpoint.
Tipos de endpoint de AWS PrivateLink compatibles
Recurso de VPC
No se admite el acceso entre regiones.
- Cree una puerta de enlace de recursos
- Cree una configuración de recurso
- Cree un recurso compartido
1
Crear un gateway de recursos
El gateway de recursos es el punto que recibe el tráfico de los recursos especificados en su VPC.Puede crear un gateway de recursos desde la consola de AWS o con el siguiente comando:La salida contendrá un ID del gateway de recurso, que necesitará para el siguiente paso.Antes de poder continuar, tendrá que esperar a que el gateway de recurso pase al estado
Se recomienda que las subredes adjuntas a su gateway de recursos tengan suficientes direcciones IP disponibles.
Se recomienda usar, como mínimo, una máscara de subred
/26 para cada subred.Para cada endpoint de VPC (cada Reverse Private Endpoint), AWS requiere un bloque contiguo de 16 direcciones IP por subred. (máscara de subred /28)
Si no se cumple este requisito, Reverse Private Endpoint pasará a un estado fallido.Active. Puede comprobar el estado ejecutando el siguiente comando:2
Crear una Resource-Configuration de VPC
La Resource-Configuration se asocia con el gateway del recurso para que este sea accesible.Puede crear una Resource-Configuration desde la consola de AWS o con el siguiente comando:El tipo de configuración de recurso más sencillo es una única Resource-Configuration. Puede configurarlo directamente con el ARN o compartir una dirección IP o un nombre de dominio que pueda resolverse públicamente.Por ejemplo, para configurar con el ARN de un clúster de RDS:El resultado contendrá un ARN de Resource-Configuration, que necesitarás para el siguiente paso. También contendrá un ID de Resource-Configuration, que necesitarás para configurar una conexión de ClickPipe con un recurso de VPC.
No se puede crear una configuración de recursos para un clúster accesible públicamente.
Si el clúster es accesible públicamente, debes modificarlo
para que sea privado antes de crear la configuración de recursos
o usar una lista de IP permitidas en su lugar.
Para obtener más información, consulta la documentación de AWS.
Conectividad MSK multi-VPC
Actualice la política de su clúster de MSK y agregue
072088201116 a las entidades principales permitidas de su clúster de MSK.
Consulte la guía de AWS sobre cómo adjuntar una política de clúster para obtener más información.Servicio de endpoint de VPC
- no es propietario del nombre de dominio de su fuente de datos, por lo que no puede verificarlo con AWS
- el proveedor requiere que los consumidores administren la resolución de DNS, como hace Confluent Cloud En estos casos, consulte DNS privado personalizado.
- Cualquier implementación on-premise de Kafka que requiera compatibilidad con DNS privado
- Conectividad privada de Confluent Cloud
- Conectividad entre regiones para Postgres CDC
- Conectividad entre regiones para clusters de MSK
Agregue el ID de cuenta de ClickPipes
072088201116 a las entidades principales permitidas de su servicio de endpoint de VPC.
Consulte la guía de AWS sobre la gestión de permisos para obtener más detalles.Acceso entre regiones
puede configurarse para ClickPipes. Agregue su región de ClickPipe a las regiones permitidas en su servicio de endpoint de VPC.
DNS privado personalizado
El DNS privado personalizado está en Private Preview. Ponte en contacto con el soporte de ClickHouse para habilitarla en tu servicio.
La consola de ClickHouse Cloud actualmente admite un nombre de DNS privado personalizado por endpoint privado inverso.
Si necesitas gestionar varios nombres de DNS privado personalizado en el mismo endpoint, usa OpenAPI o Terraform.
- Se admiten nombres exactos (
kafka.internal.example.com) y nombres comodín (*.example.com). Un comodín coincide con una sola etiqueta DNS; por ejemplo,*.abcde12345.us-east-1.aws.confluent.cloudcoincide conb0-lkc123.abcde12345.us-east-1.aws.confluent.cloud. - Los nombres deben ser únicos en todos los endpoints privados inversos de un servicio de ClickHouse, incluidas las coincidencias entre nombres comodín y nombres exactos.
- Se rechazan los nombres bajo sufijos reservados (por ejemplo,
local,localhost,internal,corp,private).
- En la consola de ClickHouse Cloud, completa el campo
Custom private DNS nameal crear un endpoint privado inverso. El campo aparece una vez que la característica está habilitada para tu servicio. - Con OpenAPI, establece
customPrivateDnsMappingsal crear un endpoint privado inverso, o actualiza un endpoint existente con una solicitudPATCH. Las actualizaciones sustituyen la lista completa de asignaciones; una lista vacía elimina todos los nombres personalizados. - Con Terraform, usa el recurso
clickhouse_clickpipes_reverse_private_endpoint_custom_private_dnspara gestionar las asignaciones en un endpoint privado inverso existente.
Crear un ClickPipe con endpoint privado inverso
- Accede a la SQL Console de tu servicio de ClickHouse Cloud.
- Selecciona el botón
Data Sourcesen el menú lateral izquierdo y haz clic en “Set up a ClickPipe”
- Selecciona Kafka o Postgres como fuente de datos.
- Selecciona la opción
Reverse private endpoint.
- Selecciona cualquiera de los endpoints privados inversos existentes o crea uno nuevo.
Si necesitas acceso entre regiones para RDS, debes crear un servicio de endpoint de VPC y
esta guía puede servirte como buen punto de partida para configurarlo.Para el acceso dentro de la misma región, se recomienda crear un recurso de VPC.
- Proporciona los parámetros necesarios para el tipo de endpoint seleccionado.
- Para recurso de VPC, proporciona el ARN del recurso compartido de configuración y el ID de configuración.
- Para MSK multi-VPC, proporciona el ARN del cluster y el método de autenticación usado con el endpoint creado.
- Para servicio de endpoint de VPC, proporciona el nombre del servicio.
- Opcionalmente, proporciona un nombre DNS privado personalizado.
-
Haz clic en
Createy espera a que el endpoint privado inverso esté listo. Si estás creando un endpoint nuevo, su configuración tardará un tiempo. La página se actualizará automáticamente cuando el endpoint esté listo. servicio de endpoint de VPC puede requerir que aceptes la solicitud de conexión en tu consola de AWS.
- Una vez que el endpoint esté listo, puedes usar un nombre DNS para conectarte a la fuente de datos. En la lista de endpoints, puedes ver el nombre DNS del endpoint disponible. Puede ser un nombre DNS aprovisionado internamente por ClickPipes, un nombre DNS privado proporcionado por un servicio PrivateLink, o un nombre DNS privado personalizado. El nombre DNS no es una dirección de red completa. Añade el puerto según la fuente de datos. Puedes consultar la connection string de MSK en la consola de AWS. Para ver la lista completa de nombres DNS, consulta la configuración del servicio de Cloud.
Gestión de los endpoints privados inversos existentes
-
En la barra lateral, busque el botón
Settingsy haga clic en él. -
Haga clic en
Reverse private endpointsen la secciónClickPipe reverse private endpoints. La información detallada del endpoint privado inverso se muestra en el flyout. El endpoint puede eliminarse desde aquí. Esto afectará a cualquier ClickPipe que use este endpoint.
Regiones de AWS compatibles
Limitaciones
Limpieza automática de endpoints inactivos
Una vez transcurrido el período de gracia, el endpoint y todos los recursos asociados se eliminan automáticamente.
Para evitar la eliminación automática, resuelva el problema subyacente antes de que expire el período de gracia.
Por ejemplo, acepte una solicitud de conexión pendiente en la consola de AWS
o vuelva a crear el endpoint si ha entrado en estado Failed.