Higress: Ofrecer una solución de puerta de enlace de IA eficiente para simplificar la gestión de microservicios y mejorar la seguridad
Últimos recursos sobre IAPublicado hace 9 meses Círculo de intercambio de inteligencia artificial 11.9K 00
Introducción general
Higress es una pasarela de API nativa de la nube desarrollada por Alibaba, construida sobre Istio y Envoy, diseñada para proporcionar soluciones eficientes de programación de tráfico, gobernanza de servicios y seguridad. Es compatible con las extensiones Wasm plug-in para múltiples lenguajes de programación, y es adecuado para una variedad de escenarios tales como negocios de IA, microservicios, y Kubernetes Ingress, con alta usabilidad y facilidad de uso.

Lista de funciones
- Pasarela AIAdmite equilibrio de carga multimodelo, control de flujo de tokens AI, almacenamiento en caché AI y otras funciones.
- Pasarela de entrada de KubernetesCompatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
- Pasarela de microservicios: Soporte para una variedad de registros como Nacos, ZooKeeper, Consul, Eureka , etc., Dubbo integrado, Nacos, Sentinel y otra pila de tecnología.
- Pasarela de seguridadWAF : Proporciona capacidad WAF y admite múltiples políticas de autenticación y autenticación como key-auth, hmac-auth, jwt-auth, etc.
- Extensiones Plug-inSoporta Wasm, Lua y otros mecanismos de extensión de plug-ins, los plug-ins pueden ser actualizados en tiempo real.
- streaming: Admite el flujo completo de solicitud/respuesta Body para escenarios de gran ancho de banda.
- consolasProporciona una consola de interfaz de usuario lista para usar compatible con la integración de observabilidad de Grafana y Prometheus.
Utilizar la ayuda
Proceso de instalación
- Instalación de Docker::
- Crear un catálogo de trabajo:
mkdir higress; cd higress
- Comienza Higress:
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
- Descripción del puerto:
- Puerto 8001: Portal de la consola Higress UI
- Puerto 8080: puerta de enlace del portal de protocolo HTTP
- Puerto 8443: Portal de protocolo HTTPS de la pasarela
- Crear un catálogo de trabajo:
- Instalación de Kubernetes::
- Despliegue con Helm: Consulte la documentación de inicio rápido en el sitio web oficial.
Guía de funcionamiento
- Características de la pasarela AI::
- Interfaz con todos los proveedores de modelos LLM nacionales e internacionales a través de un protocolo unificado.
- Configure el control de flujo de tokens de IA y el almacenamiento en caché de IA para mejorar la estabilidad y la eficacia de los servicios de IA.
- Pasarela de entrada de Kubernetes::
- Compatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
- Configure el descubrimiento de servicios de K8s Service para que admita registros como Nacos/ZooKeeper.
- Pasarela de microservicios::
- Acoplamiento de múltiples registros y configuración de reglas de enrutamiento para el descubrimiento de servicios y el equilibrio de carga.
- Integre Dubbo, Nacos, Sentinel y otras pilas tecnológicas para mejorar la eficacia de la gestión de microservicios.
- Pasarela de seguridad::
- Configure las reglas WAF para proteger las aplicaciones de los ataques.
- Admite múltiples autenticaciones y políticas de autenticación para garantizar la seguridad del acceso.
- Extensiones Plug-in::
- Escribir plug-ins utilizando Wasm, Lua, etc. para ampliar la funcionalidad de la pasarela.
- Actualización en caliente de los plug-ins en tiempo real para garantizar la continuidad de la actividad.
- streaming::
- Admite el procesamiento en flujo de solicitud/respuesta Body, adecuado para escenarios de gran ancho de banda.
- Personalizar el tratamiento de mensajes para protocolos de flujo como SSE.
- Funcionamiento de la consola::
- Accede a la consola Higress UI para configurar y gestionar la pasarela.
- Integración con Grafana y Prometheus para la supervisión de la observabilidad.
© declaración de copyright
Derechos de autor del artículo Círculo de intercambio de inteligencia artificial Todos, por favor no reproducir sin permiso.
Artículos relacionados
Sin comentarios...