Higress: Ofrecer una solución de puerta de enlace de IA eficiente para simplificar la gestión de microservicios y mejorar la seguridad

Introducción general

Higress es una pasarela de API nativa de la nube desarrollada por Alibaba, construida sobre Istio y Envoy, diseñada para proporcionar soluciones eficientes de programación de tráfico, gobernanza de servicios y seguridad. Es compatible con las extensiones Wasm plug-in para múltiples lenguajes de programación, y es adecuado para una variedad de escenarios tales como negocios de IA, microservicios, y Kubernetes Ingress, con alta usabilidad y facilidad de uso.

Lista de funciones

• Pasarela AIAdmite equilibrio de carga multimodelo, control de flujo de tokens AI, almacenamiento en caché AI y otras funciones.
• Pasarela de entrada de KubernetesCompatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
• Pasarela de microservicios: Soporte para una variedad de registros como Nacos, ZooKeeper, Consul, Eureka , etc., Dubbo integrado, Nacos, Sentinel y otra pila de tecnología.
• Pasarela de seguridadWAF : Proporciona capacidad WAF y admite múltiples políticas de autenticación y autenticación como key-auth, hmac-auth, jwt-auth, etc.
• Extensiones Plug-inSoporta Wasm, Lua y otros mecanismos de extensión de plug-ins, los plug-ins pueden ser actualizados en tiempo real.
• streaming: Admite el flujo completo de solicitud/respuesta Body para escenarios de gran ancho de banda.
• consolasProporciona una consola de interfaz de usuario lista para usar compatible con la integración de observabilidad de Grafana y Prometheus.

Utilizar la ayuda

Proceso de instalación

1. Instalación de Docker::
   • Crear un catálogo de trabajo:mkdir higress; cd higress
   • Comienza Higress:docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
   • Descripción del puerto:
     • Puerto 8001: Portal de la consola Higress UI
     • Puerto 8080: puerta de enlace del portal de protocolo HTTP
     • Puerto 8443: Portal de protocolo HTTPS de la pasarela
2. Instalación de Kubernetes::
   • Despliegue con Helm: Consulte la documentación de inicio rápido en el sitio web oficial.

Guía de funcionamiento

1. Características de la pasarela AI::
   • Interfaz con todos los proveedores de modelos LLM nacionales e internacionales a través de un protocolo unificado.
   • Configure el control de flujo de tokens de IA y el almacenamiento en caché de IA para mejorar la estabilidad y la eficacia de los servicios de IA.
2. Pasarela de entrada de Kubernetes::
   • Compatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
   • Configure el descubrimiento de servicios de K8s Service para que admita registros como Nacos/ZooKeeper.
3. Pasarela de microservicios::
   • Acoplamiento de múltiples registros y configuración de reglas de enrutamiento para el descubrimiento de servicios y el equilibrio de carga.
   • Integre Dubbo, Nacos, Sentinel y otras pilas tecnológicas para mejorar la eficacia de la gestión de microservicios.
4. Pasarela de seguridad::
   • Configure las reglas WAF para proteger las aplicaciones de los ataques.
   • Admite múltiples autenticaciones y políticas de autenticación para garantizar la seguridad del acceso.
5. Extensiones Plug-in::
   • Escribir plug-ins utilizando Wasm, Lua, etc. para ampliar la funcionalidad de la pasarela.
   • Actualización en caliente de los plug-ins en tiempo real para garantizar la continuidad de la actividad.
6. streaming::
   • Admite el procesamiento en flujo de solicitud/respuesta Body, adecuado para escenarios de gran ancho de banda.
   • Personalizar el tratamiento de mensajes para protocolos de flujo como SSE.
7. Funcionamiento de la consola::
   • Accede a la consola Higress UI para configurar y gestionar la pasarela.
   • Integración con Grafana y Prometheus para la supervisión de la observabilidad.