Higress: Ofrecer una solución de puerta de enlace de IA eficiente para simplificar la gestión de microservicios y mejorar la seguridad

Introducción general

Higress es una pasarela de API nativa de la nube desarrollada por Alibaba, construida sobre Istio y Envoy, diseñada para proporcionar soluciones eficientes de programación de tráfico, gobernanza de servicios y seguridad. Es compatible con las extensiones Wasm plug-in para múltiples lenguajes de programación, y es adecuado para una variedad de escenarios tales como negocios de IA, microservicios, y Kubernetes Ingress, con alta usabilidad y facilidad de uso.

Higress:提供高效的AI网关解决方案,简化微服务管理,增强安全防护

 

Lista de funciones

  • Pasarela AIAdmite equilibrio de carga multimodelo, control de flujo de tokens AI, almacenamiento en caché AI y otras funciones.
  • Pasarela de entrada de KubernetesCompatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
  • Pasarela de microservicios: Soporte para una variedad de registros como Nacos, ZooKeeper, Consul, Eureka , etc., Dubbo integrado, Nacos, Sentinel y otra pila de tecnología.
  • Pasarela de seguridadWAF : Proporciona capacidad WAF y admite múltiples políticas de autenticación y autenticación como key-auth, hmac-auth, jwt-auth, etc.
  • Extensiones Plug-inSoporta Wasm, Lua y otros mecanismos de extensión de plug-ins, los plug-ins pueden ser actualizados en tiempo real.
  • streaming: Admite el flujo completo de solicitud/respuesta Body para escenarios de gran ancho de banda.
  • consolasProporciona una consola de interfaz de usuario lista para usar compatible con la integración de observabilidad de Grafana y Prometheus.

Utilizar la ayuda

Proceso de instalación

  1. Instalación de Docker::
    • Crear un catálogo de trabajo:mkdir higress; cd higress
    • Comienza Higress:docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
    • Descripción del puerto:
      • Puerto 8001: Portal de la consola Higress UI
      • Puerto 8080: puerta de enlace del portal de protocolo HTTP
      • Puerto 8443: Portal de protocolo HTTPS de la pasarela
  2. Instalación de Kubernetes::
    • Despliegue con Helm: Consulte la documentación de inicio rápido en el sitio web oficial.

Guía de funcionamiento

  1. Características de la pasarela AI::
    • Interfaz con todos los proveedores de modelos LLM nacionales e internacionales a través de un protocolo unificado.
    • Configure el control de flujo de tokens de IA y el almacenamiento en caché de IA para mejorar la estabilidad y la eficacia de los servicios de IA.
  2. Pasarela de entrada de Kubernetes::
    • Compatible con las anotaciones K8s Nginx Ingress, soporta la migración sin problemas de la API Ingress a la API Gateway.
    • Configure el descubrimiento de servicios de K8s Service para que admita registros como Nacos/ZooKeeper.
  3. Pasarela de microservicios::
    • Acoplamiento de múltiples registros y configuración de reglas de enrutamiento para el descubrimiento de servicios y el equilibrio de carga.
    • Integre Dubbo, Nacos, Sentinel y otras pilas tecnológicas para mejorar la eficacia de la gestión de microservicios.
  4. Pasarela de seguridad::
    • Configure las reglas WAF para proteger las aplicaciones de los ataques.
    • Admite múltiples autenticaciones y políticas de autenticación para garantizar la seguridad del acceso.
  5. Extensiones Plug-in::
    • Escribir plug-ins utilizando Wasm, Lua, etc. para ampliar la funcionalidad de la pasarela.
    • Actualización en caliente de los plug-ins en tiempo real para garantizar la continuidad de la actividad.
  6. streaming::
    • Admite el procesamiento en flujo de solicitud/respuesta Body, adecuado para escenarios de gran ancho de banda.
    • Personalizar el tratamiento de mensajes para protocolos de flujo como SSE.
  7. Funcionamiento de la consola::
    • Accede a la consola Higress UI para configurar y gestionar la pasarela.
    • Integración con Grafana y Prometheus para la supervisión de la observabilidad.
© declaración de copyright

Artículos relacionados

Sin comentarios

Debe iniciar sesión para participar en los comentarios.
Acceder ahora
ninguno
Sin comentarios...