Higress: Bereitstellung einer effizienten KI-Gateway-Lösung zur Vereinfachung der Microservice-Verwaltung und Verbesserung der Sicherheit

Allgemeine Einführung

Higress ist ein von Alibaba entwickeltes Cloud-natives API-Gateway, das auf Istio und Envoy aufbaut und effiziente Lösungen für Traffic Scheduling, Service Governance und Sicherheit bietet. Es unterstützt Wasm-Plug-in-Erweiterungen für mehrere Programmiersprachen und eignet sich für eine Vielzahl von Szenarien wie KI-Business, Microservices und Kubernetes Ingress, mit hoher Benutzerfreundlichkeit und Benutzerfreundlichkeit.

Funktionsliste

• AI-GatewayUnterstützt Multi-Model Load Balancing, AI Token Flow Control, AI Caching und andere Funktionen.
• Kubernetes-Ingress-GatewayKompatibel mit K8s Nginx Ingress Annotations, unterstützt die reibungslose Migration von Ingress API zu Gateway API.
• Microservices-GatewayUnterstützung für eine Vielzahl von Registern wie Nacos, ZooKeeper, Consul, Eureka usw., integrierte Dubbo-, Nacos-, Sentinel- und andere Technologie-Stacks.
• Sicherheits-GatewayBietet WAF-Fähigkeit und unterstützt mehrere Authentifizierungs- und Authentifizierungsrichtlinien wie key-auth, hmac-auth, jwt-auth, usw.
• Plug-in-ErweiterungenUnterstützung von Wasm, Lua und anderen Plug-in-Erweiterungsmechanismen, Plug-ins können in Echtzeit aktualisiert werden.
• StreamingUnterstützt vollständiges Streaming von Anfrage/Antwort Body für Szenarien mit großer Bandbreite.
• KonsolenBietet eine sofort einsatzbereite UI-Konsole mit Unterstützung für die Integration von Grafana und Prometheus Observability.

Hilfe verwenden

Ablauf der Installation

1. Docker-Installation::
   • Erstellen Sie einen funktionierenden Katalog:mkdir higress; cd higress
   • Start Higress:docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/ higress/all-in-one:latest
   • Hafenbeschreibung:
     • Port 8001: Higress UI Konsolenportal
     • Port 8080: Gateway HTTP-Protokoll-Portal
     • Port 8443: Gateway HTTPS-Protokollportal
2. Kubernetes-Installation::
   • Einsatz mit Helm: Lesen Sie die Schnellstart-Dokumentation auf der offiziellen Website.

Funktion Betriebsanleitung

1. AI-Gateway-Funktionen::
   • Schnittstellen zu allen nationalen und internationalen LLM-Modellanbietern über ein einheitliches Protokoll.
   • Konfigurieren Sie die AI-Token-Flusskontrolle und das AI-Caching, um die Stabilität und Effizienz von AI-Diensten zu verbessern.
2. Kubernetes-Ingress-Gateway::
   • Kompatibel mit K8s Nginx Ingress Annotations, unterstützt die reibungslose Migration von Ingress API zu Gateway API.
   • Konfigurieren Sie die Diensterkennung von K8s Service zur Unterstützung von Registern wie Nacos/ZooKeeper.
3. Microservices-Gateway::
   • Andocken mehrerer Registraturen und Konfigurieren von Routing-Regeln für die Dienstsuche und den Lastausgleich.
   • Integrieren Sie Dubbo, Nacos, Sentinel und andere Technologie-Stacks, um die Effizienz des Microservice-Managements zu verbessern.
4. Sicherheits-Gateway::
   • Konfigurieren Sie WAF-Regeln, um Anwendungen vor Angriffen zu schützen.
   • Unterstützt mehrere Authentifizierungen und Authentifizierungsrichtlinien zur Gewährleistung der Zugriffssicherheit.
5. Plug-in-Erweiterungen::
   • Schreiben Sie Plug-ins mit Wasm, Lua usw., um die Funktionalität des Gateways zu erweitern.
   • Hot-Updating von Plug-Ins in Echtzeit, um einen unterbrechungsfreien Betrieb zu gewährleisten.
6. Streaming::
   • Unterstützung der Streaming-Verarbeitung von Anfrage/Antwort Body, geeignet für Szenarien mit großer Bandbreite.
   • Anpassung der Behandlung von Nachrichten für Streaming-Protokolle wie SSE.
7. Bedienung der Konsole::
   • Greifen Sie auf die Higress UI-Konsole zur Konfiguration und Verwaltung des Gateways zu.
   • Integration mit Grafana und Prometheus zur Überwachung der Beobachtbarkeit.