Higress: Bereitstellung einer effizienten KI-Gateway-Lösung zur Vereinfachung der Microservice-Verwaltung und Verbesserung der Sicherheit

Allgemeine Einführung

Higress ist ein von Alibaba entwickeltes Cloud-natives API-Gateway, das auf Istio und Envoy aufbaut und effiziente Lösungen für Traffic Scheduling, Service Governance und Sicherheit bietet. Es unterstützt Wasm-Plug-in-Erweiterungen für mehrere Programmiersprachen und eignet sich für eine Vielzahl von Szenarien wie KI-Business, Microservices und Kubernetes Ingress, mit hoher Benutzerfreundlichkeit und Benutzerfreundlichkeit.

Funktionsliste

• AI-GatewayUnterstützt Multi-Model Load Balancing, AI Token Flow Control, AI Caching und andere Funktionen.
• Kubernetes-Ingress-GatewayKompatibel mit K8s Nginx Ingress Annotations, unterstützt die reibungslose Migration von Ingress API zu Gateway API.
• Microservices-GatewayUnterstützung für eine Vielzahl von Registern wie Nacos, ZooKeeper, Consul, Eureka usw., integrierte Dubbo-, Nacos-, Sentinel- und andere Technologie-Stacks.
• Sicherheits-GatewayBietet WAF-Fähigkeit und unterstützt mehrere Authentifizierungs- und Authentifizierungsrichtlinien wie key-auth, hmac-auth, jwt-auth, usw.
• Plug-in-ErweiterungenUnterstützung von Wasm, Lua und anderen Plug-in-Erweiterungsmechanismen, Plug-ins können in Echtzeit aktualisiert werden.
• StreamingUnterstützt vollständiges Streaming von Anfrage/Antwort Body für Szenarien mit großer Bandbreite.
• KonsolenBietet eine sofort einsatzbereite UI-Konsole mit Unterstützung für die Integration von Grafana und Prometheus Observability.

Hilfe verwenden

Ablauf der Installation

1. Docker-Installation::
   • Erstellen Sie einen funktionierenden Katalog:mkdir higress; cd higress
   • Start Higress:docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/ higress/all-in-one:latest
   • Hafenbeschreibung:
     • Port 8001: Higress UI Konsolenportal
     • Port 8080: Gateway HTTP-Protokoll-Portal
     • Port 8443: Gateway HTTPS-Protokollportal
2. Kubernetes-Installation::
   • Einsatz mit Helm: Lesen Sie die Schnellstart-Dokumentation auf der offiziellen Website.

Funktion Betriebsanleitung

1. AI-Gateway-Funktionen::
   • Schnittstellen zu allen nationalen und internationalen LLM-Modellanbietern über ein einheitliches Protokoll.
   • Konfigurieren Sie die AI-Token-Flusskontrolle und das AI-Caching, um die Stabilität und Effizienz von AI-Diensten zu verbessern.
2. Kubernetes-Ingress-Gateway::
   • Kompatibel mit K8s Nginx Ingress Annotations, unterstützt die reibungslose Migration von Ingress API zu Gateway API.
   • Konfigurieren Sie die Diensterkennung von K8s Service zur Unterstützung von Registern wie Nacos/ZooKeeper.
3. Microservices-Gateway::
   • Andocken mehrerer Registraturen und Konfigurieren von Routing-Regeln für die Dienstsuche und den Lastausgleich.
   • Integrieren Sie Dubbo, Nacos, Sentinel und andere Technologie-Stacks, um die Effizienz des Microservice-Managements zu verbessern.
4. Sicherheits-Gateway::
   • Konfigurieren Sie WAF-Regeln, um Anwendungen vor Angriffen zu schützen.
   • Unterstützt mehrere Authentifizierungen und Authentifizierungsrichtlinien zur Gewährleistung der Zugriffssicherheit.
5. Plug-in-Erweiterungen::
   • Schreiben Sie Plug-ins mit Wasm, Lua usw., um die Funktionalität des Gateways zu erweitern.
   • Hot-Updating von Plug-Ins in Echtzeit, um einen unterbrechungsfreien Betrieb zu gewährleisten.
6. Streaming::
   • Unterstützung der Streaming-Verarbeitung von Anfrage/Antwort Body, geeignet für Szenarien mit großer Bandbreite.
   • Anpassung der Behandlung von Nachrichten für Streaming-Protokolle wie SSE.
7. Bedienung der Konsole::
   • Greifen Sie auf die Higress UI-Konsole zur Konfiguration und Verwaltung des Gateways zu.
   • Integration mit Grafana und Prometheus zur Überwachung der Beobachtbarkeit.

Der Leitfaden für Laien zum Einstieg in die KI

Hilft Ihnen, die Nutzung von KI-Tools kostengünstig und von Null an zu erlernen.KI ist, wie Bürosoftware, eine wesentliche Fähigkeit für jeden. Die Beherrschung von KI verschafft Ihnen einen Vorteil bei der Stellensuche und die Hälfte des Aufwands bei Ihrer zukünftigen Arbeit und Ihrem Studium.

Details ansehen>