综合介绍
Higress是阿里巴巴开发的一款云原生API网关,基于Istio和Envoy构建,旨在提供高效的流量调度、服务治理和安全防护解决方案。它支持多种编程语言的Wasm插件扩展,适用于AI业务、微服务和Kubernetes Ingress等多种场景,具有高可用性和易用性。
功能列表
- AI网关:支持多模型负载均衡、AI token流控、AI缓存等功能。
- Kubernetes Ingress网关:兼容K8s Nginx Ingress注解,支持从Ingress API平滑迁移到Gateway API。
- 微服务网关:支持多种注册中心如Nacos、ZooKeeper、Consul、Eureka等,集成Dubbo、Nacos、Sentinel等技术栈。
- 安全防护网关:提供WAF能力,支持多种认证鉴权策略如key-auth、hmac-auth、jwt-auth等。
- 插件扩展:支持Wasm、Lua等多种插件扩展机制,插件可实时热更新。
- 流式处理:支持完全流式处理请求/响应Body,适用于大带宽场景。
- 控制台:提供开箱即用的UI控制台,支持Grafana和Prometheus的可观测性集成。
使用帮助
安装流程
- Docker安装:
- 创建工作目录:
mkdir higress; cd higress
- 启动Higress:
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
- 端口说明:
- 8001端口:Higress UI控制台入口
- 8080端口:网关HTTP协议入口
- 8443端口:网关HTTPS协议入口
- 创建工作目录:
- Kubernetes安装:
- 使用Helm部署:参考官网Quick Start文档。
功能操作指南
- AI网关功能:
- 通过统一协议对接国内外所有LLM模型厂商。
- 配置AI token流控和AI缓存,提升AI业务的稳定性和效率。
- Kubernetes Ingress网关:
- 兼容K8s Nginx Ingress注解,支持从Ingress API平滑迁移到Gateway API。
- 配置K8s Service服务发现,支持Nacos/ZooKeeper等注册中心。
- 微服务网关:
- 对接多种注册中心,配置路由规则,实现服务发现和负载均衡。
- 集成Dubbo、Nacos、Sentinel等技术栈,提升微服务管理效率。
- 安全防护网关:
- 配置WAF规则,保护应用免受攻击。
- 支持多种认证鉴权策略,确保访问安全。
- 插件扩展:
- 使用Wasm、Lua等编写插件,扩展网关功能。
- 实时热更新插件,确保业务不中断。
- 流式处理:
- 支持流式处理请求/响应Body,适用于大带宽场景。
- 自定义处理SSE等流式协议的报文。
- 控制台操作:
- 访问Higress UI控制台,进行网关配置和管理。
- 集成Grafana和Prometheus,实现可观测性监控。