AI个人学习
和实操指南

Higress:提供高效的AI网关解决方案,简化微服务管理,增强安全防护

综合介绍

Higress是阿里巴巴开发的一款云原生API网关,基于Istio和Envoy构建,旨在提供高效的流量调度、服务治理和安全防护解决方案。它支持多种编程语言的Wasm插件扩展,适用于AI业务、微服务和Kubernetes Ingress等多种场景,具有高可用性和易用性。

Higress:提供高效的AI网关解决方案,简化微服务管理,增强安全防护-1


 

功能列表

  • AI网关:支持多模型负载均衡、AI token流控、AI缓存等功能。
  • Kubernetes Ingress网关:兼容K8s Nginx Ingress注解,支持从Ingress API平滑迁移到Gateway API。
  • 微服务网关:支持多种注册中心如Nacos、ZooKeeper、Consul、Eureka等,集成Dubbo、Nacos、Sentinel等技术栈。
  • 安全防护网关:提供WAF能力,支持多种认证鉴权策略如key-auth、hmac-auth、jwt-auth等。
  • 插件扩展:支持Wasm、Lua等多种插件扩展机制,插件可实时热更新。
  • 流式处理:支持完全流式处理请求/响应Body,适用于大带宽场景。
  • 控制台:提供开箱即用的UI控制台,支持Grafana和Prometheus的可观测性集成。

使用帮助

安装流程

  1. Docker安装
    • 创建工作目录:mkdir higress; cd higress
    • 启动Higress:docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 -p 8443:8443 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest
    • 端口说明:
      • 8001端口:Higress UI控制台入口
      • 8080端口:网关HTTP协议入口
      • 8443端口:网关HTTPS协议入口
  2. Kubernetes安装
    • 使用Helm部署:参考官网Quick Start文档。

功能操作指南

  1. AI网关功能
    • 通过统一协议对接国内外所有LLM模型厂商。
    • 配置AI token流控和AI缓存,提升AI业务的稳定性和效率。
  2. Kubernetes Ingress网关
    • 兼容K8s Nginx Ingress注解,支持从Ingress API平滑迁移到Gateway API。
    • 配置K8s Service服务发现,支持Nacos/ZooKeeper等注册中心。
  3. 微服务网关
    • 对接多种注册中心,配置路由规则,实现服务发现和负载均衡。
    • 集成Dubbo、Nacos、Sentinel等技术栈,提升微服务管理效率。
  4. 安全防护网关
    • 配置WAF规则,保护应用免受攻击。
    • 支持多种认证鉴权策略,确保访问安全。
  5. 插件扩展
    • 使用Wasm、Lua等编写插件,扩展网关功能。
    • 实时热更新插件,确保业务不中断。
  6. 流式处理
    • 支持流式处理请求/响应Body,适用于大带宽场景。
    • 自定义处理SSE等流式协议的报文。
  7. 控制台操作
    • 访问Higress UI控制台,进行网关配置和管理。
    • 集成Grafana和Prometheus,实现可观测性监控。
AI轻松学

普通人的AI入门指南

帮助你以低成本、零基础学会如何利用AI工具。AI就像办公软件一样,是每个人的必备技能。 掌握AI会让你在求职中占据优势,在未来的工作和学习中事半功倍。

查看详情>
未经允许不得转载:首席AI分享圈 » Higress:提供高效的AI网关解决方案,简化微服务管理,增强安全防护

首席AI分享圈

首席AI分享圈专注于人工智能学习,提供全面的AI学习内容、AI工具和实操指导。我们的目标是通过高质量的内容和实践经验分享,帮助用户掌握AI技术,一起挖掘AI的无限潜能。无论您是AI初学者还是资深专家,这里都是您获取知识、提升技能、实现创新的理想之地。

联系我们
zh_CN简体中文