FastDeploy - Herramienta de Baidu de alto rendimiento para el razonamiento y despliegue de grandes modelos
FastDeploy es una herramienta de razonamiento y despliegue de alto rendimiento de Baidu, diseñada para grandes modelos lingüísticos (LLM) y modelos lingüísticos visuales (VLM). FastDeploy se ha desarrollado a partir del marco Flying Paddle (PaddlePaddle) y es compatible con diversas plataformas de hardware....