Unsloth Zoo: uma biblioteca de ferramentas gratuitas de ajuste fino de modelos grandes para melhorar o desempenho do modelo

Introdução geral

O Unsloth Zoo é um projeto de código aberto que fornece uma série de utilitários para o ajuste fino de modelos. O projeto tem como objetivo ajudar os usuários a melhorar rapidamente o desempenho de seus modelos por meio de operações simples. O Unsloth Zoo oferece suporte a uma ampla variedade de modelos, incluindo Llama, Mistral, Phi etc. Os usuários só precisam adicionar um conjunto de dados e executar todas as etapas para obter um modelo otimizado. O projeto é especialmente adequado para iniciantes e todos os notebooks são muito fáceis de usar, suportando exportação para várias plataformas, como GGUF, Ollama, vLLM ou upload para Hugging Face.O Unsloth Zoo também fornece documentação detalhada e guias de instalação para garantir que os usuários possam usá-lo sem problemas.

Lista de funções

• Modelagem do ajuste finoSuporte ao ajuste fino de Llama, Mistral, Phi e muitos outros modelos.
• Uso gratuitoTodas as ferramentas e notebooks estão disponíveis gratuitamente.
• Suporte a várias plataformasExportação para GGUF, Ollama, vLLM ou upload para Hugging Face: há suporte para exportação para GGUF, Ollama, vLLM ou upload para Hugging Face.
• Documentação detalhadaDocumentação detalhada e instruções de instalação são fornecidas.
• Alto desempenhoO modelo otimizado apresenta uma melhoria significativa no desempenho, com um aumento de 2x na velocidade de treinamento e uma redução de 60% no uso da memória.
• projeto de código abertoCódigo-fonte totalmente aberto: os usuários são livres para contribuir e modificar o código.

Usando a Ajuda

Guia de instalação

1. Instalar o Unsloth Zoo::
   • Abra um terminal ou uma ferramenta de linha de comando.
   • Digite o seguinte comando para instalar o Unsloth Zoo: bash
pip install unsloth_zoo

   • Ou use a versão do GitHub para instalação: bash
pip install "unsloth_zoo @ git+https://github.com/unslothai/unsloth-zoo.git"


Diretrizes para uso

1. Preparação do conjunto de dados::
   • Adicione seu conjunto de dados à pasta especificada, certificando-se de que a formatação dos dados esteja em ordem.
2. Executando um laptop::
   • Abra o Jupyter Notebook ou outra ferramenta de notebook compatível.
   • Carregue o arquivo do notebook fornecido pelo Unsloth Zoo.
   • Execute todas as unidades de código em sequência e aguarde a conclusão do ajuste fino do modelo.
3. Modelo de exportação::
   • Após a conclusão do ajuste fino, você pode optar por exportar o modelo para GGUF, Ollama, vLLM ou carregá-lo no Hugging Face.
   • Siga as instruções do notebook para executar a operação de exportação.

Fluxo de operação detalhado da função

1. Modelagem do ajuste fino::
   • Abra o arquivo de notebook ajustado fornecido.
   • Carregue seu conjunto de dados de acordo com as instruções do notebook.
   • Execute todas as unidades de código e aguarde a conclusão do processo de ajuste fino.
2. otimização do desempenho::
   • O Unsloth Zoo oferece uma variedade de estratégias de otimização para garantir que os modelos tenham um desempenho significativamente melhor após o ajuste fino.
   • Os usuários podem selecionar diferentes parâmetros de otimização, conforme necessário, para melhorar ainda mais o desempenho do modelo.
3. Suporte a várias plataformas::
   • O modelo ajustado pode ser exportado para várias plataformas, e os usuários podem selecionar a plataforma apropriada para implantação de acordo com suas necessidades.
   • Os formatos de exportação compatíveis incluem GGUF, Ollama, vLLM e outros.
4. Documentação detalhada::
   • O Unsloth Zoo fornece documentação detalhada e diretrizes de uso, que podem ser encontradas na página inicial do projeto.
   • A documentação contém descrições detalhadas de todas as funções e procedimentos operacionais para garantir que o usuário possa usá-los sem problemas.

problemas comuns

1. falha na instalação::
   • Certifique-se de que sua versão do Python atenda aos requisitos; recomenda-se o Python 3.7 ou superior.
   • Verifique sua conexão de rede para ter certeza de que pode acessar o GitHub e o PyPI.
2. Erro de carregamento do conjunto de dados::
   • Certifique-se de que os dados estejam formatados corretamente; consulte a documentação para obter instruções de formatação de dados.
   • Verifique se o caminho dos dados está correto e se os arquivos de dados estão localizados na pasta especificada.
3. Falha na exportação do modelo::
   • Certifique-se de que o caminho de exportação esteja correto; consulte as instruções de exportação no notebook.
   • Verifique se o formato de exportação é compatível e se a opção de exportação correta está selecionada.

As etapas acima permitem que os usuários instalem e usem facilmente as ferramentas fornecidas pelo Unsloth Zoo para ajustar rapidamente os modelos e otimizar o desempenho. A documentação detalhada e os guias do usuário garantem uma operação tranquila e um melhor desempenho do modelo.